LiteLLM
Una sola API estilo OpenAI para llamar a más de 100 modelos de lenguaje
Lo que la distingueTraduce 100+ proveedores al formato OpenAI y añade control de gasto y claves por equipo
LiteLLM es una librería y un servidor proxy de código abierto que traduce las llamadas a decenas de proveedores de modelos (OpenAI, Anthropic, Google, Azure, Bedrock, Mistral, modelos locales…) al formato de la API de OpenAI. Así cambias de modelo tocando una línea, sin reescribir el código de tu aplicación. El proxy añade claves virtuales, límites de gasto por equipo, reintentos, balanceo entre proveedores y registro de costes y logs.
Equipos técnicos que integran varios proveedores de LLM en producción y necesitan controlar costes y accesos.
Ventajas de LiteLLM
- Cambiar de proveedor o modelo apenas exige tocar código.
- Se autoaloja: las claves y los logs se quedan en tu infraestructura.
- Registra coste por petición, usuario y equipo, con límites de gasto.
Inconvenientes de LiteLLM
- Requiere perfil técnico: no hay interfaz para usuarios finales.
- Añade una capa extra que hay que desplegar, vigilar y actualizar.
- Funciones de gobierno avanzado y soporte quedan en el plan Enterprise.
Qué puedes hacer con LiteLLM
- API unificada estilo OpenAI
- Proxy con claves virtuales
- Control de costes y cuotas
- Balanceo y reintentos entre modelos
- Logs e integración con observabilidad
- Soporte de streaming y embeddings
Precios de LiteLLM
Precios orientativos. Pueden cambiar: compruébalos en la web oficial.
Preguntas frecuentes sobre LiteLLM
¿Es gratis LiteLLM?
La librería y el proxy son de código abierto y gratuitos. Sigues pagando aparte el consumo a cada proveedor de modelos, y hay una edición Enterprise de pago.
¿Funciona en español?
LiteLLM solo enruta las peticiones, así que el idioma depende del modelo que elijas; los principales responden bien en español. La documentación está en inglés.
¿Puedo alojarlo en la UE?
Sí, al ser autoalojable puedes desplegarlo donde quieras, incluida infraestructura europea, y elegir endpoints regionales de cada proveedor.
Especialmente útil para
Hay una IA para…
¿Trabajas en LiteLLM?
Pon la insignia en tu web
Muestra tu nota enlaces.ai. Se actualiza sola: si la nota cambia, la insignia también.
Alternativas a LiteLLM
Todas las alternativas a LiteLLM
Comparativas:LiteLLM vs EightfoldLiteLLM vs LocalazyLiteLLM vs QuipuLiteLLM vs Teamtailor