Configuraciones LiteLLM: llame de manera confiable a más de 100 LLM
Demasiado Largo; Para Leer
LiteLLM es un reemplazo directo del SDK de openai-python. Permitiéndole llamar a más de 100 LLM.
Con los archivos de configuración, ahora puede permitirle agregar nuevos modelos en producción, sin cambiar ningún código del lado del servidor.