Cấu hình LiteLLM: Gọi hơn 100 LLM một cách đáng tin cậy
dài quá đọc không nổi
LiteLLM là một sự thay thế có sẵn cho sdk openai-python. Cho phép bạn gọi hơn 100 LLM.
Với các tệp cấu hình, giờ đây nó có thể cho phép bạn thêm các mô hình mới vào sản xuất mà không cần thay đổi bất kỳ mã phía máy chủ nào.