Established Agency Context needed
LiteLLM
LiteLLM là cổng AI (AI gateway) mã nguồn mở giúp gọi hơn 100 mô hình LLM (OpenAI, Anthropic, Gemini, Bedrock, Azure...) bằng một chuẩn API duy nhất theo format OpenAI, kèm theo dõi chi phí, virtual key, guardrail và cân bằng tải — self-host được.
53.152 stars9.631 forks2 ngày trước
Workflow: Khâu tự viết và bảo trì lớp tích hợp riêng cho từng nhà cung cấp LLM, cộng phần quản lý key và tính chi phí thủ công.
10-07
Read brief