forge
forge là lớp 'giữ ổn định' cho các model LLM tự host khi gọi tool: bạn khai báo bộ công cụ, model tự chọn gọi cái nào, còn forge lo phần bắt lỗi, thử lại và kiểm tra kết quả để việc gọi tool ít hỏng hơn.
2.167 stars164 forks2 ngày trước
Workflow impact
Khâu tự viết code xử lý lỗi/thử lại/kiểm tra định dạng quanh việc gọi tool của LLM tự host.
VN fit question
Agency/team tech Việt đang tự dựng automation bằng LLM local (để khỏi trả phí API và giữ dữ liệu tại chỗ) hay gặp cảnh model gọi sai tool, sai JSON, phải tự chắp vá code retry rất tốn công.