Pre-viral Signal
colibrì
colibrì là một 'động cơ' chạy model ngôn ngữ khổng lồ GLM-5.2 (744 tỉ tham số) trên máy tính thường chỉ ~25GB RAM, bằng cách viết thuần C, không phụ thuộc gì và nạp dần các 'expert' từ ổ đĩa.
2.560 stars180 forks2 ngày trước
Workflow: Khâu phải có GPU/VRAM lớn hoặc thuê cloud để chạy thử một model ngôn ngữ cực lớn.
11-07
Read brief