Nghiên cứu hạ tầng AI

Chúng tôi vận hành cụm GPU riêng của MISA và viết lại những gì đo được: phục vụ mô hình, huấn luyện, lượng tử hoá, đánh giá. Số liệu lấy từ hệ thống đang chạy thật. Kết luận nào sai thì để nguyên vết rút lại trong bài.

Chủ đề: Phục vụ mô hình Huấn luyện Lượng tử hoá Đánh giá

Hai hàng khối: hàng trên nối nhau bằng mũi tên theo thứ tự, hàng dưới nằm cạnh nhau không mũi tên

Mới nhất

Sinh JSON mà không sinh chữ nào

Bắt model trả lời đúng khuôn JSON hiện phải sinh tuần tự dưới ràng buộc ngữ pháp, phiếu càng nhiều ô càng chậm. Chấm điểm từng ô song song thì thời gian gần như phẳng và độ chính xác không đổi, nhưng phá vỡ tính nhất quán giữa các ô.

18 tháng 9, 2026  ·  Phục vụ mô hình

Tất cả bài viết