Thực hiện một số thử nghiệm benchmark trên phiên bản mới nhất của @exolabs thật tuyệt! Tôi đã tìm thấy endpoint /bench/chat/completions mà tắt bộ nhớ cache giữa các lần gọi! Chính xác là những gì tôi cần! Hãy đẩy những M3 Ultras này!