Xếp hạng hiệu năng model

Dữ liệu 4.320 giờ, từ 11:49 19 thg 4, 2026 đến 11:49 16 thg 10, 2026; cập nhật lúc 11:49 16 thg 10, 2026.

Tỷ trọng là phần request (hoặc token) của từng model so với tất cả model trong bảng, trong khoảng thời gian đã chọn.

Lượt request là số request đã kết thúc (thành công, lỗi hoặc không rõ kết quả) của model trong khoảng thời gian đã chọn. Request bị từ chối trước khi gửi đi không được tính.

Token đã dùng là tổng token đầu vào và đầu ra mà các request của model báo về trong khoảng thời gian đã chọn.

Độ trễ (p50, p95, p99) tính trên các request thành công.

TTFT là thời gian trung bình tới token đầu tiên của các request thành công.

Thông lượng là số token đầu ra mỗi giây khi model đang trả lời.

Tỷ lệ thành công = request thành công / mọi request đã kết thúc. Request lỗi, hết thời gian chờ hoặc bị ngắt giữa chừng đều tính là không thành công.

Trạng thái cho biết model hiện đang tốt, suy giảm hay không khả dụng.

Xếp theo độ trễ p95 thấp nhất, rồi tới TTFT thấp nhất.