
Tokens Per Second (TPS) là một thước đo quan trọng để đánh giá hiệu suất của mô hình AI trong việc xử lý dữ liệu. Bài viết này khám phá cách TPS được đo lường, những yếu tố ảnh hưởng, và sự khác biệt giữa TPS và throughput. Qua đó, chúng ta cũng tìm hiểu tầm quan trọng của TPS đối với trải nghiệm người dùng.