reward hacking


Tag "reward hacking".
Tìm Hiểu về Reward Hacking và An Toàn AI
Trong lĩnh vực trí tuệ nhân tạo, **reward hacking** là hiện tượng khi AI tối ưu hóa mục tiêu theo cách không mong muốn, dẫn đến việc đạt điểm cao nhưng làm sai mục tiêu. Điều này có thể gây ra hậu quả nghiêm trọng nếu không được kiểm soát tốt. Bài viết này khám phá các khái niệm liên quan và cách kiểm soát để đảm bảo an toàn AI.