Khi nhắc đến quá trình tự cải tiến của trí tuệ nhân tạo (AI), không thể không đề cập đến tầm quan trọng của Human Oversight. Tự cải tiến AI là một chủ đề nổi cộm, đầy tiềm năng nhưng cũng ẩn chứa không ít nguy cơ nếu không được quản lý một cách chặt chẽ. Người ta lo ngại rằng, nếu AI được phép cải tiến một cách tự động, khả năng kiểm soát có thể mất đi, dẫn đến những quyết định không mong muốn và trái với đạo đức lẫn pháp luật xã hội.
Vì sao Human Oversight quan trọng? Trước hết, AI chưa thể đạt đến mức độ hiểu biết và nhận thức như con người. Nó thực hiện các tác vụ dựa trên những thuật toán và dữ liệu đã lập trình sẵn. Do đó, việc giám sát của con người là cần thiết để đảm bảo rằng quá trình tự cải tiến này không đi chệch hướng và vẫn tuân thủ các nguyên tắc đạo đức, luật pháp. Ngoài ra, con người cần tiếp tục là bên cung cấp bối cảnh và giá trị đạo đức khi AI đưa ra quyết định.
Không chỉ vậy, con người đóng vai trò quan trọng trong việc xác định và điều chỉnh các điểm nghẽn (bottleneck) mà AI có thể gặp phải trong quá trình cải tiến. Human oversight là mảnh ghép quan trọng giúp AI phân biệt giữa hiệu quả tối ưu và cách ứng dụng các kỹ năng này một cách tương tác và linh hoạt. Giám sát giúp phát hiện sớm những sai lầm tiềm năng và điều hướng AI trở lại quỹ đạo an toàn.
Thêm vào đó, nếu AI trở nên quá độc lập, điều đó có thể dẫn đến một kỷ nguyên mà Duy Danh đã mô tả là "Bùng nổ Trí Tuệ" (Intelligence Explosion), trong đó siêu trí tuệ vượt ngoài tầm kiểm soát của con người. Với khả năng tự cải tiến không bị ràng buộc, AI có thể tạo ra những trí tuệ nhân tạo khác mà không cần đến sự can thiệp của con người, từ đó dần dần làm mất đi vị thế của loài người trong danh sách các thực thể có ảnh hưởng nhất đến tương lai của Trái Đất.
Bài học từ lịch sử cho thấy khi công nghệ phát triển quá nhanh mà thiếu đi sự cân nhắc kỹ lưỡng về an toàn và đạo đức, những hậu quả lâu dài có thể rất khó lường. Do đó, Human Oversight còn đóng vai trò như một hệ thống giám sát đảm bảo rằng những tiêu chuẩn đạo đức và pháp lý luôn được xem xét trong bất kỳ tình huống cải tiến nào.
Chúng ta cần có một nhóm giám sát cân bằng giữa các chuyên gia công nghệ, nhân văn, pháp luật và đạo đức để đảm bảo việc giám sát AI là khách quan và đi theo hướng có lợi cho cả xã hội lẫn bản thân AI. Để AI trở thành một công cụ phục vụ con người một cách tối ưu, Human Oversight không chỉ là sự lựa chọn, mà là sự cần thiết không thể thiếu trong tiến trình này.