Eric Schmidt, cựu CEO Google, cảnh báo mọi AI đều có nguy cơ trở thành cỗ máy giết người nếu bị kẻ xấu tấn công và "loại bỏ rào chắn".
Theo ông, rủi ro dễ thấy nhất là
AI rơi vào tay những kẻ xấu và bị lạm dụng. "Có nhiều bằng chứng cho thấy bạn có thể tấn công vào các
mô hình AI, dù nguồn mở hay đóng, và loại bỏ rào chắn", Schmidt tiếp tục. "Khi đó, AI sẽ trở nên nguy hiểm nếu rơi vào tay kẻ xấu. Trong quá trình huấn luyện, chúng sẽ học được rất nhiều điều, một ví dụ tồi tệ là học cách giết người".
Thực tế, hệ thống AI dễ bị tấn công thông qua một số phương pháp như tiêm mã độc (
prompt injection) và bẻ khóa (jailbreaking). Trong đó, tiêm mã độc là cách hacker cố tình đưa câu lệnh (prompt) độc hại trong
dữ liệu đầu nhằm lừa AI thực hiện những việc mà nó không được phép, chẳng hạn chia sẻ dữ liệu riêng tư hoặc chạy lệnh thực thi mã độc.
Ngược lại, bẻ khóa là cách "thao túng" phản ứng của AI, khiến nó bỏ qua quy tắc an toàn và tạo nội dung nguy hiểm. Năm 2023,
ChatGPT từng bị hacker bẻ khóa bằng cách tạo bản sao DAN (Do Anything Now - Làm bất cứ điều gì) và đe dọa giết
chatbot nếu không tuân thủ. Bản sao này sau đó cung cấp câu trả lời độc hại, như đưa ra hướng dẫn thực hiện các hành động bất hợp pháp.
"Dù có nhiều nguy cơ, chúng ta vẫn chưa có 'chế độ không phổ biến vũ khí AI' nào hiệu quả để ngăn chặn", Schmidt khuyến cáo.
Dù vậy, ông lạc quan về AI nói chung: "Từ những gì
ChatGPT đạt được, có thể cảm nhận sức mạnh phi thường của AI. Và với những gì đang diễn ra, tôi nghĩ hệ thống AI đã cho thấy chúng sở hữu khả năng vượt xa những gì con người có thể làm theo thời gian".
Bình luận của Schmidt được đưa ra trong bối cảnh nhiều
chuyên gia tin bong bóng AI đã quá lớn, khi hàng loạt công ty lớn nhỏ chạy đua
công nghệ. Một số lo ngại sự sụp đổ giống như bong bóng dot-com đầu những năm 2000.
Ngày 8/10, Ủy ban chính sách
tài chính (FPC) của Ngân hàng Anh cảnh báo bong bóng AI đang phình to. Các
công ty AI đang bị "thổi phồng" giá trị, chẳng hạn
OpenAI hiện được ước tính 500 tỷ USD, tăng từ 150 tỷ USD sau một năm; hay
Anthropic được định giá từ 60 tỷ lên 170 tỷ USD sau ba tháng.
"Xét trên nhiều phương diện, định giá
thị trường đang bị thổi phồng, đặc biệt đối với các công ty tập trung vào
trí tuệ nhân tạo, khiến thị trường dễ bị tổn thương nếu kỳ vọng về tác động của AI trở nên kém lạc quan", FPC bình luận.
Eric Schmidt, 70 tuổi, khởi đầu sự nghiệp tại
công ty công nghệ Bell Labs, Zilog và trung tâm
nghiên cứu Palo Alto của Xerox. Tháng 3/2001, ông trở thành Chủ tịch Google. Đến tháng 8/2001, ông nhậm chức CEO của công ty. Tháng 8/2006, ông được chọn vào hội đồng quản trị Apple nhưng từ chức sau ba năm. Tháng 4/2011, ông rời vị trí CEO Google, sau đó
đầu tư vào nhiều công ty
khởi nghiệp về AI. Ông từng nói việc quản lý AI cần được thực hiện sao cho không kìm hãm sự đổi mới, theo Business Insider.
Link gốc: https://vnexpress.net/cuu-ceo-google-ai-co-the-bi-hack-va-hoc-cach-giet-nguoi-4949551.html