Tại sự kiện Sifted Summit 2025 ở London ngày 9/10, Schmidt nhận được câu hỏi liệu AI có sức phá hủy hơn vũ khí hạt nhân không. "Chắc chắn rồi", ông đáp.
Theo ông, rủi ro dễ thấy nhất là AI rơi vào tay những kẻ xấu và bị lạm dụng. "Có nhiều bằng chứng cho thấy bạn có thể tấn công vào các mô hình AI, dù nguồn mở hay đóng, và loại bỏ rào chắn", Schmidt tiếp tục. "Khi đó, AI sẽ trở nên nguy hiểm nếu rơi vào tay kẻ xấu. Trong quá trình huấn luyện, chúng sẽ học được rất nhiều điều, một ví dụ tồi tệ là học cách giết người".
Cựu CEO Google Eric Schmidt. Ảnh: Homeland Security Today
Thực tế, hệ thống AI dễ bị tấn công thông qua một số phương pháp như tiêm mã độc (prompt injection) và bẻ khóa (jailbreaking). Trong đó, tiêm mã độc là cách hacker cố tình đưa câu lệnh (prompt) độc hại trong dữ liệu đầu nhằm lừa AI thực hiện những việc mà nó không được phép, chẳng hạn chia sẻ dữ liệu riêng tư hoặc chạy lệnh thực thi mã độc.
Ngược lại, bẻ khóa là cách "thao túng" phản ứng của AI, khiến nó bỏ qua quy tắc an toàn và tạo nội dung nguy hiểm. Năm 2023, ChatGPT từng bị hacker bẻ khóa bằng cách tạo bản sao DAN (Do Anything Now - Làm bất cứ điều gì) và đe dọa giết chatbot nếu không tuân thủ. Bản sao này sau đó cung cấp câu trả lời độc hại, như đưa ra hướng dẫn thực hiện các hành động bất hợp pháp.
"Dù có nhiều nguy cơ, chúng ta vẫn chưa có 'chế độ không phổ biến vũ khí AI' nào hiệu quả để ngăn chặn", Schmidt khuyến cáo.
Dù vậy, ông lạc quan về AI nói chung: "Từ những gì ChatGPT đạt được, có thể cảm nhận sức mạnh phi thường của AI. Và với những gì đang diễn ra, tôi nghĩ hệ thống AI đã cho thấy chúng sở hữu khả năng vượt xa những gì con người có thể làm theo thời gian".
Bình luận của Schmidt được đưa ra trong bối cảnh nhiều chuyên gia tin bong bóng AI đã quá lớn, khi hàng loạt công ty lớn nhỏ chạy đua công nghệ. Một số lo ngại sự sụp đổ giống như bong bóng dot-com đầu những năm 2000.
Ngày 8/10, Ủy ban chính sách tài chính (FPC) của Ngân hàng Anh cảnh báo bong bóng AI đang phình to. Các công ty AI đang bị "thổi phồng" giá trị, chẳng hạn OpenAI hiện được ước tính 500 tỷ USD, tăng từ 150 tỷ USD sau một năm; hay Anthropic được định giá từ 60 tỷ lên 170 tỷ USD sau ba tháng.
"Xét trên nhiều phương diện, định giá thị trường đang bị thổi phồng, đặc biệt đối với các công ty tập trung vào trí tuệ nhân tạo, khiến thị trường dễ bị tổn thương nếu kỳ vọng về tác động của AI trở nên kém lạc quan", FPC bình luận.
Eric Schmidt, 70 tuổi, khởi đầu sự nghiệp tại công ty công nghệ Bell Labs, Zilog và trung tâm nghiên cứu Palo Alto của Xerox. Tháng 3/2001, ông trở thành Chủ tịch Google. Đến tháng 8/2001, ông nhậm chức CEO của công ty. Tháng 8/2006, ông được chọn vào hội đồng quản trị Apple nhưng từ chức sau ba năm. Tháng 4/2011, ông rời vị trí CEO Google, sau đó đầu tư vào nhiều công ty khởi nghiệp về AI. Ông từng nói việc quản lý AI cần được thực hiện sao cho không kìm hãm sự đổi mới, theo Business Insider.
Bảo Lâm (theo CNBC, Guardian)
- AI đang khuếch đại nguy cơ tấn công mạng thế nào
- Nguy cơ tấn công mạng bằng giao thức kết nối AI
- Người dùng Internet đối mặt nguy cơ từ 'vũ khí' Dark AI
- Nguy cơ nội dung bị đầu độc để 'hack' chatbot AI
