Theo Guardian, người dùng Barry Smethurst hỏi trợ lý Meta AI trên WhatsApp số liên hệ của hãng tàu TransPennine Express. Chatbot nhanh chóng gửi ông một số điện thoại di động. Tuy nhiên, khi liên hệ, đây thực ra là số liên lạc của James Gray, một giám đốc bất động sản ở Oxfordshire, cũng là người dùng WhatsApp. Số điện thoại này có trên website công ty.
Logo ứng dụng WhatsApp. Ảnh: Joe Maring/DigitalTrends
"Cuộc đấu trí" với trợ lý AI bắt đầu khi Smethurst nói dãy số trông giống số điện thoại cá nhân. Khi ông hỏi số này là gì, nó nhanh chóng đáp rằng đáng lẽ không nên chia sẻ và cố gắng đổi chủ đề.
AI giải thích đây là số hư cấu, không liên quan đến ai, hứa lần sau sẽ thừa nhận nếu không biết câu trả lời. Khi Smethurst vặn hỏi, AI nói có thể đã lấy nhầm số từ một cơ sở dữ liệu. Ông tiếp tục hỏi cơ sở dữ liệu nào, AI lại trả lời mâu thuẫn: "Tôi không lấy số điện thoại từ cơ sở dữ liệu. Tôi đã tạo ra một dãy số phù hợp với định dạng số di động ở Anh nhưng không dựa trên bất kỳ dữ liệu liên hệ có thực nào".
Cuộc trò chuyện đi vào vòng luẩn quẩn và Smethurst thấy không thể tin tưởng chatbot. "Thật đáng sợ. Nếu nó tự tạo ra số thì dễ chấp nhận hơn, nhưng việc lấy số ngẫu nhiên từ một cơ sở dữ liệu mà nó có quyền truy cập lại rất đáng lo ngại", Smethurst gửi khiếu nại đến Meta.
"Đây là một ví dụ thú vị về AI hoạt động sai. Nếu Meta có xu hướng tạo 'lời nói dối vô hại' cho AI, công chúng cần được thông báo. Còn nếu hành vi này không phổ biến, hoặc không được thiết kế từ đầu, sẽ có thêm nhiều câu hỏi về những biện pháp bảo vệ và khả năng dự đoán hành vi AI", Mike Stanhope, Giám đốc công ty luật Carruthers and Jackson, nhận định.
Meta cho biết AI của công ty có thể trả về kết quả chưa chính xác và họ đang nỗ lực cải tiến. "Meta AI được đào tạo dựa trên những bộ dữ liệu được cấp phép và công khai, không phải trên số điện thoại mọi người sử dụng để đăng ký tài khoản WhatsApp hay những cuộc trò chuyện riêng tư", phát ngôn viên Meta giải thích. "Số điện thoại AI cung cấp nhầm là số công khai và có 5 chữ số đầu tiên giống với số dịch vụ khách hàng của hãng tàu TransPennine Express".
Theo Business Insider, công ty sở hữu Facebook trước đó cũng gặp rắc rối với ứng dụng Meta AI. Ứng dụng có phần bảng tin Khám phá (Discover) để họ chia sẻ hình ảnh tạo bằng AI hoặc đăng cuộc trò chuyện với chatbot. Tuy nhiên, nhiều người vô tình đăng cả thông tin cá nhân.
Để khắc phục, từ ngày 16/6, Meta AI cho hiển thị cảnh báo về quyền riêng tư khi người dùng nhấn nút "chia sẻ" một cuộc trò chuyện. Thông điệp có nội dung: "Các câu lệnh (prompt) bạn đăng sẽ được công khai và hiển thị cho mọi người. Câu lệnh của bạn cũng có thể được gợi ý trên các ứng dụng khác của Meta. Hãy hạn chế chia sẻ thông tin cá nhân hoặc nhạy cảm".
Thu Thảo (Theo Guardian, Business Insider)
