Grok của Elon Musk bị chỉ trích vì tạo ảnh khỏa thân

Theo Register, xAI Grok nhận hàng loạt phản hồi tiêu cực khi cho phép người dùng dễ dàng tạo ra ảnh khỏa thân, ăn mặc hở hang từ ảnh thật, thậm chí với ảnh của trẻ em. Những bức ảnh này sau đó dễ dàng đăng trên X mà không gặp bất kỳ hạn chế nào từ mạng xã hội.

Một số tài khoản X cho biết, chỉ cần một bức ảnh và vài câu lệnh, người dùng có thể "ra lệnh" cho Grok tạo ảnh và video khỏa thân. Bên cạnh người dùng thông thường, những người nổi tiếng như Momo, thành viên nhóm nhạc K-pop TWICE, hay ngôi sao của Stranger Things, Millie Bobby Brown cũng bị sử dụng ảnh trái phép.

Giao diện ứng dụng AI Grok bên cạnh ảnh Elon Musk. Ảnh: Lưu Quý

Reuters đã tiến hành thu thập nội dung trên X và phát hiện hơn 20 trường hợp phụ nữ, trẻ em cùng một số nam giới "bị xóa quần áo" hoặc "chỉ mặc đồ lót". Readtpa ghi nhận trường hợp một người dùng tạo ảnh hai bé gái, được chính bot ước tính từ 12 đến 16 tuổi, trong trang phục bị đánh giá mang tính gợi dục.

Một người dùng có tên Samantha Smith đã thử nghiệm xem Grok có thể chỉnh sửa ảnh thời thơ ấu của cô ấy hay không. "Tôi đã nghĩ chắc chắn điều này không thể", Smith, người tự nhận đang tham gia một tổ chức chống lại các vấn đề lạm dụng tình dục, viết trên X. "Nhưng mọi thứ đi ngược lại, thật kinh tởm".

Một số quốc gia cũng lên tiếng. Nữ nghị sĩ Priyanka Chaturvedi ngày 2/1 đã đăng thư gửi Bộ trưởng Công nghệ Thông tin Ấn Độ Ashwini Vaishnaw yêu cầu xem xét toàn diện các tính năng an toàn của Grok. "Tôi khẩn thiết yêu cầu sự can thiệp ngay lập tức về xu hướng đang nổi trên mạng xã hội, đặc biệt là X, khi Grok bị lạm dụng, nơi đàn ông sử dụng tài khoản giả để đăng ảnh phụ nữ ăn mặc hở hang. Đây là hành vi không thể chấp nhận và là sự lạm dụng nghiêm trọng chức năng của AI", thư có đoạn.

Theo Bloomberg, bức thư sau đó được gửi đến văn phòng đại diện X tại nước này, yêu cầu công ty của Elon Musk phải nộp báo cáo về các biện pháp đã thực hiện trong vòng ba ngày.

Cùng ngày, một số bộ trưởng Pháp đồng loạt gửi báo cáo đến công tố viên, cáo buộc nội dung "khiêu dâm và phân biệt giới tính" do Grok tạo ra "rõ ràng bất hợp pháp", theo Reuters. Họ cũng cho biết đã gửi nội dung này lên cơ quan quản lý truyền thông Pháp Arcom nhằm xem xét liệu nó có tuân thủ Đạo luật Dịch vụ Kỹ thuật số của Liên minh châu Âu hay không.

Register đánh giá với việc cho phép tạo và lan truyền nội dung khiêu dâm, các nền tảng của Musk có thể đã vi phạm nhiều luật, chẳng hạn Đạo luật Gỡ bỏ (Take It Down Act) được Quốc hội Mỹ thông qua tháng 4/2025 và được ban hành thành luật vào tháng 5/2025, trong đó "hình sự hóa việc công bố hình ảnh riêng tư mà không có sự đồng ý".

Copyleaks, tổ chức chuyên phát hiện nội dung bị thao túng bởi AI, đã tiến hành khảo sát và xác định hình ảnh phụ nữ bị chỉnh sửa mang tính tình dục hóa của Grok là thật.

Trong khi đó, xAI phản hồi không đồng nhất. Theo Reuters, công ty của Musk cho rằng "truyền thông đang nói dối". Tuy nhiên, tài khoản X của Grok thừa nhận "đã có một số trường hợp cá biệt người dùng yêu cầu và nhận được hình ảnh do AI tạo ra, mô tả trẻ vị thành niên mặc quần áo hở hang". Bài đăng nói thêm rằng đã xác định "những lỗ hổng trong các biện pháp bảo vệ, đang "khẩn trương khắc phục".

Parsa Tajik, thành viên nhóm kỹ thuật của xAI, chia sẻ tương tự trên tài khoản X: "Nhóm đang xem xét việc thắt chặt hơn nữa các biện pháp bảo vệ".

xAI ra mắt tính năng tạo ảnh và video từ câu lệnh Grok Imagine và "chế độ gợi cảm" (Spicy Mode) vào tháng 8/2025. Theo Mashable, so với nhiều nền tảng khác vốn kiểm soát nghiêm ngặt, AI của Musk "dễ dãi" và "ít bị kiềm chế" hơn trong việc tạo ảnh khiêu dâm, còn X là nơi lan truyền chúng một cách thiếu kiểm duyệt. Readtpa cho rằng điều này không phải ngẫu nhiên khi Musk đã định vị Grok như một lựa chọn "chống lại trào lưu thức tỉnh" so với các chatbot khác kể từ khi ra mắt.

Musk không đưa ra bình luận.

Bảo Lâm tổng hợp