Động thái trên diễn ra sau khi nhiều chính phủ và cơ quan quản lý từ châu Âu đến châu Á lên án, thậm chí mở cuộc điều tra về nội dung nhạy cảm do Grok tạo ra.
Bộ Truyền thông và Kỹ thuật số Indonesia cho biết, họ tạm thời đình chỉ quyền truy cập vào Grok để bảo vệ phụ nữ, trẻ em và toàn cộng đồng khỏi nguy cơ nội dung khiêu dâm giả mạo từ công nghệ AI. "Chính phủ coi việc tạo deepfake (nội dung giả do AI tạo) mang tính chất tình dục và không có sự đồng thuận là vi phạm nghiêm trọng nhân quyền, phẩm giá và an ninh của công dân trong không gian số", Meutya Hafid, Bộ trưởng Truyền thông và Kỹ thuật số Indonesia cho biết.
Bộ này cũng đã triệu tập các lãnh đạo của X, mạng xã hội được xAI mua lại năm ngoái, để thảo luận về vấn đề trên.
Giao diện ứng dụng AI Grok bên cạnh ảnh Elon Musk. Ảnh: Lưu Quý
xAI cũng thông báo đang hạn chế việc tạo và chỉnh sửa ảnh nhằm khắc phục các lỗ hổng bảo mật đã cho phép chatbot này tạo sản phẩm mang tính chất tình dục, bao gồm hình ảnh trẻ em ăn mặc hở hang. "Tính năng tạo và chỉnh sửa hình ảnh hiện chỉ dành cho người đăng ký trả phí. Bạn phải đăng ký để mở khóa các tính năng này", tài khoản Grok viết trên X ngày 9/1.
Elon Musk, CEO xAI, thông báo trên X tháng này rằng bất cứ ai dùng Grok để tạo nội dung bất hợp pháp sẽ gánh chịu hậu quả giống như khi tải lên mạng nội dung bất hợp pháp.
Trong một bài đăng riêng, tài khoản an toàn của X cho biết công ty sẽ hành động "chống lại nội dung bất hợp pháp trên X, bao gồm cả tài liệu lạm dụng tình dục trẻ em, bằng cách gỡ bỏ nội dung đó, đình chỉ vĩnh viễn tài khoản, hợp tác với chính quyền địa phương và cơ quan thực thi pháp luật khi cần".
xAI ra mắt tính năng tạo ảnh và video từ câu lệnh Grok Imagine và "chế độ gợi cảm" (Spicy Mode) vào tháng 8/2025. Theo Mashable, so với nhiều nền tảng khác vốn kiểm soát nghiêm ngặt, AI này "dễ dãi" và "ít bị kiềm chế" hơn trong việc tạo ảnh khiêu dâm, còn X là nơi lan truyền chúng một cách thiếu kiểm duyệt.
Indonesia, quốc gia có dân số lớn thứ tư và số người theo Hồi giáo lớn nhất thế giới, áp dụng những quy định nghiêm ngặt nhằm cấm chia sẻ trực tuyến nội dung bị coi là khiêu dâm. Đây cũng là nước có lượng người dùng X lớn thứ ba thế giới.
Thu Thảo (Theo Reuters, Business Insider)
