Thành viên Sakura nhóm LE SSERAFIM bị ghép vào nội dung khiêu dâm khiến fan phẫn nộ - Ảnh: X
Dư luận đang vô cùng phẫn nộ khi phát hiện một trang web có chứa hình ảnh bị cắt ghép của hơn 200 thần tượng nữ K-pop lan truyền trên X.
Ngoài ra còn nhiều trang có nội dung khiêu dâm nói chung, sử dụng công nghệ deepfake để ghép mặt các sao nữ Hàn Quốc vào ảnh, video đồi trụy.
Deepfake là cụm từ kết hợp giữa “deep learning” và “fake” chỉ phương thức tạo ra các sản phẩm công nghệ giả dưới dạng âm thanh, hình ảnh thậm chí là video bằng AI.
Những con số thống kê lạnh người
Chưa kịp hết bàng hoàng vì nhóm chat Burning Sun, “phòng chat thứ N” lại tiếp tục gây rúng động dư luận Hàn Quốc.
Một nhóm chat trên nền tảng Telegram ước tính có khoảng 212.000 thành viên bị phát hiện lan truyền hình ảnh nhạy cảm của phụ nữ, trong đó có video ghép khuôn mặt của các nữ idol Kpop vào phim người lớn.
Kinh khủng hơn, để được tham gia nhóm chat, người dùng phải gửi hình chụp và thông tin cá nhân của một người phụ nữ.
Minji (NewJeans) là thần tượng nữ có nhiều video deepfake được phát tán nhất - Ảnh: Naver
Không chỉ ở nhóm chat kín, hơn 200 thần tượng nữ Hàn Quốc đã xuất hiện công khai trên một trang web phim khiêu dâm khiến người hâm mộ “sốc nặng”.
Theo thống kê, Minji (NewJeans) là idol có số lượng hình ảnh, video deepfake được tạo ra nhiều nhất mỗi tháng với con số hơn 17.000.
Những thành viên hot nhất của các nhóm nhạc nữ như Jang Won Young (IVE), Chaewon (LE SSERAFIM), Sana (Twice), Karina (aespa) đều là nạn nhân.
Đáng nói, trong các nữ thần tượng bị kẻ xấu lợi dụng hình ảnh có cả những idol ở độ tuổi vị thành niên.
Em út nhóm IVE là Leeseo chỉ mới vừa tròn 17 tuổi, các thành viên Baby Monster có hơn một nửa số thành viên từ 15 đến 17 tuổi cũng trở thành mục tiêu bị tấn công.
Mức độ nghiêm trọng của deepfake không chỉ dừng lại ở việc người nổi tiếng bị ảnh hưởng mà bất kỳ ai cũng có thể trở thành nạn nhân.
Đầu tuần này, Tổng thống Hàn Quốc Yoon Suk Yeol đã kêu gọi điều tra nội dung khiêu dâm deepfake, trong đó các cơ quan chức năng cho biết có 60% số nạn nhân là trẻ vị thành niên. Theo truyền thông Hàn Quốc, trong số các nạn nhân còn có binh lính, giáo viên và học sinh.
“Thật sự rất đau khổ”
Những hình ảnh, video với nội dung phản cảm được phát tán rộng rãi đã khiến các nữ thần tượng vô cùng đau khổ bên cạnh sự xấu hổ và phẫn nộ.
Vào tháng 2, thành viên Yujeong của Brave Girls tiết lộ trên một chương trình của tvN rằng cô đang là một nạn nhân của deepfake.
Yujeong cảm thấy đau khổ vì trở thành nạn nhân của deepfake - Ảnh: Naver
"Tôi phát hiện ảnh của mình đã được sử dụng để tạo video deepfake sau khi một người quen thông báo. Thật sự rất đau khổ, điều này có thể xảy ra với bất kỳ ai, bất kể giới tính nào" - Yujeong cho biết.
Để bảo vệ an toàn cho các nữ idol, nhiều công ty đã lên tiếng một cách mạnh mẽ. Ngày 31-8 vừa qua, JYP Entertainment đã tuyên bố sẽ có hành động pháp lý mạnh mẽ chống lại nội dung deepfake liên quan đến các nghệ sĩ của công ty.
Trong thông báo, “ông lớn” JYP Entertainment nhấn mạnh: "Chúng tôi đang theo đuổi một hành động pháp lý mạnh mẽ, không khoan nhượng đối với các video deepfake, hợp tác với một công ty luật chuyên ngành".
"Chúng tôi sẽ kiên quyết giải quyết bất kỳ hành động nào xâm phạm quyền của nghệ sĩ của công ty" - công ty cho biết thêm.
JYP Entertainment đưa ra tuyên bố mạnh mẽ nhằm bảo vệ Twice và các nghệ sĩ nữ của công ty - Ảnh: Naver
Trước JYP Entertainment một tháng, Woollim Entertainment đã đệ đơn khiếu nại lên cơ quan về việc nghệ sĩ Kwon Eun Bee góp mặt trong các video deepfake một cách phi pháp.
Vào tháng 6, ADOR cũng đã có những hành động tương tự để bảo vệ nhóm nhạc nữ NewJeans.
Tuy các công ty đã hết sức cố gắng ngăn chặn nhưng thực tế vấn nạn này đang ngày một nghiêm trọng. Tồi tệ hơn khi đối tượng bị nhắm đến là các thần tượng nữ, có người còn ở độ tuổi vị thành niên.
Theo luật pháp Hàn Quốc, hành vi tạo video deepfake có nội dung khiêu dâm với mục đích phát tán sẽ bị phạt tù 5 năm hoặc phạt hành chính 50 triệu won.
Tháng 3-2024, Channel 4 News (một trong những chương trình truyền hình có tỉ suất người xem cao nhất tại Anh) công bố 5 trang web deepfake được truy cập nhiều nhất được phát hiện. Đáng sợ khi gần 4.000 người nổi tiếng được liệt kê, trong số đó có 255 người Anh.
Những người nổi tiếng bao gồm: diễn viên nữ, ngôi sao truyền hình, nhạc sĩ và KOLs. Khuôn mặt của họ được ghép vào nội dung khiêu dâm bằng trí tuệ nhân tạo. Theo kết quả điều tra, 5 trang web này đã nhận được 100 triệu lượt xem trong vòng ba tháng.
Người dẫn chương trình của Channel 4 News - Cathy Newman, một trong 4.000 nạn nhân cho biết: "Cảm giác như bị xâm phạm. Rất đáng sợ khi có người ngoài kia dựng nên chuyện này, tôi không thể nhìn thấy họ nhưng họ có thể nhìn thấy phiên bản tưởng tượng, giả mạo này của tôi".
