Theo CNN, các công ty công nghệ lớn muốn làm sinh động mạng xã hội bằng trí tuệ nhân tạo, nhưng mọi thứ dường như trở nên hỗn loạn khi AI dần thay thế nội dung của con người. Mạng xã hội, vốn được thiết kế để kết nối người thân, bạn bè, đối tác... nhưng giờ bị AI lấn át, trở thành thiên đường của hình ảnh phi thực tế và kỳ quặc.
Công cụ Sora 2 của OpenAI, ra ngày 30/9, là "tay chơi" mới nhất trong cuộc đua đưa trí tuệ nhân tạo vào mạng xã hội. Cũng trong tháng 9, Meta giới thiệu nền tảng video AI ngắn Vibes tương tự TikTok. Tháng 5, TikTok phát hành AI Alive, công cụ biến ảnh tĩnh thành video bằng một lệnh đơn giản. Những động thái này là một phần của cuộc đua đầy rủi ro, có thể định hình kỷ nguyên tiếp theo của mạng xã hội. Việc chiến thắng được đánh giá đặc biệt quan trọng trong bối cảnh các gã khổng lồ công nghệ nỗ lực tìm cách kiếm tiền từ AI, nhưng cũng đặt ra những vấn đề liên quan đến tính chân thực và kết nối.
Hình ảnh AI về bé gái lái xe đưa thú cưng đi khám.
Tuần trước, hình ảnh bé gái 12 tuổi lái xe gây sốt trên các mạng xã hội. Bài đăng cho biết, bé muốn chữa bệnh cho con chó của mình nên cố gắng lái đến phòng khám thú y và bị cảnh sát giữ lại. Con chó sau đó cũng được cứu chữa. Rất nhiều bình luận bày tỏ sự ngưỡng mộ về tình cảm giữa bé gái và thú cưng. Tuy nhiên, khi xem kỹ hơn, có thể thấy một số điểm lạ như vô lăng nằm bên phải và xe không có bảng điều khiển.
Theo Time, đây là một ví dụ về slop - nội dung chất lượng thấp do AI tạo ra để tối đa hóa lượng tương tác trên mạng xã hội, lọt vào bảng tin của người dùng và không dễ phân biệt thật giả.
Kashyap Rajesh, Phó chủ tịch Encode - tổ chức thanh thiếu niên về phát triển AI, lo ngại nội dung AI như thật sẽ tác động đến sự hiểu biết chung về thế giới thực. "Chúng đang biến nhiều bảng tin thành không gian ồn ào, thiếu tin cậy, nơi mọi khoảnh khắc xúc động đều trở nên đáng ngờ", Rajesh nói. "Điều này mang đến sự hoang mang trong mỗi người, giết chết tính tự nhiên và kỳ diệu của mạng xã hội".
Adam Nemeroff, chuyên gia công nghệ tại Đại học Quinnipiac, cho rằng Meta đang lên kế hoạch để về lâu dài, nội dung do Vibes tạo ra sẽ cùng tồn tại với các video do con người thực hiện trên bảng tin của người dùng. "Tôi nghĩ điều đó sẽ diễn ra vì Meta hoạt động trong lĩnh vực cần thu hút sự chú ý", ông nói với CBS News. "Kiểu nội dung đó có thể khiến bạn phân tâm khỏi những nguồn thông tin đáng tin cậy hoặc chất lượng hơn".
Trong khi đó, công cụ Sora 2 cũng được đánh giá tạo video "thật" hơn nhiều so với phiên bản đầu, "tuân thủ định luật vật lý tốt hơn, giúp hình ảnh chân thực hơn".
Một video tạo bằng AI đăng trên Facebook Reels nhận hàng nghìn lượt thích và bình luận. Ảnh: Bảo Lâm
Theo nghiên cứu của Janis Keuper, chuyên gia tại Đại học Offenburg cùng vợ, Margret Keuper, nhà nghiên cứu tại Đại học Mannheim, đăng trên cơ sở dữ liệu arXiv tháng 9, các công cụ phát hiện deepfake hiện nay gần như vô dụng. "Rất khó lọc nội dung AI", Keuper nói. "Việc này khó với văn bản, và giờ đây phát hiện hình ảnh cũng không dễ dàng khi các trình tạo ảnh ngày càng tốt hơn".
Để giúp người dùng không nhầm lẫn, video Sora được đánh dấu bằng watermark và siêu dữ liệu C2PA - chữ ký kỹ thuật số biểu thị nguồn gốc video. Meta cũng cho biết nội dung tạo bằng công cụ AI của mình đều có "watermark ẩn" giúp hệ thống kiểm soát nội dung độc hại, đồng thời được dán nhãn AI.
Hai công ty đều tuyên bố không đặt mục tiêu khiến người dùng "nghiện" cuộn trang. Người phát ngôn của Meta nói với CBS News rằng họ muốn Vibes sẽ giảm rào cản trong việc thể hiện sự sáng tạo, trao quyền cho người dùng tạo nội dung bằng AI.
Tuy nhiên, điều này khiến mạng xã hội dần mất sự kết nối tự nhiên. Chính CEO Meta Mark Zuckerberg cũng dự đoán trong tương lai, con người "sẽ có số bạn AI nhiều hơn bạn thật". Bên cạnh trở thành "bạn thân" của người dùng, chatbot sẽ thực hiện giao dịch mua hàng, hỗ trợ giải đáp thắc mắc... Ông cho rằng bạn bè AI sẽ không thay thế hoàn toàn kết nối ngoài đời thực, nhưng đa số người dùng rồi sẽ sớm chia sẻ những suy nghĩ thầm kín của bản thân cho AI nhiều hơn với bạn bè của họ.
Thu Thảo tổng hợp
