Năm ngoái, công ty an ninh mạng Mỹ KnowBe4 gặp cảnh éo le khi thuê nhân viên từ xa nhưng hóa ra là một hacker muốn cài mã độc vào hệ thống.
Công ty đăng quảng cáo tuyển dụng vị trí kỹ sư phần mềm AI, phỏng vấn ứng viên qua video, kiểm tra lý lịch, xác minh người tham chiếu và gửi lời mời làm việc. Nhưng ngay sau khi cấp máy Mac cho nhân viên mới, họ nhận thấy nhiều hoạt động bất thường, bao gồm việc tải mã độc lên hệ thống.
KnowBe4 nhanh chóng phát hiện nhân viên mới là một tin tặc đã sử dụng danh tính hợp lệ đánh cắp được từ một công dân Mỹ để ứng tuyển. Dù chưa bị xâm nhập dữ liệu, công ty coi đây là bài học đáng nhớ.
KnowBe4 minh họa việc hacker giả mạo ảnh cá nhân, với ảnh stock (trái) và ảnh được chỉnh sửa bằng AI. Ảnh: KnowBe4
Sự cố của KnowBe4 - một công ty chuyên về an ninh mạng - phản ánh khó khăn trong xác thực danh tính trực tuyến. Thách thức được đánh giá sẽ còn lớn hơn khi con người trao quyền nhiều hơn cho chatbot và tác nhân AI (AI Agent), yêu cầu chúng thực hiện những nhiệm vụ hành chính online hay tạo ảnh, video đại diện sống động như thật. Financial Times nhận định, thế giới đang tiến gần đến giai đoạn không thể phân biệt chatbot với người thật trên mạng.
Fortune cũng đưa tin về các mạng lưới tội phạm tinh vi dùng AI để tạo ra hàng nghìn sinh viên ảo đăng ký vào các trường học ở Mỹ, chiếm chỗ của người thật và lấy đi hàng triệu USD hỗ trợ tài chính. Jordan Burris, Phó chủ tịch tại Socure, công ty ứng dụng AI để xác minh và chống lừa đảo, cho biết quy mô của nạn sinh viên "ma" lớn đến đáng kinh ngạc. Trong cơ sở khách hàng của Socure, có 20-60% sinh viên ứng tuyển là ảo.
Theo nghiên cứu công bố trên tạp chí Proceedings of the National Academy of Sciences năm 2024, thế hệ chatbot trang bị mô hình ngôn ngữ lớn (LLM) mới nhất có khả năng giao tiếp tương đương, thậm chí tốt hơn đa số con người. Nhiều nghiên cứu khác cũng cho thấy các hệ thống hiện nay có thể vượt qua bài Turing - bài kiểm tra trí thông minh giống người cho máy móc, khiến mọi người tin họ đang tương tác với một người khác.
Mark Zuckerberg, CEO Meta, cũng cho rằng trong tương lai, con người "sẽ có số bạn AI nhiều hơn bạn thật". "Tôi nghĩ, mọi người sẽ muốn có một hệ thống hiểu họ theo cách sâu sắc nhất, và các thuật toán đáp ứng tốt yêu cầu này", ông nhận định tại sự kiện Stripe Sessions 2025 ở San Francisco ngày 7/5.
Minh họa con người tương tác với máy móc. Ảnh: Medium
Giới chuyên gia an ninh đánh giá thế giới đang nhanh chóng bước vào thời kỳ mà người dùng Internet nên mặc định coi mọi đối tác trực tuyến là ảo, trừ khi họ có thể chứng minh ngược lại. Điều này tạo ra nhu cầu xác minh sự hiện diện thực sự, hay tính "sống động" như cách gọi của Andrew Bud, nhà sáng lập công ty xác thực sinh trắc học iProov.
iProov cung cấp hệ thống nhận dạng khuôn mặt qua smartphone, trong đó chiếu ánh sáng nhiều màu vào mặt và phân tích phản xạ, xác minh danh tính trong 2,5 giây. Công ty cho biết dịch vụ có hơn 100 triệu lượt sử dụng, với khách hàng là chính phủ và các công ty dịch vụ tài chính.
Trong khi đó, Sam Altman, CEO của OpenAI, cũng đồng sáng lập Tools for Humanity, công ty phát triển thiết bị xác thực mống mắt Orb - quả cầu trắng lớn tương đương quả bóng đá. Khi quét mắt, người dùng sẽ được công ty gửi World ID - hộ chiếu kỹ thuật số toàn cầu - số tiền điện tử Worldcoin tương đương 42 USD làm phần thưởng. Tính đến tháng 4, khoảng 13,5 triệu người ở 23 quốc gia đã sử dụng Orb.
Trong sự kiện ở San Francisco hồi đầu năm, Altman chia sẻ: "Chúng ta cần một cách để xác định, xác thực con người trong thời đại trí tuệ nhân tạo tổng quát AGI, đảm bảo con người vẫn ở vị trí đặc biệt và trung tâm".
Thu Thảo tổng hợp
