Công nghệ trí tuệ nhân tạo (AI) đã có những tiến bộ vượt bậc trong những năm gần đây, "công nghệ thay đổi khuôn mặt deepfake AI" đang ngày càng trở nên "hoàn hảo" với sự ưu ái của công nghệ điện toán thời gian thực, nhưng đây cũng chính là điều mở ra cơ hội cho gian lận sử dụng công nghệ này. Mới đây, một đài truyền hình trực tiếp của Trung Quốc đã gây sốc cho cư dân mạng khi chia sẻ màn trình diễn "đổi mặt".
Người hâm mộ Facebook "James Hsieh", người thường bình luận về các chủ đề xã hội nóng hổi trong cộng đồng trực tuyến, đã chia sẻ màn trình diễn của một phát thanh viên trực tiếp Trung Quốc trên tài khoản Facebook cá nhân và tài khoản X của mình. Đoạn video ngắn về công nghệ thay đổi khuôn mặt AI minh họa sự nguy hiểm của công nghệ thay đổi khuôn mặt AI hiện nay và nhắc nhở công chúng hãy cẩn thận để không bị lừa.
Video này được trình bày làm hai phần, phần trên là cảnh thay đổi khuôn mặt bằng công nghệ AI deepfake, thể hiện một phụ nữ trẻ đẹp, nửa dưới là ngoại hình thật của nhân vật - một người đàn ông trung niên.
So sánh phần trên và phần dưới của video, chúng ta có thể thấy sự thay đổi trong biểu cảm và hành vi của nhân vật hoàn toàn đồng bộ, bao gồm cả việc người giả mạo đưa micro trước mặt hay dùng tay chạm vào tóc, mặt, các đặc điểm vẫn không bị bóp méo, biến dạng và có thể nói là không có khuyết điểm.
Bài đăng "James' Criticism Time" đã chỉ ra rằng trí tuệ nhân tạo có khả năng thay đổi khuôn mặt đã phát triển đến mức có thể tính toán và phát sóng theo thời gian thực. Giờ đây, dù là video hay phát sóng trực tiếp đều trở nên không đáng tin cậy, và video ngắn thay đổi diện mạo này đã chứng minh đầy đủ điều đó. Công nghệ này, cùng với việc thay đổi giọng nói bằng trí tuệ nhân tạo, đã được các nhóm lừa đảo sử dụng để thực hiện hành vi lừa đảo trực tuyến.
Bài đăng khuyên cư dân mạng: Đừng dại dột theo đuổi những người đẹp xinh đẹp trên mạng Douyin, vì phía bên kia ống kính chắc chỉ có "chú" hoặc "dì".
Người bình luận còn đưa ra một ví dụ: nghệ sĩ Vương Nhân Phủ trước đây từng gặp phải một vụ lừa đảo bằng công nghệ AI. Đầu tiên đối phương lấy cớ tiến hành thăm dò để gọi điện cho con gái Vương Nhân Phủ, hỏi một loạt câu hỏi nhằm lấy được "dấu giọng nói" của cô. Vài ngày sau, Vương Nhân Phủ nhận được một cuộc gọi lừa đảo, giọng nói của đối phương nghe giống hệt con gái ông, may mắn là ông rất cảnh giác, nhìn thấu được trò lừa đảo.
"James' Criticism Time" cuối cùng cũng nhắc nhở công chúng một lần nữa: "Công nghệ Trung Quốc hiện đã đạt được điều đó, chỉ cần có bản ghi âm giọng nói của một người dài 30 giây và 5 câu thì có thể tạo ra một gói lồng tiếng. Trong thời đại trí tuệ nhân tạo, bạn phải cẩn thận trong mọi việc”.
Tài khoản công khai Trung Quốc Qubit cũng chia sẻ nhiều trường hợp sử dụng công nghệ thay đổi khuôn mặt deepfake AI vào giữa tháng 12 và thảo luận về những tiến bộ mới nhất của các công nghệ liên quan. Từ một số trường hợp được liệt kê trên tài khoản công khai này, chúng ta có thể thấy rằng hiện nay người ta sử dụng công nghệ AI trên Internet không chỉ dễ dàng thay đổi diện mạo của một ông chú 40 tuổi thành “gái xinh” chỉ trong vài giây, hơn nữa, chỉ cần gõ tên của một người nổi tiếng, bạn có thể ngay lập tức thay đổi diện mạo của mình thành diện mạo của người nổi tiếng đó.
Một ví dụ là: một người đàn ông có bộ râu bình thường ngồi trước máy tính, bật camera và gõ tên "Elon Musk", sau đó người đàn ông trên màn hình camera lập tức biến thành diện mạo của Musk, thậm chí cả bộ râu cũng tự động biến mất . Người đàn ông gật đầu và lắc đầu trước khi kết thúc, đeo kính râm, vuốt tóc và tạo dáng, "Musk" trên màn hình đều đồng loạt thực hiện hành động này.
Sau khi một anh chàng khác điền tên "David Backham", Beckham cũng xuất hiện trên màn ảnh; một cư dân mạng khác thì hóa thân thành "Einstein" và chơi đồ chơi lượng tử. Sau khi trải nghiệm công nghệ này, nhiều cư dân mạng đã để lại lời nhắn thốt lên: "Thật tuyệt vời" và "Thật điên rồ".
Theo Lê Minh - NTDTV
Thanh Hương biên dịch
