Cuộc gọi diễn ra chớp nhoáng, hình ảnh và âm thanh chập chờn, chuyển động mắt, khuôn mặt thiếu tự nhiên là dấu hiệu của deepfake.
"Mẹ, con gặp rắc rối rồi", giọng nói giống hệt của con gái vang lên trong điện thoại khiến Jennifer DeStefano chết lặng vì nghĩ con bị bắt cóc.
Chị tôi nhận được cuộc gọi video từ người bạn trên Facebook nói cần gấp 5 triệu đồng, nên đã chuyển khoản mà không biết là video deepfake giả danh.
Hà An, nữ blogger 22 tuổi, lo sợ khi những tấm hình deepfake khỏa thân với khuôn mặt cô bị phát tán trên Twitter và trong một số nhóm Telegram.
Cuộc sống của nhiều người trở thành ác mộng khi các công cụ AI có thể nhanh chóng ghép mặt họ vào video khiêu dâm deepfake.
Thử tìm kiếm ảnh của chính mình qua Google, Noelle Martin, sống ở Australia, sốc khi thấy khuôn mặt cô bị ghép vào những tấm hình khỏa thân.
Thấy khuôn mặt và giọng nói quen thuộc của mẹ chập chờn qua cuộc gọi video trong 10 giây, chị Phan lập tức chuyển tiền khi được nhờ.
Tin tặc đang sử dụng AI và kỹ thuật deepfake để mạo danh người nổi tiếng, dẫn dụ người dùng tải phần mềm lậu.
Sử dụng mạng xã hội như bao người khác, bỗng một ngày Amanda Florian thấy hình ảnh giống cô xuất hiện trong hàng loạt quảng cáo tại Trung Quốc.
Khuôn mặt nhiều người nổi tiếng như Elon Musk, Tom Cruise, Leo DiCaprio bị sử dụng trái phép trong video quảng cáo nhờ công nghệ deepfake.
Kate Isaacs hoảng loạn khi phát hiện một video với nội dung giống như cô đang quan hệ tình dục lan truyền trên Twitter.
Mỗi sáng, Jennifer vẫn cầu nguyện Chúa trời hãy xóa video deepfake khiêu dâm dùng khuôn mặt cô đang lan truyền trên Internet.
Nền tảng video ngắn TikTok xuất hiện ngày càng nhiều video giả mạo người nổi tiếng hoặc nhân vật của công chúng và thu hút lượng theo dõi lớn.
Nhiều kẻ lừa đảo lợi dụng công nghệ deepfake để đóng giả ứng viên xin việc từ xa, nhằm thâm nhập và đánh cắp thông tin của các công ty.
Weibo, mạng xã hội lớn nhất Trung Quốc, cấm tài khoản Ma Yilong, người được xem là bản sao của Musk, trong khi các video liên quan cũng bị xóa.
Tỷ phú Elon Musk nói muốn gặp trực tiếp nhân vật có ngoại hình giống hệt ông ở Trung Quốc để xem đó là người thật hay deepfake.
Một ngày tháng 4, Owen, 20 tuổi, thấy khuôn mặt mình xuất hiện trong một phim khiêu dâm deepfake sau khi anh từ chối trả tiền cho hacker.
Trong video đang lan truyền trên TikTok, tài tử Tom Cruise đã nhảy vọt qua đầu diễn viên Keegan Michael-Key, tuy nhiên đây chỉ là hình ảnh deepfake.
Nhiều người không thể phân biệt chính xác ảnh thật và ảnh tạo bằng AI, thậm chí tin tưởng khuôn mặt giả hơn.
2021 là năm deepfake trở nên phổ biến, trong đó xuất hiện một số video lan truyền mạnh trên mạng xã hội và hàng triệu lượt xem.
