Các công cụ AI biến văn bản thành hình ảnh đang tạo ra hàng loạt nội dung khiêu dâm dựa trên người thật mà không được sự đồng ý.
Joanna Stern, nhà báo công nghệ ở New Jersey, dùng AI để tạo phiên bản ảo của bản thân và đánh lừa được hệ thống xác thực của ngân hàng.
Cuộc gọi diễn ra chớp nhoáng, hình ảnh và âm thanh chập chờn, chuyển động mắt, khuôn mặt thiếu tự nhiên là dấu hiệu của deepfake.
"Mẹ, con gặp rắc rối rồi", giọng nói giống hệt của con gái vang lên trong điện thoại khiến Jennifer DeStefano chết lặng vì nghĩ con bị bắt cóc.
Chị tôi nhận được cuộc gọi video từ người bạn trên Facebook nói cần gấp 5 triệu đồng, nên đã chuyển khoản mà không biết là video deepfake giả danh.
Hà An, nữ blogger 22 tuổi, lo sợ khi những tấm hình deepfake khỏa thân với khuôn mặt cô bị phát tán trên Twitter và trong một số nhóm Telegram.
Cuộc sống của nhiều người trở thành ác mộng khi các công cụ AI có thể nhanh chóng ghép mặt họ vào video khiêu dâm deepfake.
Thử tìm kiếm ảnh của chính mình qua Google, Noelle Martin, sống ở Australia, sốc khi thấy khuôn mặt cô bị ghép vào những tấm hình khỏa thân.
Thấy khuôn mặt và giọng nói quen thuộc của mẹ chập chờn qua cuộc gọi video trong 10 giây, chị Phan lập tức chuyển tiền khi được nhờ.
Tin tặc đang sử dụng AI và kỹ thuật deepfake để mạo danh người nổi tiếng, dẫn dụ người dùng tải phần mềm lậu.
Sử dụng mạng xã hội như bao người khác, bỗng một ngày Amanda Florian thấy hình ảnh giống cô xuất hiện trong hàng loạt quảng cáo tại Trung Quốc.
Khuôn mặt nhiều người nổi tiếng như Elon Musk, Tom Cruise, Leo DiCaprio bị sử dụng trái phép trong video quảng cáo nhờ công nghệ deepfake.
Kate Isaacs hoảng loạn khi phát hiện một video với nội dung giống như cô đang quan hệ tình dục lan truyền trên Twitter.
Mỗi sáng, Jennifer vẫn cầu nguyện Chúa trời hãy xóa video deepfake khiêu dâm dùng khuôn mặt cô đang lan truyền trên Internet.
Nền tảng video ngắn TikTok xuất hiện ngày càng nhiều video giả mạo người nổi tiếng hoặc nhân vật của công chúng và thu hút lượng theo dõi lớn.
Nhiều kẻ lừa đảo lợi dụng công nghệ deepfake để đóng giả ứng viên xin việc từ xa, nhằm thâm nhập và đánh cắp thông tin của các công ty.
Weibo, mạng xã hội lớn nhất Trung Quốc, cấm tài khoản Ma Yilong, người được xem là bản sao của Musk, trong khi các video liên quan cũng bị xóa.
Tỷ phú Elon Musk nói muốn gặp trực tiếp nhân vật có ngoại hình giống hệt ông ở Trung Quốc để xem đó là người thật hay deepfake.
Một ngày tháng 4, Owen, 20 tuổi, thấy khuôn mặt mình xuất hiện trong một phim khiêu dâm deepfake sau khi anh từ chối trả tiền cho hacker.
Trong video đang lan truyền trên TikTok, tài tử Tom Cruise đã nhảy vọt qua đầu diễn viên Keegan Michael-Key, tuy nhiên đây chỉ là hình ảnh deepfake.
