Theo khảo sát của Tạp chí y khoa BMJ, tên và hình ảnh nhiều bác sĩ nổi tiếng tại Anh như Hilary Jones và Rangan Chatterjee, thậm chí một chuyên gia tư vấn sức khỏe đã qua đời là Michael Mosley, đang bị lợi dụng để bán thuốc không rõ nguồn gốc trên Facebook, YouTube, X và TikTok.
"Điểm mấu chốt là việc chi tiền làm video rẻ hơn nhiều so với việc nghiên cứu, phát triển và đưa sản phẩm mới ra thị trường theo cách thông thường", John Cormack, bác sĩ đã nghỉ hưu tại Essex và là thành viên nhóm khảo sát của BMJ, cho biết.
Hình ảnh một bác sĩ tạo bằng AI. Ảnh: SciTechDaily
Theo Cormack, hầu hết "bác sĩ deepfake" quảng bá thuốc chữa huyết áp cao và bệnh tiểu đường hoặc bán kẹo dẻo chiết xuất từ thực vật. Đây đều là những sản phẩm không gây tác dụng lập tức đến sức khỏe, nhưng có ảnh hưởng về lâu dài nếu là hàng kém chất lượng.
Cormack cho biết ông cũng đang là nạn nhân của deepfake, khi hình ảnh giả mạo ông để quảng cáo thực phẩm chức năng trên mạng. Ông đã thuê chuyên gia tìm video deepfake có hình ảnh của ông để gỡ, nhưng chưa triệt để.
Chris Stokel-Walker, nhà báo công nghệ chuyên về AI, cho biết deepfake hoạt động bằng cách lợi dụng cảm xúc của mọi người. Khi người nổi tiếng và có uy tín trong lĩnh vực nói về "một loại thuốc thần kỳ hoặc sản phẩm y tế tuyệt vời", người nghe sẽ dễ bị thuyết phục.
"Một người xa lạ bán thuốc cho bạn, bạn sẽ nghi ngờ. Nhưng nếu là người nổi tiếng trên mạng xã hội, truyền hình hoặc radio, bạn nhiều khả năng tin những gì họ nói", Stokel-Walker giải thích.
Henry Ajder, chuyên gia về công nghệ deepfake tại Anh, cho biết hàng loạt nội dung "bác sĩ deepfake" đáng ngờ trên mạng xã hội thời gian qua là hậu quả tất yếu của cuộc cách mạng AI. "Sự bình dân hóa nhanh chóng của các công cụ AI khiến chúng dễ tiếp cận hơn", Ajder nói. "Tuy nhiên, chúng cũng bị lợi dụng để sao chép giọng nói hoặc tạo video gian lận và mạo danh. Đang có sự gia tăng đáng kể hoạt động dạng này".
Cũng theo Ajder, việc phát hiện deepfake ngày càng khó khăn vì công nghệ này được cải thiện từng ngày. "Thật khó định lượng mức độ hiệu quả của hình thức gian lận deepfake, nhưng khối lượng video ngày càng tăng trên mạng xã hội cho thấy kẻ xấu đang có đạt thành công nhất định", ông nói.
Trong khi đó, người phát ngôn của Meta cho biết sẽ điều tra những thông tin mà BMJ công bố. "Chúng tôi không cho phép nội dung cố ý hoặc tìm cách lừa đảo xuất hiện trên nền tảng, đồng thời khuyến khích người dùng báo cáo vi phạm nếu nghi ngờ", đại diện Meta nói.
Các nền tảng khác như YouTube, X, TikTok chưa đưa ra bình luận.
Deepfake là sự kết hợp giữa "deep learning" (học sâu) và "fake" (giả mạo) để ghép khuôn mặt, giọng nói... của bất kỳ ai vào bất kỳ nội dung gì, tạo cảm giác như thật. Công nghệ này gây lo ngại thời gian qua khi bị lợi dụng cho mục đích giả mạo, lừa đảo. Sự đột phá của AI qua càng khiến các bức ảnh deepfake khó nhận biết, trong khi người dùng dễ tiếp cận mà không cần am hiểu sâu.
Bảo Lâm (theo BMJ, Eurekalert, New York Post)
- Người chồng bị nghi dùng ảnh deepfake để tố vợ ngoại tình
- Cách kẻ gian dùng deepfake để lừa hàng triệu USD
- Dùng deepfake vượt qua xác thực online tại Việt Nam
- Ba câu chuyện cho thấy sự nguy hiểm của deepfake
- Người nổi tiếng nào bị tạo ảnh deepfake nhiều nhất?