Elliston Berry, học sinh trường trung học Aledo, hạt Parker, Texas, sốc nặng khi thấy một người bạn gửi cho cô tấm ảnh khỏa thân vào một buổi sáng tháng 10/2023. Người trong ảnh mang gương mặt của Berry, nhưng thân thể không phải của cô.
Một nam sinh cùng lớp đã dùng ít nhất hai tấm ảnh trên tài khoản mạng xã hội của Berry, rồi dùng phần mềm "loại bỏ quần áo" bằng trí tuệ nhân tạo (AI) để tạo ảnh deepfake khỏa thân mang gương mặt cô. Hai người bạn của Berry cũng trở thành nạn nhân của trò chỉnh sửa ảnh này.
Sử dụng tài khoản Snapchat ẩn danh, nam sinh trên đã chia sẻ các bức ảnh cắt ghép cho bạn bè trong trường. Trong ngày hôm đó, cậu ta còn tạo và đăng ảnh khỏa thân cắt ghép của 6 nữ sinh khác trong nhóm bạn bè của Berry.
Deepfake là kết hợp giữa "deep learning" (học sâu) và "fake" (giả). Công nghệ này sử dụng AI phân tích cử chỉ, nét mặt và giọng nói của một người, từ đó tái tạo và chỉnh sửa để cho ra đời ảnh hoặc video trông như thật về người đó, thậm chí tạo được cả giọng nói.
"Tôi chưa từng nghĩ ai đó lại có thể hành động như vậy", Berry, hiện 15 tuổi, kể lại trong cuộc phỏng vấn ngày 19/6.
Mô phỏng một khuôn mặt tạo bởi công nghệ deepfake. Ảnh: Cotigo
Theo Berry, tấm ảnh giả trông rất giống thật, lấy gương mặt Berry từ ảnh thật cô tạo dáng trên du thuyền. Cô cũng cảm thấy rất khó nói điều này với mẹ và dượng. "Không dễ thông báo điều đó với họ, dù những bức ảnh này là giả", Berry nói.
"Tôi nhận ra ngay tấm ảnh chụp ở đâu. Nhưng nếu không biết nó là giả, chỉ nhìn ảnh, tôi có lẽ sẽ nghĩ là hình thật", Anna McAdams, mẹ Berry, nói khi con gái chia sẻ.
Bà McAdams và chồng sau đó cho con gái nghỉ học ở nhà vài ngày, chỉ đến trường vào cuối tuần để tập bóng chuyền, nhưng không thể gạt những hình ảnh nhạy cảm đó khỏi tâm trí.
"Tôi không thể tập trung nổi. Tôi đi dọc hành lang, gặp mọi người, tự hỏi liệu có ai đã thấy những hình ảnh đó hay chưa, liệu họ có tin đó là ảnh giả không? Tôi rất xấu hổ và sợ hãi", Berry kể lại.
Cô bé và các nạn nhân khác cũng lo ngại về hậu quả lâu dài, bởi những bức ảnh như vậy nếu lan truyền rộng rãi trên mạng có thể ảnh hưởng đến quá trình làm thủ tục nhập học đại học, xin việc sau này.
Nam sinh dùng AI tạo loạt ảnh giả đã nghỉ học sau kỳ nghỉ đông. Công tố viên hạt Parker Jeff Swain cho biết nam sinh này đã bị xử lý theo luật dành cho trẻ vị thành niên.
Nhưng Berry không thể tìm lại cuộc sống như cũ. "Sự việc khiến tôi luôn lo âu, trở nên khép mình hơn, dù trước đây là người hòa đồng", cô nói.
Elliston Berry trong cuộc phỏng vấn ngày 19/6. Ảnh: Fox News
Berry không phải là nạn nhân duy nhất của trò cắt ghép ảnh nhạy cảm. Nhiều nữ sinh trên khắp nước Mỹ cũng đang đối mặt với cơn ác mộng ảnh deepfake khỏa thân, trong khi các chuyên gia pháp lý cảnh báo luật liên bang đang "tụt hậu so với một vấn nạn quá mới".
"Cách đây vài năm, bạn sẽ phải dùng cả một cụm máy để tạo hình ảnh giả như vậy, nhưng giờ chỉ cần một chiếc iPhone", Ben Colman, giám đốc Reality Defender, chuyên cung cấp dịch vụ phát hiện ảnh deepfake, nói.
Tháng 10/2023, khu phố giàu có Westfied ở New Jersey rúng động khi hàng loạt nữ sinh trường trung học Westfied phát hiện các bạn nam cùng trường chia sẻ ảnh deepfake khỏa thân của họ trong cuộc trò chuyện nhóm.
Ban giám hiệu trường Westfield xác nhận sự việc trong email gửi phụ huynh, song từ chối công khai danh tính các học sinh liên quan, với lý do bảo mật thông tin. "Thật đau đớn khi chứng kiến các nữ sinh phải chịu đựng trong giai đoạn dễ tổn thương tâm lý nhất trong đời", Thị trưởng Westfield Shelley Brindle nói.
Nhiều phụ huynh ở Westfield nói con gái họ cảm thấy bị sỉ nhục, bất lực, nhưng không tìm thấy giải pháp nào. Các cha mẹ còn bất đồng quan điểm, một số kêu gọi trừng phạt nghiêm khắc những nam sinh chỉnh sửa ảnh bạn học, số khác cho rằng đây chỉ là hành động bồng bột của tuổi trẻ, nên khoan hồng.
Một số phụ huynh đã báo cảnh sát, trong đó có Dorota Mani, mẹ của nạn nhân Francesca 14 tuổi. Bà Mani đã nói chuyện với các nhà lập pháp bang và liên bang, tạo bàn đạp giúp hạ nghị sĩ New York Joseph Morelle soạn thảo dự luật ngăn chặn ảnh deepfake nhạy cảm và công bố hồi tháng 1.
Bà Dorota Mani (phải) cùng con gái Francesca 14 tuổi trả lời truyền thông hồi tháng 11/2023. Ảnh: CNN
Bà McAdams, mẹ nữ sinh Berry ở Texas, đã liên hệ với bà Mani.
Sau khi trò chuyện, bà McAdams cũng bắt đầu nói chuyện với các nhà lập pháp, trong đó có thượng nghị sĩ bang Texas Ted Cruz.
Ngày 18/6, ông Cruz và thượng nghị sĩ bang Minnesota Amy Klobuchar, cùng nhóm thượng nghị sĩ lưỡng đảng đã trình dự luật hình sự hóa hành vi phát tán ảnh khỏa thân giả hoặc thật khi không có sự đồng thuận của người trong ảnh.
Dự luật có tên là "Đạo luật Gỡ bỏ", sẽ yêu cầu các websites, nền tảng mạng xã hội xóa những ảnh này trong 48 giờ kể từ khi nạn nhân thông báo. Luật quy định thủ phạm sẽ phải ngồi tù 2-3 năm nếu nạn nhân là trẻ vị thành niên.
"Đây là tội ác bệnh hoạn, ngày càng phổ biến. Có hàng nghìn thiếu nữ là nạn nhân giống nữ sinh Berry", nghị sĩ Cruz nói khi công bố dự luật. Một số bang khác như Virginia, California cũng cấm phát tán hình ảnh deepfake khỏa thân, cho phép nạn nhân khởi kiện.
Khi nghị sĩ Cruz trình dự luật ở thủ đô Washington, bà McAdams và Berry cũng có mặt. Nhưng Berry cho biết cơn ác mộng này đã khiến cô ngày càng trở nên hoài nghi với cuộc sống. "Tôi nghiệm ra rằng mình sẽ phải sẵn sàng đương đầu cho mọi thứ", cô nói.
Đức Trung (Theo WSJ, FOX)