Ngày 9/3, The Veẻge dẫn hồ sơ cảnh sát cho biết sự việc lần đầu bị phát hiện hồi tháng 12/2023 ở Florida. Hai cậu bé bị đình chỉ học 10 ngày sau khi các nạn nhân báo với ban giám hiệu.
Một số phụ huynh đã công khai kêu gọi trường đuổi học hai nam sinh. Nadia Khan-Roberts, mẹ của một trong những nạn nhân, nói với NBC Miami rằng đây là sự việc đau thương với tất cả gia đình có con bị rơi vào tình huống như vậy. Một phụ huynh giấu tên khác nói: "Con gái của chúng tôi không cảm thấy thoải mái khi đi cùng hành lang với những cậu bé đó. Nó khiến đứa trẻ cảm thấy như bị xâm phạm và lợi dụng".
Phụ huynh của hai nam sinh và đại diện cơ quan truy tố chưa đưa ra bình luận.
Minh họa về nội dung deepfake được tạo bằng AI. Nguồn: The Verge
Theo luật của Floria, được thông qua năm 2022, hai nam sinh phải đối mặt án phạt tương đương tội trộm ôtô hoặc giam giữ người trái phép. Bang này cấm chia sẻ "bất kỳ mô tả tình dục đã bị thay đổi nào" về một người khi chưa nhận được sự đồng ý từ họ.
Wried dẫn lời luật sư Stephanie Cagnet Myron ở Florida, đại diện cho những nạn nhân của deepfake khiêu dâm, nói: "Bất kỳ ai tạo ra ảnh deepfake khỏa thân của trẻ vị thành niên đều phạm tộ lạm dụng tình dục". Tuy nhiên, hai nam sinh ở Florida không bị buộc tội xâm hại tình dục trẻ em do yếu tố tuổi tác. "Bồi thẩm đoàn có thể bối rối khi đưa ra kết luận cuối cùng", Cagnet Myron nhận định.
Trẻ vị thành niên tạo ảnh khỏa thân bằng AI đang trở thành vấn nạn nhức nhối. Nhiều trường hợp tương tự đã được báo cáo như ở trường trung học Issaquah (Washington), trường trung học Westfield (New Jersey) và trường trung học cơ sở Beverly Vista (California). Dù cảnh sát đã vào cuộc, không ai bị bắt giữ như trường hợp hai nam sinh ở Florida.
Hiện chưa có luật liên bang nào của Mỹ đề cập nội dung deepfake khỏa thân. Mỗi bang tự đưa ra biện pháp riêng để giải quyết tác động của AI liên quan đến vấn đề lạm dụng tình dục trẻ em.
Cuối tháng 1, Nhà Trắng đã tiếng cảnh báo về deepfake khiêu dâm của ca sĩ Taylor Swift và cho rằng đây là vấn đề đáng báo động. Theo thư ký báo chí Nhà Trắng Karine Jean-Pierre, các nền tảng mạng xã hội cần đưa ra chính sách quản lý nội dung, có trách nhiệm "ngăn chặn phát tán tin giả và hình ảnh nhạy cảm của người thật khi chưa được cho phép".
Quan chức Nhà Trắng cho biết chính quyền Mỹ đã áp dụng nhiều biện pháp nhằm đối phó tình trạng này, trong đó có thành lập lực lượng chuyên trách để giải quyết việc lạm dụng và quấy rối trên mạng. Bộ Tư pháp Mỹ cũng triển khai đường dây nóng hỗ trợ những nạn nhân bị lạm dụng tình dục bằng hình ảnh.
Khương Nha