Khi được giới thiệu về PimEyes, Cher Scarlett liền đăng một số ảnh của con gái và mẹ mình lên. PimEyes sử dụng công nghệ nhận dạng khuôn mặt để xác định xem hình ảnh của ai đó đang xuất hiện ở những đâu trên Internet, với mục đích ngăn chặn nguy cơ bị đánh cắp danh tính và đăng ảnh khiêu dâm. May mắn, cô không thấy bất kỳ ảnh nào trên mạng liên quan đến con gái, trong khi hình ảnh của mẹ cô chỉ là những người có khuôn mặt giống bà.
Scarlett tiếp tục thử một lần nữa với ảnh của mình. Kết quả khiến cô choáng váng. Ngoài vài tấm hình gần đây, trang web còn xuất hiện những hình ảnh về thời kỳ đen tối của Scarlett khi 19 tuổi. Scarlett nói đó là hình ảnh trong chuyến du lịch đến New York, khi cô bị cưỡng bức tình dục ngay trước ống kính.
Cher Scarlett luôn lo ngại công nghệ nhận dạng khuôn mặt. Ảnh: CNN
"Khi xem những ảnh này, ban đầu tôi nghĩ ai đó đã chỉnh sửa khuôn mặt tôi và đưa vào phim khiêu dâm", Scarlett nhớ lại.
Sau đó cô tự hỏi sao mình trông trẻ như vậy. Rồi cô nhận ra chiếc áo đang mặc và cả mái tóc. Scarlett lưu lại hình ảnh đó và sử dụng nó để thực hiện cuộc tìm kiếm tiếp theo. Kết quả nhận được là hàng chục ảnh nhạy cảm của cô xuất hiện trên các website khác nhau.
Những gì xảy ra ở New York năm 2005 để lại sự đau đớn đến nỗi cô từng định tự tử. Scarlett đã nỗ lực để vượt qua những tổn thương tâm lý, cai nghiện thành công và đang nuôi dạy con gái. Cô hiện là kỹ sư phần mềm cấp cao tại công ty game ControlZee sau khi rời Apple cuối năm 2021.
Tuy nhiên, chỉ với vài cú click chuột, PimEyes khiến cô nhớ lại quá khứ kinh hoàng. Dù rất cố gắng, Scarlett không thể xóa hết ảnh khiêu dâm khỏi kết quả tìm kiếm của PimEyes.
Giorgi Gobronidze, chủ sở hữu PimEyes, thừa nhận những gì Scarlett trải qua là "vô cùng đau đớn" và hy vọng không ai gặp phải điều đó nữa. "Vấn đề không phải là công cụ tìm kiếm có thể tìm thấy những bức ảnh này, mà là có người đã đăng lên và thực hiện nó một cách có chủ đích", ông nói.
Câu chuyện của Scarlett cho thấy nhận dạng khuôn mặt có thể dẫn đến hậu quả không thể cứu vãn được. Công nghệ này ngày càng phổ biến trong những năm gần đây và không bị hạn chế sử dụng. Nó hứng chịu không ít chỉ trích vì các vấn đề về quyền riêng tư cũng như các mối nguy hiểm tiềm ẩn khác.
Woodrow Hartzog, giáo sư luật và khoa học máy tính tại Đại học Northeastern, cho biết có nhiều người từng trải qua nỗi đau tương tự Scarlett. "Nhiều nhất là phụ nữ, người da màu và các cộng đồng thiểu số", ông nói.
Xử lý kết quả tìm kiếm
Scarlett mất nhiều thời gian để xóa những gì cô ấy nhìn thấy trong kết quả tìm kiếm.
"Nó như thể là...", cô trở nên run rẩy khi mô tả cảm giác lúc nhìn vào hình ảnh đó. "Giống như một phần não của tôi đang cố gắng che giấu điều đó, nhưng một phần khác biết chuyện này từng xảy ra và tôi đang cố quên đi chúng".
Scarlett không chỉ bị đào lại quá khứ mà còn lo ngại rằng bất kỳ ai sử dụng công cụ PimEyes đều có thể thấy hình ảnh đó. Cô nâng cấp tài khoản lên gói dịch vụ 80 USD/tháng với tính năng cho phép loại bỏ ảnh khỏi kết quả công khai của PimEyes. Cô cũng gửi yêu cầu gỡ ảnh tới các trang web lưu trữ, nhưng không được chấp nhận vì cô không phải là người nắm bản quyền hình ảnh.
Người dùng có thể từ chối xuất hiện trong kết quả tìm kiếm của PimEyes miễn phí, nhưng câu chuyện của Scarlett không diễn ra dễ dàng như vậy. Cô đề nghị PimEyes xóa ảnh từ tháng 3, nhưng không nhận được phản hồi suốt hơn một tháng. Phải đến khi cô chia sẻ trải nghiệm trên mạng xã hội, PimEyes mới chấp thuận yêu cầu.
"Các kết quả liên quan đến khuôn mặt của bạn sẽ được xóa khỏi hệ thống của chúng tôi", email gửi đến Scarlett có đoạn.
Hình ảnh hiển thị trở lại
Ngày 19/5, nhiều hình ảnh của Scarlett, trong đó có cả ảnh khiêu dâm, lại hiển thị thông qua tìm kiếm trên PimEyes. Bên dưới kết quả, trang này khuyến khích người dùng trả thêm tiền. "Nếu muốn xem những kết quả có thể được tìm thấy bằng công cụ 'Tìm kiếm chuyên sâu', hãy mua gói Cao cấp", thông báo có đoạn.
Gobronidze thừa nhận quy trình của PimEyes không hoạt động như mong đợi.
Scarlett vẫn còn những thắc mắc như PimEyes sẽ làm thế nào để đảm bảo rằng những gì cô trải qua sẽ không xảy ra với ai khác. Gobronidze cho biết một trong những cách giải quyết là người dùng cần hiểu rõ hơn về cách sử dụng PimEyes và thông qua nâng cấp phần mềm nhận dạng khuôn mặt, nhằm loại bỏ hiệu quả hơn những hình ảnh mà họ không muốn hiển thị trong kết quả tìm kiếm.
"Chúng tôi muốn chắc chắn rằng những kết quả này sẽ biến mất vĩnh viễn", ông nói.
Dù vậy, Scarlett vẫn lo ngại về hiệu quả của công nghệ nhận dạng khuôn mặt trong tương lai.
Phùng Ly - Yến Hồng (theo CNN)