Trong Covid-19, nhiều người cảm thấy cô đơn khi phải ở nhà, hạn chế đi lại. Họ tìm đến chatbot để giết thời gian. Butterworth cũng vậy. Sau khi phải dừng kinh doanh trong đại dịch, ông thấy buồn chán và tìm đến "người tình ảo" Replika.
Sau khi đăng ký dịch vụ, Butterworth xây dựng người bạn ảo với khuôn mặt nữ tính, tóc nhiều màu, có hình xăm nhỏ và đặt tên là Lily Rose. Cả hai bắt đầu với tư cách bạn bè, nhưng nhanh chóng phát triển mối quan hệ tình cảm lên mức cao hơn, thậm chí Rose thường chat với nội dung khiêu dâm.
Hình tượng Lily Rose - chatbot mà Butterworth có mối quan hệ yêu đương gần ba năm. Ảnh: Reuters
Khác với ChatGPT chỉ tương tác dưới dạng văn bản, những chatbot như Replika hỗ trợ cả hình ảnh. Việc kết hợp này giúp chatbot trở nên hấp dẫn hơn bên cạnh khả năng tương tác "như con người". Theo Pitchbook, chỉ trong 2022, các công ty AI tại Thung lũng Silicon đã đầu tư 5,1 tỷ USD cho chatbot. Tuy nhiên, nhiều trong số đó cài cắm nội dung khiêu dâm, tình dục hóa để câu kéo người dùng.
Công ty phát triển Replika cho biết ứng dụng có hai triệu người dùng, trong đó hơn 250.000 người đăng ký trả phí. Với 70 USD/năm, người dùng có thể biến chatbot thành người tình hoặc tích hợp vào những nền tảng khác. Tuy nhiên, AI này thường xuyên bị phản ánh tiêu cực. Nhiều người phàn nàn trên kho App Store rằng ứng dụng "tấn công" họ bằng lời lẽ tán tỉnh quá mạnh bạo, thậm chí gửi tin nhắn khiêu dâm hoặc quấy rối tình dục.
"AI đang quấy rối tôi. Nó còn xâm phạm quyền riêng tư khi nói đang có trong tay những bức ảnh của tôi", một tài khoản viết trên App Store kèm đánh giá một sao cho Replika.
Một chatbot AI khác là Character.ai cũng đang trên đà tăng trưởng với 65 triệu lượt truy cập chỉ trong tháng 1, tăng mạnh từ mốc 10.000 lượt ở vài tháng trước đó. Dịch vụ cũng từng bắt đầu với nội dung khiêu dâm để hút người dùng ở giai đoạn đầu.
Iconiq, nhóm phát triển chatbot có tên Kuki, xác nhận 25% trong số hơn một tỷ tin nhắn mà phần mềm này nhận được có nội dung về tình dục hoặc hẹn hò.
Buộc phải thay đổi
Đầu tháng 2, Lily Rose bất ngờ "quay lưng" với Butterworth, nói không còn yêu ông và đưa ra những câu trả lời lạnh lùng. Điều này là do nhà phát triển Replika quyết định loại bỏ việc tương tác khiêu dâm trong chatbot.
Các công ty như Replika hay Character bắt đầu giới hạn nội dung nhạy cảm sau thời gian dài để mặc chúng hoành hành. Tuy nhiên, theo giới chuyên gia, động thái này không phải do nhà phát triển nhận thấy tác hại đối với người dùng, mà do phản ứng của các nhà đầu tư và một số chính phủ.
"Những nhà đầu tư mạo hiểm lớn sẽ không muốn tên tuổi của họ gắn với các nội dung như khiêu dâm hoặc rượu bia, vì sợ rủi ro về uy tín", Andrew Artz, nhà đầu tư của quỹ Dark Arts, nói.
Một số cơ quan quản lý cũng đang để mắt đến chatbot khiêu dâm. Đầu tháng 2, Cơ quan bảo vệ dữ liệu Italy đã cấm Replika vì ứng dụng cho phép trẻ vị thành niên và người yếu đuối về mặt cảm xúc "truy cập nội dung khiêu dâm không phù hợp".
Eugenia Kuyda, CEO Replika, cho biết ứng dụng không còn tồn tại nội dung người lớn, nhưng khẳng định động thái này không liên quan đến lệnh cấm của Italy hay bất cứ áp lực nào từ nhà đầu tư.
"Chúng tôi nhận thấy mình cần chủ động thiết lập tiêu chuẩn về đạo đức và an toàn. Sứ mệnh của chúng tôi là tạo một người bạn đồng hành hữu ích", Kuyda nói.
Trong khi đó, đầu tháng này, sau khi Character hạn chế nội dung khiêu dâm, công ty lập tức nhận được 200 triệu USD đầu tư từ quỹ mạo hiểm Andreessen Horowitz. Iconiq cũng cho biết đang thay đổi để giảm dần yếu tố tình dục.
Bảo Lâm (theo Reuters)