Theo nghiên cứu được tổ chức phi lợi nhuận Mozilla Foundation công bố ngày 14/2 với 11 chatbot có chức năng "bạn gái AI", tất cả đều không đáng tin cậy và nằm trong danh mục sản phẩm "tệ nhất" về quyền riêng tư.
Một số hình mẫu bạn trai/bạn gái AI trong chatbot Replika. Ảnh: Replika
"Có một thực tế nguy hiểm tiềm tàng ẩn dưới lớp vỏ lãng mạn của AI", Misha Rykov, người đứng đầu nhóm nghiên cứu, nói. "Dù được tiếp thị như một biện pháp giúp nâng cao sức khỏe tinh thần và hạnh phúc, chúng cũng tạo nên sự phụ thuộc, sự cô đơn và độc tính, đồng thời thu thập nhiều dữ liệu từ bạn".
Nghiên cứu cho thấy 45% số chatbot cho phép sử dụng mật khẩu yếu và có 9 trong 11 chatbot chia sẻ, bán dữ liệu cá nhân của người dùng. Thậm chí, một số chatbot như CrushOn.AI nêu trong điều khoản người dùng rằng nền tảng sẽ thu thập thông tin về sức khỏe tình dục, thuốc theo toa cũng như xác định cụ thể giới tính của mỗi người. Một số chatbot tạo nhân vật AI có tính chất bạo lực, khuyến khích tạo hành vi nguy hiểm như tự sát hoặc ám sát người khác.
Hầu hết công ty phát hành chatbot trong danh sách không đưa ra bình luận. Đại diện Replika, một chatbot lãng mạn nổi tiếng, cho biết có thu thập dữ liệu, nhưng với mục đích "cải thiện cuộc trò chuyện, chưa bao giờ bán dữ liệu hay sử dụng cho mục đích khác như quảng cáo.
Đối với người không thể dứt khỏi "bạn gái AI", Mozilla Foundation khuyến cáo họ không nên nói những nội dung mà không muốn đồng nghiệp hoặc thành viên gia đình đọc được, sử dụng mật khẩu mạnh, hạn chế quyền truy cập vị trí, micro hay máy ảnh.
"Bạn cũng không cần trả tiền cho những công nghệ mới bằng sự an toàn hoặc quyền riêng tư của bản thân, dù chúng có thể thú vị", nghiên cứu kết luận.
Trước đó, giới chuyên gia cũng nhiều lần cảnh báo về "bạn gái AI", cho rằng sự bùng nổ của sản phẩm dạng này khiến nhiều đàn ông ngại yêu đương với người thật, từ chối kết hôn và sinh con. "Nhiều đàn ông Mỹ có xu hướng tìm đến bạn gái ảo, thay vì tiến vào các mối quan hệ phức tạp", Liberty Vittert, giáo sư khoa học dữ liệu của Đại học Washington, nói với The Hill tháng 10 năm ngoái.
Rob Brooks, học giả tại Đại học New South Wales, nhận định sự bùng nổ "bạn gái AI" thời gian qua là tín hiệu cảnh báo đến các nhà quản lý về tác động của AI với đời sống thực. Ông lo ngại nó có thể tạo thói quen xấu cho người dùng, cũng như xây dựng những kỳ vọng phi thực tế khi họ tìm kiếm bạn đời.
"Ngay cả khi công nghệ chưa thể mô phỏng hoàn toàn quan hệ giữa người với người, một số người vẫn cho rằng nó tốt hơn so với việc không có gì", Brooks nói với Guardian. "Liệu có thể chấp nhận việc một công ty bất ngờ thay đổi sản phẩm, xóa bỏ toàn bộ tình bạn và tình yêu được người dùng xây dựng không? Hay liệu chúng ta trông đợi rằng người dùng sẽ coi quan hệ AI như với người thật?".
Belinda Barnet, giảng viên truyền thông tại Đại học Swinburne của Australia, cũng cho rằng chatbot AI lãng mạn có thể đáp ứng nhu cầu người dùng, nhưng cũng phụ thuộc vào quy định và cách nó được huấn luyện, tương tự các AI khác. "Chưa thể xác định tác động thực sự của nó. Chúng ta cần nhiều quy định quản lý hơn, đặc biệt là về cách đào tạo những hệ thống như vậy", Barnet cho hay.
Bảo Lâm