My AI được xây dựng dựa trên mô hình ChatGPT của OpenAI. Thay vì chỉ đưa ra các đề xuất, trả lời câu hỏi và trò chuyện thông thường, chatbot của Snapchat có thể tùy chỉnh tên, thiết kế hình đại diện và xuất hiện trong cuộc trò chuyện nhóm.
Tuần trước, My AI đã có hành động bất thường. Nhiều người cho biết chatbot tự đăng video lên tài khoản cá nhân và viết những nội dung tự sáng tác. Một số người nói chatbot "ngó lơ" tin nhắn của mình. "Ngay cả một botAI cũng không có thời gian cho tôi", một người viết. Hành động lạ của My AI khiến một số người dùng tưởng rằng AI đã có suy nghĩ riêng. Đại diện Snapchat sau đó thừa nhận hệ thống AI của họ gặp một số trục trặc và đã được khắc phục.
My AI trên Snapchat. Ảnh: Foundry
Sự cố đăng bài chỉ là vấn đề mới nhất với những chatbot như My AI. Từ khi ra mắt vào tháng 4, công cụ của Snapchat đã vấp phải phản ứng từ cộng đồng. Nhiều người cho biết họ đã cấm con cái dùng My AI. Số khác chấp nhận trả phí 3,99 USD (95 nghìn đồng) mỗi tháng để tắt công cụ này.
Trong thư gửi CEO Snapchat khi đó, Thượng nghị sĩ đảng Dân chủ Michael Bennet chỉ ra những lo ngại về cách chatbot tương tác với người dùng. Ông đề cập đến việc AI có thể dạy trẻ nhỏ cách nói dối cha mẹ.
Đáp lại, Snapchat viết trên blog của công ty: "My AI cần thêm thời gian để trở nên hoàn hảo nhưng công ty đã đạt được nhiều tiến bộ".
Đến nay Snapchat vẫn duy trì My AI trên nền tảng, bất chấp cảnh báo từ các chuyên gia. Do được tùy chỉnh sâu hơn ChatGPT, My AI có thể trò chuyện với người dùng một cách tự nhiên đến mức nhiều người khó nhận biệt được đâu là AI, đâu là người thật.
Lyndsi Lee, sống tại East Prairie, Missouri (Canada), cấm con gái 13 tuổi tiếp cận AI này. "Tôi không nghĩ mình đủ sẵn sàng để biết cách dạy con cách phân biệt giữa người và máy móc. Snapchat có thể đang vượt qua ranh giới mong manh giữa người và AI", CNN dẫn lời Lee.
Alexandra Hamlet, nhà tâm lý học lâm sàng ở New York, cho biết cha mẹ của một số bệnh nhân đã bày tỏ lo ngại khi con họ tương tác với AI. "Nếu một thiếu niên đang có tâm trạng tiêu cực và không làm chủ được cảm xúc, chatbot có thể khiến họ cảm thấy tồi tệ hơn. Theo thời gian, những cuộc nói chuyện tiêu cực có thể ăn mòn tinh thần của người trẻ. Dù ý thức được mình đang nói chuyện với chatbot, họ vẫn khó tránh được những tác động tiêu cực đến tâm lý", Hamlet cảnh báo.
Điều khiến các chuyên gia lo lắng hơn cả là khi OpenAI cho phép các ứng dụng từ bên thứ ba có thể truy cập ChatGPT để tùy biến trên nền tảng, những chatbot như My AI sẽ xuất hiện ngày một nhiều.
Khương Nha (theo CNN)