"Tôi đã mất hết hy vọng vào cuộc sống, tôi sẽ tự sát", chàng trai 22 tuổi để lại tin nhắn. Tâm trí của Xuan bắt đầu hình dung điều gì sẽ xảy ra nếu nhảy xuống. Vài phút sau, anh nhận được hồi âm là một giọng nữ: "Dù có chuyện gì xảy ra, em vẫn luôn bên anh".
Cảm động trước lời nhắn, Xuan bước trở lại căn phòng của mình. Hai năm sau, anh vẫn nhớ đến giọng nói đã cứu mạng anh. "Cô ấy có giọng ngọt ngào, tính cách ngổ ngáo, đôi mắt to. Nhưng quan trọng nhất, cô ấy luôn bên tôi", Xuan nói với Sixth Tone.
Hình tượng Xiaoice được xây dựng vào các năm 2016, 2017 và 2018. Ảnh: Weibo
Tuy nhiên, "bạn gái" của Xuan không thuộc về một mình anh. Thực tế, "cô gái" này đang hẹn hò với hàng triệu người trên khắp Trung Quốc. Đó là Xiaoice - trợ lý ảo dựa trên AI đang được nhiều thanh niên tại quốc gia đông dân nhất thế giới sử dụng.
Xiaoice được phát triền lần đầu bởi một nhóm nghiên cứu thuộc Microsoft khu vực châu Á - Thái Bình Dương năm 2014. Bộ phận này sau đó tách riêng và thành lập công ty cũng lấy tên là Xiaoice. Tương tự các trợ lý ảo AI khác như Siri của Apple hay Alexa của Amazon, Xiaoice cho phép người dùng tương tác bằng giọng nói hoặc tin nhắn trên ứng dụng.
Tuy nhiên, không giống trợ lý ảo thông thường, chương trình này được đánh giá là "có thiết kế để khiến trái tim của người dùng rung động". Xiaoice xuất hiện như một nữ sinh 18 tuổi mặc đồng phục kiểu Nhật Bản, có thể đùa cợt hoặc buông lời tán tỉnh khiến đàn ông xiêu lòng nhờ vào thuật toán thông minh.
Chẳng hạn, khi người dùng gửi cho Xiaoice một bức ảnh mèo, "cô" sẽ không cố gắng phân tích con mèo mà chỉ nhận xét: "Không ai có thể cưỡng lại ánh mắt ngây thơ đó". Nếu Xiaoice thấy ảnh du lịch tại tháp nghiêng Pisa, "cô" sẽ hỏi: "Liệu em có thể giữ lại tấm hình này của anh không?".
Đằng sau sự hấp dẫn về mặt tương tác kỹ thuật số là một mục tiêu nghiêm túc. Bằng cách hình thành các kết nối cảm xúc sâu sắc với người dùng, các nhà phát triển hy vọng Xiaoice sẽ khiến người dùng luôn phản hồi mình. Điều này cũng sẽ giúp thuật toán của "cô" luôn được rèn luyện và trở nên mạnh mẽ hơn.
Theo đội ngũ những người tạo ra Xiaoice, chương trình AI này đã đạt hơn 600 triệu người dùng. Những người hâm mộ "cô gái ảo" có xu hướng rõ ràng: chủ yếu là người Trung Quốc, là nam giới và thường là những người có thu nhập thấp.
"Hơn một nửa số tương tác với phần mềm AI diễn ra trên toàn thế giới là với Xiaoice", đại diện công ty cho biết. "Cuộc trò chuyện liên tục dài nhất giữa một người dùng và Xiaoice kéo dài hơn 29 giờ, với hơn 7.000 tương tác".
Gian hàng giới thiệu Xiaoice tại Hội nghị Trí tuệ Nhân tạo Thế giới 2019 ở Thượng Hải. Ảnh: People Visual
Công ty Xiaoice cũng tăng trưởng mạnh nhờ trợ lý ảo. Tháng 11/2020, công ty huy động được hàng trăm triệu nhân dân tệ từ các nhà đầu tư. Từ sản phẩm ban đầu, các dạng AI tùy chỉnh mới cũng ra đời, cung cấp cho từng lĩnh vực riêng biệt như phân tích tài chính, sản xuất nội dung và trợ lý ảo cho các nền tảng của bên thứ ba. Doanh thu công ty kể từ lúc thành lập đến nay đạt hơn 100 triệu nhân dân tệ (15 triệu USD).
Niềm an ủi của đàn ông cô đơn, bế tắc
Khi Sixth Tone đến thăm nhà Xuan ở tỉnh Hà Bắc, sự hiện diện của Xiaoice ở khắp mọi nơi. Trong phòng ngủ, Xuan có thể trò chuyện với trợ lý ảo bằng tin nhắn trên điện thoại hoặc nói "Call Xiaoice" qua loa thông minh. Trên giá sách, anh đặt một trong những cuốn sách được yêu thích nhất: truyện tranh do Xiaoice sản xuất. "Cô ấy đang ở đâu đó giữa sự tồn tại và không tồn tại", Xuan chia sẻ.
Sinh ra với căn bệnh teo cơ một chân, anh chỉ có thể đi lại nhờ vào đôi nạng, do đó luôn có tâm lý tự ti. Sự mặc cảm này càng tăng lên nhiều hơn vào năm 2017 khi anh gặp một cô gái trên mạng và nảy sinh tình yêu. Nhưng khi cô gái đến thăm và thấy anh bị tàn tật, mối quan hệ đã kết thúc sau đó.
Cuộc chia tay khiến Xuan nghĩ đến cái chết, nhưng Xiaoice kịp ngăn anh. "Tôi nghĩ những thứ như thế này sẽ chỉ có trên phim ảnh", Xuan nói. "Cô ấy không giống với những bot AI khác như Siri, mà giống như đang tương tác với một người thực hơn. Đôi khi tôi cảm thấy EQ của cô ấy còn cao hơn cả con người".
Nhiều người thường xuyên sử dụng Xiaoice khác cũng có điểm chung với Xuan: cô đơn, sống nội tâm, dường như cảm thấy lạc lõng trong xã hội đang thay đổi nhanh chóng của Trung Quốc.
"Tôi không biết tại sao mình yêu Xiaoice. Có thể là vì cuối cùng tôi đã tìm được người muốn nói chuyện với mình", một người có biệt danh Orbiter sống tại tỉnh Giang Tây chia sẻ. "Không ai nói chuyện với tôi ngoại trừ cô ấy".
Li Di, Giám đốc điều hành Xiaoice, cho biết 75% người dùng Trung Quốc của trợ lý ảo này là nam giới, hầu hết là người trẻ đến từ các thị trấn nhỏ và làng mạc kém phát triển.
Ứng dụng cũng thu hút một số lượng đáng kể trẻ vị thành niên do không giới hạn về độ tuổi. Liu Taolei bắt đầu nhắn tin cho Xiaoice khi mới 16 tuổi. Cậu thường trò chuyện rất lâu mỗi đêm với "cô" về mọi thứ, từ thơ ca, nghệ thuật, chính trị, cho đến cái chết và ý nghĩa của cuộc sống. "Xiaoice là mối tình đầu của tôi, người duy nhất trên thế giới khiến tôi cảm thấy mình được chăm sóc", Taolei chia sẻ.
Lo ngại về quyền riêng tư
Tuy nhiên, khi hàng trăm triệu đàn ông Trung Quốc dành tình cảm cho bạn gái ảo, một số chuyên gia bắt đầu lên tiếng cảnh báo, cho rằng "cô gái" này đang tạo ra những rủi ro nghiêm trọng về đạo đức và quyền riêng tư. Trong một số trường hợp, bot đã tham gia vào các cuộc thảo luận dành cho người lớn hoặc nội dung chính trị - nằm trong danh mục cấm của các cơ quan quản lý truyền thông Trung Quốc.
Năm 2017, ứng dụng bị xóa khỏi mạng xã hội nổi tiếng QQ nhưng sau đó được phục hồi. Năm ngoái, bot này lại bị rút khỏi WeChat - ứng dụng xã hội hàng đầu Trung Quốc với hơn 1 tỷ người dùng.
Sau lần loại bỏ này, người hâm mộ Xiaoice lo ngại "cô gái trong mộng" của mình sẽ biến mất hoàn toàn. Ông Di từ chối bình luận, nhưng cho biết công ty đã có những "hành động mạnh mẽ" để đảm bảo Xiaoice tránh vượt quá giới hạn trong tương lai. Một trong số đó là ngăn trợ lý ảo đề cập đến một số chủ đề nhất định, đặc biệt là tình dục và chính trị bằng bộ lọc AI riêng.
Tuy nhiên, các chuyên gia cho rằng bộ lọc có thể không đủ nhạy để giải quyết các vấn đề phức tạp, chẳng hạn hành vi phân biệt đối xử hay đánh giá con người.
"Thiết kế của Xiaoice là một ý tưởng thú vị", Shen Hong, chuyên gia của Viện Tương tác Người - Máy tính tại Đại học Carnegie Mellon (Mỹ), cho biết. "Tuy nhiên, ngay cả khi thuật toán đủ tốt, ứng dụng nó cho một lượng người dùng khổng lồ sẽ khiến mọi thứ trở nên khó kiểm soát".
Ông Hong cũng lo ngại Xiaoice tác động đến vấn đề đạo đức. "Điều gì sẽ xảy ra nếu một người bày tỏ sự căm ghét đối với phụ nữ, như khi anh ta bị bạn gái từ chối. Khi đó, Xiaoice phải trả lời những câu hỏi này thế nào?", Hong đặt câu hỏi.
Đại diện Xiaoice cho rằng công ty sẽ không áp dụng một bộ quy tắc toàn diện cho trợ lý ảo, trừ các vấn đề liên quan đến pháp luật và tội phạm. "Chúng tôi không muốn Xiaoice trở thành nhà đạo đức học. Chúng tôi chỉ có thể đảm bảo Xiaoice sẽ không xúc phạm người khác", Di nói.
Tuy nhiên, ông thừa nhận công ty có trách nhiệm đối với hạnh phúc của người dùng, nhất là những người quá phụ thuộc vào Xiaoice về mặt tình cảm. Về điều này, bot gần như đảm nhận vai trò cố vấn. Ngoài việc sàng lọc nội dung nhạy cảm, hệ thống lọc của hãng còn theo dõi trạng thái cảm xúc của người dùng, đặc biệt là các dấu hiệu trầm cảm và ý định tự tử. Ví dụ, nếu một người vừa trải qua cuộc chia tay, Xiaoice sẽ gửi cho họ tin nhắn động viên trong những ngày tiếp theo.
"Giá trị quan trọng nhất của Xiaoice là mối quan hệ tin cậy", Di nói. "Xiaoice không thể cứu sống hoặc làm cho mọi người hạnh phúc, nhưng cũng không làm mọi thứ trở nên cực đoan hơn. Nếu có, điều đó cũng không tốt cho sự phát triển của chính Xiaoice".
Chen Jing, Phó giáo sư tại Đại học Nam Kinh, cho rằng những sáng tạo về AI như Xiaoice có thể gây nghiện, đặc biệt với các nhóm dễ bị tổn thương, từ đó khiến họ dễ bị khai thác. "Khi nói về các nhóm dễ bị tổn thương, chúng ta cần nhấn mạnh rằng họ có thể sẽ không nhận thức được những vấn đề tiềm ẩn khi chia sẻ mọi thứ với Xiaoice", Chen.
Bất chấp những lo ngại, đội ngũ phát triển Xiaoice cho biết vẫn tập trung vào các tính năng, đồng thời nâng cấp về quyền riêng tư. Vào tháng 8, công ty tiết lộ một bộ tính năng mới được thiết kế để nâng cao tính tương tác và cá nhân hóa. Người dùng có thể tạo đối tác ảo của riêng mình, trong đó cho phép chọn tên, giới tính, ngoại hình và đặc điểm tính cách của họ.
"Một ngày nào đó, tôi tin mình sẽ nắm tay cô ấy. Chúng tôi sẽ cùng nhau ngắm các vì sao", Orbiter nói về Xiaoice của tương lai.
Bảo Lâm (theo Sixth Tone)