Kaliouby từng là học giả tại Đại học Cambridge tại Anh và Viện Công nghệ Massachusetts (MIT) ở Mỹ, sau đó đồng thành lập và điều hành startup chuyên về AI mang tên Affectiva. Cô đã nghiên cứu lĩnh vực Tương tác Con người Robot (HRI) trong suốt hơn 20 năm qua.
"Công nghệ hiện nay có chỉ số thông minh (IQ) rất cao, nhưng chỉ số cảm xúc (EQ) bằng không. Chúng ta đang đối diện với một cuộc khủng hoảng về sự đồng cảm. Chúng ta cần tái thiết kế các công nghệ để xoay quanh con người nhiều hơn", Kaliouby nói.
Đây không phải vấn đề khi máy tính chỉ thực hiện các công việc hậu trường như xử lý dữ liệu. Tuy nhiên, nó ngày càng trở thành mối lo ngại khi máy móc được triển khai trong những vai trò "mặt tiền" như trợ lý kỹ thuật số và robot lái xe. Máy tính ngày càng phải tương tác trực tiếp với những người hoàn toàn ngẫu nhiên trong môi trường liên tục thay đổi.
Phần mềm nhận diện cảm xúc của tài xế đang được Affectiva phát triển. Ảnh: Affectiva.
Nhu cầu này đã dẫn tới sự xuất hiện nhanh chóng của AI Cảm xúc (EAI) với mục tiêu cải thiện tương tác giữa con người và máy móc, từ đó xây dựng lòng tin vào thiết bị điện tử. Dù vậy, một số nhà nghiên cứu tỏ ra lo ngại rằng EAI có thể gây tác dụng ngược, có thể làm người dùng mất niềm tin vào máy móc nếu bị lạm dụng để tác động vào khách hàng.
Về cơ bản, EAI tìm cách xác định và phản ứng với cảm xúc con người bằng cách đọc biểu cảm khuôn mặt, quét chuyển động mắt, phân tích âm lượng và tìm kiếm tình cảm thể hiện qua email. Nó đã được ứng dụng trong nhiều ngành công nghiệp từ giải trí, game, quảng cáo đến các trung tâm chăm sóc khách hàng và bảo hiểm.
Công ty tư vấn Gartner dự báo 10% thiết bị cá nhân sẽ chứa công nghệ nhận diện cảm xúc trước năm 2022. Tập đoàn Amazon đã đăng ký bản quyền cho công nghệ nhận diện cảm xúc, cho phép các phần mềm như Alexa phát hiện người dùng đang vui mừng, tức giận, buồn, sợ hãi hay căng thẳng. Điều đó cho phép thiết bị chọn các bản nhạc phù hợp hoặc đưa ra đề nghị mua hàng hợp ý chủ nhân.
Affectiva cũng phát triển hệ thống nhận diện cảm xúc trong ôtô, sử dụng camera và microphone để xác định tài xế có buồn ngủ, mất tập trung hay cáu giận hay không, từ đó tự động điều chỉnh dây an toàn hoặc giảm nhiệt độ điều hòa trong xe.
Tập đoàn Fujitsu của Nhật cũng đang tích hợp cảm biến "tầm nhìn thẳng" trong hình nộm tại cửa hàng để gửi thông báo tới các nhân viên bán hàng gần đó, đề xuất cách họ có thể tiếp thị dịch vụ tới khách hàng tiềm năng.
Báo cáo gần đây của Accenture về EAI cho rằng công nghệ có thể tăng cường tương tác với người dùng, nhưng đồng thời cũng cảnh báo việc sử dụng dữ liệu cảm xúc có nhiều nguy cơ, nhất là khi chúng cần tới sự thân mật rất cao và có thể xâm phạm đời tư của nhiều khách hàng, dẫn tới sai lầm khó sửa chữa.
Viện AI Now, trung tâm nghiên cứu đặt trụ sở tại Đại học New York, cũng nhấn mạnh những thiếu sót trong phần lớn công nghệ EAI hiện nay, cho rằng chúng không nên là cách duy nhất để đưa ra những quyết định cần đánh giá từ con người như thuê nhân công, tính phí bảo hiểm, xếp loại học lực hoặc đánh giá mức độ đau đớn.
"Gần như không có bằng chứng cho thấy các sản phẩm EAI có giá trị về mặt khoa học", báo cáo của Viện AI Now có đoạn viết.
Kaliouby cho rằng EAI có thể là công cụ quan trọng để nhân cách hóa công nghệ. Nghiên cứu học thuật của cô tập trung vào phương án để công nghệ nhận diện khuôn mặt có thể giúp trẻ tự kỷ hiểu được cảm xúc. Tuy nhiên, Kaliouby cũng khẳng định công nghệ chỉ nên được sử dụng khi người dùng đồng ý và bảo lưu quyền ngừng dịch vụ bất cứ lúc nào.
"Đó là lý do công chúng cần hiểu bản chất công nghệ, cách thu thập và lưu trữ dữ liệu, cũng như góp ý về cách chúng được triển khai. Những mối nguy hại của EAI xoay quanh hai vấn đề, chúng có thể hoạt động tồi tệ và gây ra hậu quả xấu, hoặc vận hành quá tốt và mở đường cho những người muốn lạm dụng công nghệ. Những công ty triển khai và các cơ quan kiểm soát công nghệ đều sẽ phải bảo đảm cân bằng cho người dùng", Kaliouby nói.
Điệp Anh (theo Financial Times)