Một phần quan trọng trong việc thuyết phục các nhà đầu tư và khách hàng của Lemonade là khả năng tạo đột phá trong ngành bảo hiểm lâu đời nhờ trí tuệ nhân tạo. Họ mô tả về các chatbot thân thiện như AI Maya và AI Jim, giúp khách hàng nhanh chóng đăng ký bảo hiểm sức khỏe hay gửi yêu cầu thông qua ứng dụng của Lemonade. Công ty đã huy động được hàng trăm triệu USD từ các nhà đầu tư, phần lớn nhờ định vị bản thân là một công cụ bảo hiểm hỗ trợ bởi AI.
Tuy nhiên, chưa đầy một năm sau khi ra mắt thị trường đại chúng, Lemonade lại đang gặp khủng hoảng truyền thông vì chính công nghệ AI của mình. Đầu tuần này, công ty khoe trên Twitter rằng AI của họ sẽ phân tích các video mà khách hàng gửi đến khi nộp yêu cầu bảo hiểm, và có khả năng nhận ra "những dấu hiệu không lời mà các công ty bảo hiểm truyền thống không thể do không sử dụng quy trình kỹ thuật số".
Những tweet này lập tức gây ra phản ứng dữ dội. Một số người dùng Twitter tỏ ra hoàng sợ trước việc các yêu cầu bảo hiểm của khách hàng Lemonade có thể được AI xem xét dựa trên các yếu tố khó giải thích, không khách quan được phân tích từ các bản video của khách hàng.
"Là một nhà giáo dục chuyên thu thập các ví dụ về những trò lừa AI để cảnh báo sinh viên về những công nghệ có hại ngoài kia, tôi cảm ơn vì dịch vụ 'xuất sắc' của các bạn", Arvind Narayanan, phó giáo sư khoa học máy tính tại Đại học Princeton, viết trên Twitter.
Lemonade thu hút nhà đầu tư nhờ ứng dụng AI trong bảo hiểm, nhưng lại đang bị tai tiếng vì AI. Ảnh: Business Wire.
Trong bài đăng trên blog ngày 26/5, Lemonade cho biết đã xóa "chuỗi tweet kinh khủng" mà họ đăng hôm đầu tuần. Công ty giải thích rằng, việc sử dụng cụm từ "dấu hiệu không lời" là sự lựa chọn từ ngữ sai lầm. Quy trình xử lý yêu cầu bảo hiểm của họ không hề phân biệt đối xử khách hàng thông qua việc dùng AI để nhận dạng khuôn mặt và phân tích ngoại hình, hành vi hay bất kỳ đặc điểm cá nhân - thể chất nào. "Tín hiệu không lời" ở đây là việc họ nhận dạng khuôn mặt để phát hiện một người gửi nhiều đơn với nhiều danh tính khác nhau.
"Tai nạn" của Lemonade là lời cảnh báo cho xu hướng ngày càng nhiều các công ty đang dùng AI như một thuật ngữ tiếp thị. Nó cũng cho thấy những thách thức của trí tuệ nhân tạo.
AI có thể được ứng dụng để tăng năng suất, giao tiếp tự động với khách hàng, hay đẩy nhanh quá trình tiếp nhận bảo hiểm hoặc nộp đơn yêu cầu... Tuy nhiên, không phải lúc nào AI cũng rõ ràng trong việc tại sao nó làm thế, hay nó đưa ra quyết định như thế nào. Chẳng hạn, dù ngày càng phổ biến, công nghệ nhận dạng khuôn mặt vẫn luôn gây tranh cãi và hoạt động kém chính xác khi nhận dạng người da màu.
Minh Minh (theo CNN)