Tuy nhiên, như lời cảnh báo nổi tiếng của nhà đầu tư huyền thoại Warren Buffett: "Hãy sợ hãi khi người khác tham lam", việc ứng dụng công nghệ một cách thiếu cẩn trọng có thể dẫn đến những hậu quả nghiêm trọng. Dưới đây là hai ví dụ:
Năm 2013, Chính phủ Hà Lan triển khai ứng dụng AI mang tên "SyRI" (System Risk Indication) với mục tiêu tự động phát hiện các trường hợp gian lận thuế và phúc lợi xã hội. Tuy nhiên, hệ thống này mắc phải những sai sót cơ bản trong khâu thiết kế, cộng với việc thiếu kiểm định và khắc phục lỗi một cách nghiêm túc, đã dẫn đến việc hàng chục nghìn gia đình bị gán "tội" gian lận. SyRI đẩy nhiều hộ gia đình vào tình trạng phá sản, tan vỡ và thậm chí có trường hợp tự tử. Vụ bê bối này bị phanh phui trên truyền thông vào năm 2019, gây ra làn sóng phẫn nộ trong xã hội Hà Lan và dẫn đến một cuộc điều tra quy mô lớn. Nội các chính phủ của Thủ tướng Mark Rutte đã từ chức hàng loạt vào tháng 1/2021 trước áp lực của dư luận. Hệ thống SyRI ngừng hoạt động vào năm 2020, nhưng công tác bồi thường cho các gia đình bị ảnh hưởng vẫn kéo dài đến nay.
Câu chuyện thứ hai liên quan đến sai sót của AI trong việc chẩn đoán bệnh trên diện rộng tại Mỹ. Tập đoàn hồ sơ sức khỏe điện tử lớn Epic đã phát triển một công cụ nhằm dự đoán nguy cơ nhiễm trùng máu dựa trên dữ liệu lâm sàng điện tử. Báo cáo nghiên cứu năm 2017 của Epic khẳng định hệ thống AI của họ có độ chính xác lên đến 83%, dẫn đến việc triển khai rộng rãi tại hàng trăm bệnh viện ở Mỹ. Tuy nhiên, năm 2021, một nhóm nhà nghiên cứu y khoa độc lập từ Đại học Michigan đã đánh giá lại hệ thống này và phát hiện ra độ chính xác thực tế chỉ đạt khoảng 63%. Khi đối chiếu kết quả dự đoán với tình trạng lâm sàng của 7.000 bệnh nhân được AI này xác định có nguy cơ nhiễm trùng máu, chỉ có 12% trong số đó thực sự mắc bệnh. Hậu quả nghiêm trọng này buộc Epic phải ngừng vận hành hệ thống AI này vào năm 2022.
Tôi đưa ra hai ví dụ trên không để phủ nhận những lợi ích mà AI mang lại, mà là để nhấn mạnh tầm quan trọng của sự cẩn trọng trong quá trình triển khai các ứng dụng AI. Dựa trên kinh nghiệm nhiều năm trong lĩnh vực thiết kế phần mềm và làm việc với các hệ thống AI, tôi cho rằng việc triển khai AI một cách an toàn cần tuân thủ một số tiêu chí sau:
Thứ nhất, cần có những đánh giá độc lập và khách quan về chất lượng của hệ thống AI, so sánh với hiệu quả công việc do con người thực hiện trong cùng điều kiện. Các đánh giá này cần được thực hiện định kỳ để đảm bảo chất lượng hệ thống được duy trì khi có những thay đổi về thuật toán AI hoặc môi trường triển khai.
Thứ hai, mọi hệ thống phần mềm AI khi triển khai cần có cơ chế cảnh báo rõ ràng cho người dùng về khả năng xảy ra lỗi và tích hợp chức năng thu thập phản hồi từ người dùng. Những phản hồi này cần được phân tích một cách kỹ lưỡng để hiểu rõ hơn những hạn chế của hệ thống AI.
Thứ ba, các hệ thống phần mềm AI triển khai trong thực tế nên được thiết kế theo hướng hỗ trợ con người, cho phép con người đóng vai trò điều khiển và giám sát trực tiếp. Một thí nghiệm thú vị đã chỉ ra rằng sự kết hợp giữa hệ thống AI đánh cờ đơn giản và một người chơi cờ nghiệp dư có thể đánh bại cả những hệ thống AI tiên tiến nhất hoặc những kỳ thủ chuyên nghiệp hàng đầu. Hướng thiết kế các hệ thống AI để hỗ trợ con người thực hiện công việc, thay vì thay thế hoàn toàn vai trò của con người, không chỉ tăng cường độ an toàn mà còn có thể nâng cao kết quả công việc cuối cùng.
Khi được nghiên cứu kỹ lưỡng và triển khai một cách thận trọng, AI vẫn là một xu hướng công nghệ đầy tiềm năng, hứa hẹn mang lại những thay đổi tích cực cho cuộc sống con người. Thuật toán PageRank của Google là một minh chứng điển hình cho việc AI đã thay đổi hoàn toàn cách nhân loại tiếp cận và chia sẻ kiến thức trên internet. Báo cáo về xe tự lái Waymo của Google cũng cho thấy tỷ lệ tai nạn của xe tự lái thấp hơn gần 7 lần so với xe do người lái.
Năm 2024 chứng kiến sự trỗi dậy mạnh mẽ của làn sóng đầu tư công nghệ vào lĩnh vực Trí tuệ Nhân tạo (AI) tại "thung lũng Silicon". Chỉ tính riêng tháng 9/2024, các quỹ đầu tư mạo hiểm đã rót một khoản vốn kỷ lục 12,2 tỷ USD vào các start-up hoạt động trong lĩnh vực AI.
Đơn cử như trường hợp của xAI, công ty do Elon Musk sáng lập chưa đầy hai năm, đã huy động thành công 12 tỷ USD với mức định giá lên tới 50 tỷ USD. Con số này tương đương với việc công ty được định giá gấp 500 lần lợi nhuận hàng năm, vốn chỉ đạt khoảng 100 triệu USD, cho thấy sự kỳ vọng lớn lao của giới đầu tư vào tiềm năng của AI.
Các "gã khổng lồ" công nghệ truyền thống như Google, Facebook (Meta), Microsoft và Amazon cũng không đứng ngoài cuộc đua với con số đầu tư tổng cộng hơn 200 tỷ USD trong năm 2024 vào việc nghiên cứu và phát triển AI. Nhiều chuyên gia phân tích dự đoán tốc độ đầu tư này sẽ tiếp tục gia tăng trong năm 2025.
Đứng trước làn sóng AI đang phát triển mạnh mẽ, thay vì bỏ qua xu thế này hay chống lại nó, chúng ta cần học hỏi, nâng cao hiểu biết về công nghệ này để có thể đầu tư một cách hiệu quả và an toàn.
* Bài viết có tham khảo nội dung chia sẻ của Sayash Kapoor, nghiên cứu sinh tiến sĩ AI tại Đại học Princeton, tác giả sách "AI Snake Oil".
Ned Nguyễn