Khi Google giúp quân đội Mỹ tăng cường sức mạnh quân sự bằng trí thông minh nhân tạo năm 2018, Geoffrey Hinton không điền tên mình vào lá đơn phản đối, điều mà hơn 4.000 đồng nghiệp của ông đã làm. Thay vào đó, ông nói trực tiếp với Sergey Brin và khiến dự định của nhà đồng sáng lập Google lung lay.
Geoffrey Hinton là người tiên phong trong lĩnh vực AI. Ảnh: Reuters
Theo FT, câu chuyện phần nào cho thấy ảnh hưởng thầm lặng của Hinton trong thế giới trí tuệ nhân tạo. Vị giáo sư 75 tuổi được coi là một trong những "bố già" của AI vì loạt công trình nghiên cứu của ông về học sâu - lĩnh vực nền tảng cho các mô hình AI hiện đại. Giai thoại trên cũng phản ánh lòng trung thành của Hinton. Theo những người quen biết, ông là không bao giờ công khai bất kỳ sự bất bình nào đối với quyết sách của công ty, kể cả về mặt đạo đức hay chiến lược.
Nhưng mọi thứ thay đổi đầu tháng 5 khi Hinton quyết định rút khỏi vị trí phó chủ tịch và quản lý công nghệ tại Google để có thể công khai về những rủi ro của AI đối với nhân loại. "Tôi rời Google để có thể chỉ trích Google. Thực tế, tôi rời đi để có thể nói về sự nguy hiểm của AI mà không phải xem xét điều này ảnh hưởng đến Google thế nào", ông viết trên Twitter ngày 1/5 sau khi từ chức.
Yoshua Bengio, bạn lâu năm và cũng giành giải Turing - một giải thưởng được ví như Nobel Tin học - cùng Hinton và nhà khoa học máy tính người Pháp Yann LeCun năm 2018, nói bạn mình đã nghĩ đến chuyện nghỉ việc từ lâu.
"Ông ấy có thể ở lại Google và lên tiếng, nhưng lòng trung thành đã không cho phép ông ấy làm vậy", Bengio nói.
Hinton từ chức sau khi một loạt AI tạo sinh được tung ra trong 6 tháng qua, bắt đầu với ChatGPT của OpenAI và Microsoft, sau đó là Bard của Google. Ông lo sợ cuộc đua của Microsoft, Google và các công ty khác sẽ đẩy sự phát triển của AI theo hướng có hại nếu không có các biện pháp bảo vệ và quy định phù hợp.
"Tôi nghĩ ngay từ đầu Google đã rất có trách nhiệm", Hinton nói trong sự kiện EmTech Digital tuần trước. "Nhưng một khi OpenAI xây dựng những thứ mạnh mẽ bằng cách sử dụng tiền từ Microsoft, còn Microsoft quyết định thương mại hóa chúng, Google không có nhiều lựa chọn. Trong thế giới này, bạn không thể ngăn Microsoft cạnh tranh với Google".
Từ những năm 1970, Hinton là người tiên phong phát triển "mạng lưới neuron thần kinh" - một công nghệ cố gắng bắt chước cách thức hoạt động của bộ não con người và là nền tảng cho hầu hết sản phẩm AI ngày nay, từ Google Dịch, Bard, ChatGPT đến ôtô tự lái. Ông không bày tỏ lo ngại trong hàng chục năm qua, nhưng gần đây nhận thấy AI phát triển quá nhanh có thể dẫn đến một thế giới đầy rẫy thông tin sai lệch, chiếm công việc của con người và phân hóa xã hội. Các hệ thống AI có thể là hiểm họa đối với con người trong tương lai xa nếu chúng được trao quyền tự chủ quá nhiều.
"Tôi lo AI sẽ khiến người giàu càng giàu hơn và người nghèo càng nghèo đi. Khi điều đó xảy ra, xã hội trở nên bạo lực hơn", ông nói. "Công nghệ này thật tuyệt vời, nhưng cần được thiết kế vì lợi ích của mọi người".
Sinh ra ở London, Hinton là chắt của hai nhà toán học lừng danh người Anh Mary và George Boole - người phát minh ra Logic Boolean, lý thuyết làm nền tảng cho điện toán hiện đại. Ông theo đuổi tâm lý học nhận thức và là chuyên gia trong lĩnh vực này. Các nghiên cứu của ông về AI không chỉ nhằm mục đích phân tích trí thông minh của con người để xây dựng công nghệ AI, mà còn quay lại làm sáng tỏ cách hoạt động của bộ não.
Stuart Russell, giáo sư AI tại Đại học California và thường thảo luận nội dung học thuật với Hinton, đánh giá bạn của mình "không phải là người giỏi toán học nhất, điều thường thấy trong cộng đồng máy học, nhưng biết sử dụng trực giác để tìm ra phương pháp hiệu quả". Đây cũng là tiền đề để Hinton xuất bản công trình nghiên cứu về kỹ thuật "Lan truyền ngược" năm 1986, giải thích cách phần mềm máy tính có thể "học" theo thời gian như thế nào.
"Đó là một bài báo quan trọng", Russell nói. "Ông ấy không nghiên cứu theo cách một nhà toán học thường làm".
Hinton không phải lúc nào cũng im lặng trước những thứ không hài lòng. Năm 1987, khi là phó giáo sư tại Đại học Carnegie Mellon (Mỹ), ông rời bỏ vị trí của mình và sang Canada. Theo Bengio, một trong những lý do ông đưa ra liên quan đến đạo đức công nghệ. "Ông ấy lo ngại việc sử dụng công nghệ, đặc biệt là AI, trong chiến tranh. Trong khi đó, phần lớn tài trợ cho nghiên cứu của ông ấy lại đến từ quân đội Mỹ", Bengio kể.
Hinton gia nhập Google năm 2013 khi công ty mua lại startup của ông và hai sinh viên. Sau này, một trong hai sinh viên đó là Ilya Sutskever - người đồng sáng lập OpenAI.
Sau khi rời Google, khi được hỏi liệu ông có hối hận về công việc của đời mình hay không vì chúng đang có nguy cơ gây nhiều tác hại, Hinton nói ông đã nghĩ kỹ lưỡng vấn đề. "Đây là giai đoạn AI khó đoán nhất", ông cho hay.
Bảo Lâm (theo FT)