Nguy cơ 'dính bẫy' khi nghe AI chỉ đường

Du khách ngày càng dựa vào trí tuệ nhân tạo để lên kế hoạch chuyến đi ngoài trời, dẫn đến nhiều sự cố nguy hiểm cần cứu hộ khẩn cấp.

Các chatbot có thể tổng hợp thông tin kém tin cậy từ mạng xã hội để tạo ra bản đồ và lời khuyên về lộ trình có vẻ uy tín nhưng không thực tế, gây ra rủi ro nghiêm trọng khi di chuyển ở nơi hoang dã hoặc hiểm trở.

Theo Wired, ba người leo núi từng phải gọi cứu hộ từ một vách đá cheo leo trên núi Shasta ở Bắc California, Mỹ, hồi cuối tháng 8, họ đã phạm phải một chuỗi sai lầm liên tiếp. Cả nhóm không mang đủ đồ ăn và đánh giá quá cao thể lực của mình. Thay vì quay lại vào cuối buổi chiều khi thấy chưa lên tới nơi, họ cố leo lên đỉnh lúc 7 rưỡi tối rồi phải mò mẫm xuống núi trong bóng tối. Sau này, nhóm du khách thừa nhận việc thiếu chuẩn bị và lên kế hoạch kém một phần do quá tin tưởng vào chatbot Gemini của Google. Kết quả là sáng hôm sau, họ bị lạc ở khu vực địa hình hiểm trở trên núi và một người trong nhóm bị chấn thương ở đầu gối.

Họ không phải là những người duy nhất mắc sai lầm trong khu vực hoang dã khi tìm kiếm sự trợ giúp từ AI. Theo Nick Meyers, quản lý tại Trung tâm Leo núi và Tuyết lở Hoang dã Núi Shasta, một du khách khác từng dựng lều gần biển báo "Cấm cắm trại", khăng khăng đòi ở lại vì AI bảo cô được phép. Đội của Meyers cũng gặp một người đàn ông lang thang ở đầu đường mòn với bản đồ do AI tạo ra, đánh dấu những địa điểm nổi tiếng ở nhầm phía của ngọn núi lân cận.

Theo People, đầu tháng 10, tổ chức cứu hộ phi lợi nhuận North Shore Rescue phải huy động trực thăng giải cứu một thiếu niên16 tuổi mắc kẹt trên gờ đá ở tuyến đường Widowmaker Arete phía sau núi Crown tại tỉnh British Columbia, Canada. Thiếu niên này sử dụng chatbot Claude của Anthropic để lập kế hoạch chuyến đi.

Meyers nhấn mạnh cần theo dõi để xác định liệu lạm dụng AI có làm tăng số tai nạn và vụ cứu hộ ở vùng hẻo lánh hay không. Văn phòng của ông quản lý khu vực hoang dã rộng lớn ở Bắc California với số vụ cứu hộ trung bình mỗi năm là 12 và năm 2026 cũng như mọi năm. Trái lại, số cuộc gọi cứu hộ ở bang Wyoming thậm chí còn giảm so với năm ngoái, từ đầu năm 2026 đến nay mới có 312 cuộc gọi trong khi con số năm 2025 là 466 và năm 2024 là 377.

WiseVoter cho biết Vườn quốc gia Grand Teton ở bang Wyoming, Mỹ, ghi nhận số lượng sự cố liên quan tới du khách sử dụng AI để lấy thông tin du lịch tăng đáng kể trong năm qua, từ 0 lên 26%. Chip Jenkins, giám đốc vườn quốc gia, dự đoán xu hướng trên sẽ còn tiếp diễn.

Báo cáo gần đây của công ty nghiên cứu du lịch Phocuswright chỉ ra khoảng 58% du khách Mỹ đang sử dụng AI để lên lộ trình và hơn 60% du khách thuộc thế hệ Millennial và Gen Z đã làm vậy. Tuy nhiên, Jungho Suh, giáo sư quản lý tại Trường Kinh doanh George Washington, cho biết ít nhất một nghiên cứu cho thấy chatbox lập kế hoạch du lịch chỉ chính xác trong 10% trường hợp. Tuy công nghệ đã cải thiện từ khi nghiên cứu mà ông trích dẫn được thực hiện vào năm 2024, chatbot vẫn thường xuyên mắc lỗi vì chúng "dựa vào nguồn dữ liệu cố định có thể lỗi thời và không đầy đủ".

Dùng chatbot AI để hỏi đường hay xin lời khuyên luôn đi kèm những rủi ro riêng. Chatbox có thể bịa ra thông tin sai lệch nhưng nghe qua thuyết phục như thật. Theo Chris Flathmann, giáo sư ngành điện toán tại Đại học Clemson ở Nam Carolina, việc sử dụng chúng dễ dẫn đến tình trạng lười tư duy, phó mặc hoàn toàn cho máy móc.

"Khi làm việc với hệ thống AI, con người có thể lún sâu đến mức từ bỏ tư duy phản biện của chính mình", Flathmann giải thích. "Khi AI giả vờ như chuyên gia ở một chủ đề xa lạ, bạn chẳng thể nào bắt bài nó vì bản thân bạn cũng không hiểu rõ. Một khi bạn lười tư duy phản biện, rất khó kích hoạt lại bộ não, nhất là lúc vào tình huống hoảng sợ ở nơi hoang vu".

Flathmann cũng cảnh báo chatbot có xu hướng nói những gì người dùng muốn nghe. Chúng luôn trả lời rất quả quyết và tự tin, bất kể nguồn thông tin tham khảo có đáng tin hay không. Chẳng hạn, Claude hay ChatGPT có thể đưa ra những hướng dẫn và lời khuyên chi tiết, nghe qua cực kỳ uy tín, nhưng thực chất được nhặt nhạnh từ những cuộc thảo luận trên Reddit, video cũ kỹ trên YouTube, hoặc thậm chí do chúng tự bịa ra.

Trong khi TikTok và Instagram chỉ khơi gợi cảm hứng, AI thường đưa ra hướng dẫn cụ thể (có thể đúng hoặc sai) kèm theo khích lệ. "AI không cố tình lừa mọi người leo núi, nhưng đây là xu thế tất yếu khi chúng ta sử dụng một công cụ như vậy", Flathmann nói với Wired.

Theo AFAR, các chatbot có thể hiểu sai về thế giới thực theo cách đáng lo ngại. Catherine Jackson Moynihan, giám đốc điều hành sống tại Charlottesville, bang Virginia, từng sử dụng ChatGPT để lên kế hoạch cho chuyến đi bằng xe cắm trại từ Outer Banks ở Bắc Carolina đến vùng Boundary Waters thuộc bang Minnesota, với yêu cầu không lái xe quá 6 giờ mỗi ngày. Moynihan chia sẻ chatbox hoạt động khá tốt cho đến khi tới hồ Michigan, nó gợi ý cô lái xe thẳng qua.

Bất kể sử dụng nguồn thông tin nào, các chuyên gia khuyến cáo mọi người cần kiểm tra lại thông tin với nguồn uy tín chính thống khi đến một nơi hoàn toàn mới, ví dụ bản đồ và website cập nhật của cơ quan quản lý đất công, trang web của hiệp hội leo núi, hoặc sách hướng dẫn du lịch. Du khách cũng có thể trao đổi với hướng dẫn viên bản địa hoặc nhân viên kiểm lâm.

An Khang tổng hợp