"Tôi liên tục nhận được các video đề xuất có cảnh phụ nữ mặc trang phục hở hang, nội y và đồ xuyên thấu rồi nhảy nhót hoặc tạo dáng khó hiểu. Tôi tắt ứng dụng vì nó làm tôi không thoải mái", Blackheart cho biết.
Theo Washington Post, Blackheart đang giải quyết một trong những vấn đề phổ biến với người dùng TikTok và các nền tảng tương tự: phải xem các nội dung vốn thu hút nhiều tương tác nhưng phản cảm, như video khêu gợi về phụ nữ hoặc các vấn đề gây sốc.
Lacy Phillips tham gia TikTok từ mùa hè do liên quan đến công việc mới: quản lý nội dung mạng xã hội cho một công ty văn học. Lúc đầu, video đề xuất chủ yếu là "những người đẹp nhưng buồn tẻ". Nhưng sau đó, nền tảng liên tiếp đề xuất các nội dung bạo lực và gây sốc. Phillips phải mất khoảng hai tuần để "huấn luyện" ứng dụng không hiển thị chúng, thay vào đó là các video theo sở thích là K-pop và sách.
Trong khi đó, Geoffrey A. Fowler, nhà báo công nghệ của Washington Post, cũng lập một tài khoản Instagram để đăng ảnh về đứa con mới chào đời. Tuy nhiên, khi lướt Reels, ông liên tục nhận các bài đăng gợi ý về những em bé bị rối loạn sức khỏe nghiêm trọng và hiếm gặp.
Đối với người dùng được một thời gian, các nội dung trên có thể biến mất nhờ thói quen sử dụng. Tuy nhiên, gần như người nào cũng sẽ trải qua giai đoạn bị quá tải bởi các video dạng này.
Lý do TikTok hiển thị nội dung 'sốc' cho người mới
Nhiều người sẽ đặt câu hỏi: Nếu video gây phiền phức, tại sao chúng lại xuất hiện theo mặc định? TikTok sử dụng thuật toán For You đề xuất để xác định một người sẽ xem video nào, dựa trên nhiều loại tín hiệu ban đầu như người đó theo dõi ai hoặc thích nội dung gì.
Quan trọng hơn, video được đề xuất cũng sử dụng thông tin mà người xem không chủ ý chia sẻ, chẳng hạn thời lượng họ xem video và liệu họ có nhấp qua nhận xét hay không. Các ứng dụng cũng ghi nhận các thông tin cơ bản như giới tính và độ tuổi của người xem để đề xuất kết quả phù hợp.
Washington Post đã phân tích 5 ứng dụng có tính năng video ngắn hàng đầu và nhận thấy 4/5 trong số đó đề xuất video khiêu dâm cho người dùng mới. TikTok là ứng dụng nổi tiếng nhất trong số đó, trong khi Reels trên Instagram và Facebook, Spotlight của Snapchat và Shorts của YouTube cũng cố bắt chước thuật toán này.
Trong bài thử nghiệm, TikTok chỉ cần đến video thứ ba là đã xuất hiện nội dung khiêu dâm. Trong khi đó, Reels mất khoảng 5 phút. Các nền tảng còn lại xuất hiện muộn hơn, nhưng gần như tất cả đều có video dạng này. Shorts không có video khiêu dâm trong hầu hết thời gian, nhưng lại liên tục đưa ra đề xuất quảng cáo, thông tin chính trị, phụ nữ mặc váy ngắn và một số clip liên quan đến súng.
Theo các chuyên gia, việc hiển thị video khiêu dâm và các nội dung gây sốc cho những nhóm người không phù hợp đã tồn tại từ lâu. Chúng là đề xuất được ưu tiên vì sinh lợi cho nền tảng.
"Mô hình kinh doanh chung của mọi nền tảng, đặc biệt là mạng xã hội, là giữ chân người dùng càng lâu và càng nhiều càng tốt. Họ cố gắng cung cấp một số nội dung nhất định để khiến người dùng quan tâm và tương tác", Sandra Wachter, giáo sư công nghệ tại Viện Internet Oxford, cho biết. "Sự thật là, những gì khiến đa số mọi người chú ý thường độc hại, gây tranh cãi hoặc tai tiếng".
Các loại thuật toán đều có thể tìm hiểu sở thích của người dùng theo thời gian. Nhưng khi đăng nhập lần đầu, chúng thường không có gì ngoài những video cơ bản dựa trên tùy chọn ngôn ngữ và quốc gia.
"Các nền tảng gọi đây là khởi động nguội. Làm thế nào để đưa ra một dự đoán hành vi mà người dùng chưa có bất kỳ hành vi nào?", Christian Sandvig, Giám đốc Trung tâm Đạo đức, Xã hội và Máy tính tại Đại học Michigan, giải thích.
Theo các chuyên gia, người dùng các nền tảng video ngắn cần kiên nhẫn và biết cách "huấn luyện" chúng theo ý muốn thay vì bị cuốn theo các nội dung nhạy cảm, gây sốc hoặc tương tự. Chẳng hạn, với nội dung không thích, chỉ cần báo cáo hoặc nhấp vào tùy chọn "Không quan tâm".
Bên cạnh đó, người dùng có thể cho ứng dụng "hiểu" bằng cách tìm kiếm thứ mình quan tâm nhiều hơn. Thường xuyên theo dõi các tài khoản có nội dung yêu thích cũng giúp hạn chế video không mong muốn. Ngoài ra, nên thoát ngay video xấu cũng là cách để hạn chế chúng xuất hiện lần sau.
Bảo Lâm (theo Washington Post)