Ngày 25/11, nhiều người dùng mạng xã hội kêu gọi tẩy chay Tiktoker Nờ Ô Nô vì đăng video câu view, có lời lẽ miệt thị như "nghèo mà còn chê đồ ăn nữa", "phở rẻ vậy mà bà không có tiền mua ăn nữa hả?"... Tuy nhiên, dù nhận lượng lớn report (báo cáo), TikTok vẫn trả về kết quả video trên "không vi phạm tiêu chuẩn cộng đồng" và không có động thái xử lý ngay. Phải đến ngày 28/11, tài khoản này mới bị TikTok khóa vĩnh viễn.
Nhiều người dùng kêu gọi tẩy chay TikTok Nờ Ô Nô vì "content bẩn".
Các chuyên gia nhận định, bên cạnh chiêu trò câu view của người làm nội dung, việc để nội dung xấu lan truyền trên mạng xã hội còn thuộc về nền tảng mạng xã hội. "Vấn đề nằm ở bộ lọc nội dung và đội ngũ kiểm duyệt. Khi người dùng báo cáo, hai ngày sau TikTok vẫn không có phản ứng cụ thể. Đến khi làn sóng phản đối quá lớn và cơ quan chức năng vào cuộc, TikTok mới khóa tài khoản", ông Phong Dũng, Giám đốc sáng tạo nội dung một công ty giải trí lớn tại TP HCM, nhận xét.
Đây không phải lần đầu TikTok bị chỉ trích liên quan đến nội dung bẩn và độc hại trên nền tảng. Đầu tháng 7, Trung tâm Luật pháp nạn nhân mạng xã hội Mỹ (SMVLC) đã nộp đơn kiện TikTok lên tòa án tại Los Angeles vì đã tiếp tay cho trào lưu Blackout (Thử thách ngạt thở), trong đó yêu cầu người tham gia thực hiện một số hành động gây ngạt để rơi vào trạng thái ngất xỉu tạm thời. Theo Washington Post, ít nhất 7 trẻ em thiệt mạng vì trào lưu này. Không ít nội dung độc hại khác cũng từng lan truyền trên TikTok và gây phẫn nộ như Veneer Vlog (mài răng), Penny Challenge (cắm hờ sạc điện thoại vào ổ điện, sau đó thả đồng xu vào khe hở để tạo tia lửa), khiến các chuyên gia phải lên tiếng cảnh báo vì sự nguy hiểm.
"Động lực thực sự của TikTok không phải giải trí mà là lợi nhuận. Thuật toán AI của nền tảng đang cố giữ chân người dùng bằng nội dung được cho là hấp dẫn, bất chấp nó nguy hiểm hoặc phản cảm ra sao", Johannes Eichstaedt, chuyên gia về AI tại Viện Stanford, nhận định trên Wired.
Trong khi đó, theo Catherine Wang, chuyên gia AI tại Google, mỗi ngày TikTok có hàng triệu nội dung được tải lên. Các lỗ hổng trong hệ thống đánh giá khiến nội dung độc hại dễ dàng vượt qua vòng sàng lọc, trong khi việc duyệt thủ công từng video là không thể với lượng người dùng khổng lồ của TikTok.
Trong nghiên cứu đăng trên Towards Data Science, Wang cho biết trong khi AI phân loại nội dung có dấu hiệu vi phạm một cách máy móc, đội kiểm duyệt thủ công thường dựa vào ba tiêu chí chính là tiêu đề, ảnh đại diện và khung hình chính của video để quyết định video đó được xuất hiện trên nền tảng không.
Sau khi lọt qua vòng kiểm duyệt, video bắt đầu được TikTok phân bổ khắp thế giới bằng thuật toán. Đây cũng là đáp án cho câu hỏi vì sao những "content bẩn" trên TikTok lại có tốc độ lan truyền chóng mặt như vậy.
Theo Wang, điểm đặc biệt của thuật toán TikTok là không thiên vị người đăng video có nổi tiếng hay chỉ là tài khoản bình thường. Khi một nội dung mới xuất hiện, thuật toán sẽ phân bổ đến 200-300 người dùng đang hoạt động để đo mức độ tương tác. Nếu trên 10% thích video, thuật toán tiếp tục đưa nó đến 10.000-100.000 người dùng khác. Cứ thế, AI lan truyền nội dung đến hàng triệu người chỉ trong thời gian ngắn mà không đặt nặng vấn đề độc hại hay hữu ích. Trong khi các mạng xã hội khác ưu tiên hiển thị video của những tài khoản "được xác minh" để giảm thiểu nội dung độc hại, thuật toán TikTok bỏ qua khâu sàng lọc quan trọng này.
AI của TikTok cũng tiếp tục đo đếm hiệu quả tương tác của video để quyết định đưa nó vào kho tiềm năng, tức gợi ý cho người dùng nội dung họ có thể "chưa biết là mình có nhu cầu xem". Bước này góp phần quan trọng khiến không ít người tò mò, mở video có nội dung không phù hợp, dù đã thiết lập bộ lọc nhóm nội dung. Mục Xu hướng của TikTok cũng là kênh phân phối cho nội dung lạ. "Không đến 1% video tải lên mỗi ngày được lên mục xu hướng. Nhưng một khi lên đây, nó sẽ được đề xuất cho người dùng một cách ngẫu nhiên, kể cả đó là nội dung bẩn", Wang lưu ý.
Cuối cùng, thuật toán TikTok khuyến khích nhà sáng tạo nội dung tiếp tục làm thêm những video tương tự. Nhiều chủ tài khoản cho biết nội dung của họ được "ưu ái" hơn sau nhiều tuần đăng video đều đặn. Sau nhiều phân tích, Wang phát hiện TikTok có một thuật toán gọi là "gravedigger" chuyên xem xét nội dung cũ và tìm kiếm các ứng viên mới có thể sản xuất video "chất lượng".
"Nếu thuật toán chọn nội dung của bạn, những video khác trong cùng tài khoản cũng được ưu tiên phân phối nhiều hơn", Wang nói. Ngoài ra, nếu một tài khoản có video được lên xu hướng, AI sẽ kéo thêm nhiều người đến với tài khoản. Họ tò mò thêm về những video khác, đó là lý do vì sao "content bẩn" trên TikTok trở thành vấn đề khiến các nhà quản lý đau đầu hơn bất kỳ nền tảng nào.
Sau khi nghiên cứu tài liệu "TikTok Algo 101" của Catherine Wang được công bố cuối 2021, Guillaume Chaslot, người sáng lập Algo Transparency, nói: "Thật điên rồ khi để thuật toán TikTok điều khiển cuộc sống của những đứa trẻ. Mỗi video một đứa trẻ xem, TikTok thu về một phần thông tin và tiếp tục phân phối nội dung". Các chuyên gia lo ngại thuật toán bí mật của TikTok không chỉ gây nghiện với người dùng mà còn khiến những video có nội dung độc hại được lan tỏa mạnh mẽ hơn so với bất kỳ mạng xã hội nào khác.
Trong khi đó, trong thông báo khóa tài khoản Nờ Ô Nô ngày 28/11, đại diện TikTok khẳng định: "Chúng tôi không khoan nhượng trước bất kỳ nội dung hay hành vi nào vi phạm tiêu chuẩn cộng đồng. Chúng tôi tôn trọng và hỗ trợ hoạt động sáng tạo của người dùng, song giữ lập trường đề cao tính an toàn của cộng đồng và nền tảng". Trong báo cáo minh bạch đầu năm, TikTok cho biết Việt Nam nằm trong 30 thị trường có số video bị xóa cao nhất, với khoảng 2,4 triệu video đã bị gỡ bỏ vì vi phạm chính sách cộng đồng.
Thảo Hiền