Là người điều hành nội dung tại Inke, một trong những nền tảng livestream lớn nhất của Trung Quốc với 25 triệu người dùng, Zhi Heng và đội ngũ gồm 1.200 sinh viên tốt nghiệp đại học của ông chỉ có vài giây để quyết định xem hình một người mặc đồ bơi hai mảnh hiện lên trên màn hình của mình có vi phạm quy tắc sử dụng nền tảng hay không.
Công ty của ông đứng ở chính giữa cuộc chiến để quản lý nội dung trên mạng Internet ở Trung Quốc. Không ít công ty khác cũng sử dụng các đội quân kiểm duyệt để quản lý và phân loại nội dung được tạo ra bởi người dùng hàng ngày.
Nhân viên kiểm duyệt nội dung đang làm việc trong văn phòng của Inke ở Hồ Nam. Ảnh SCMP
Tính đến cuối năm 2018, gần 400 triệu người Trung Quốc đã tham gia phát sóng trực tiếp hoạt động của họ lên Internet. Hầu hết các nội dung trong số đó là vô hại, như cảnh ăn uống, nói chuyện với người thân. Tuy nhiên, có những người coi đây là công việc để kiếm sống, giống như những YouTuber trên nền tảng do Google sở hữu. Nhiều người trong số này sử dụng các nền tảng livestream để bán hàng, ca hát hay mua vui, để đổi lấy phần thưởng ảo. Do đó, số lượng nội dung được sản xuất mỗi ngày là con số khổng lồ. Việc kiểm duyệt từ đó cũng cần tới sự trợ giúp của công nghệ. Tuy nhiên dù hiện đại tới đâu, vẫn cần những con người trực tiếp để xử lý các nội dung phức tạp mà AI hay bất cứ công cụ nào cũng khó có thể xác minh.
"Bạn cần phải thực sự tập trung vào công việc của mình", Zhi Heng, người đứng đầu nhóm an toàn nội dung của Inke cho biết. "Bạn không thể bỏ qua bất cứ điều gì trái pháp luật, chống lại giá trị truyền thống hay quy định riêng của công ty".
Có trụ sở tại Bắc Kinh với một chi nhánh ở thành phố Trường Sa, tỉnh Hồ Nam, Inke sử dụng các thuật toán trí tuệ nhân tạo và phần mềm nhận dạng giúp người điều hành thực hiện công việc kiểm duyệt nội dung. Trong đó, AI được sử dụng để xử lý công việc nặng như ghi nhãn, xếp hạng và sắp xếp nội dung thành các loại rủi ro khác nhau. Hệ thống phân loại này sau đó cho phép công ty phân bổ nguồn lực theo thứ tự rủi ro tăng dần. Một người đánh giá có thể theo dõi cùng lúc nhiều nội dung có rủi ro thấp. Còn các nội dung bị xếp hạng rủi ro cao được gắn cờ để xem xét kỹ lưỡng hơn.
Điều này cũng là đáp án cho câu hỏi về việc phân loại hình ảnh với bộ bikini ở trên. Bởi AI vẫn có khuyết điểm là chưa thể xác định được bối cảnh của một vấn đề.
Đối với một thuật toán, một bộ bikini là một bộ bikini. Nhưng với một con người, một bộ bikini trong các bối cảnh khác nhau có thể có những ý nghĩa rất khác nhau. Ví dụ, một bộ bikini xuất hiện tại bể bơi với những đứa trẻ chạy quanh, nội dung hoàn toàn lành mạnh. Nhưng một bộ đồ hai mảnh trong phòng ngủ với nhạc nền nhẹ nhàng và lãng mạn thì không.
Tuy nhiên, hoạt động được kiểm duyệt nhiều nhất trên nền tảng phát sóng trực tiếp Inke là hình ảnh hút thuốc lá. Theo chính quyền Trung Quốc, điều này bị cấm vì khuyến khích lối sống không lành mạnh. Việc hiển thị hình xăm quá mức cũng tương tự. Nước này có các quy định và điều khoản chặt chẽ về hoạt động trực tuyến cũng như việc kiểm duyệt nội dung, đặc biệt khi chúng có liên quan tới vấn đề nhạy cảm chính trị.
Trung Quốc rất mạnh tay trong việc trừng phạt các công ty để lọt nội dung độc hại lên mạng Internet.
Kyle Langvardt, phó giáo sư luật tại Đại học Detroit Mercy, người có nhiều nghiên cứu về Hiến pháp Mỹ và các vấn đề liên quan, đánh giá chính sách kiểm duyệt của Trung Quốc có hai mặt.
"Về tổng thể, tôi thấy các chính sách kiểm duyệt của Trung Quốc đáng lo ngại. Tuy nhiên, có những mặt tích cực. Như việc nó giúp ngăn chặn bạo lực trong thế giới thực, hệ quả mà nội dung xấu bị lan truyền có thể gây ra", ông nhận định.
Trên toàn cầu, chính phủ các nước đang ngày càng coi trọng sức ảnh hưởng của truyền thông mạng xã hội cũng như nội dung trực tuyến tới tình hình kinh tế xã hội. Việc hạn chế các nhóm thù địch, lợi dụng âm mưu để tuyên truyền và kích động bạo lực qua mạng xã hội và các nền tảng Internet khác được đặc biệt quan tâm.
Facebook đã thừa nhận vào tháng 11 năm ngoái rằng đã không làm đủ tốt khi để những kẻ xấu lợi dụng nền tảng của mình để kích động bạo lực sắc tộc ở Myanmar. Mới đây, mạng xã hội này cũng bị chỉ trích nặng sau khi một tay súng phát sóng trực tiếp cuộc tấn công vào một nhà thờ Hồi giáo ở thành phố Christchurch, New Zealand, khiến 50 người thiệt mạng. Mặc dù tài khoản của kẻ khủng bố đã nhanh chóng bị khóa, video về vụ thảm sát vẫn được lưu hành trên mạng Internet.
Australia đã thông qua luật phạt tiền và thậm chí phạt tù với CEO của các công ty truyền thông xã hội nếu chậm trễ trong việc loại bỏ những bài viết bạo lực. Singapore đang tranh luận về các điều luật nhằm giải quyết nạn tin tức giả mạo trên Internet. Anh cũng mới đề xuất bộ quy tắc riêng để bắt nhà quản lý của các công ty công nghệ chịu trách nhiệm cá nhân về việc không giải quyết được tác hại trực tuyến.
Zhi Heng, phụ trách bộ phận kiểm duyệt nội dung của nền tảng phát sóng trực tuyến Inke. Ảnh: SCMP.
Còn ở trong văn phòng của Inke tại thành phố Trường Sa, nhóm phụ trách an toàn nội dung vẫn miệt mài làm việc. Trong những căn phòng rộng rãi, các nhân viên đều đeo tai nghe và nhìn chằm chằm vào màn hình của mình. Đây là nhóm kiểm duyệt lớn nhất ở Inke, chiếm khoảng 60% lực lượng lao động. Mọi người phân loại nội dung dựa theo quy định chi tiết được công ty công bố. Hàng tuần, có các lớp đào tạo liên tục mở ra để cập nhật quy định hoặc trường hợp mới bị cho là phản cảm và cần xử lý. Công ty cũng làm việc với chuyên gia để tư vấn về những trường hợp khó, nằm giữa ranh giới pháp lý.
Theo chia sẻ của Zhi Heng, nội dung có nguy cơ cao nhất bao gồm các thông điệp, lời nói nhạy cảm về chính trị, hành vi tình dục, bạo lực, khủng bố và tự làm hại bản thân. Tùy thuộc vào mức độ nghiêm trọng của vi phạm, người kiểm duyệt nội dung có thể đưa ra cảnh báo, chặn hoặc cho tài khoản vào danh sách đen.
Về mặt kỹ thuật, những người điều hành xử lý nội dung phát sóng gần như ngay lập tức, với độ trễ từ 10 tới 15 giây. Khoảng thời gian ngắn ngủi này là lúc họ suy nghĩ để đưa ra quyết định, xem có cho phép phát sóng nội dung nghi vấn hay không.
Zhi Heng có vai trò quan trọng hơn, kiểm soát nội dung ở quy mô khác. Ví dụ trong trường hợp có một nhóm cư dân bắt đầu tụ tập để phản đối kế hoạch xây nhà máy đốt rác của chính quyền địa phương. Inke phải nhanh chóng xác định vị trí và sử dụng phần mềm định vị để chặn tất cả các luồng phát sóng trực tiếp trong bán kính 10 km.
Công việc kiểm duyệt nội dung không cho phép nhầm lẫn, bởi khi đó các công ty phải đối mặt với các hình phạt rất nghiêm trọng. Tháng 4/2018, Zhang Yiming, CEO của Bytedance, công ty phát triển nền tảng video ngắn TikTok, đã phải đưa ra lời xin lỗi công khai sau khi chính quyền ra lệnh đóng ứng dụng "hát nhép" Neihan Duanzi vì có nội dung thô tục. Ứng dụng tổng hợp tin tức Jinri Toutiao của công ty cũng được yêu cầu gỡ xuống khỏi các cửa hàng ứng dụng trong ba tuần. Bytedance sau đó cam kết mở rộng đội ngũ kiểm duyệt nội dung của mình từ 6.000 lên đến 10.000 nhân viên và sẽ cấm vĩnh viễn những người sáng tạo nội dung độc hại.
Mặc dù nhu cầu nhân sự cho loại công việc này luôn cao, các công ty lại rất khó để tuyển dụng. Bởi ngoài thu nhập thấp, đây còn là một công việc nhàm chán. Mọi người phải dành phần lớn thời gian xem các bài hát dở tệ hay những màn độc thoại vô vị.
Trong số 1.200 nhân viên thuộc bộ phận của Zhi Heng, có khoảng 200 người là nhân viên toàn thời gian. Còn lại là nhân viên hợp đồng. Mức lương khởi điểm của họ là 3.000 nhân dân tệ (khoảng 450 USD) mỗi tháng. Rất nhiều nhân viên mới thường xuyên nghỉ việc khi chưa hoàn thành giai đoạn thử việc một tháng bắt buộc. Tuy nhiên theo Zhi Heng, tỷ lệ thôi việc ở bộ phận này trong năm ngoái khoảng 10%, vẫn thấp hơn tỷ lệ chung là 20% trên thị trường lao động Trung Quốc, theo kết quả khảo sát của một nền tảng tuyển dụng trực tuyến.
Inke nổi bật với biểu tượng con cú, đã niêm yết trên sàn giao dịch chứng khoán Hong Kong vào tháng 7/2018. Công ty kiếm được lợi nhuận 1,1 tỷ nhân dân tệ (khoảng 164 triệu USD) vào năm ngoái.
Một số ứng viên trong buổi phỏng vấn tuyển dụng khoe việc họ có thể làm việc từ nửa đêm đến 8 giờ sáng, giống như cách thường chơi điện tử hàng ngày. Nhưng rồi tất cả sớm phát hiện công việc hoàn toàn không giống tưởng tượng.
"Chỉ có một phần nhỏ nội dung là tốt, phần lớn phần còn lại dưới mức tầm thường", Zhi Heng chia sẻ. "Khi bạn xem cái này quá lâu, nó có thể khiến bạn đặt câu hỏi về ý nghĩa cuộc sống của mình".
Khi được hỏi công việc này có ý nghĩa gì với bản thân, Zhi Heng suy nghĩ một lúc lâu trước khi cho biết ông đã từng hỏi bản thân như vậy rất nhiều lần. "Chúng tôi giống như người lao công", ông nói. "Chỉ khác là thay vì dọn dẹp ngoài đường phố hay trong khu dân cư, môi trường làm việc lại là không gian mạng".
Bảo Nam (theo SCMP)