Douyin, Tiktok phiên bản Trung Quốc, sử dụng công nghệ nhận dạng khuôn mặt để kiểm soát người nước ngoài. Nhưng câu chuyện chưa dừng lại ở đó.

Những video tức cười về các ông bố bà mẹ, những buổi hòa nhạc piano say sưa hay câu chuyện không có thật về những đứa trẻ - nạn nhân của tội phạm buôn người - được tìm thấy trong tủ quần áo... là những nội dung bình thường trên TikTok, ứng dụng chia sẻ video với hơn 500 triệu người dùng phương Tây.

Và dường như cuộc sống cũng không có nhiều khác biệt trên Douyin, TikTok phiên bản Trung Quốc, nơi sản sinh ra các triệu phú mạng xã hội mới nhờ sự bùng nổ của ngành công nghiệp live stream. Tuy nhiên, ở phía sau hậu trường, streamer Trung Quốc phải đối mặt với chế độ giám sát và kiểm duyệt tự động vô cùng phức tạp.

Ngày 8/7, một người đàn ông quốc tịch Anh có tên Joshua Dummer gặp phải tình huống trớ trêu trên Douyin, khi cô vợ người Trung Quốc của anh muốn phát live hình ảnh của anh từ căn hộ của họ tại Bắc Kinh. Bằng cách nào đó - nhiều khả năng do công nghệ nhận diện mặt người - Douyin đã phát hiện ra sự có mặt của Dummer và tự động ngừng live kèm thông báo: người nước ngoài bị cấm phát video trực tiếp khi chưa được chính phủ Trung Quốc cho phép.

Dummer chỉ đơn giản ngồi trên ghế sofa và kể về câu chuyện thường nhật của mình. Nhiêu đó đã đủ "chọc giận" hệ thống kiểm duyệt của Douyin. Vợ Dummer cũng bị chặn tính năng phát trực tiếp.

Các hệ thống kiểm duyệt và giám sát vốn hoạt động trên nhiều nguyên tắc khác nhau. Một hệ thống giám sát có thể sử dụng công nghệ nhận dạng khuôn mặt để rà quét các chương trình phát trực tiếp và đoán độ tuổi người dùng, báo cáo cho người kiểm duyệt nếu người dùng có dấu hiệu chưa đủ 16 tuổi.

Trước khi bắt đầu livestream, người dùng cần vượt qua một bước kiểm duyệt khác để kiểm tra khuôn mặt họ có khớp với ảnh trên chứng minh thư do nhà nước cấp hay không. Việc livestream được mặc định không dành cho người nước ngoài hay cư dân đến từ Hong Kong.

Nhiều bộ lọc khác cũng được sử dụng để đánh giá streamer, bởi lẽ người dùng Trung Quốc cần tuân thủ "trật tự công cộng và thuần phong mỹ tục" - một dạng "chỉ số xếp hạng an toàn", tương tự "điểm tin cậy". Nếu số điểm nằm dưới một mức nhất định, người đó sẽ bị hệ thống chặn.

Trong khi đó, công nghệ nhận dạng lời nói và văn bản được sử dụng để loại bỏ các trường hợp vi phạm, như "mê tín dị đoan", phỉ báng Đảng Cộng sản Trung Quốc, thậm chí các video ASMR (phản ứng cực khoái độc lập) cũng bị cấm vì mang tính "khiêu dâm".

Tất cả phương pháp kiểm duyệt trên đều được ghi trong tài liệu bí mật của ByteDance, công ty mẹ của TikTok và Douyin, sau đó bị Izzy Niu, phóng viên ở New York, phanh phui. Tài liệu này lý giải các ứng dụng đã điều chỉnh theo luật kiểm duyệt Internet nghiêm ngặt của Trung Quốc do tốc độ gia tăng nhanh chóng và hỗn loạn chưa từng có của nền công nghiệp live stream.

Sự cố xảy ra trên Douyin cùng tài liệu kiểm duyệt này đã đặt ra nhiều câu hỏi khó nhằn cho TikTok trong bối cảnh phải đối mặt với nhiều cáo buộc thăm dò quyền riêng tư tại Mỹ và Anh. Tệ hơn, gần đây TikTok cũng bị "cấm cửa" ở Ấn Độ. Liệu TikTok có áp dụng các công nghệ tương tự Douyin với người dùng phương Tây hay không, và nếu có, những dữ liệu người dùng ấy được sử dụng thế nào? Đến nay, TikTok vẫn từ chối trả lời những câu hỏi này.

Người nước ngoài bị cấm phát trực tuyến tại Trung Quốc

Giống khoảng 850 triệu người dùng các ứng dụng "cây nhà lá vườn" của Trung Quốc Đại lục, Dummer vốn không xa lạ gì với các hệ thống kiểm duyệt của Great Firewall.

Cũng bởi lẽ đó, anh chẳng hề choáng váng khi chứng kiến vợ mình phải thực hiện đi thực hiện lại quá nhiều bước xác minh danh tính trước khi bắt đầu phát trực tiếp, trong đó có bước gửi ảnh chứng minh thư và một bức ảnh thật.

"Tất cả ứng dụng, trang web và phương tiện truyền thông của Trung Quốc đều phải tuân theo quy định của nhà nước về nội dung nào được xem là phù hợp", Dummer cho hay. "Đây là lần đầu tiên tôi bị cấm phát sóng và bị yêu cầu thực hiện thêm nhiều bước đăng ký chỉ vì tôi là người nước ngoài", anh nhấn mạnh.

Năm 2017, Bộ Văn hóa Trung Quốc đã chính thức ban lệnh cấm người nước ngoài phát video trực tiếp khi chưa được sự "cho phép" của chính phủ. Tuy nhiên, mãi đến gần đây, lệnh này mới được thực thi gắt gao. Nguyên nhân có thể do sự phát triển như vũ bão của phong trào livestream tại Trung Quốc dưới tác động của Covid-19. Ngày càng nhiều người nước ngoài phản ánh tình trạng video phát trực tiếp của mình bất ngờ bị dừng.

Các báo cáo cũng chỉ ra rằng Douyin dừng cả video livestream của người dùng sử dụng tiếng Quảng Đông, một nhánh ngôn ngữ Trung Quốc đang chiếm ưu thế ở Hong Kong.

Hệ thống giám sát hoàn chỉnh

Ngày 9/7, phát ngôn viên của ByteDance xác nhận việc kiểm duyệt quá trình live stream của Dummer. ByteDance cho hay: "Tất cả quy trình kiểm duyệt phát trực tiếp trên Douyin đều do con người thực hiện trong thời gian thực. Bởi vậy, chúng tôi có thể xác nhận rằng trong trường hợp của Dummer, quá trình kiểm duyệt do chính con người thực hiện".

Tuy nhiên sách trắng của ByteDance đã tự lật tẩy họ.

Theo tài liệu mà nhà báo Niu tìm ra, "để ngăn chặn những rủi ro phát sinh từ mọi khía cạnh của hình thức phát trực tiếp, ByteDance đã thiết lập quy trình giám sát hoàn chỉnh", tài liệu viết. Ứng dụng sử dụng AI phân tích từng chi tiết mỗi video phát trực tiếp, bao gồm cả hành vi của người xem. Những video có dấu hiệu khả nghi sẽ bị "gắn cờ" và gửi thông báo tới kiểm duyệt viên, người này có thể ngăn chặn hành vi phát tán video hay thậm chí chặn luôn người dùng.

Một số phương pháp trong sơ đồ kiểm duyệt này khá phổ biến tại phương Tây. Cả Facebook và YouTube đều sử dụng AI để kiểm soát dịch vụ trên nền tảng, mở rộng mạng lưới kiểm duyệt trong thời gian diễn ra đại dịch khi nỗ lực loại bỏ thông tin sai lệch về Covid-19 hay những phương pháp chữa trị phản khoa học. Các nhà phê bình có thể chỉ trích rằng quy tắc của hai ông lớn này cũng quái đản hệt như ByteDance.

Ví dụ, Facebook thường xuyên theo dõi người dùng để phát hiện dấu hiệu buôn bán ma túy, lan truyền tin giả, tôn sùng các tổ chức kích động thù địch hay người dùng có ý định tự tử. Kể từ sau vụ tấn công khủng bố tại nhà thờ hồi giáo Christchurch năm 2019 được thủ phạm phát trực tiếp trên nền tảng, Facebook phải cam kết với chính phủ các nước phương Tây về quy trình kiểm duyệt nội dung.

Các công ty này có nhiều quy tắc giống nhau. Cả Facebook và ByteDance đều nói không với nội dung khiêu dâm, ảnh khoả thân, quấy rối, lừa đảo, vi phạm bản quyền và trẻ vị thành niên gian dối thông tin độ tuổi.

Tuy nhiên, vẫn có những nét khác biệt.

ByteDance cấm mọi nội dung phát trực tiếp có khuynh hướng "chống Đảng Cộng sản hay chống chính phủ Trung Quốc". Mê tín dị đoan chắc chắn là điều cấm kỵ, cũng như hành vi hút thuốc và uống rượu, tôn thờ tiền bạc và xúc phạm phụ nữ.

Kỳ lạ hơn, công ty luôn tìm được lý do cấm nhiều xu hướng phổ biến. ASMR - những video độc thoại kích thích não bộ bằng cảm giác ảo - cũng nằm trong danh sách nội dung phù hợp, bởi đôi khi chúng "thu hút người xem bằng những tín hiệu tình dục mạnh mẽ", chẳng hạn tiếng "liếm tai".

Cơn sốt slime được nhiều trẻ em Anh yêu thích cũng bị cấm, bởi thành phần slime có chứa hàn the, ẩn chứa nguy cơ gây hại cho con người. Thậm chí ByteDance đã trích dẫn một trường hợp ở Manchester vào năm 2017, khi một đứa trẻ người Anh cuồng YouTube đã bị bỏng hóa chất nghiêm trọng trong quá trình chế tạo "slime kỳ lân".

Và tất nhiên, cũng tồn tại những quy định cụ thể về trang phục mà phụ nữ có thể diện khi livestream. Các quy định về trang phục của Douyin vốn vấp phải nhiều chỉ trích, nhưng quy định của ByteDance còn khắt khe hơn nhiều, thậm chí họ còn có hình ảnh minh họa cụ thể.

Với trường hợp Dummer, vẫn chưa rõ anh bị "gắn cờ" bởi lý do gì. Một phóng viên Mỹ thường trú tại Trung Quốc sau khi thử nghiệm ứng dụng đã kết luận rằng rất ít khả năng Douyin tiến hành phân tích đặc điểm khuôn mặt các streamer dựa trên đặc tính dân tộc.

Một giả thuyết đặt ra là nền tảng chỉ đơn giản kiểm tra khuôn mặt streamer để đối chiếu với ảnh chứng minh thư, không cho phép người nước ngoài livestream theo luật mặc định. Một khả năng khác là AI nhận dạng giọng nói có thể phát hiện Dummer sử dụng tiếng Anh và phản ứng lại.

Dù theo giả thuyết nào, ByteDance tuyên bố hệ thống của họ vẫn hoạt động hiệu quả. Trong khoảng thời gian năm 2018 đến 2019, số trường hợp nội dung phát trực tiếp vi phạm quy định đã giảm 58%, trong đó 93% trường hợp vi phạm bị phát hiện nhờ hệ thống giám sát trước khi những người dùng khác báo cáo cho kiểm duyệt viên. So sánh với báo cáo minh bạch gần đây nhất của TikTok, nền tảng này thống kê cả những video không phải phát trực tiếp với tỷ lệ 98,2%.

Nghi vấn bủa vây TikTok

Tất cả điều này có ý nghĩa gì với TikTok? Ứng dụng này phần nào tách biệt với Douyin khi chạy trên các mạng khác biệt. Tuy nhiên, cả hai đều được phát triển tại Trung Quốc và có chung các tính năng cốt lõi, trong đó, Douyin thường được xem là sân thử nghiệm cho các ý tưởng mới trước khi được đưa vào TikTok.

ByteDance vẫn đang cố gắng tách biệt hai ứng dụng này, nỗ lực mời gọi Kevin Mayer, cựu Giám đốc điều hành của Disney, làm giám đốc điều hành của TikTok và thành lập văn phòng kỹ thuật mới dành riêng cho TikTok ở Mỹ.

Nhưng nhiêu đó vẫn chưa đủ sức ngăn quan chức Mỹ đặt nghi vấn về việc chính phủ Trung Quốc có quyền truy cập vào tất cả các dữ liệu cá nhân mà TikTok thu thập được. TikTok vẫn luôn phủ nhận việc cung cấp dữ liệu cho nhà nước Trung Quốc, bây giờ và cả tương lai.

Việc Douyin sử dụng công nghệ nhận dạng khuôn mặt và chứng minh thư để kiểm soát người dùng cũng vượt xa hầu hết ứng dụng phương Tây. Mặc dù các hệ thống phát hiện thanh thiếu niên của nền tảng vẫn đang trong giai đoạn "kiểm thử" khi sách trắng được công bố, có lẽ tới nay, chúng đã được triển trai rộng rãi.

TikTok đang bị các cơ quan quản lý Mỹ điều tra vì cáo buộc vi phạm quyền riêng tư của trẻ em, và bị bốn thanh thiếu niên tại bang Illinois đâm đơn kiện vì thu thập dữ liệu khuôn mặt họ khi chưa nhận được sự đồng ý.

Kiểm duyệt cũng không tồn tại ở Trung Quốc. Phóng viên điều tra đã khai quật được các tài liệu nội bộ cho thấy trong năm 2019, TikTok yêu cầu kiểm duyệt viên chặn những video của người dùng có hình dạng cơ thể bất thường, có quá nhiều nếp nhăn hoặc rối loạn về mắt.

Theo báo cáo, mục đích là để đảm bảo rằng những người dùng có ngoại hình đẹp sẽ thu hút thêm nhiều người dùng mới tìm đến và yêu thích nền tảng, thay vì việc người dùng mới rời khỏi ứng dụng khi bắt gặp hình ảnh xấu xí hoặc kém chất lượng.

Một cuộc điều tra khác cho thấy TikTok có chính sách chặn một cách có hệ thống các video ghi hình người khuyết tật, chẳng hạn người mắc chứng tự kỷ, hội chứng Down hoặc biến dạng khuôn mặt, dưới vỏ bọc biện minh rằng hành động đó chỉ giúp nhóm người dùng này không bị trêu chọc. Một người được gắn nhãn "người dùng đặc biệt" ở Đức đã gọi tên hành vi này là "phân biệt đối xử" và "vô nhân đạo".

Không những thế, hướng dẫn về mặt chính trị đã được ban hành để kiểm duyệt các video của người dùng phương Tây.

Đáp lại hàng loạt nghi vấn ấy, TikTok trả lời rằng hầu hết tài liệu mà phóng viên chỉ ra đều đã lỗi thời và không còn hiệu lực. Công ty thậm chí không xác nhận một vài tài liệu trong số đó. Các quy định liên quan đến yếu tố chính trị và người khuyết tật được thừa nhận có phần lỗ mãng, nhưng chúng là nỗ lực ngăn chặn sớm các xung đột trên nền tảng, và sau đó, họ sẽ đưa ra những giải pháp tinh tế hơn.

Vậy có bao nhiêu hệ thống kiểm duyệt và giám sát của Douyin được đưa vào TikTok? Liệu TikTok cũng sử dụng công nghệ nhận dạng khuôn mặt? Nếu vậy, chúng được sử dụng như thế nào? Nói cách khác, người dùng phương Tây nên lo ngại ra sao về vấn đề này?

Người phát ngôn của TikTok đã từ chối trả lời những câu hỏi cụ thể đó mà chỉ tiết lộ rằng: "TikTok rất coi trọng sự an toàn của người dùng trẻ tuổi. Chúng tôi có những quy định nghiêm ngặt đối với người dùng dưới 16 tuổi tham gia phát trực tiếp".

"Ngoài việc phân luồng độ tuổi, hoạt động của chúng tôi cũng do kiểm duyệt viên là con người thực hiện, họ sẽ đánh giá các yếu tố cho thấy rõ người dùng chưa đủ 16 tuổi, chẳng hạn thông tin người dùng trong mục Thông tin công khai có thể không khớp với những gì người này cung cấp trong quá trình đăng ký. TikTok chưa bao giờ cung cấp dữ liệu người dùng cho chính phủ Trung Quốc và chúng tôi cũng sẽ không làm điều đó ngay cả khi chính phủ yêu cầu", người này nhấn mạnh.

Hải Yến (theo Telegraph)