Thuật toán của YouTube có phân biệt đối xử với người sáng tạo là người thiểu số không?

YouTube là một trong những nền tảng truyền thông xã hội lớn nhất hiện có, với hơn 2,6 tỷ người dùng hàng tháng . Hơn 500 phút video được tải lên mỗi phút vì vô số người sáng tạo sử dụng nền tảng này để chia sẻ niềm đam mê và sở thích của họ - và để tạo thêm nguồn thu nhập hoặc thậm chí là thu nhập toàn thời gian.

Điều đó có thể thực hiện được nhờ Chương trình đối tác của YouTube, chương trình này cung cấp một khoản cắt giảm thu nhập từ quảng cáo trên video cho người sáng tạo của họ. Ngoài ra, YouTube cũng đã giới thiệu một số tính năng kiếm tiền trực tiếp như Cảm ơn và Hình dán. Điều này cho phép người xem trực tiếp mách nước cho người sáng tạo.

Tuy nhiên, nhiều người sáng tạo thiểu số tuyên bố rằng họ đang bị phân biệt đối xử bởi thuật toán của nền tảng và họ đang thua thiệt về thu nhập so với các đồng nghiệp của mình. Trước đây, một số vụ kiện phân biệt đối xử của những người sáng tạo LGBTQ và BIPOC đã thất bại, nhưng hiện tại Tòa án tối cao Hoa Kỳ đang xem xét lại luật cơ bản.

Dưới đây là toàn bộ chi tiết về những tuyên bố này, nền tảng của chúng và những gì đang xảy ra tiếp theo.

Sức mạnh của thuật toán YouTube

Trước khi đi sâu vào lịch sử lâu dài của các cáo buộc phân biệt đối xử chống lại YouTube, điều cần thiết là phải hiểu vai trò của thuật toán của nền tảng này trong tất cả những điều này.

Về cơ bản, nó xác định những người sáng tạo nào tìm thấy thành công trên YouTube và những người sáng tạo nào biến mất trong bóng tối.

Thuật toán của YouTube đánh giá từng video được tải lên và quyết định nội dung nào xuất hiện trong kết quả tìm kiếm và đề xuất. Nó cũng gắn cờ các video chứa nội dung không phù hợp và áp dụng các hạn chế đối với những người có thể xem chúng.

Ví dụ: việc giới hạn độ tuổi người xem đối với video của bạn trên thực tế có nghĩa là video đó không thể kiếm tiền được. Đối với một điều, nó sẽ chỉ hiển thị với những người dùng đã đăng nhập và trên 18 tuổi. Mặt khác, hầu hết các quảng cáo không chạy trên các video có các hạn chế được đặt ra, làm giảm doanh thu cho người sáng tạo.

Đó là lý do tại sao thuật toán của YouTube có ảnh hưởng lớn đến thành công của người sáng tạo - cả quy mô khán giả và nội dung họ có thể sử dụng để tạo thu nhập.

Hạn chế đề xuất LGBTQ và BLM

Hai trong số các vụ kiện phân biệt đối xử nổi bật nhất chống lại YouTube thực sự xoay quanh các hạn chế đối với video của những người sáng tạo BIPOC và LGBTQ.

Năm 2020, những người sáng tạo người Mỹ gốc Phi đã khởi kiện tập thể chống lại Alphabet, công ty mẹ của YouTube. Họ cáo buộc rằng YouTube đã sử dụng thuật toán của mình để gắn cờ các video sử dụng thuật ngữ liên quan đến phong trào Black Lives Matter, bao gồm "hồ sơ chủng tộc", "BLM" và "cảnh sát bắn". Sau đó, những video này được đặt ở chế độ hạn chế.

Một vụ kiện tương tự đã được đệ trình vào tháng 8 năm 2019 bởi những người sáng tạo LGBTQ . Họ tuyên bố rằng các video sử dụng các từ như "đồng tính", "song tính" và "chuyển giới" trong tiêu đề, thẻ và mô tả của họ thường bị gắn cờ và hạn chế.

Giới hạn độ tuổi Nhắm mục tiêu Nội dung do Người da đen tạo

Một lời phàn nàn tương tự đã xuất hiện nhiều hơn gần đây . Youtuber da đen nổi tiếng CoryxKenshin đã đăng một video phác thảo trải nghiệm của anh ấy khi bị thuật toán của YouTube nhắm mục tiêu đăng nội dung mà các đồng nghiệp của anh ấy đã tải lên mà không gặp vấn đề gì.

Tranh chấp là về trò chơi kinh dị độc lập mới phát hành gần đây The Mortuary Assistant. Nó nhanh chóng trở nên phổ biến trong số những người dùng YouTube chơi game và nhiều người trong số họ đã tải lên các video chơi thử, bao gồm cả CoryxKenshin.

Tuy nhiên, không giống như video của những người sáng tạo khác, video của CoryxKenshin ngay lập tức bị gắn cờ và hạn chế mà YouTube không cho anh biết lý do.

Ông đã kháng cáo hạn chế, nhưng đã bị từ chối. Không bỏ cuộc, cuối cùng anh ấy phát hiện ra rằng hạn chế được áp dụng do một cảnh ở cuối vở kịch, trong đó có hình ảnh liên quan đến tự sát.

Vấn đề? Các lượt phát qua của những người dùng YouTube da trắng, nổi tiếng khác bao gồm cùng một cảnh chính xác mà không bị gắn cờ.

CoryxKenshin sau đó đã liên hệ với YouTube, một lần nữa kháng nghị hạn chế, nhưng lần này sử dụng cách phát không hạn chế của Markiplier làm đối số.

Nhanh chóng, hạn chế đối với video của anh ấy đã được gỡ bỏ.

Trong video về phân biệt chủng tộc và chủ nghĩa thiên vị, CoryxKenshin cũng nêu chi tiết mức độ nội dung của anh ấy bị hạn chế ngay khi nó đang thịnh hành. Một ví dụ mà anh ấy đưa ra là một video cũ của anh ấy bắt đầu thịnh hành ngay sau khi anh ấy quay lại sau một thời gian gián đoạn.

Ông lập luận, nếu thuật toán hoạt động mà không có sự thiên vị, thì phần nội dung đó đã được gắn cờ từ lâu. Như vậy, nó tạo ấn tượng rằng kênh của anh ấy đang được nhắm mục tiêu có chủ đích.

BIPOC Không đại diện trong Nội dung dành cho Trẻ em

Một bằng chứng gần đây khác về sự thiên vị chủng tộc trong thuật toán của YouTube đến từ một nghiên cứu của Common Sense Media, một trang web đánh giá về giải trí cho trẻ em . Hợp tác với Đại học Michigan, họ đã xem xét nội dung dành cho trẻ em mà thuật toán của YouTube thúc đẩy khán giả nhỏ tuổi.

Các tác giả lập luận rằng nền tảng này có nội dung do người dùng tạo ra, nó có cơ hội tốt hơn nhiều để đại diện cho thực tế đa dạng mà chúng ta đang sống.

Tuy nhiên, kết quả của nghiên cứu cho thấy phần lớn (62%) nội dung phổ biến với trẻ em dưới 9 tuổi không có ký tự BIPOC nào cả. Những video có nhiều nhân vật khác nhau có nhiều khả năng chứa các yếu tố tiêu cực, chẳng hạn như ngôn từ xấu và bạo lực. Hơn nữa, 10% video đạt được mức độ phổ biến lan truyền trong giới trẻ và thanh thiếu niên có định kiến về chủng tộc.

Điều đó không có nghĩa là nội dung tích cực của những người sáng tạo BIPOC không tồn tại. YouTube chỉ thất bại trong việc quảng bá nó thông qua thuật toán của mình.

Mặc dù các tác giả của nghiên cứu không hoàn toàn cáo buộc thuật toán quảng cáo nội dung thiên lệch, nhưng họ thực sự đưa ra lời kêu gọi khẩn cấp về sự minh bạch hơn và nỗ lực có ý thức từ phía YouTube để quảng bá nội dung BIPOC tích cực cho trẻ em.

Khuếch đại thuật toán và Phần 230

YouTube nói rằng họ đã đạt được những bước tiến lớn và đang nỗ lực thực hiện các sáng kiến lập trình được thiết kế để thúc đẩy sự đa dạng và hòa nhập. Tuy nhiên, những người sáng tạo dường như vẫn chưa thấy rõ tác dụng của nó.

Một phần của vấn đề là YouTube và các nền tảng truyền thông xã hội khác như YouTube hiện đang được hưởng các biện pháp bảo vệ pháp lý sâu rộng, nhờ vào Mục 230 của Đạo luật về khuôn phép trong giao tiếp. Luật này, được thông qua vào năm 1996, quy định rằng các công ty trực tuyến không chịu trách nhiệm về việc truyền tải các tài liệu do người khác tải lên.

Những ai trong chúng ta còn nhớ Internet vào năm 1996 có thể nghĩ rằng thật kỳ lạ khi một luật từ thời kỳ tiền Google về bảng tin, kết nối internet quay số và MSN điều chỉnh các tập đoàn truyền thông xã hội khổng lồ ngày nay. Nhiều chính trị gia đồng ý và đã đưa ra các sáng kiến để sửa đổi luật . Không thành công, cho đến nay.

Vào năm 2020 và 2021, Mục 230 đã được sử dụng để đánh bại các vụ kiện của những người sáng tạo LGBTQ và BIPOC với cáo buộc thiên vị.

Tuy nhiên, giờ đây, Tòa án Tối cao Hoa Kỳ đã đồng ý xét xử một lời thách thức đối với Mục 230. Một lập luận quan trọng là những người khổng lồ truyền thông xã hội như YouTube không được luật bảo vệ ngay sau khi các thuật toán của họ khuếch đại một số nội dung nhất định, tăng cường tín hiệu cho thông điệp của nó.

Lời kết

Liệu Phần 230 có được sửa đổi trên cơ sở khuếch đại thuật toán hay không và cách nó sẽ giúp những người sáng tạo đa dạng chống lại sự thiên vị vẫn còn được xem.

Hiện tại, điều tốt nhất họ có thể làm là nhận thức được hoạt động không rõ ràng của thuật toán và thực tế là dường như có sự thiên vị rõ ràng đối với những người sáng tạo đại diện cho thiểu số. Và để nói về nó.

Bằng cách nêu bật kinh nghiệm của họ với những khác biệt này với tư cách là một tập thể, họ có thể góp phần thay đổi và cung cấp các lập luận để các luật sư giải quyết khuôn khổ pháp lý cho phép chúng xảy ra.