O algoritmo do YouTube discrimina criadores de minorias?

O YouTube é uma das maiores plataformas de mídia social, com mais de 2,6 bilhões de usuários mensais . Mais de 500 minutos de vídeo são carregados a cada minuto, pois inúmeros criadores usam a plataforma para compartilhar suas paixões e interesses - e para gerar um fluxo de renda adicional ou até mesmo uma renda em tempo integral.

Isso é possível graças ao Programa de Parceiros do YouTube, que dá uma parte dos ganhos com anúncios em vídeos para seus criadores. Além disso, o YouTube também introduziu alguns recursos de monetização direta, como Super Thanks e Stickers. Isso permite que os espectadores dêem dicas diretamente aos criadores.

No entanto, muitos criadores minoritários afirmam que estão sendo discriminados pelo algoritmo da plataforma e que estão perdendo ganhos em comparação com seus pares. No passado, vários processos de discriminação de criadores LGBTQ e BIPOC falharam, mas agora a Suprema Corte dos EUA está revisando a legislação subjacente.

Aqui está o resumo completo dessas reivindicações, seus fundamentos e o que está acontecendo a seguir.

O poder do algoritmo do YouTube

Antes de mergulharmos na longa história de acusações de discriminação contra o YouTube, é essencial entender o papel do algoritmo da plataforma nisso tudo.

Basicamente, determina quais criadores obtêm sucesso no YouTube e quais desaparecem na obscuridade.

O algoritmo do YouTube avalia cada vídeo enviado e decide o que aparece nos resultados de pesquisa e nas recomendações. Ele também sinaliza vídeos que contêm conteúdo impróprio e aplica restrições sobre quem pode vê-los.

Ter uma restrição de idade em seu vídeo, por exemplo, praticamente significa que se torna impossível monetizar. Por um lado, ele ficará visível apenas para usuários com sessão iniciada e maiores de 18 anos. Por outro lado, a maioria dos anúncios não é exibida em vídeos com restrições impostas a eles, reduzindo a receita dos criadores.

É por isso que o algoritmo do YouTube tem uma influência enorme sobre o sucesso do criador - tanto o tamanho do público quanto o conteúdo que eles podem usar para gerar receita.

Restringindo recomendações LGBTQ e BLM

Dois dos processos de discriminação mais proeminentes contra o YouTube, na verdade, giram em torno de restrições impostas a vídeos por criadores de conteúdo BIPOC e LGBTQ.

Em 2020, criadores afro-americanos lançaram uma suposta ação coletiva contra a Alphabet, empresa controladora do YouTube. Eles alegaram que o YouTube usou seu algoritmo para sinalizar vídeos usando terminologia relacionada ao movimento Black Lives Matter, incluindo “perfil racial”, “BLM” e “tiro policial”. Posteriormente, esses vídeos foram colocados em modo restrito.

Um processo semelhante já foi aberto em agosto de 2019 por criadores LGBTQ . Eles alegaram que vídeos usando palavras como “gay”, “bissexual” e “transgênero” em seus títulos, tags e descrições eram frequentemente sinalizados e restritos.

Restrições de idade direcionadas a conteúdo criado por negros

Uma queixa semelhante apareceu muito mais recentemente . O popular YouTuber negro CoryxKenshin postou um vídeo descrevendo sua experiência sendo alvo do algoritmo do YouTube por postar conteúdo que seus colegas enviaram sem problemas.

A disputa é sobre o jogo de terror indie lançado recentemente, The Mortuary Assistant. Ele rapidamente ganhou popularidade entre os YouTubers de jogos e muitos deles enviaram playthroughs, incluindo CoryxKenshin.

No entanto, ao contrário de outros criadores, o vídeo de CoryxKenshin foi imediatamente sinalizado e restrito, sem que o YouTube lhe dissesse o motivo.

Ele recorreu da restrição, que foi negada. Sem desistir, ele acabou descobrindo que a restrição foi aplicada devido a uma cena do final do play-through, que incluía imagens relacionadas ao suicídio.

O problema? As reproduções de outros YouTubers brancos populares incluíram exatamente a mesma cena, sem terem sido sinalizadas.

CoryxKenshin então procurou o YouTube, mais uma vez apelando da restrição, mas desta vez usando a reprodução irrestrita de Markiplier como argumento.

Rapidamente, a restrição em seu vídeo foi removida.

Em seu vídeo sobre racismo e favoritismo, CoryxKenshin também detalha quanto de seu conteúdo é restrito apenas quando está em alta. Um exemplo que ele dá é um vídeo antigo dele que começou a ser tendência logo depois que ele voltou de um hiato.

Se o algoritmo funcionasse sem viés, argumenta ele, esse conteúdo deveria ter sido sinalizado há muito tempo. Do jeito que está, dá a impressão de que o canal dele está sendo visado de propósito.

Sub-representação do BIPOC no conteúdo infantil

Outra evidência recente de preconceito racial no algoritmo do YouTube vem de um estudo da Common Sense Media, um site de análise de entretenimento infantil . Em parceria com a Universidade de Michigan, eles revisaram o conteúdo infantil que o algoritmo do YouTube envia para o público mais jovem.

Como a plataforma apresenta conteúdo gerado pelo usuário, argumentam os autores, ela tem uma chance muito maior de representar a realidade diversificada em que vivemos. Especialmente em comparação com os estúdios de Hollywood, que ainda lutam com a representação do BIPOC.

No entanto, os resultados do estudo mostraram que a maioria (62%) do conteúdo popular entre crianças menores de 9 anos não apresentava nenhum personagem BIPOC. Os vídeos que incluíam diversos personagens eram significativamente mais propensos a apresentar elementos negativos, como linguagem imprópria e violência. Além disso, 10% dos vídeos que alcançaram popularidade viral entre pré-adolescentes e adolescentes apresentavam estereótipos raciais.

Isso não quer dizer que não exista conteúdo positivo dos criadores do BIPOC. O YouTube só falha em promovê-lo por meio de seu algoritmo.

Embora os autores do estudo não acusem abertamente o algoritmo de promover conteúdo tendencioso, eles fazem um apelo urgente por mais transparência e um esforço consciente da parte do YouTube para promover conteúdo BIPOC positivo para crianças.

Amplificação Algorítmica e Seção 230

O YouTube diz que já deu grandes passos e que está trabalhando para implementar iniciativas de programação destinadas a promover a diversidade e a inclusão. No entanto, os efeitos ainda não parecem ser aparentes para os criadores.

Parte do problema também é que o YouTube e outras plataformas de mídia social como essa atualmente desfrutam de amplas proteções legais, graças à Seção 230 da Lei de Decência nas Comunicações. Esta lei, aprovada em 1996, estipula que as empresas online não são responsáveis pela transmissão de materiais enviados por terceiros.

Aqueles de nós que se lembram da internet em 1996 podem pensar que é bizarro que uma lei da era pré-Google de painéis de mensagens, conexões dial-up de internet e MSN regule as gigantes corporações de mídia social de hoje. Muitos políticos concordam e lançaram iniciativas para modificar a lei . Sem sucesso, até agora.

Em 2020 e 2021, a Seção 230 foi usada para vencer os processos de criadores LGBTQ e BIPOC alegando preconceito.

Agora, no entanto, a Suprema Corte dos EUA concordou em ouvir uma contestação da Seção 230. Um argumento importante é que gigantes da mídia social como o YouTube perdem a proteção da lei assim que seus algoritmos amplificam determinado conteúdo, aumentando o sinal de sua mensagem.

Pensamentos finais

Ainda não se sabe se a Seção 230 será modificada com base na amplificação algorítmica e como ela ajudará diversos criadores a combater o viés.

No momento, o melhor que eles podem fazer é estar ciente do funcionamento opaco do algoritmo e do fato de que parece haver um viés palpável contra criadores que representam minorias. E para falar sobre isso.

Ao destacar suas experiências com essas discrepâncias como um coletivo, eles podem contribuir para a mudança e fornecer argumentos para os advogados que lidam com o arcabouço legal que permite que elas aconteçam.