13,415 leituras

IA nas mídias sociais: considerações éticas de IA e algoritmos na formação de interações nas mídias sociais

por Nimit6m2024/04/30

Muito longo; Para ler

Este artigo investiga a influência das mídias sociais, traçando sua evolução e o papel fundamental da IA e dos algoritmos na personalização de conteúdo. Discute as implicações éticas, tais como preocupações com privacidade e preconceitos, que surgem do uso de dados de consumidores por empresas como a Meta. O artigo também examina o potencial dos algoritmos para criar câmaras de eco e a necessidade de medidas regulamentares para abordar o viés algorítmico, visando uma abordagem equilibrada entre inovação e proteção do utilizador no cenário digital em rápida evolução.

featured image - IA nas mídias sociais: considerações éticas de IA e algoritmos na formação de interações nas mídias sociais

Hoje em dia, as redes sociais desempenham um papel fundamental na vida, influenciando a forma como comunicamos, obtemos informações e partilhamos informações uns com os outros. Embora tenha menos de 30 anos [1], temos visto uma enorme evolução de plataformas como Facebook, Twitter, TikTok e LinkedIn: o Facebook agora é Meta e é dono do WhatsApp, Instagram e Threads; O Twitter é X. Ambos são propriedade de bilionários que anteciparam tendências tecnológicas, capitalizaram essas oportunidades e abriram caminho para uma indústria rapidamente inovadora.

O maior sucesso impulsionador das mídias sociais, do ponto de vista empresarial, são os dados do consumidor. A grande maioria das plataformas de mídia social são gratuitas e podem operar dessa forma porque, em troca, você permite que elas acessem seus dados. Com isso, empresas como a Meta conseguiram moldar o conteúdo e as interações nas redes sociais. Isso é algo que pode ser visto como benéfico ou antiético dependendo da intenção e do caso de uso, com questões como privacidade e manipulação longe de serem incomuns agora.

Neste artigo, iremos nos aprofundar na ética do uso de IA e algoritmos nas redes sociais, examinando como eles ajudam a personalizar o conteúdo, potencialmente levando a preconceitos e câmaras de eco, e o futuro da IA nas plataformas de redes sociais.

Uma breve história dos algoritmos e seus casos de uso crescentes nas mídias sociais

'Um algoritmo é uma série de instruções projetadas para resolver problemas específicos, executar tarefas ou tomar decisões' [2]. Nas mídias sociais, essas instruções regem as experiências do usuário, como classificação, filtragem e personalização de conteúdo, normalmente com base em tendências para diferentes grupos de consumidores. Isso permite que você, como usuário, encontre conteúdo que lhe interesse com muito mais rapidez, pois é provável que ele apareça nas páginas For You sem que você precise procurá-lo.

Algoritmos nem sempre foram usados nas redes sociais. Foi em 2009 que o Tumblr e o Facebook introduziram métricas de classificação e feeds personalizados. Em 2012, mais seguiram o exemplo. O Facebook aumentou o uso de algoritmos em seu feed de notícias e introduziu conteúdo patrocinado [3].O LinkedIn iniciou um “feed semiestruturado” e o YouTube introduziu um algoritmo de classificação, priorizando o tempo de exibição em vez da quantidade [4]. Desde então, o papel dos algoritmos nessas redes sociais só continuou a aumentar. Em 2015, o aprendizado de máquina estava começando a desempenhar um papel na classificação e filtragem de algoritmos, sustentado por desenvolvimentos nos esforços de Big Data. Os acontecimentos políticos de 2016, como a eleição de Trump e o referendo do Brexit (e um ano crucial no escândalo Cambridge Analytica), trouxeram então à atenção do público alguns dos dilemas éticos que rodeiam a utilização tão intensa e crescente de algoritmos e recolha de dados de utilizadores nas redes sociais.

Hoje em dia, os algoritmos alimentados por IA são construídos com tanta precisão que recomendam conteúdo com base em suas interações anteriores específicas na plataforma, com dados crescentes de usuários permitindo que as empresas de mídia social eliminem uma maioria significativa de qualquer suposição. Documentários como The Social Dilemma [5] e The Great Hack [6] fornecem algumas dicas sobre o quão projetados são alguns desses algoritmos, muitas vezes com o objetivo final de manter um usuário em sua plataforma por mais tempo e promover a interação com a plataforma. Embora o aumento da interação do utilizador signifique mais dados para as empresas de redes sociais recolherem, ajustarem e repetirem este processo, este objetivo não tem em consideração o que é melhor para o utilizador e para a sociedade em geral no que diz respeito ao consumo das redes sociais.

Questões éticas decorrentes de preconceito algorítmico

Os algoritmos podem perpetuar preconceitos prejudiciais e, no contexto das redes sociais, isto manifesta-se frequentemente como o reforço de estereótipos e a exposição limitada a diversos pontos de vista. Culminando ao longo do tempo, isto pode alimentar a discriminação, polarizar os eleitorados e até contribuir para o extremismo e o populismo de direita/autocrático, que exploram as divisões sociais.

Com um baixo nível de impacto, exemplos de viés algorítmico poderiam incluir ofertas de emprego para determinados setores, por exemplo, o LinkedIn sendo mostrado mais para homens do que para mulheres, porque os conjuntos de dados de treinamento nos quais os algoritmos foram modelados prevêem que mais homens provavelmente trabalharão nesses setores. papéis. Embora isto não tenha necessariamente um impacto prejudicial imediatamente óbvio, cria um ciclo de feedback negativo que vai contra os objectivos da sociedade de melhorar a igualdade e a representação nos locais de trabalho e em indústrias específicas. Desta forma, o preconceito de género é perpetuado como resultado do preconceito algorítmico, limitando as oportunidades para as mulheres verem esses anúncios.

Agora, para nos aprofundarmos nas implicações de alto nível do preconceito algorítmico, examinaremos a eleição de Trump em 2016 como um estudo de caso.

Estudo de caso: como os algoritmos afetaram a polarização/câmaras de eco nas eleições de Trump em 2016

Ao longo das eleições presidenciais dos EUA em 2016, a investigação demonstrou que os algoritmos podem ter exacerbado a polarização política ao amplificar as câmaras de eco e ao limitar a exposição do eleitorado a diversos pontos de vista. Muitos pensam que foi este mecanismo que permitiu ao Trumpismo correr desenfreado e também porque tão poucas pessoas previram a sua vitória [7], uma vez que estas dinâmicas não foram totalmente compreendidas nem visíveis durante o período eleitoral.

Mesmo nas redes sociais, portanto, parece verdade que “pássaros da mesma pena voam juntos” [8].

Os algoritmos adaptam o conteúdo para se alinhar às preferências dos usuários, protegendo-os de pontos de vista e opiniões opostas e criando “bolhas de filtro”. Por sua vez, alguns indivíduos dentro destas bolhas de filtros continuam a reforçar positivamente as suas opiniões, isolando-se ainda mais em ambientes digitais onde as suas crenças e opiniões são ecoadas e ainda mais reforçadas. Estas são chamadas de 'câmaras de eco'.

Essencialmente, as redes sociais promovem um ambiente em que todos nós ingerimos notícias e conteúdos tão personalizados que ficamos cegos às diferentes perspectivas dos outros.

Atualmente, a investigação não deixa claro se as redes sociais servem apenas como uma plataforma que permite o surgimento de câmaras de eco ou se a sua utilização de algoritmos chega ao ponto de desempenhar um papel na criação dessas câmaras de eco[8].

A vitória de Trump em 2016 mostra como as agendas das empresas de redes sociais podem ter consequências generalizadas que afectam milhões de pessoas, que, embora não intencionais, ainda são extremamente impactantes e também antiéticas. Sabemos que os algoritmos de mídia social são projetados para maximizar o envolvimento e a retenção do usuário, fornecendo conteúdo adaptado às preferências individuais. Agora, porém, também vemos como isso se aplica até mesmo a conversas políticas, aproveitando as inclinações e vulnerabilidades políticas dos usuários.

Quem sabe como teria sido a eleição se os algoritmos não estivessem impactando as crenças políticas pessoais das pessoas?

E como é que isto afecta a democracia e a estabilidade política? Se as pessoas não estiverem conscientes destas manipulações, os resultados podem ser considerados justos e válidos?

O futuro da IA nas mídias sociais

O papel dos algoritmos e da IA nas redes sociais continua a evoluir juntamente com as nossas inovações nesses campos. Desde conteúdos gerados por IA até algoritmos alimentados por IA que permitem a precisão que abordámos anteriormente, os desafios éticos que surgem com a sua integração nas redes sociais também terão de ser cada vez mais considerados. Isto precisa começar com a abordagem dos preconceitos algorítmicos e a promoção da transparência algorítmica nas plataformas de mídia social.

As futuras considerações políticas e regulamentações desempenharão um papel crucial na definição da trajetória do uso da IA nas redes sociais. Já se presta cada vez mais atenção à necessidade de regulação algorítmica e de protecção contra os danos que estes preconceitos invisíveis podem causar, especialmente nos EUA. Até agora, as iniciativas incluem[9]:

A “Lei de Responsabilidade Algorítmica de 2022”
A “Lei de Eliminação de Viés em Sistemas Algorítmicos de 2023”
A “Declaração de Direitos da IA”

Embora existam mais quadros actualmente a ser elaborados nas fases de proposta, ainda há regulamentação insuficiente de tecnologias tão poderosas quando consideramos o impacto que já têm. Encontrar um equilíbrio delicado entre inovação e salvaguarda dos interesses dos utilizadores exigirá uma abordagem colaborativa envolvendo empresas tecnológicas, decisores políticos e utilizadores.

As redes sociais têm o poder de ser uma força para o bem, unindo comunidades e promovendo a inclusão; no entanto, sem quadros e regulamentos adequados que protejam os direitos dos utilizadores, a utilização de IA e algoritmos também tem o poder de ser destrutiva para os indivíduos e para a sociedade em geral.