paint-brush
Por que o viés humano no ChatGPT e outros chatbots pode levar à interrupção socialpor@samueltreasure
2,335 leituras
2,335 leituras

Por que o viés humano no ChatGPT e outros chatbots pode levar à interrupção social

por Samuel A. Akorede5m2023/02/22
Read on Terminal Reader

Muito longo; Para ler

O Chatbot, ChatGPT, foi condenado por ser tendencioso por manter 'viés e rancores anticonservadores' contra o ex-presidente dos EUA, Donald Trump. O CEO da OpenAI, Sam Altman, twittou no início de fevereiro abordando o problema. Admitiu ter havido “ódio” dirigido aos funcionários da OpenAI, que considerou “terrível”
featured image - Por que o viés humano no ChatGPT e outros chatbots pode levar à interrupção social
Samuel A. Akorede HackerNoon profile picture

A revolução da IA, sem dúvida, foi responsável por novas invenções tecnológicas.

Sua disrupção introduziu modelos de IA como chatbots e ChatGPT que atualmente estão moldando a maneira como as pessoas vivem, interagem e se socializam no século 21, o que é alucinante.

Apenas dois meses após seu lançamento no ano passado, o chatbot OpenAI, ChatGPT, registrou mais de 100 milhões de usuários em todo o mundo.

Seguindo o exemplo, o Google também anunciou o lançamento do Bard , um modelo de conversação com inteligência artificial que fornece às pessoas informações fáceis de digerir a partir dos resultados de pesquisa.

Todos eles servem como conquistas monumentais, mostrando como o desenvolvimento da IA está próximo de garantir aos humanos um estilo de vida fácil. Mas pode haver alguns lapsos.

O problema com a revolução da IA

A criação de melhores maneiras de lidar com os assuntos humanos com a ajuda da IA traz algumas implicações.

O surgimento de modelos de IA de alto nível, como o ChatGPT e outros chatbots avançados, já representam uma ameaça aos empregos humanos.

Mais cedo ou mais tarde, a IA sequestrará furtivamente empregos humanos ou inutilizará muitos trabalhadores em seus campos.

A interrupção do trabalho é considerada inevitável à medida que a IA é revolucionada. Mas há mais a observar, pois esses modelos de IA se revezam para se infiltrar na vida humana e mudar a ordem das coisas.

Um problema potencial associado a essas novas tecnologias – ChatGPT e outros Chatbots – que precisa de observação séria é como esses modelos podem causar perturbações sociais.

De acordo com o CEO da OpenAI, Sam Altman, um dos principais problemas no combate ao ChatGPT é o problema do viés.

O viés humano foi identificado como um grande problema do ChatGPT e, claro, não é exclusivo do ChatGPT da OpenAI sozinho.

Existem outros Chatbots com problemas seletivos de preferência humana.

Estatísticas de viés de IA

A pesquisa do Tidio mostra que apenas 2% das pessoas acham que a IA é livre de viés; em contraste, 45% dos entrevistados acham que o principal problema moderno da IA é o viés social.

Isso significa que chatbots de IA como o ChatGPT e os demais ainda carecem de justiça em seu julgamento e operação. Porque o preconceito humano é ostensivamente notável usando esses modelos de IA.

O que é viés de IA (humano)?

O viés de IA é um problema de inteligência artificial causado quando dados tendenciosos são usados para treinar um algoritmo de modelo, o que acaba afetando o julgamento da máquina.

Explicando o papel do viés na IA , Steve Nouri , chefe de Data Science & AI, afirmou que o viés humano na IA ocorre em três formas: viés de gênero, preconceito racial e discriminação por idade.

O viés humano na IA é considerado responsabilidade dos dados comprometidos ou dos desenvolvedores.

Isso mostra que é quase impossível para um Chatbot instigar calúnias raciais, derramar declarações ofensivas ou discriminar um determinado grupo de pessoas por conta própria.

Exceto se houver um algoritmo tendencioso ou dados consumidos pelo modelo.

Um bom exemplo deve ser o desligamento abrupto do chatbot do Twitter da Microsoft , Tay, em 2016, após ser acusado de ser racialmente tendencioso.

Mesmo o recém-lançado modelo de conversação OpenAI, ChatGPT, foi condenado por ser tendencioso por manter "viés anticonservador e rancores " contra o ex-presidente dos EUA, Donald Trump.

Por que o viés humano em chatbots pode levar à ruptura social

O viés político que o ChatGPT tinha sobre o ex-presidente Donald Trump gerou muitas críticas ao modelo de IA e à sua empresa desenvolvedora, a OpenAI, nas redes sociais.

Em resposta ao amplo assédio, o CEO da OpenAI, Sam Altman, twittou no início de fevereiro abordando o problema. De acordo com Sam, o ajuste para erradicar o viés do ChatGPT e melhorá-lo está em andamento.

Em seus tweets, Sam admitiu que houve “ódio” direcionado aos funcionários da OpenAI, que ele considerou “terrível”.

Ele também revelou que sua empresa está trabalhando para melhorar a configuração padrão do chatbot para promover a neutralidade e também permitir que os usuários usem os sistemas com base em preferências individuais.

Mas isso não acontecerá facilmente. Até Sam admitiu que o processo é difícil e levará tempo para ser implementado.

O viés político do ChatGPT levou a ataques injustificados aos funcionários da OpenAI. Isso é indicação suficiente para avaliar as consequências sociais de qualquer modelo de IA tendencioso.

Os vieses da IA podem impor consequências terríveis a indivíduos e comunidades. Pode levar a críticas injustas a um grupo de pessoas ou discriminação, o que indiretamente gera animosidade ou explosão social.

Por isso é importante não ignorar os vieses do momento, mas exigir soluções viáveis.

Assim como declarado por Sam, “atacar outras pessoas” não tem efeito significativo em ajudar o avanço do campo de IA. Deve-se chamar a atenção para possíveis opções para reduzir os vieses do chatbot de IA.

Como reduzir o viés em chatbots de IA

O viés humano em chatbots de IA é causado pelo uso de algoritmos ou dados tendenciosos e pelos desenvolvedores dos modelos. Para evitar viés na IA, o seguinte deve ser observado na construção de chatbots:

Desenvolvedores de diversas origens

O viés de algoritmo ou viés de dados na IA é possível principalmente porque os desenvolvedores – que são humanos – são naturalmente tendenciosos em sua abordagem.

É fácil para uma equipe de desenvolvedores homogêneos construir um modelo de IA que favoreça ou apoie suas visões e perspectivas sobre certas questões da vida.

Para evitar que isso aconteça, é necessário empregar uma equipe de diversos cientistas de dados que possam auxiliar na observação e redução do viés algorítmico.

Uso de dados sintéticos

O consumo de grandes quantidades de dados não censurados por modelos de IA torna-os tendenciosos. Uma maneira de erradicar o viés do chatbot é garantir que o modelo use dados sintéticos cuidadosamente observados pelos desenvolvedores.

Transparência

A reação ao viés descoberto pelo ChatGPT, OpenAI concordou que seu novo chatbot AI ainda tem "problemas em manter seus fatos corretos e, ocasionalmente, emite instruções prejudiciais".

A empresa de IA saiu limpa para dizer às pessoas por que o chatbot ainda não pode ser usado para informações importantes ou confidenciais.

Essa é uma forma de transparência necessária para conter o viés humano nos chatbots. Ao declarar as fraquezas do modelo, a perturbação social pode ser domada antes de aumentar.

Testando o modelo antes e depois do desenvolvimento

Assim como afirmado, os desenvolvedores devem testar o modelo antes e depois de ter sido desenvolvido.

Isso pode levar muito tempo para avaliar as funções do chatbot e abordar qualquer forma de viés que possa surgir na causa do teste.

Permitir que os cientistas de dados estudem de perto os dados que o chatbot de IA precisa para funcionar e aperfeiçoar como ele espera que o modelo responda ou construa as informações que degenera deve ser um exame obrigatório a ser realizado após o desenvolvimento.

Conclusão

O ChatGPT, como qualquer outro chatbot, ainda está longe de ser livre de preconceito humano. É um problema fundamental criado pelos dados com os quais a IA é treinada e pelas preferências pessoais dos desenvolvedores.

Assim que os desenvolvedores e as equipes de ciência de dados começarem a ser clínicos e objetivos em sua abordagem à coleta de dados usados por esses modelos de IA, o viés da IA começará sua jornada para a extinção.