Não é mais novidade que o ChatGPT e outros chatbots reinventaram nossa compreensão e interação com ferramentas de inteligência artificial (IA). Muitas pessoas conheceram a IA pela primeira vez quando a internet enlouqueceu com o lançamento do ChatGPT em novembro passado.   Sem descartar a empolgação associada ao chatbot da OpenAI, somos expostos diariamente a ferramentas e operações de IA. Veja, por exemplo, o fato de que o mecanismo de busca e o mapa do Google dependem da IA para processar consultas e produzir respostas em segundos.  AI é o bom, o mau e o inevitável  As possibilidades do que pode ser feito com o ChatGPT e outras ferramentas de IA geraram alegria sem precedentes. Existem instâncias dessas ferramentas criando conteúdos e documentos técnicos reservados exclusivamente para profissionais.  O ChatGPT tem sido usado para escrever códigos, desenvolver malware, gerar ideias, traduzir idiomas e muito mais. Em 2022, o uso do Midjourney cresceu mais de  .   1000%  Os recursos dessas ferramentas também introduzem o medo do dia do juízo final. Existem preocupações de  ,  ,  ,  ,  , e  .   desemprego em massa   plágio alimentado por IA e malandragem educacional   litígio de direitos autorais   desinformação   resumos de pesquisa falsos   democratização do cibercrime  Uma ação movida em 13 de janeiro de 2023 acusou Stability AI, Midjourney e DeviantArt de  “os direitos de milhões de artistas”.   violando  IA é o futuro. Devemos aprender a abraçar o bem e implementar medidas para minimizar o impacto do mal. No entanto, não há dúvida de que a IA continuará a perturbar a sociedade moderna.  Uma pesquisa recente feita por  mostrou que a geração Z (29%), a geração X (28%) e a geração do milênio (27%) usaram ferramentas de IA generativas.   estatista  Espera-se que a receita do mercado global de IA cresça de US$ 136 bilhões em 2022 para mais de  até 2030. De acordo com  , 35% das empresas usaram IA em seus negócios, 42% estavam explorando a IA e 66% estavam executando ou planejando aplicar a IA para atingir metas de sustentabilidade.   US$ 1,5 trilhão   IBM  Os benefícios da IA incluíram automação de trabalho (30%), economia de custos (54%), desempenho de TI (53%) e melhor experiência do cliente (48%).   A criação da IA  Dadas as muitas maravilhas do ChatGPT e outras ferramentas, é fácil supor que as ferramentas de IA são uma fusão de feitiçaria e ciência. Felizmente, eles não são.  IA são modelos matemáticos gerados em laboratório, baseados em dados, projetados para executar tarefas que exigem inteligência humana, como reconhecer padrões, aprender com a experiência, resolver problemas e tomar decisões eficazes.  O desenvolvimento da IA é impulsionado por avanços em áreas como ciência da computação, neurociência e psicologia. Baseia-se na ideia de que a inteligência humana pode ser modelada e simulada por uma máquina.  Algumas das principais tecnologias e técnicas usadas na IA incluem aprendizado de máquina, processamento de linguagem natural e robótica.  Impacto do viés humano no desenvolvimento de IA  A noção de “entra lixo, sai lixo” é muito verdadeira para a IA. À medida que continuamos a desenvolver e confiar cada vez mais nos sistemas de IA, também devemos estar cientes do potencial de viés nesses sistemas.  Embora seja fácil apontar o dedo para a própria IA como o problema, a verdade é que a verdadeira preocupação é o viés humano daqueles que desenvolvem e treinam esses sistemas. Os sistemas de IA se comportam exatamente da maneira que seus desenvolvedores desejam.  69% dos pesquisadores de IA acreditam  e deve implicar um maior enfoque na segurança.   A IA e seu desenvolvimento são uma preocupação de segurança  O viés humano na IA pode se manifestar de várias maneiras, desde os dados usados para treinar a IA até os processos de tomada de decisão do próprio sistema.  Por exemplo, se um sistema de IA for treinado em um conjunto de dados desproporcionalmente composto por um grupo específico de pessoas, ele pode não ser capaz de entender e tomar decisões com precisão para outros grupos.  Da mesma forma, se um sistema de IA for projetado para tomar decisões com base em certas suposições ou estereótipos, ele pode perpetuar preconceitos prejudiciais na sociedade.  Um dos maiores problemas com a IA é o fato de que os dados nos quais ela é treinada podem refletir os preconceitos das pessoas que coletam e selecionam esses dados.  Por exemplo, se um conjunto de dados usado para treinar um sistema de reconhecimento facial for composto principalmente por imagens de pessoas de pele clara, o sistema provavelmente terá um desempenho ruim ao tentar reconhecer os rostos de pessoas com tons de pele mais escuros.  Essa é uma forma de viés que pode ter consequências no mundo real, como no caso de  devido a uma falha no reconhecimento facial.   pessoas de cor sendo falsamente presas  Mas não são apenas os dados que podem ser tendenciosos, as pessoas que criam e treinam esses sistemas também podem introduzir viés por meio de seus próprios preconceitos inconscientes.  Por exemplo, um  descobriram que modelos de linguagem como GPT-3, que foram treinados em um conjunto de dados principalmente racista e sexista, tendem a produzir textos racistas e estereotipados por gênero. Isso pode perpetuar estereótipos nocivos e limitar o potencial dos sistemas de IA.    estudar  Ferramentas de IA Socialmente Responsáveis  Como 74% das organizações não tomaram medidas para garantir que sua IA seja confiável e responsável, a urgência de criar ferramentas de IA socialmente responsáveis é uma responsabilidade coletiva. Começa identificando o potencial de viés e trabalhando ativamente para mitigá-lo.  Isso significa diversificar a equipe de pessoas que trabalham com IA e garantir que uma ampla gama de perspectivas e experiências sejam representadas.  É importante garantir que os dados usados para treinar a IA sejam diversos e representativos da população que ela atenderá. Isso envolve selecionar e selecionar cuidadosamente os dados para garantir que eles não perpetuem preconceitos ou estereótipos existentes.  Além disso, é importante considerar o impacto potencial dos dados em diferentes grupos de pessoas e obter informações de diversas perspectivas para garantir que os dados sejam inclusivos e justos.  O design de sistemas de IA deve ser transparente e explicável. Isso significa que os processos de tomada de decisão dos sistemas de IA devem ser claros e facilmente compreendidos pelos humanos, para que quaisquer possíveis vieses ou problemas possam ser identificados e resolvidos.  É essencial avaliar e monitorar regularmente o desempenho dos sistemas de IA para garantir que eles funcionem como pretendido e não perpetuem vieses prejudiciais. Isso inclui analisar regularmente os dados usados para treinar sistemas de IA, bem como as decisões e ações dos modelos de IA.  O governo deve fazer leis e regulamentos que imponham o desenvolvimento e uso socialmente responsável da IA sem sufocar o crescimento e o desenvolvimento.   Maximizando a IA para o Bem da Sociedade  A IA tem o potencial de revolucionar a maneira como vivemos, trabalhamos e socializamos. Mas, à medida que continuamos a desenvolver e confiar em sistemas de IA, é crucial também abordarmos o potencial de viés. Devemos reconhecer que a verdadeira preocupação não é a IA em si, mas o viés daqueles que a desenvolvem e treinam.  Ao estar ciente desse problema e tomar medidas para mitigá-lo, podemos garantir que o futuro da IA beneficie a todos.  O objetivo deve ser o desenvolvimento da IA para o bem da sociedade. Tal objetivo exigirá responsabilidade coletiva de governos, desenvolvedores e usuários. Os governos devem aplicar regulamentos que garantam que os sistemas de IA sejam desenvolvidos de maneira socialmente responsável.  Os desenvolvedores devem evitar preconceitos adotando diversidade, transparência e responsabilidade. Eles devem avaliar e monitorar regularmente o desempenho dos sistemas de IA para evitar preconceitos e abusos não intencionais.  O público também deve entender que é responsável por como usa a IA. O uso socialmente irresponsável da IA deve ser desencorajado por todos.

Get evidence-based, proven strategies to reduce your cybersecurity exposure and business risk.

Read My Stories

Portfolio

Newsletter

Thought Leader + Writer

Este áudio é produzido no idioma original da história!

AI não é a preocupação, é com os desenvolvedores de AI que você deve se preocupar

About Author

COMENTARIOS

Rótulos

ESTE ARTIGO FOI APRESENTADO EM

Related Stories

Telegram: a ponte da Crypto Island para o continente

Uma breve introdução à teoria do cérebro de Boltzmann

De fóruns a feeds: como os algoritmos de mídia social moldam a interação digital

Vazamento do prompt do sistema Claude Sonnet 3.5: uma análise forense

Telegram: a ponte da Crypto Island para o continente

Uma breve introdução à teoria do cérebro de Boltzmann

De fóruns a feeds: como os algoritmos de mídia social moldam a interação digital

Vazamento do prompt do sistema Claude Sonnet 3.5: uma análise forense

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps