A OpenAI criou uma ferramenta de detecção de IA, então por que não a lança?

A OpenAI se tornou um nome conhecido da noite para o dia, pelo menos nos círculos de tecnologia, ao lançar o ChatGPT em novembro de 2022. Empresas e indivíduos rapidamente adotaram suas ferramentas e começaram a usá-las para automatizar tarefas diárias.

Um problema com texto e imagens gerados por IA é que eles podem espelhar trabalhos existentes. Alguns acusaram o software de plágio, enquanto outros acham que ele não é tão detalhado quanto o trabalho criado por humanos. Empregadores em todos os lugares querem melhores maneiras de detectar o uso de IA para atender às necessidades do público-alvo e saber o melhor momento para utilizar a tecnologia.

A Open AI respondeu criando uma ferramenta de detecção de IA, mas ainda não a lançou. Muitos querem saber o motivo da paralisação e se ela será disponibilizada ao público.

Por que a OpenAI está hesitante em lançar sua ferramenta?

O TechCrunch publicou um artigo explicando a ferramenta de detecção da OpenAI, que tem como objetivo capturar alunos que trapaceiam fazendo com que o programa de computador escreva seus trabalhos. A empresa se sentou sobre ela em vez de liberá-la, fazendo alguns questionarem o porquê. Um representante da OpenAI disse que a empresa está considerando a impactos mais amplos da ferramenta e levando seu tempo.

Muitas outras ferramentas de detecção foram ineficazes, criando falsos positivos às vezes e falhando em detectar texto gerado por IA em outras. O produto da OpenAI se concentraria principalmente em detectar texto com marca d'água do ChatGPT. Um motivo para não lançá-lo é o medo de que isso possa impactar negativamente falantes não nativos de inglês. A ferramenta também força o ChatGPT a mudar como funciona ao adicionar as palavras com marca d'água.

Usos mais amplos da ferramenta

Embora o software de detecção tenha como objetivo capturar alunos que usam IA para escrever trabalhos, ele pode ser aplicado a muitas outras situações, principalmente no combate a fraudes em larga escala.

Por exemplo, considere o quão útil uma ferramenta de detecção de IA poderia ser para capturar texto gerado por computador usado por criminosos cibernéticos. Somente em 2023, os pagamentos de ransomware dobrou em relação ao ano anterior para mais de 1 bilhão de dólares, e esse número espera-se que continue a aumentar dramaticamente com a prevalência da IA. À medida que consumidores e empresas trabalham para combater violações de dados, a IA pode facilitar a identificação de texto gerado por computador.

Muitos golpes incluem verborragia fluente com a intenção de tocar as cordas emocionais do coração de alguém ou causar medo. Quando não têm certeza se uma mensagem é legítima, as pessoas podem executar o texto pela ferramenta de detecção para ver se IA foi usada para gerá-la. Isso pode ser muito valioso, pois muitos golpes envolvem texto escrito por robôs.

Argumentos contra o uso de ferramentas de detecção

Até agora, as ferramentas de detecção de IA não têm sido muito precisas. Elas sinalizaram falsamente conteúdo original como gerado por IA e fizeram com que os alunos tivessem que lutar por suas notas e, às vezes, por suas carreiras acadêmicas. Universidades e empregadores levam o plágio a sério, então uma acusação falsa pode destruir o futuro ou o sustento de alguém.

As ferramentas também podem ser ineficazes quando os usuários não conseguem conecte-se a um software versátil e fácil de usar que os ajude a contornar a detecção de IA, como HumanizeAI e RealWriter. As pessoas devem aprender a utilizar a IA de maneiras que lhes permitam fazer brainstorming e gerar novas ideias sem plagiar informações. No entanto, elas podem evitar usar qualquer tipo de software por medo de serem sinalizadas por um detector.

Os oponentes do software temem que ele possa levar as pessoas a serem menos criativas por medo de acionar um detector. Programas como o StealthAI irão reescrever texto gerado por IA para soar mais humano. Eles também dizem que as pessoas vão se afastar de ferramentas comumente usadas como ChatGPT e procurar outras sem as mesmas marcas d'água, efetivamente tornando a ferramenta detectora inútil.

As pessoas também expressam preocupações sobre jogadores ruins que usam a ferramenta para fazer engenharia reversa de código e criar algo que irá utilizar IA para criar vídeos deep fake ou ataques DDoS. Os cibercriminosos já são complicados. Ninguém quer dar a eles mais maneiras de enganar as pessoas para que compartilhem seus dados pessoais.

Benefícios de uma ferramenta de detecção de IA

Argumentos contra ferramentas de detecção de IA podem em breve ser um ponto discutível. Enquanto as pessoas expressaram preocupação com falantes não nativos de inglês sendo deixados para trás, os desenvolvedores de software provavelmente consertarão os problemas de barreira de idioma com o passar do tempo.

Muitos acreditam que a OpenAI lançará sua ferramenta em breve. Os relatórios indicam que o debate interno está em andamento por quase dois anos sobre a utilidade do software versus preocupações sobre inclusão. Alguns veem os benefícios de universidades e empregadores usando ferramentas de detecção de IA.

À medida que o desenvolvimento do detector de IA cresce, espere vê-lo usado para coisas como:

• Identificando vídeos falsos usados em campanhas políticas

• Encontrar informações incorretas e marcá-las com mais precisão do que outros bots

• Gerando conteúdo ético

  
  

O lançamento da ferramenta pode inspirar outras marcas a criar seus próprios programas e aumentar a taxa de sucesso da detecção de IA.

O futuro do uso da IA

Adore ou odeie, a IA veio para ficar — embora as empresas tenham sido um pouco mais lentas em adotá-la do que o previsto inicialmente. O MIT divulgou um relatório mostrando que a tecnologia está sendo adotado em taxas diferentes com base em setores. Por exemplo, a maioria dos negócios que adotaram IA estavam na indústria e na assistência médica.

À medida que os departamentos de marketing aprendem mais sobre como a IA funciona e maneiras de implementá-la, espera-se que mais marcas a utilizem e busquem ferramentas de detecção para evitar problemas de privacidade e cópias.

Aqueles que usam IA por um tempo começam a notar padrões que podem ser detectados sem a ajuda de software. Por exemplo, a introdução de quase todos os artigos tem linguagem semelhante. O layout, o ritmo e os detalhes são os mesmos. Com um pouco de prática, a maioria das pessoas consegue identificar uma peça gerada por IA com bastante precisão.

Por que as pessoas precisam da ferramenta agora

Sem uma maneira de detectar conteúdo gerado por IA com precisão, as pessoas podem desconfiar do que leem online. Em outras situações, elas podem suspeitar que alguém usou IA sem revelar, mas achar impossível provar. Os trabalhadores podem ser falsamente acusados ou perder seus empregos e diplomas quando não são culpados.

A ferramenta resolverá o problema de alunos que fazem muito pouco trabalho e não têm sucesso nos estudos, mas ainda assim conseguem obter um diploma avançado com base no trabalho duro, suor e lágrimas de outra pessoa.

O produto da OpenAI provavelmente terá o maior impacto no setor educacional. No entanto, as empresas também podem utilizá-lo para garantir que produzem conteúdo exclusivo e altamente direcionado que os clientes queiram ler.

Um problema complexo

A decisão da OpenAI de se sentar em sua ferramenta de detecção está enraizada em querer fazer o que é melhor conforme a tecnologia de IA cresce e preocupações éticas surgem. Ela provavelmente lançará o software em algum momento, para o alívio de educadores em todos os lugares. Como outras indústrias podem usá-lo ainda está para ser visto. \

Todas as empresas que desenvolvem programas de IA devem equilibrar os prós e contras de cada recurso que introduzem. Só então a IA se tornará uma ferramenta indispensável que estimula o progresso.