![Search icon](https://hackernoon.imgix.net/search-new.png?w=19&h=19)
A OpenAI se tornou um nome conhecido da noite para o dia, pelo menos nos círculos de tecnologia, ao lançar o ChatGPT em novembro de 2022. Empresas e indivíduos rapidamente adotaram suas ferramentas e começaram a usá-las para automatizar tarefas diárias.
Um problema com texto e imagens gerados por IA é que eles podem espelhar trabalhos existentes. Alguns acusaram o software de plágio, enquanto outros acham que ele não é tão detalhado quanto o trabalho criado por humanos. Empregadores em todos os lugares querem melhores maneiras de detectar o uso de IA para atender às necessidades do público-alvo e saber o melhor momento para utilizar a tecnologia.
A Open AI respondeu criando uma ferramenta de detecção de IA, mas ainda não a lançou. Muitos querem saber o motivo da paralisação e se ela será disponibilizada ao público.
O TechCrunch publicou um artigo explicando a ferramenta de detecção da OpenAI, que tem como objetivo capturar alunos que trapaceiam fazendo com que o programa de computador escreva seus trabalhos. A empresa se sentou sobre ela em vez de liberá-la, fazendo alguns questionarem o porquê. Um representante da OpenAI disse que a empresa está considerando a
Muitas outras ferramentas de detecção foram ineficazes, criando falsos positivos às vezes e falhando em detectar texto gerado por IA em outras. O produto da OpenAI se concentraria principalmente em detectar texto com marca d'água do ChatGPT. Um motivo para não lançá-lo é o medo de que isso possa impactar negativamente falantes não nativos de inglês. A ferramenta também força o ChatGPT a mudar como funciona ao adicionar as palavras com marca d'água.
Embora o software de detecção tenha como objetivo capturar alunos que usam IA para escrever trabalhos, ele pode ser aplicado a muitas outras situações, principalmente no combate a fraudes em larga escala.
Por exemplo, considere o quão útil uma ferramenta de detecção de IA poderia ser para capturar texto gerado por computador usado por criminosos cibernéticos. Somente em 2023, os pagamentos de ransomware
Muitos golpes incluem verborragia fluente com a intenção de tocar as cordas emocionais do coração de alguém ou causar medo. Quando não têm certeza se uma mensagem é legítima, as pessoas podem executar o texto pela ferramenta de detecção para ver se IA foi usada para gerá-la. Isso pode ser muito valioso, pois muitos golpes envolvem texto escrito por robôs.
Até agora, as ferramentas de detecção de IA não têm sido muito precisas. Elas sinalizaram falsamente conteúdo original como gerado por IA e fizeram com que os alunos tivessem que lutar por suas notas e, às vezes, por suas carreiras acadêmicas. Universidades e empregadores levam o plágio a sério, então uma acusação falsa pode destruir o futuro ou o sustento de alguém.
As ferramentas também podem ser ineficazes quando os usuários não conseguem
Os oponentes do software temem que ele possa levar as pessoas a serem menos criativas por medo de acionar um detector. Programas como o StealthAI irão
As pessoas também expressam preocupações sobre jogadores ruins que usam a ferramenta para fazer engenharia reversa de código e criar algo que irá
Argumentos contra ferramentas de detecção de IA podem em breve ser um ponto discutível. Enquanto as pessoas expressaram preocupação com falantes não nativos de inglês sendo deixados para trás, os desenvolvedores de software provavelmente consertarão os problemas de barreira de idioma com o passar do tempo.
Muitos acreditam que a OpenAI lançará sua ferramenta em breve. Os relatórios indicam
À medida que o desenvolvimento do detector de IA cresce, espere vê-lo usado para coisas como:
Identificando vídeos falsos usados em campanhas políticas
Encontrar informações incorretas e marcá-las com mais precisão do que outros bots
Gerando conteúdo ético
O lançamento da ferramenta pode inspirar outras marcas a criar seus próprios programas e aumentar a taxa de sucesso da detecção de IA.
Adore ou odeie, a IA veio para ficar — embora as empresas tenham sido um pouco mais lentas em adotá-la do que o previsto inicialmente. O MIT divulgou um relatório mostrando que a tecnologia está sendo
À medida que os departamentos de marketing aprendem mais sobre como a IA funciona e maneiras de implementá-la, espera-se que mais marcas a utilizem e busquem ferramentas de detecção para evitar problemas de privacidade e cópias.
Aqueles que usam IA por um tempo começam a notar padrões que podem ser detectados sem a ajuda de software. Por exemplo, a introdução de quase todos os artigos tem linguagem semelhante. O layout, o ritmo e os detalhes são os mesmos. Com um pouco de prática, a maioria das pessoas consegue identificar uma peça gerada por IA com bastante precisão.
Sem uma maneira de detectar conteúdo gerado por IA com precisão, as pessoas podem desconfiar do que leem online. Em outras situações, elas podem suspeitar que alguém usou IA sem revelar, mas achar impossível provar. Os trabalhadores podem ser falsamente acusados ou perder seus empregos e diplomas quando não são culpados.
A ferramenta resolverá o problema de alunos que fazem muito pouco trabalho e não têm sucesso nos estudos, mas ainda assim conseguem obter um diploma avançado com base no trabalho duro, suor e lágrimas de outra pessoa.
O produto da OpenAI provavelmente terá o maior impacto no setor educacional. No entanto, as empresas também podem utilizá-lo para garantir que produzem conteúdo exclusivo e altamente direcionado que os clientes queiram ler.
A decisão da OpenAI de se sentar em sua ferramenta de detecção está enraizada em querer fazer o que é melhor conforme a tecnologia de IA cresce e preocupações éticas surgem. Ela provavelmente lançará o software em algum momento, para o alívio de educadores em todos os lugares. Como outras indústrias podem usá-lo ainda está para ser visto. \
Todas as empresas que desenvolvem programas de IA devem equilibrar os prós e contras de cada recurso que introduzem. Só então a IA se tornará uma ferramenta indispensável que estimula o progresso.