OpenAI creó una herramienta de detección de IA, ¿por qué no la publica?

OpenAI se convirtió de la noche a la mañana en un nombre conocido, al menos en los círculos tecnológicos, al lanzar ChatGPT en noviembre de 2022. Las empresas y los particulares adoptaron rápidamente sus herramientas y comenzaron a utilizarlas para automatizar las tareas diarias.

Un problema con los textos e imágenes generados por IA es que pueden reflejar trabajos existentes. Algunos han acusado al software de plagio, mientras que otros consideran que no es tan detallado como el trabajo creado por humanos. Los empleadores de todo el mundo quieren mejores formas de detectar el uso de la IA para satisfacer las necesidades del público objetivo y saber cuál es el mejor momento para utilizar la tecnología.

Open AI respondió creando una herramienta de detección de IA, pero aún no la ha publicado. Muchos quieren saber el motivo de la demora y si alguna vez estará disponible para el público.

¿Por qué OpenAI duda en lanzar su herramienta?

TechCrunch publicó un artículo que explica la herramienta de detección de OpenAI, cuyo objetivo es atrapar a los estudiantes que hacen trampa haciendo que el programa informático escriba sus trabajos. La empresa ha guardado silencio en lugar de publicarlo, lo que ha hecho que algunos se pregunten por qué. Un representante de OpenAI dijo que la empresa está considerando la posibilidad de utilizarla. impactos más amplios de la herramienta y tomándose su tiempo.

Muchas otras herramientas de detección han resultado ineficaces, ya que en ocasiones han generado falsos positivos y en otras no han podido detectar el texto generado por IA. El producto de OpenAI se centraría principalmente en detectar el texto marcado con la marca de agua de ChatGPT. Una de las razones para no lanzarlo es el temor de que pueda afectar negativamente a los hablantes no nativos de inglés. La herramienta también obliga a ChatGPT a cambiar su funcionamiento al añadir las palabras marcadas con agua.

Usos más amplios de la herramienta

Aunque el software de detección está pensado para atrapar a estudiantes que usan IA para escribir trabajos, podría aplicarse a muchas otras situaciones, en particular para combatir el fraude a mayor escala.

Por ejemplo, considere cuán útil podría ser una herramienta de detección de IA para capturar texto generado por computadora que utilizan los cibercriminales. Solo en 2023, los pagos de ransomware se duplicó respecto al año anterior a más de mil millones de dólares, y esta cifra Se espera que siga aumentando La inteligencia artificial podría ayudar a detectar texto generado por computadora. A medida que los consumidores y las empresas trabajan para combatir las violaciones de datos, la inteligencia artificial podría facilitar la detección de texto generado por computadora.

Muchas estafas incluyen un lenguaje fluido que busca tocar la fibra sensible de alguien o causar miedo. Cuando no se está seguro de si un mensaje es legítimo, las personas pueden pasar el texto por la herramienta de detección para ver si se utilizó inteligencia artificial para generarlo. Esto podría ser muy valioso, ya que muchas estafas involucran texto escrito por robots.

Argumentos en contra del uso de herramientas de detección

Hasta ahora, las herramientas de detección de IA no han sido muy precisas. Han marcado falsamente el contenido original como generado por IA y han obligado a los estudiantes a luchar por sus calificaciones y, a veces, por sus carreras académicas. Las universidades y los empleadores se toman el plagio en serio, por lo que una acusación falsa podría destruir el futuro o el sustento de alguien.

Las herramientas también pueden resultar ineficaces cuando los usuarios pueden Conéctese a un software fácil de usar y versátil que les ayude a evitar la detección de IA, como HumanizeAI y RealWriter. Las personas deberían aprender a utilizar la IA de forma que les permita generar ideas nuevas sin plagiar información. Sin embargo, es posible que eviten utilizar cualquier tipo de software por miedo a que un detector los detecte.

Los opositores del software temen que pueda hacer que la gente sea menos creativa por miedo a que se active un detector. Programas como StealthAI reescribir texto generado por IA Para sonar más humano, también dicen que la gente dejará de usar herramientas de uso común como ChatGPT y buscará otras que no tengan las mismas marcas de agua, lo que en la práctica hará que la herramienta de detección sea inútil.

Las personas también expresan su preocupación por los malos jugadores que usan la herramienta para realizar ingeniería inversa del código y crear algo que... Utilizar IA para crear vídeos deepfake o ataques DDoS. Los cibercriminales ya son astutos. Nadie quiere darles más formas de engañar a las personas para que compartan sus datos personales.

Beneficios de una herramienta de detección de IA

Los argumentos en contra de las herramientas de detección de inteligencia artificial pueden ser discutibles pronto. Si bien la gente expresó preocupación por el hecho de que los hablantes no nativos de inglés se queden atrás, es probable que los desarrolladores de software solucionen los problemas de barreras lingüísticas con el paso del tiempo.

Muchos creen que OpenAI lanzará pronto su herramienta. Los informes indican Ese debate interno ha estado ocurriendo Durante casi dos años se ha hablado mucho sobre la utilidad del software frente a las preocupaciones sobre la inclusión. Algunos ven los beneficios de que las universidades y los empleadores utilicen herramientas de detección de IA.

A medida que crece el desarrollo del detector de IA, se espera verlo utilizado para cosas como:

• Cómo identificar vídeos falsos utilizados en campañas políticas

• Encontrar información errónea y marcarla con mayor precisión que otros bots

• Generando contenido ético

  
  

El lanzamiento de la herramienta podría inspirar a otras marcas a crear sus propios programas y estimular la tasa de éxito de la detección de IA.

El futuro del uso de la IA

Nos guste o no, la IA llegó para quedarse, aunque las empresas han tardado un poco más en adoptarla de lo previsto. El MIT publicó un informe que muestra que la tecnología está adoptados a diferentes ritmos Basado en sectores. Por ejemplo, la mayoría de las empresas que adoptaron IA se encontraban en los sectores de manufactura y atención médica.

A medida que los departamentos de marketing aprenden más sobre cómo funciona la IA y las formas de implementarla, se espera que más marcas la utilicen y busquen herramientas de detección para evitar problemas de privacidad y copias.

Quienes utilizan la IA durante un tiempo comienzan a notar patrones que se pueden detectar sin la ayuda de software. Por ejemplo, la introducción de casi todos los artículos tiene un lenguaje similar. El diseño, el ritmo y los detalles son los mismos. Con un poco de práctica, la mayoría de las personas pueden detectar un texto generado por IA con bastante precisión.

Por qué la gente necesita la herramienta ahora

Sin una manera de detectar con precisión el contenido generado por IA, las personas pueden desconfiar de lo que leen en línea. En otras situaciones, pueden sospechar que alguien utilizó IA sin revelarlo, pero les resulta imposible probarlo. Los trabajadores pueden ser acusados falsamente o perder sus trabajos y títulos cuando no son culpables.

La herramienta resolverá el problema de los estudiantes que realizan muy poco trabajo y son mediocres en sus estudios pero aún así obtienen un título avanzado basado en el trabajo duro, el sudor y las lágrimas de otra persona.

Es probable que el producto de OpenAI tenga el mayor impacto en el sector educativo. Sin embargo, las empresas también pueden utilizarlo para asegurarse de producir contenido exclusivo y muy específico que los clientes quieran leer.

Un problema complejo

La decisión de OpenAI de no publicar su herramienta de detección se basa en el deseo de hacer lo mejor a medida que la tecnología de IA crece y surgen preocupaciones éticas. Es probable que lance el software en algún momento, para alivio de los educadores de todo el mundo. Queda por ver cómo lo utilizarán otras industrias. \

Todas las empresas que desarrollan programas de IA deben sopesar los pros y los contras de cada característica que introducen. Solo así la IA se convertirá en una herramienta indispensable que impulse el progreso.