![Search icon](https://hackernoon.imgix.net/search-new.png?w=19&h=19)
OpenAI se convirtió de la noche a la mañana en un nombre conocido, al menos en los círculos tecnológicos, al lanzar ChatGPT en noviembre de 2022. Las empresas y los particulares adoptaron rápidamente sus herramientas y comenzaron a utilizarlas para automatizar las tareas diarias.
Un problema con los textos e imágenes generados por IA es que pueden reflejar trabajos existentes. Algunos han acusado al software de plagio, mientras que otros consideran que no es tan detallado como el trabajo creado por humanos. Los empleadores de todo el mundo quieren mejores formas de detectar el uso de la IA para satisfacer las necesidades del público objetivo y saber cuál es el mejor momento para utilizar la tecnología.
Open AI respondió creando una herramienta de detección de IA, pero aún no la ha publicado. Muchos quieren saber el motivo de la demora y si alguna vez estará disponible para el público.
TechCrunch publicó un artículo que explica la herramienta de detección de OpenAI, cuyo objetivo es atrapar a los estudiantes que hacen trampa haciendo que el programa informático escriba sus trabajos. La empresa ha guardado silencio en lugar de publicarlo, lo que ha hecho que algunos se pregunten por qué. Un representante de OpenAI dijo que la empresa está considerando la posibilidad de utilizarla.
Muchas otras herramientas de detección han resultado ineficaces, ya que en ocasiones han generado falsos positivos y en otras no han podido detectar el texto generado por IA. El producto de OpenAI se centraría principalmente en detectar el texto marcado con la marca de agua de ChatGPT. Una de las razones para no lanzarlo es el temor de que pueda afectar negativamente a los hablantes no nativos de inglés. La herramienta también obliga a ChatGPT a cambiar su funcionamiento al añadir las palabras marcadas con agua.
Aunque el software de detección está pensado para atrapar a estudiantes que usan IA para escribir trabajos, podría aplicarse a muchas otras situaciones, en particular para combatir el fraude a mayor escala.
Por ejemplo, considere cuán útil podría ser una herramienta de detección de IA para capturar texto generado por computadora que utilizan los cibercriminales. Solo en 2023, los pagos de ransomware
Muchas estafas incluyen un lenguaje fluido que busca tocar la fibra sensible de alguien o causar miedo. Cuando no se está seguro de si un mensaje es legítimo, las personas pueden pasar el texto por la herramienta de detección para ver si se utilizó inteligencia artificial para generarlo. Esto podría ser muy valioso, ya que muchas estafas involucran texto escrito por robots.
Hasta ahora, las herramientas de detección de IA no han sido muy precisas. Han marcado falsamente el contenido original como generado por IA y han obligado a los estudiantes a luchar por sus calificaciones y, a veces, por sus carreras académicas. Las universidades y los empleadores se toman el plagio en serio, por lo que una acusación falsa podría destruir el futuro o el sustento de alguien.
Las herramientas también pueden resultar ineficaces cuando los usuarios pueden
Los opositores del software temen que pueda hacer que la gente sea menos creativa por miedo a que se active un detector. Programas como StealthAI
Las personas también expresan su preocupación por los malos jugadores que usan la herramienta para realizar ingeniería inversa del código y crear algo que...
Los argumentos en contra de las herramientas de detección de inteligencia artificial pueden ser discutibles pronto. Si bien la gente expresó preocupación por el hecho de que los hablantes no nativos de inglés se queden atrás, es probable que los desarrolladores de software solucionen los problemas de barreras lingüísticas con el paso del tiempo.
Muchos creen que OpenAI lanzará pronto su herramienta. Los informes indican
A medida que crece el desarrollo del detector de IA, se espera verlo utilizado para cosas como:
Cómo identificar vídeos falsos utilizados en campañas políticas
Encontrar información errónea y marcarla con mayor precisión que otros bots
Generando contenido ético
El lanzamiento de la herramienta podría inspirar a otras marcas a crear sus propios programas y estimular la tasa de éxito de la detección de IA.
Nos guste o no, la IA llegó para quedarse, aunque las empresas han tardado un poco más en adoptarla de lo previsto. El MIT publicó un informe que muestra que la tecnología está
A medida que los departamentos de marketing aprenden más sobre cómo funciona la IA y las formas de implementarla, se espera que más marcas la utilicen y busquen herramientas de detección para evitar problemas de privacidad y copias.
Quienes utilizan la IA durante un tiempo comienzan a notar patrones que se pueden detectar sin la ayuda de software. Por ejemplo, la introducción de casi todos los artículos tiene un lenguaje similar. El diseño, el ritmo y los detalles son los mismos. Con un poco de práctica, la mayoría de las personas pueden detectar un texto generado por IA con bastante precisión.
Sin una manera de detectar con precisión el contenido generado por IA, las personas pueden desconfiar de lo que leen en línea. En otras situaciones, pueden sospechar que alguien utilizó IA sin revelarlo, pero les resulta imposible probarlo. Los trabajadores pueden ser acusados falsamente o perder sus trabajos y títulos cuando no son culpables.
La herramienta resolverá el problema de los estudiantes que realizan muy poco trabajo y son mediocres en sus estudios pero aún así obtienen un título avanzado basado en el trabajo duro, el sudor y las lágrimas de otra persona.
Es probable que el producto de OpenAI tenga el mayor impacto en el sector educativo. Sin embargo, las empresas también pueden utilizarlo para asegurarse de producir contenido exclusivo y muy específico que los clientes quieran leer.
La decisión de OpenAI de no publicar su herramienta de detección se basa en el deseo de hacer lo mejor a medida que la tecnología de IA crece y surgen preocupaciones éticas. Es probable que lance el software en algún momento, para alivio de los educadores de todo el mundo. Queda por ver cómo lo utilizarán otras industrias. \
Todas las empresas que desarrollan programas de IA deben sopesar los pros y los contras de cada característica que introducen. Solo así la IA se convertirá en una herramienta indispensable que impulse el progreso.