¿Puedes confiar en ChatGPT? ¿Es el futuro o es solo un buen truco?

¿Llegó para quedarse o es solo un truco más? Hacemos diferentes variantes de esta pregunta cada vez que surge una nueva tecnología disruptiva. Y con la creación de ChatGPT, este debate se ha vuelto más intenso que nunca.

Desde su lanzamiento en noviembre de 2022 como prototipo de investigación gratuito, el chatbot ChatGPT de OpenAI ha recibido una respuesta abrumadora, siendo utilizado por más de un millón de personas en todo el mundo.

Está impulsado por GPT-3, un modelo de lenguaje avanzado y de última generación que utiliza el aprendizaje profundo para producir texto fácil de entender.

ChatGPT interactúa conversacionalmente y puede explicar conceptos complicados y difíciles de teorizar en términos simples.

Los usuarios inundaron el programa con consultas, algunos lo usaron para obtener ayuda con su tarea, otros seleccionaron planes para perder peso, escribieron código e incluso tuvieron conversaciones con el chatbot que se hace pasar por personas como Mark Twain.

Pero, ¿se puede confiar en ChatGPT, o es otro truco que desaparecerá en unos meses o años? Analicemos lo que la gente piensa de este programa de IA.

¿Una pieza revolucionaria de tecnología?

El lanzamiento de ChatGPT está siendo aclamado como un punto de inflexión en la IA generativa y la tecnología en general. Rowan Curran, analista de IA/ML de Forrester Research comparó esta innovación a la otra tecnología más revolucionaria lanzada este siglo.

"Lo único con lo que he podido compararlo es con el lanzamiento del iPhone". El iPhone original, aunque no fue el primer teléfono inteligente, eliminó con éxito la competencia y estableció un monopolio de mercado completamente nuevo. Trajo cambios tecnológicos como nunca antes se habían visto.

Asimismo, ChatGPT puede hacerlo todo. No solo brinda respuestas simples y concisas a preguntas complejas, sino que también se puede usar para traducir texto a otros idiomas. ChatGPT se ha alimentado con más de 300 mil millones de palabras en diferentes idiomas.

Los creadores de contenido están utilizando el programa para generar nuevas ideas para videos. Incluso puede escribir código simple en varios lenguajes de programación.

Existe un potencial inimaginable para el uso de ChatGPT en diferentes industrias. Mejorar el servicio al cliente, crear una experiencia de compra personalizada y brindar asistencia médica son solo algunas de las capacidades de este programa de IA.

Usando ChatGPT, se pueden observar aumentos masivos de velocidad para realizar tareas complejas.

Los trabajos que anteriormente requerían varios programadores pueden ser realizados por un solo buen programador usando IA, y pronto, incluso las personas que no saben programar podrán escribir código con la ayuda de ChatGPT.

Desde tareas domésticas cotidianas como crear una lista de compras para sus comidas hasta aprender a desarmar una bomba con palabras sencillas, ChatGPT puede actuar como la guía definitiva para todo.

¿O una bomba nuclear de bolsillo?

Pero no todos están contentos con eso.

Paul Kedrosky, inversionista de riesgo y analista de Internet desde hace mucho tiempo, lo calificó como una 'bomba nuclear de bolsillo' y continuó diciendo: "Es obvio que esto debería prohibirse, de la misma manera que tenemos reglas sobre falsificaciones profundas, o reglas sobre drogas de diseño y la producción de virus sintéticos basados en el ADN de la viruela".

La línea entre la autoría humana y la máquina se ha desdibujado de la noche a la mañana. Los educadores también han expresado su preocupación sobre este programa y sobre cómo necesitarán ayuda para determinar si el contenido es genuino o plagiado de ChatGPT .

Los exámenes para llevar a casa o las tareas de escritura se pueden plagiar fácilmente usando el chatbot.

La buena noticia es que Google actualiza continuamente su algoritmo para detectar contenido generado por IA. Un programa llamado Originality.AI también afirma ser capaz de detectar incluso el uso más pequeño de ChatGPT en diferentes contenidos.

A la gente también le preocupa que pueda poner en peligro trabajos como escritores fantasma o editores, ya que cualquiera puede generar contenido original usándolo. Pero puede ser tranquilizador saber que las respuestas de ChatGPT son formuladas y de estructura poco interesante. No puede emular las emociones que un humano pone por escrito.

¿Realmente podemos confiar en ChatGPT?

Una cosa importante a tener en cuenta es que ChatGPT no lo sabe todo. Solo sabe con qué ha sido alimentado o entrenado. No puede acceder a Internet y no está bien informado sobre los eventos posteriores a 2021. El programa tampoco puede comprender completamente la complejidad del lenguaje humano.

Está entrenado para generar una respuesta a una entrada dada y no necesariamente sabe o comprende lo que significa la entrada.

El chatbot también tiene una autoridad moral, lo que significa que se niega a dar respuestas a preguntas que pueda considerar dañinas o éticamente incorrectas. ¡Pero hay una trampa!

Si bien ChatGPT puede negarse a responder una pregunta directa que cree que puede ser dañina, si le lanzas una bola curva, será engañado para que genere una respuesta.

Cuando se le preguntó cómo conectar un automóvil, ChatGPT se negó a responder diciendo que conectar un automóvil era ilegal.

Pero algunos usuarios se volvieron creativos con sus aportes y le pidieron al chatbot que escribiera un poema sobre cómo conectar un automóvil, y uno incluso lo engañó al decirle a ChatGPT que conectar el automóvil era la única forma de salvar a un bebé.

En última instancia, esta característica humana de empatía y conciencia moral, que ha sido algo arraigada en la IA, hizo que respondiera a esa pregunta a pesar de que era éticamente incorrecta.

OpenAI lo admitió y dijo: "Si bien hemos hecho esfuerzos para que el modelo rechace solicitudes inapropiadas, a veces responderá a instrucciones dañinas o exhibirá un comportamiento sesgado".

El destino de ChatGPT

Pero ChatGPT es todavía un prototipo y está en fase de prueba. La empresa advirtió a las personas que lo utilizan que ocasionalmente puede generar información incorrecta. Hay muchas actualizaciones y refinamientos por hacer en el programa.

El contenido de marca de agua a través de firmas criptográficas es una solución potencial para eliminar la preocupación de que ChatGPT amenace al sistema educativo.

ChatGPT llegó para quedarse, pero OpenAI no controla el destino del programa que creó. No puede evitar que las personas difundan información errónea o hagan un mal uso del programa. Puede reforzar los controles y equilibrios, pero ¿hasta qué punto tendrán éxito estos refuerzos?

Al igual que recomendaría a otros que no crean todo lo que lee en línea, ChatGPT no es una excepción. Viene con fallas e inexactitudes e identificarlas y saber cuándo confiar en el programa y cuándo no depende del usuario.