La revolución de la IA, sin duda, ha sido responsable de nuevos inventos tecnológicos.  Su interrupción introdujo modelos de IA como chatbots y ChatGPT que actualmente están dando forma a la forma en que las personas viven, interactúan y socializan en el siglo XXI, lo cual es alucinante.  Solo dos meses después de su lanzamiento el año pasado, el chatbot de OpenAI, ChatGPT, registró más de 100 millones de usuarios en todo el mundo.  Siguiendo el ejemplo, Google también   , un modelo conversacional impulsado por IA que brinda a las personas información fácil de digerir de los resultados de búsqueda. anunció el lanzamiento de Bard  Todos estos sirven como logros monumentales, que muestran cuán cerca está el desarrollo de la IA de asegurar a los humanos un estilo de vida fácil. Pero puede haber algunos lapsus.  El problema con la revolución de la IA  La creación de mejores formas de manejar los asuntos humanos con la ayuda de la IA tiene algunas implicaciones.  La aparición de modelos de IA de alto nivel como ChatGPT y otros chatbots avanzados ya representa una amenaza para los trabajos humanos.  Tarde o temprano, la IA   o hará que muchos trabajadores sean inútiles en sus campos. secuestrará sigilosamente los trabajos humanos  Se postula que la interrupción del trabajo es inevitable a medida que se revoluciona la IA. Pero hay más a tener en cuenta, ya que estos modelos de IA se turnan para infiltrarse en la vida humana y cambiar el orden de las cosas.  Un problema potencial asociado con estas nuevas tecnologías (ChatGPT y otros Chatbots) que necesita una observación seria es cómo estos modelos pueden causar disrupción social.  Según el CEO de OpenAI, Sam Altman, uno de los principales problemas para combatir ChatGPT es el problema del sesgo.  El sesgo humano se ha identificado como un problema importante de ChatGPT y, por supuesto, no es exclusivo solo de ChatGPT de OpenAI.  Hay otros Chatbots con problemas selectivos de preferencia humana.  Estadísticas de sesgo de IA    de Tidio muestra que solo el 2% de las personas piensa que la IA está libre de sesgos; en contraste, el 45% de los encuestados piensa que el principal problema moderno de la IA es el sesgo social. La investigación  Esto significa que los chatbots de IA como ChatGPT y el resto aún carecen de equidad en su juicio y operación. Porque el prejuicio humano es ostensiblemente notable usando estos modelos de IA.  ¿Qué es el sesgo de la IA (humana)?  El sesgo de IA es un problema de inteligencia artificial causado cuando se utilizan datos sesgados para entrenar un algoritmo modelo, lo que en última instancia afecta el juicio de la máquina.  Al explicar el   ,   , director de Ciencia de datos e IA, afirmó que el sesgo humano en la IA se presenta en tres formas: sesgo de género, prejuicio racial y discriminación por edad. papel del sesgo en la IA Steve Nouri  Se considera que el sesgo humano en la IA es responsabilidad de los datos comprometidos o de los desarrolladores.  Esto demuestra que es casi imposible que un Chatbot provoque insultos raciales, derrame declaraciones hirientes o discrimine a un determinado grupo de personas por sí solo.  Excepto que hay un algoritmo sesgado o datos consumidos por el modelo.  Un buen ejemplo tiene que ser el   , Tay, en 2016 después de que fue acusado de tener prejuicios raciales. cierre abrupto del chatbot de Microsoft Twitter  Incluso el modelo conversacional de OpenAI lanzado recientemente, ChatGPT, ha sido condenado por estar sesgado al tener   " contra el expresidente de los EE. UU., Donald Trump. "prejuicios y rencores anticonservadores  Por qué el sesgo humano en los chatbots podría conducir a la interrupción social  El sesgo político que ChatGPT tenía sobre el expresidente Donald Trump generó fuertes críticas al modelo de IA y su empresa en desarrollo, OpenAI, en las redes sociales.  En respuesta al amplio asedio, el CEO de OpenAI, Sam Altman,   a principios de febrero abordando el problema. Según Sam, se están realizando ajustes para erradicar el sesgo de ChatGPT y mejorarlo. tuiteó  En sus tuits, Sam admitió que ha habido “odio” dirigido a los empleados de OpenAI, que consideró “espantoso”.  También reveló que su empresa está trabajando para mejorar la configuración predeterminada del chatbot para promover la neutralidad y también para permitir que los usuarios usen los sistemas según sus preferencias individuales.  Pero esto no sucederá fácilmente. Incluso Sam admitió que el proceso es difícil y llevará tiempo implementarlo.  El sesgo político de ChatGPT condujo a ataques injustificados contra los empleados de OpenAI. Esa es una indicación suficiente para sopesar las consecuencias sociales de cualquier modelo de IA sesgado.  Los sesgos de la IA pueden imponer consecuencias nefastas a las personas y las comunidades. Puede conducir a la crítica injusta de un grupo de personas oa la discriminación, lo que indirectamente engendra animosidad o estallido social.  Por eso   en este momento, sino exigir soluciones viables. es importante no ignorar los sesgos  Tal como lo dijo Sam, "atacar a otras personas" no tiene un efecto significativo para ayudar al avance del campo de la IA. Se debe prestar atención a las posibles opciones para reducir los sesgos de los chatbots de IA.  Cómo reducir el sesgo en los chatbots de IA  El sesgo humano en los chatbots de IA se debe al uso de algoritmos o datos sesgados y los desarrolladores de los modelos. Para evitar sesgos en la IA, se debe observar lo siguiente al crear chatbots:   Desarrolladores de Origen Diverso  El sesgo de algoritmo o sesgo de datos en IA es posible principalmente porque los desarrolladores, que son humanos, tienen un enfoque naturalmente sesgado.  Es fácil para un equipo de desarrolladores homogéneos construir un modelo de IA que favorezca o respalde sus puntos de vista y perspectiva sobre ciertos temas de la vida.  Para evitar que esto suceda, es necesario emplear un equipo de   que puedan ayudar en la observación y reducción del sesgo algorítmico. diversos científicos de datos   Uso de datos sintéticos  El consumo de grandes cantidades de datos sin censura por parte de los modelos de IA lo hace sesgado. Una forma de erradicar el sesgo de los chatbots es garantizar que el modelo utilice datos sintéticos observados minuciosamente por los desarrolladores.   Transparencia  La reacción al sesgo descubierta por ChatGPT, OpenAI acordó que su nuevo chatbot de IA todavía tiene "problemas para mantener los hechos correctos y, en ocasiones, emite instrucciones dañinas".  La compañía de inteligencia artificial salió a limpiar para decirle a la gente por qué todavía no se puede confiar en el chatbot para obtener información importante o confidencial.  Esa es una forma de transparencia necesaria para frenar el sesgo humano en los chatbots. Al señalar las debilidades del modelo, la disrupción social se puede controlar antes de escalar.  Probar el modelo antes y después del desarrollo  Tal como se indicó, los desarrolladores deben probar el modelo antes y después de haberlo desarrollado.  Esto podría tomar mucho tiempo para evaluar las funciones del chatbot y abordar cualquier forma de sesgo que pueda surgir en la causa de la prueba.  Permitir que los científicos de datos estudien de cerca los datos que el chatbot de IA necesita para funcionar y perfeccionar cómo esperaba que el modelo respondiera o construyera la información que degenera debería ser un examen obligatorio para realizar después del desarrollo.  Conclusión  ChatGPT, como cualquier otro chatbot, aún está lejos de estar libre de prejuicios humanos. Es un problema fundamental creado tanto por los datos con los que se entrena la IA como por las preferencias personales de los desarrolladores.  Una vez que los desarrolladores y los equipos de ciencia de datos comiencen a ser clínicos y objetivos en su enfoque de la recopilación de datos utilizados por estos modelos de IA, el sesgo de IA comenzará su viaje hacia la extinción.

2022 - HackerNoon Contributor of the Year - Automation

Do you need a Content Writer? Let's talk.

Nominated for 2022 - HackerNoon Contributor of the Year - Automation

Writer

Este audio es producido en el idioma original de la historia!

Por qué el sesgo humano en ChatGPT y otros chatbots podría conducir a la interrupción social

About Author

COMENTARIOS

ETIQUETAS

ESTE ARTÍCULO FUE PRESENTADO EN

Related Stories

Creación de productos criptográficos centrados en el usuario: la importancia de los comentarios de los clientes

La guía completa para una migración exitosa a la nube: estrategias y mejores prácticas

Liberando el poder de la IA. Una revisión sistemática de técnicas de vanguardia: resumen e introducción

Las capas invisibles: por qué las entrevistas con los usuarios son un activo irremplazable

Creación de productos criptográficos centrados en el usuario: la importancia de los comentarios de los clientes

La guía completa para una migración exitosa a la nube: estrategias y mejores prácticas

Liberando el poder de la IA. Una revisión sistemática de técnicas de vanguardia: resumen e introducción

Las capas invisibles: por qué las entrevistas con los usuarios son un activo irremplazable

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps