¿Qué tan real es la amenaza de la IA para la seguridad laboral? Una entrevista con el profesor de inteligencia artificial Alejandro Piad Morffis

"Sería bastante enloquecedor si resulta que los programadores son más fáciles de automatizar que los abogados". -Profesor Alejandro Piad Morffis.

El aumento en la adopción de modelos de IA generativa de lenguaje grande como ChatGPT, Microsoft Bing, Google Bard, Stable Diffusion, etc., aunque las ventajas de estos modelos no se pueden refutar, ha generado un miedo exagerado y desgarrador, pero no infundado. por miembros del público sobre la posibilidad de que estos modelos de IA pongan en peligro la seguridad laboral de millones de trabajadores en todo el mundo.

Como se describió anteriormente, la amenaza de la IA para los trabajos humanos, si bien es exagerada y angustiosa, no carece de fundamento.

La capacidad de la IA para realizar tareas repetitivas, procesar grandes cantidades de información e imitar la toma de decisiones similar a la humana la convierte en una muy buena herramienta para mejorar la creatividad, la productividad y la eficiencia.

Para responder a la pregunta, "¿La IA tomará nuestros trabajos?" He solicitado la ayuda de un experto con el nombre de Profesor Alejandro Piad Morffis , profesor de IA en la Universidad de La Habana, Cuba. El profesor es un mentor, un maestro, un amigo y, lo más importante, una inspiración para mí.

Cómo espero abordar esto

Las preguntas estarán prefijadas con la letra "Q", mientras que las respuestas estarán prefijadas con la letra "A". Con respecto a las preguntas, espero cubrir cuestiones técnicas y filosóficas ya que el profesor Morffis también tiene afinidad por lo filosófico.

También es importante tener en cuenta que proporcionaré enlaces a ciertos conceptos que son complejos de comprender, en aras de la comprensión.

¡Empecemos!

P: En primer lugar, ¿podría contarnos un poco sobre usted, sus calificaciones profesionales y demás?

R: Mi nombre es Alejandro Piad, me gradué en Ciencias de la Computación en la Escuela de Matemáticas e Informática de la Universidad de La Habana, Cuba. También hice una Maestría en Ciencias de la Computación en la misma universidad en 2016 y obtuve un doctorado doble. en Informática por la Universidad de Alicante y Ph.D. en Matemáticas en la Universidad de La Habana en 2021.

mi doctorado estaba en el descubrimiento de conocimiento del lenguaje natural, específicamente enfocado en la extracción de entidades y relaciones del texto médico.

Desde mis estudios de posgrado, doy clases en la Universidad de La Habana, he sido profesor titular de Programación, Compiladores y Diseño de Algoritmos, y también profesor ocasional de Machine Learning y otras materias.

Desde 2022 soy profesor de tiempo completo allí, también fui uno de los fundadores de la nueva carrera de Ciencia de Datos, la primera de su tipo en Cuba, y escribí todo el plan de estudios de Programación y Sistemas de Computación para esa carrera, Continúe investigando en PNL, en este momento centrándose en enfoques neurosimbólicos para el descubrimiento de conocimiento, mezclando LLM con sistemas simbólicos.

P: ¿Cuánto tiempo llevas trabajando con sistemas de IA?

R: Jugué con IA para juegos cuando era estudiante de pregrado e hice un par de proyectos estudiantiles con visión artificial y metaheurísticas. Después de graduarme, comencé mi maestría en Gráficos por computadora, pero como proyecto paralelo, investigué un poco en PNL, específicamente en análisis de sentimientos en Twitter.

Después de terminar el máster empecé a pensar en hacer un doctorado. y se metió de lleno en el aprendizaje automático.

Así que podría decir alrededor de 10 años desde que comencé a tomarme en serio la IA. Mi artículo más antiguo relacionado con estas cosas es de alrededor de 2012.

P: ¡Eso es intensamente impresionante! Trabajaste con IA mucho antes de que se volviera genial. ¿Cuál cree que es el avance técnico singular más significativo en IA que ha contribuido a su adopción generalizada actual y las consiguientes amenazas de desplazamiento laboral?

R: Bueno, siempre fue genial, pero no fuera de la academia. Yo diría, la intersección de dos ortogonal desarrollos: el descubrimiento de arquitecturas de redes neuronales artificiales como el Transformador, que resolvió muchos de los problemas de escalabilidad de las arquitecturas anteriores, y la invención del hardware donde puede ejecutar esas arquitecturas específicas a escala de manera súper eficiente.

P: ¡Fascinante! En su opinión profesional como educador e investigador de IA, ¿qué industrias corren el riesgo de ser reemplazadas por IA?

R: No sé si alguna industria será reemplazada por completo, pero estoy seguro de que habrá cambios masivos. A largo plazo, por supuesto, nadie puede decir nada. Pero a corto y mediano plazo (5 a 10 años), con lo que estamos viendo con los modelos de lenguaje, apuesto a que cualquier persona cuyo trabajo se base en el filtrado superficial y el procesamiento del lenguaje natural tendrá que hacer cuentas.

Esto incluye todo tipo de funciones gerenciales, incluida cualquier persona cuyo trabajo sea leer correos electrónicos, resumir y crear informes. Cualquier tipo de secretaria que no vaya más allá de tomar notas y programar tareas. Redactores que trabajan con contenido basado en plantillas.

Básicamente, cualquier tarea de creación de contenido por debajo del nivel de la creatividad humana real será más barata de automatizar que pagarle a un humano estocástico loro. Así que esos se irán. Un solo redactor que use ChatGPT en un futuro cercano podrá crear, en hipótesis, de 3 a 10 veces más contenido con la misma calidad.

No porque el modelo les dará la calidad final que buscan, sino porque el modelo les dará el 90 % de la calidad, y luego la verdadera creatividad humana viene como una guinda y agrega el 10 % final. La educación también tiene que cambiar considerablemente. Podemos hablar más sobre eso si quieres.

P: Este es un ángulo realmente agradable. Eres un educador y de tu pieza titulada " Repensar la educación universitaria "Obviamente sabes cuán aversa al cambio es la institución educativa. ¿Crees que se puede depender de la educación formal para sobrevivir en el mundo posterior a la IA?

R: Sí, la academia se adaptará. Es la institución más longeva de la civilización occidental. Es anterior a todas nuestras religiones principales y ha sobrevivido a todos los cambios importantes de civilización. Cambiará sustancialmente, como ha cambiado a lo largo de los siglos.

P: ¿Qué tan importante es para la sociedad considerar las implicaciones éticas de la IA y el desplazamiento laboral?

R: Toda tecnología tiene problemas potenciales, y cuanto más avanzada es la tecnología, más apremiante es considerarlos. La IA es una tecnología muy poderosa con el potencial de alterar todas nuestras relaciones económicas.

Es algo al nivel de una revolución industrial, por lo que tendrá implicaciones masivas, por lo que la preocupación debe estar al mismo nivel.

Una cosa que es diferente de la tecnología disruptiva anterior es que, en su mayoría, la nueva tecnología automatiza los trabajos que requieren menos habilidades cognitivas, sucedió con la agricultura, la manufactura, la minería, etc.

Sin embargo, esta vez, estamos a punto de reemplazar una gran cantidad de trabajos de cuello blanco mientras dejamos muchos trabajos de cuello azul sin interrumpir. por lo que tendremos muchas personas que están acostumbradas a trabajar en oficinas y descubrirán que una IA puede hacer su trabajo también (o tal vez un poco mejor) y mucho más barato, por lo que tendrán que mejorar sus habilidades significativamente o tendrán que cambiar a trabajos menos calificados.

Hay otras consideraciones éticas, existe un gran potencial de mal uso de las tecnologías de IA para desinformación, noticias falsas, disrupción social, etc. No creo que estemos preparados para una gran cantidad de chatbots con apariencia humana que se apoderan de Twitter; ya está empezando a suceder.

También hay problemas de sesgo, ya que estos sistemas se vuelven cada vez más generalizados, los daños pueden centrarse mucho en las minorías, por lo que no todos obtendrán los beneficios de la IA en la misma medida, algunas minorías obtendrán las desventajas con más fuerza que las que no. de las minorías.

P: Entonces, en otras palabras, debemos prestar atención porque, a diferencia de las formas anteriores de automatización, la IA también tiene el potencial de interrumpir los trabajos de tareas cognitivas.

R: Sí, especialmente esos trabajos. Automatizará más trabajos de cuello blanco que de cuello azul, al menos en el corto plazo. Eso es algo nuevo, y la sociedad no está acostumbrada a tener que lidiar con ese tipo de interrupción del trabajo.

Estas son personas que fueron a la universidad y más o menos se convencieron de que sus trabajos eran seguros, o al menos más seguros que los taxistas, los pizzeros, los jardineros, lo mencionas.

P: Esto tiene sentido, acerquémonos un poco a casa. ¿Cree que un aumento en la capacidad de IA conducirá en última instancia a una disminución en el empleo general para los ingenieros/desarrolladores de software?

R: A muy largo plazo, todos los trabajos evolucionarán de forma impredecible, incluidos los de ingeniería y desarrollo de software. La IA y los avances tecnológicos transformarán estas profesiones hasta el punto en que parezca que han desaparecido.

Sin embargo, a corto y mediano plazo, es poco probable que disminuya el número de ingenieros de software debido a la creciente demanda de software en varias industrias. Esta creciente necesidad de profesionales calificados supera con creces el número actual de personas capacitadas capaces de crear software.

La revolución de la IA seguirá un patrón similar al de avances tecnológicos anteriores en informática, como compiladores, entornos de desarrollo integrados, computación en la nube, contenedores, finalización de código e IntelliSense.

Estas innovaciones hicieron que la programación fuera más accesible para quienes no tenían antecedentes muy formales y ampliaron las oportunidades para los desarrolladores.

Durante los próximos 20 años, podemos esperar una explosión de personas que ingresen al campo del desarrollo de software. Aunque los roles laborales pueden cambiar un poco con las tendencias tecnológicas en evolución, es probable que haya un crecimiento continuo para aquellos interesados en aprender a programar y escribir código.

P: Esto es increíble, aunque el lanzamiento de modelos de IA generativa como Co-Pilot de GitHub y la familia de modelos GPT ha provocado (disculpe mi juego de palabras) rumores sobre la posibilidad de que los desarrolladores de software pierdan sus trabajos por culpa de la IA. ¿Qué dices acerca de esto?

R: Mira los números. Todo lo que veo son más anuncios de trabajo para desarrolladores de software. La tendencia sigue subiendo.

P: Jeff Clune, un exingeniero de OpenAI, recientemente hizo una predicción en la conferencia AI Safety Debate, afirmó que había un 30 % de posibilidades de que la IA sea capaz de manejar el "50 % del trabajo económicamente valioso" para el año 2030 , ¿qué significaría esto para el mercado laboral de desarrolladores en general?

R: En primer lugar, no tengo ni idea de cómo entendería el 30 % de posibilidades de automatizar el 50 % de los trabajos. ¿Es una expectativa del 15% de perder su trabajo?

P: Supongo que los números crean una escena confusa. Pero el punto esencial es; Los desarrolladores de software tienen muchas razones para preocuparse por la seguridad de su trabajo y muchas de las tareas en las que actualmente dedican mucho tiempo se están automatizando. El ritmo al que eso ocurra se acelerará.

R: Sí, pero la cuestión es que muchas de las tareas en las que los desarrolladores dedican la mayor parte de su tiempo tienen un valor bastante bajo y estaríamos mucho mejor si estuvieran automatizadas: depuración, escritura de pruebas, optimizaciones de código molestas. A medida que automatice todo eso, tendremos más tiempo para las partes realmente importantes del desarrollo de software, que nunca se trató de escribir código.

P: ¿Podría hablar más sobre esas partes?

R: Diseño de arquitectura y de alto nivel, experiencia de usuario, interacción humano-computadora, y eso es solo sobre el software en sí. La ingeniería de software se trata realmente de la relación entre el software y las personas, tanto las personas que crean el software como las personas que lo usan. Entonces, las habilidades de software son solo la mitad de la historia. Comprender a sus usuarios y colegas es la otra mitad.

P: Esto es similar a cómo el trabajo principal de los contadores es comunicar información financiera y no crear estados financieros, ¡fascinante! Es una apuesta justa decir que las capacidades de la IA aumentarán en 10 a 20 años. ¿Qué tan preparados estamos como sociedad y especie para abordar el posible desplazamiento/pérdida de empleo provocado por la posible adopción de la IA? ¿Cómo afecta esto nuestro sentido de propósito como seres humanos?

R: Muy difícil de decir, por supuesto, estamos en medio de una revolución industrial tan grande como al menos la revolución de los microprocesadores o la revolución de Internet, nadie en 1960 podía imaginar cómo sería 1980.

La sociedad nunca está lista para el cambio, por definición. Eso es un sistema, algo que se esfuerza por mantener su statu quo. Pero los humanos son la especie social más adaptable que existe, así que creo que nos las arreglaremos. Mucha gente sufrirá, y eso es algo en lo que tenemos que trabajar, definitivamente, pero en mi opinión no sucederá nada apocalíptico.

P: Ha habido muchas conversaciones sobre el potencial distópico de la IA. ¿Por qué dices que no ocurrirá nada apocalíptico?

R: Todavía no he visto argumentos realmente convincentes para el escenario del fin del mundo. Muchos de los argumentos parecen basarse en razonamientos como "no sabemos cómo va a evolucionar esto, así que probablemente nos matará a todos" y esa es una falacia lógica clásica: básicamente estás haciendo una inferencia por falta de conocimiento.

P: Esto es cierto. Pero el problema de la alineación de la IA parece plausible.

R: Creo que lo resolveremos, al menos lo suficientemente bien como para evitar escenarios apocalípticos. Los problemas de alineación más graves requieren que creas en una versión poderosa del tesis de la ortogonalidad que no creo plausible.

P: ¡Fascinante! Volviendo a la automatización, ¿cómo podemos aprovechar la IA para aumentar el trabajo humano en lugar de reemplazarlo y qué industrias están maduras para este tipo de colaboración?

R: Creo que es natural, a medida que automatizamos más y más el trabajo cognitivo de baja categoría (p. ej., resumir documentos o encontrar referencias relevantes), los humanos nos pondremos a trabajar en las partes más creativas de nuestro trabajo. Para empezar, algunos trabajos tienen muy poco de eso, y ahí veo un desafío porque tal vez se automatizarán por completo o casi por completo.

Pero la mayor parte del trabajo de conocimiento tiene un lado creativo, la parte en la que realmente haces algo novedoso.

En cuanto a qué campos están maduros para esto, no puedo hablar de mucho más, pero al menos en educación creo que estamos destinados a una revolución que tanto necesitamos.

Los profesores ya no necesitamos ser guardianes de la información. En lugar de pasar la mayor parte de nuestro tiempo calificando los mismos ensayos una y otra vez, ahora podemos concentrarnos en brindar la mejor retroalimentación personal posible a cada estudiante.

P: ¿Cuáles son las posibles formas en que la IA podría revolucionar el sistema educativo? Quizás más técnicas de enseñanza adaptadas de manera óptima a los estudiantes.

R: Hay algunas maneras fáciles y otras no tan fáciles. En primer lugar, se trata simplemente de aumentar el acceso al conocimiento. Ahora, casi todo lo que desea aprender, puede encontrar información relevante en Internet, al menos para empezar, pero a menudo se divide en muchas fuentes con niveles dispares de detalle, cosas contradictorias, diferentes estilos lingüísticos, etc.

La primera aplicación relativamente fácil está aquí, tome este grupo de fuentes sobre algún tema y bríndeme una descripción general de alto nivel de los principales puntos resumidos, con enlaces para profundizar más, etc. Estamos bastante cerca de eso (exponiendo las alucinaciones que son un problema importante).

Otra forma es simplemente liberar a los educadores de tareas menores para darles más tiempo para concentrarse en crear experiencias de aprendizaje. Pero, con mucho, creo que lo más importante es el potencial para el aprendizaje personalizado.

Podrías tener un asistente de IA y decirle "Quiero aprender a hacer un cohete" y podría crear un plan muy detallado, especialmente para ti, basado en lo que ya sabe que tú sabes, te diría, aquí, primero mira este video, ahora toma este curso corto, ahora lee este capítulo de este libro,... y te guiará durante 3 meses para aprender algo muy específico.

P: ¡Esto es verdaderamente prometedor! Haces un caso sólido para que los humanos se adapten. Usted habló sobre el sesgo, ¿es justo decir que la adopción de IA a gran escala afectará a la minoría? En caso afirmativo, ¿cómo se puede combatir esto?

R: Sí, definitivamente, el aprendizaje automático está, por definición, entrenado en la mayoría, por lo que siempre perjudicará más a aquellos cuyo caso de uso no se ajuste a la mayoría por algún motivo.

En particular, cada vez que entrena modelos para predecir el comportamiento humano o interactuar con humanos, tiende a funcionar mejor para las subpoblaciones que están mejor representadas en los datos.

¿Qué puedes hacer? Comience por generar conciencia sobre estos problemas y asegúrese de probar exhaustivamente sus modelos para detectar sesgos. Tenga mucho cuidado con la forma en que recopila datos, no siga el camino fácil y rastree la web, y haga un esfuerzo para encontrar fuentes de datos de buena calidad y alta diversidad.

Pero más que nada incluye a personas diversas con puntos de vista diversos en tu equipo. No puedes resolver un problema que no puedes ver.

P: Esto me hace pensar. ¿Existe la posibilidad de que el acceso a dichas herramientas de IA quede relegado a personas con capacidad financiera?

R: Espero que la comunidad de código abierto ponga las herramientas a disposición de todos. Ya hemos visto lo que tiene para los niños creativos de las partes más pobres del mundo tener acceso a un sistema operativo gratuito, una suite ofimática gratuita, un motor de juego gratuito, un editor de código gratuito, etc.

Confío en que tendremos herramientas de IA de código abierto tan buenas como las comerciales, de la misma manera que tenemos herramientas de desarrollo de código abierto tan buenas como las comerciales.

P: Esto parece realmente factible. ¿Qué consejo le daría a sus estudiantes para prepararlos para la fuerza laboral en un mundo posterior a la IA?

R: Si ya está estudiando informática, el consejo básico es centrarse en los fundamentos, no solo en las herramientas. Las herramientas cambiarán, pero los fundamentos seguirán siendo relevantes durante mucho tiempo. Si estudia otra cosa, aprenda cómo la IA puede mejorar su productividad y aprenda mucho sobre sus limitaciones. Úselo para mejorar su propio trabajo.

P: Esto tiene sentido, los fundamentos resistirán la prueba del tiempo. Muchas gracias por su tiempo Profesor Morffis. ¿Alguna palabra de cierre?

R: La revolución de la IA está aquí. Todos podemos ser parte de esto, aprendiendo a usar esta tecnología para hacer el bien y mejorar la vida de todos.

También publicado aquí