Whether we like it or not, and despite tales of its powers being greatly exaggerated, the AI genie is out of the box. What does that mean, and what can we do about it? En otro giro del abismo Abierto el CEO Usted puede encontrar esto confuso o divertido, o usted puede estar preguntando dónde deja que los tipos de influenciadores de IA. A la política Sam Altman acaba de admitir que estamos en una burbuja de IA, y AGI está perdiendo relevancia A pesar de la absurdidad, Conectar los puntos para hacer sentido de todo requiere una larga experiencia en IA, ingeniería, negocios y más allá.En otras palabras, para personas como Georg Zoeller: un ingeniero de software y negocios experimentado con experiencia en tecnología fronteriza en la industria del juego y Facebook. AI y la narrativa asociada Zoeller ha estado utilizando la IA en su trabajo que se remonta a los años 2010, hasta el punto en que la IA está ahora en el núcleo de lo que hace. , una startup de atención médica con sede en Singapur, así como el cofundador de la Y el . Nueva Salud Centro para el liderazgo Instituto de Alfabetización y Transformación En A , abordamos todo, desde los primeros principios de la IA hasta sus defectos fatales y su lugar en el capitalismo. Hoy, discutimos la captura reglamentaria, el copyright, los límites de la economía de la atención, la nueva religión de la IA, el conundrum del constructor, cómo la transformación impulsada por la IA de la ingeniería de software es un vistazo al futuro del trabajo, la alfabetización de la IA y cómo navegar por el valiente nuevo mundo. Conversaciones con Zoeller https://www.youtube.com/watch?v=U2okYcZ-ATs&embedable=true OpenAI’s regulatory capture La captura regulatoria de OpenAI Recogemos en donde dejamos de lado Zoeller argumenta que OpenAI nunca entregará el ROI prometido a los inversores porque su competencia llegó en el mismo punto gastando 100X (o más) menos.El sublime lanzamiento de GPT5 parece apoyar esta tesis, lo que llevó a Altman al backpedal. Parte 1 de la conversación “Cuando inviertes en la gente adecuada, obtendrás una captura regulatoria en los Estados Unidos.Tienes al presidente de los Estados Unidos alojando a tus recaudadores de fondos, tienes al vicepresidente de los Estados Unidos que vaya a París y a la cumbre de la IA y baile el baile de la no seguridad. “Cuando inviertes en la gente adecuada, obtendrás una captura regulatoria en los Estados Unidos.Tienes al presidente de los Estados Unidos alojando a tus recaudadores de fondos, tienes al vicepresidente de los Estados Unidos que vaya a París y a la cumbre de la IA y baile el baile de la no seguridad. Los pollos vendrán a casa para cocinar porque está respaldado por el gobierno de Estados Unidos, es propiedad del gobierno de Estados Unidos, y sabemos que un montón de dinero está fluyendo a estas compañías ahora”. Los pollos vendrán a casa para cocinar porque está respaldado por el gobierno de Estados Unidos, es propiedad del gobierno de Estados Unidos, y sabemos que un montón de dinero está fluyendo a estas compañías ahora”. Zoeller señala que el abrazo del gobierno de EE.UU. con los brothers de IA es tan estrecho, que incluso incluye y obtener una evaluación. alimentar las historias de las redes sociales de cada persona que cruza la frontera a Grok Es un proceso completamente no transparente y la tecnología no es explicable. Eso sería una violación de los derechos en cada país normal, pero ya no estamos en una escala normal. Moving fast and breaking copyright Moverse rápidamente y violar los derechos de autor El uso no regulado de la IA ha violado los derechos de autor, argumenta Zoeller. Los creadores dedican mucho tiempo y esfuerzo, solo para que su trabajo sea robado delante de sus ojos –el mismo contenido, palabras diferentes. informes de copias generadas por IA de contenidos originales inundando mercados como Amazon “Las personas que hicieron las cosas baratas por tres dólares de ChatGPT, nunca gastan ningún dinero [creando]. Están gastando el dinero en publicidad.Cuanto más volumen hay, lo único que importa es: ¿alguien realmente verá mi producto? “Las personas que hicieron las cosas baratas por tres dólares de ChatGPT, nunca gastan ningún dinero [creando]. Están gastando el dinero en publicidad.Cuanto más volumen hay, lo único que importa es: ¿alguien realmente verá mi producto? Como alguien que creó un libro o una aplicación, siempre estarás en desventaja frente a los grifters que toman lo que has hecho.Están empujando la aplicación o el libro allí, con la amplificación de las redes sociales y los gastos publicitarios pagados”, señala Zoeller. Como alguien que creó un libro o una aplicación, siempre estarás en desventaja frente a los grifters que toman lo que has hecho.Están empujando la aplicación o el libro allí, con la amplificación de las redes sociales y los gastos publicitarios pagados”, señala Zoeller. Zoeller no tiene una visión rosada del copyright. cree que el copyright fue creado para incentivar a los creadores a continuar creando, no porque el mundo le gustaba a los artistas, sino porque el mundo le gustaba a los editores. Pero para Internet en general. Libros Muchos de estos modelos se entrenan en conceptos de Web 2.0 como Stack Overflow.Lugares como este, donde cada ingeniero de software iría a comprobar las respuestas a las preguntas y compartir el conocimiento libremente fue un Zoeller lo piensa. La Web 2.0 ya no funciona en el mundo de la IA También piensa que con el sistema de incentivos estando roto, ya no podemos esperar que solo necesites hacer la aplicación correcta y las personas vendrán.La atención es el primitivo subyacente de todo, más valioso que el dinero, porque representa una oportunidad.Hemos fallado en regular la economía de la atención, y cedimos el control completo de toda la atención a un puñado de plataformas que se beneficiarán masivamente de la IA. The limits of the attention economy Los límites de la economía de la atención Facebook no es Lo están haciendo porque acelerar la creación de contenido significa más y más contenido en el lado de la oferta. Esto significa que los creadores necesitan una plataforma, y tienen que pagar para pasar por la puerta a los clientes. Dando el valor de la IA de un proyecto de Manhattan gratis El mercado público en la economía digital es mediado por un puñado de empresas. Esto es un impuesto silencioso sobre cada artículo vendido, porque la publicidad está cocinada en el coste de cada producto. la IA está ahora mercantilizando productos digitales de la economía del conocimiento, igual que la revolución industrial mercantilizó bienes físicos. El coste de la adquisición de usuarios “Tenemos una visión un poco rosada de la industrialización porque todos tenemos coches y cosas fantásticas en nuestras casas que antes se limitaban a las personas ricas.Pero la economía digital ya está mercantilizada.Puedes jugar los juegos más exitosos del mundo gratis.Por quince dólares al mes, puedes obtener tantos vídeos y programas de televisión y música como quieras. “Tenemos una visión un poco rosada de la industrialización porque todos tenemos coches y cosas fantásticas en nuestras casas que antes se limitaban a las personas ricas.Pero la economía digital ya está mercantilizada.Puedes jugar los juegos más exitosos del mundo gratis.Por quince dólares al mes, puedes obtener tantos vídeos y programas de televisión y música como quieras. Así que la realidad es que ni siquiera vamos a ver una expansión del lado de la oferta porque estamos muy limitados por la atención.La gente simplemente no tiene más tiempo para pasar en sus teléfonos, tiempo para jugar más juegos o ver más películas”, dijo Zoeller. Así que la realidad es que ni siquiera vamos a ver una expansión del lado de la oferta porque estamos muy limitados por la atención.La gente simplemente no tiene más tiempo para pasar en sus teléfonos, tiempo para jugar más juegos o ver más películas”, dijo Zoeller. The AI religion La religión de Los gobiernos, señala Zoeller, están atentos a no regular la tecnología por miedo a perder ese crecimiento mágico que podría ofrecer.Pero hemos llegado a un punto muerto, porque la única salida que queda para el crecimiento es la automatización, es decir, la eliminación de empleos. Las grandes compañías tecnológicas, relata Zoeller, siempre hablan de las mejores cosas que pueden ocurrir. que obliga a los reguladores a ponderar los efectos negativos del presente actual a innumerables riquezas futuras: “Nadie tiene la valentía de alejarse del crecimiento en un mundo muy confinado al crecimiento, porque estamos justo en ese punto donde el capitalismo está a punto de salir del crecimiento”. https://pod.co/orchestrate-all-the-things-podcast-connecting-the-dots-with-george-anadiotis/breaking-the-ai-bubble-big-tech-plus-ai-equals-economy-takeover?embedable=true Los escenarios tecno-optimistas afirman que alimentar la IA permitirá al mundo asumir sus mayores problemas, como: , y crear abundancia para todos. Zoeller llama a esto por razones técnicas y sociales. Cambio climático En el frente técnico, Zoeller señala que los LLM están golpeando una pared.Todo el contenido en el mundo, cada libro que haya sido escrito, probablemente ya esté en el cuerpo de formación de los LLM fronterizos. . No hay escenario donde eso se convierta en inteligencia superhumana “¿Quieres la respuesta al cambio climático? ya está ahí. nosotros conocemos la respuesta. simplemente no nos gusta. no nos gusta que tengamos que reducir las emisiones de carbono. “¿Quieres la respuesta al cambio climático? ya está ahí. nosotros conocemos la respuesta. simplemente no nos gusta. no nos gusta que tengamos que reducir las emisiones de carbono. La tecnología se ha convertido en un poco de una religión.Es como el latín, el sumo sacerdote del crecimiento.Nadie quiere combatir eso, pero es una tontería.¿Dónde nos deja eso?Eso está fundamentalmente mediado por su visión del mundo”, dice Zoeller. La tecnología se ha convertido en un poco de una religión.Es como el latín, el sumo sacerdote del crecimiento.Nadie quiere combatir eso, pero es una tontería.¿Dónde nos deja eso?Eso está fundamentalmente mediado por su visión del mundo”, dice Zoeller. The builder’s conundrum La conspiración del constructor Después de haber trabajado con la IA, así como tener años de experiencia en la industria del juego, Zoeller utiliza esto como un ejemplo del conundrum con el que se enfrentan las personas. Zoeller piensa que la industria del juego es un brindis, no porque la tecnología pueda reemplazar toda la creatividad, sino porque toma un gran número de puestos de trabajo en esa industria y los borra. El modelado 3D ya no va a ser una cosa para la mayoría de las personas porque la tecnología será capaz de hacerlo. Muy pronto. videos que están cerca de ser indistinguibles de la realidad Es solo una cuestión de tiempo hasta que los buenos narradores se ponen las manos en él e integrenlo en su proceso. Zoeller piensa que un estudio de juegos nativo de IA es posible hoy en día. “Estamos en una situación extraña donde es demasiado temprano, mes a mes, para sumergirse en la tecnología y realmente construir con ella. “Estamos en una situación extraña donde es demasiado temprano, mes a mes, para sumergirse en la tecnología y realmente construir con ella. La industria del juego está brindando porque no puedes invertir en nada.Sabemos que en seis meses o un año, habrá ese punto mágico en el que empieza a tener realmente sentido. La industria del juego está brindando porque no puedes invertir en nada.Sabemos que en seis meses o un año, habrá ese punto mágico en el que empieza a tener realmente sentido. Al mismo tiempo, cuando la tecnología se interrelaciona con el mundo real, el hype está completamente fuera de base, especialmente en torno a agentes – simplemente no funciona”, dijo Zoeller. Al mismo tiempo, cuando la tecnología se interrelaciona con el mundo real, el hype está completamente fuera de base, especialmente en torno a agentes – simplemente no funciona”, dijo Zoeller. AI is transforming software engineering AI está transformando la ingeniería de software Zoeller también compartió su experiencia trabajando en un dominio crítico como el cuidado de la salud. La no fiabilidad de la IA basada en LLM la hace inadecuada para tales aplicaciones. Y sin embargo, la gente tiene que trabajar con ella. Por ejemplo, Los codificadores humanos están relegados a los revisores de código, y . El software se convierte en algo diferente Revisar el código escrito por una máquina que oscila entre cometer errores estúpidos y escribir código brillante es tedioso. Zoeller reconoce que para algunos escenarios la codificación de IA es tan rápida que la codificación a mano ya no tiene sentido. Introduce el nondeterminismo en las capas de abstracción de la ingeniería de software. La codificación de IA trae un aspecto radicalmente diferente a la ingeniería de software, y no necesariamente una buena La ingeniería de software ha evolucionado de trabajar en lenguajes de montaje de bajo nivel a niveles progresivamente más altos de abstracción. Hay muchas capas de abstracción ahora, lo que significa mucha complejidad también. y Un conjunto de entradas produce otro conjunto de salidas de manera fiable.Esto es una condición previa para la prueba, que es una parte grande y muy importante de la disciplina de ingeniería de software. “Puedes perforar todo el camino hasta el microprocesador para encontrar lo que el bug esté en el software y hacer que funcione.Pero en el momento en que añades GenAI a él, el juego se acaba – porque GenAI es no determinista.Puedes tener una entrada, y puede tener infinitas salidas.Y puedes probar cien veces y la centésima y primera vez, está equivocado. “Puedes perforar todo el camino hasta el microprocesador para encontrar lo que el bug esté en el software y hacer que funcione.Pero en el momento en que añades GenAI a él, el juego se acaba – porque GenAI es no determinista.Puedes tener una entrada, y puede tener infinitas salidas.Y puedes probar cien veces y la centésima y primera vez, está equivocado. Esto puede no sonar terriblemente.Pero cuando tienes diez mil pacientes, una tasa de éxito del 99% no es suficiente.Esto es enormemente subestimado.Es algo que necesitas enseñar, porque las pruebas ya no funcionan.Tienes que cambiar a la observabilidad para mantener tu software funcionando de forma segura”, señala Zoeller. Esto puede no sonar terriblemente.Pero cuando tienes diez mil pacientes, una tasa de éxito del 99% no es suficiente.Esto es enormemente subestimado.Es algo que necesitas enseñar, porque las pruebas ya no funcionan.Tienes que cambiar a la observabilidad para mantener tu software funcionando de forma segura”, señala Zoeller. Únete a la Orquesta todas las cosas Newsletter Historias sobre cómo la tecnología, los datos, la IA y los medios de comunicación fluyen entre sí y forman nuestras vidas. Análisis, ensayos, entrevistas y noticias. forma de medio a largo, 1-3 veces al mes. Suscríbete aquí 👉 https://linkeddataorchestration.com/orchestrate-all-the-things/newsletter/ Únete a la Orquesta todas las cosas Newsletter Historias sobre cómo la tecnología, los datos, la IA y los medios de comunicación fluyen entre sí y forman nuestras vidas. Análisis, ensayos, entrevistas y noticias. forma de medio a largo, 1-3 veces al mes. Suscríbete aquí 🙂 https://linkeddataorchestration.com/orchestrate-all-the-things/newsletter/ https://linkeddataorchestration.com/orchestrate-all-the-things/newsletter/ AI Literacy de la alfabetización De todos modos, incluso para las personas que sienten que vale la pena retrasar, el mensaje de Zoeller es claro: todavía necesita aprender la tecnología. Entonces la pregunta es, ¿cuál es la mejor manera de hacer eso? La alfabetización de la IA es un requisito de la Ley de IA de la UE a partir de 2025. Esto significa que cada organización que utiliza la IA de una manera u otra debe garantizar la alfabetización de la IA para sus personas. de la alfabetización Zoeller también está involucrado en programas de alfabetización de IA, y cree que la mayoría de las instituciones educativas no son aptas para el propósito.La naturaleza fronteriza de la tecnología es incompatible con su burocracia interna. Además, señala Zoeller, el sistema de revisión académica por pares es profundamente problemático en este punto - desviado por Arxiv y secuestrado por la inclinación de las relaciones públicas y la IA. Para ser actualizado y útil, la educación de IA requiere educadores que estén utilizando y experimentando con la tecnología y también sigan las últimas investigaciones. Un ejemplo típico es la llamada ingeniería rápida. Pero se empeora, porque la mayor parte de ella también está desactualizada y equivocada por ahora.Los modelos han cambiado, por lo que las técnicas tempranas ya no son útiles. La mayor parte del material educativo disponible se centra exclusivamente en ChatGPT Lo que tienes que enseñar a la gente, enfatiza Zoeller, son los fundamentos que ayudan a conectar cómo funciona esta tecnología con su propia experiencia. cosas como los primeros principios de la IA, cómo funcionan los transformadores, qué tipos de casos de uso se prestan a la IA, y cuáles son las trampas. Zoell se centra en La razón, dice, es porque la gente tiene que pasar por una trampa de desilusión al darse cuenta de lo que la IA puede significar para su organización. Alfabetización AI para ejecutivos y gerentes de línea Big Tech plus AI equals economy takeover Big Tech plus AI equivale a la adquisición de la economía Ya sea que estés de acuerdo con lo que dice Zoeller o no, hay una cosa en la que la mayoría de nosotros estaremos de acuerdo: todo se mueve a una velocidad sobrehumana, y nadie es realmente capaz de seguir adelante. : no lo que la gente suele pensar en el contexto de AGI “La singularidad es aquel punto en el que el progreso va tan recto que ya no se puede mirar atrás de lo que está sucediendo al día siguiente o lo que está detrás de la curva.Estamos ya aquí.No porque la tecnología sea tan rápida todavía –aún hay espacio para ir, por desgracia–, sino porque la capacidad de nuestras instituciones, nuestras organizaciones de gobernanza está enormemente superada. “La singularidad es aquel punto en el que el progreso va tan recto que ya no se puede mirar atrás de lo que está sucediendo al día siguiente o lo que está detrás de la curva.Estamos ya aquí.No porque la tecnología sea tan rápida todavía –aún hay espacio para ir, por desgracia–, sino porque la capacidad de nuestras instituciones, nuestras organizaciones de gobernanza está enormemente superada. Creo que es intencional, porque trabajé en Big Tech. Lo que a veces fue una desventaja para nosotros, nuestros ciclos de rendimiento de seis meses, por ejemplo, ahora es un plus.Estas empresas han dado cuenta de que, literalmente, son incapaces de ejecutar proyectos que duran más de seis meses debido al sistema de incentivos.Y eso es bueno, porque no se pueden ejecutar proyectos más de seis meses en este momento. Creo que es intencional, porque trabajé en Big Tech. Lo que a veces fue una desventaja para nosotros, nuestros ciclos de rendimiento de seis meses, por ejemplo, ahora es un plus.Estas empresas han dado cuenta de que, literalmente, son incapaces de ejecutar proyectos que duran más de seis meses debido al sistema de incentivos.Y eso es bueno, porque no se pueden ejecutar proyectos más de seis meses en este momento. Si estás planeando un proyecto que tarda más de seis meses en el espacio digital ahora, estás diciendo: “Puedo predecir dónde va a estar la IA en un año, y que no va a hacer que todas mis inversiones sean obsoletas”. Si estás planeando un proyecto que tarda más de seis meses en el espacio digital ahora, estás diciendo: “Puedo predecir dónde va a estar la IA en un año, y que no va a hacer que todas mis inversiones sean obsoletas”. Zoeller piensa que nadie es capaz de tal predicción, porque las grandes compañías tecnológicas están acelerando intencionalmente la tecnología para mantener al resto de la economía vulnerable a ellos. AI is not your average disruptive innovation La IA no es tu innovación disruptiva promedio Un argumento típico usado contra el escepticismo de la IA es que esto es lo habitual : en el momento oportuno, el polvo se asentará, lo calcularemos todo, y se crearán nuevos puestos de trabajo que ni siquiera podemos imaginar en este momento. Ciclo de interrupción tecnológica Lo que es diferente esta vez es la velocidad, dice Zoeller.A diferencia de la infraestructura para tecnologías anteriores como la electricidad o los automóviles, que tomó mucho tiempo para desplegar físicamente, la infraestructura para la IA es digital y ya está ahí: APIs, aplicaciones, código abierto, GPUs, la nube. y La gente, argumenta, no es muy buena en adoptar nuevas tecnologías – tienen que ser empujadas. A menudo no es bonita, pero el tiempo hace toda la diferencia en mitigar el impacto en la sociedad. Para ilustrar este punto, Zoeller vuelve a referirse al software como “una máquina que automatiza una tarea específica”. AI representa la capacidad de imprimir la máquina, y ya no es creada por un humano. “Cuando miras las propiedades del transformador, lo que básicamente se reduce a esto es: si hay suficientes datos disponibles sobre la producción de una profesión, y hay patrones en la profesión, y suficiente volumen, se puede automatizar. “Cuando miras las propiedades del transformador, lo que básicamente se reduce a esto es: si hay suficientes datos disponibles sobre la producción de una profesión, y hay patrones en la profesión, y suficiente volumen, se puede automatizar. Así que cuando la gente dice que siempre hemos inventado nuevos empleos, eso está bien, pero nunca nos hemos enfrentado a una tecnología que pueda automatizar cualquier trabajo que tenga patrones, así que creo que estos llamados a la historia no son muy útiles”, dijo Zoeller. Así que cuando la gente dice que siempre hemos inventado nuevos empleos, eso está bien, pero nunca nos hemos enfrentado a una tecnología que pueda automatizar cualquier trabajo que tenga patrones, así que creo que estos llamados a la historia no son muy útiles”, dijo Zoeller. The brave new AI world El nuevo mundo valiente La ingeniería de software es una de las primeras profesiones a ser perturbadas, Ironicamente, los ingenieros de software están ahora en el final de la automatización que ayudaron a lograr. Extrapolando esto, Zoeller piensa que es probable que veamos un futuro en el que las personas primero ayuden a entrenar a sus sustitutos, luego se relegarán a roles de garantía de calidad. porque hay abundantes datos que se pueden utilizar para la capacitación, y la salida es probable Zoeller no es optimista.De hecho, lo explica claramente: estamos llevando a cabo otra revolución industrial, pero esta tiene nuevas propiedades que la hacen extremadamente peligrosa para la sociedad.No porque la inteligencia artificial fraudulenta pueda tomar el control, sino porque puede conducir a un colapso completo del sistema, o más bien, podemos añadir, acelerar el camino en el que ya estamos. "Tomando todo esto juntos, no. No creo que podamos decir que vamos a estar bien. vamos a tener que trabajar para estar bien, y vamos a necesitar liderazgo, para estar bien", concluyó Zoeller. "Tomando todo esto juntos, no. No creo que podamos decir que vamos a estar bien. vamos a tener que trabajar para estar bien, y vamos a necesitar liderazgo, para estar bien", concluyó Zoeller. Únete a la Orquesta todas las cosas Newsletter Historias sobre cómo la tecnología, los datos, la IA y los medios de comunicación fluyen entre sí y forman nuestras vidas. Análisis, ensayos, entrevistas y noticias. forma de medio a largo, 1-3 veces al mes. Suscríbete aquí 👉 https://linkeddataorchestration.com/orchestrate-all-the-things/newsletter/ Únete a la Orquesta todas las cosas Newsletter Historias sobre cómo la tecnología, los datos, la IA y los medios de comunicación fluyen entre sí y forman nuestras vidas. Análisis, ensayos, entrevistas y noticias. forma de medio a largo, 1-3 veces al mes. Suscríbete aquí 🙂 https://linkeddataorchestration.com/orchestrate-all-the-things/newsletter/ https://linkeddataorchestration.com/orchestrate-all-the-things/newsletter/
