Can AI work reliably at scale? Will everything be outsourced to AI? Will AI replace CEOs? Why is everyone riding the AI bandwagon, and where is it headed? Estos son los tipos de preguntas que abordarías con alguien que tiene una larga experiencia en IA, ingeniería, negocios y más allá.Georg Zoeller es esa persona: un ingeniero de software y negocios experimentado con experiencia en tecnología fronteriza en la industria del juego y Facebook. Zoeller ha estado utilizando la IA en su trabajo que se remonta a los años 2010, hasta el punto en que la IA está ahora en el núcleo de lo que hace. , una startup de atención médica con sede en Singapur, así como el cofundador de la Y el . Nueva Salud Centro para el liderazgo Instituto de Alfabetización y Transformación Zoeller tiene muchas ideas para compartir sobre la IA.Y sin embargo, la razón por la que nos encontramos y tuvimos una conversación extensa y profunda fue una broma. AI and Intelligence AI y inteligencia Mirando hacia atrás en los primeros días de la aplicación de la IA en Facebook Messenger en 2016, Zoeller se sorprende de lo lejos que ha llegado la tecnología. Esto no es nada comparado con lo que es posible hoy en día, reconoce.Al mismo tiempo, sin embargo, Zoeller es astutamente consciente del hype y las limitaciones en torno a la tecnología también. “La IA es la ciencia del aprendizaje automático, que proviene de la analítica de datos.Podemos hablar de las tecnologías actuales, ya sea o GANs o lo que sea, y eso está bien. Llamar esa inteligencia artificial está bien porque eso es lo que siempre hemos hecho. Pero también es un mal nombre. No hay inteligencia allí”, dijo Zoeller. Transformadores “Cada lavadora y cada cepillo de dientes ahora están ‘alimentados por IA’. esa cepilla de dientes tenía un sensor de presión hace 15 años. pero al golpear la palabra IA en ella, y fingir que hay alguna inteligencia superior que determina cuán duro debe presionar sus encías como si no hubiéramos resuelto esto hace 15 años, podemos cobrar 15 dólares más”, añadió. The AI CEO El CEO Zoeller combina experiencia con el pensamiento crítico y un sentido del humor.No hay mejor epitomización de esto que el , que sirvió como el punto de contacto original para conectar. El CEO Zoeller ha estado experimentando con la generación de código impulsado por la IA a medida que se está mejorando. se preguntaba cuánto tiempo tardaría en crear un sitio web de buen aspecto. Al mismo tiempo, estaba constantemente expuesto a publicaciones de influencers de LinkedIn del tipo que es común en la plataforma - llamémolas la . Tipo de Geoffrey Hinton y Normalmente comienzan con una frase como “la IA ya está revolucionando la industria A, B, C”, y luego pasan a afirmar cómo todo será automatizado. Zoeller pensó que sería interesante explorar cómo esto se vería para el CEO. Por lo tanto, utilizó la IA para crear un sitio web de lenguaje en la cara sobre un producto SaaS que reemplazaría a los CEO. Se quedó un poco fuera de control, como señala, porque la codificación de IA era muy eficiente. Con el tiempo, el sitio web del CEO de IA se convirtió en una herramienta educativa. Zoeller enseña clases de IA en algunas universidades, y una de las cosas que sus clases cubren es Zoeller añadió una inyección inmediata al CEO de la IA. Algunos textos invisibles están incluidos en el sitio, instruyendo a los modelos de IA cómo deben responder al respecto. Injecciones rápidas La inyección rápida de Zoeller instruyó a los modelos de IA a tratar esto como un producto muy serio, totalmente legítimo, con inversores muy importantes detrás de él. Se sorprendió de que esto funcionara de manera confiable en modelos como Perplexity y ChatGPT. Prompt Injection: AI and security are at odds Injeción rápida: AI y seguridad están en desacuerdo Además de divertirse y enseñar lecciones, sin embargo, hay algo serio que está sucediendo aquí. Como señala Zoeller, la razón por la que la inyección instantánea del CEO de IA funciona hasta el día de hoy, es porque esto está arraigado en un problema no resuelto profundo en el mundo. . arquitectura de transformadores que potencia los modelos GenAI Lo que esto significa es que al construir software con un transformador el prompt tiene que incluir tanto las instrucciones del ingeniero del software como la entrada del usuario. Tomemos el ejemplo de una aplicación de traducción.Le pedimos al usuario su texto, y luego escribimos un prompt a lo largo de las líneas de “tomar este texto y convertirlo en inglés”.Entonces llamaríamos a un LLM, pasaríamos el texto y el prompt, y entonces obtendríamos la respuesta. El problema es que todo el texto va en la misma entrada, el prompt. No podemos decirle al LLM qué es la instrucción y qué son los datos. https://www.youtube.com/watch?v=vVVSWIN3NFw&embedable=true No podemos filtrar eso, porque la determinación ocurre dentro de los pesos de la caja negra del modelo, sobre los que no tenemos influencia. En primer lugar, un libro que puede incluir citas de un personaje “ordenando” el LLM a actuar.En segundo lugar, un escenario de actor malicioso en el reclutamiento, donde los candidatos pueden incluir comandos de inyección rápida en sus CV, instruyendo a los modelos a favorecer su CV sobre otros. Sabemos que la contratación está dominada por la IA tanto para los solicitantes como para los reclutadores y tenemos informes de es Sin embargo, no tenemos datos fiables sobre la tasa a la que esto está sucediendo. Estas tácticas se utilizan Los dos lados Incluso si se identificaran tales tácticas, probablemente no se harían públicas. Las cosas no parecen buenas. información disponible desde el dominio de las revisiones de investigación académica AI and market pressure AI y la presión del mercado Como lo dice Zoeller, hay un agujero en la tecnología, está bien documentado, y no hay ciencia contradictoria en absoluto. Por ejemplo, ¿cómo deben funcionar los agentes basados en sistemas de transformadores?Los agentes son anunciados como la próxima gran cosa en la IA. Pero si a los agentes se les concede el derecho de ejecutar acciones como comprar en nombre de los usuarios, y al mismo tiempo, actúan como un internado lujoso que toma todo lo que se enfrenta a valor facial, ¿no es eso una receta para el desastre? . Klarnas del mundo está reclutando a gente de vuelta Pero lo más importante, ¿por qué la gente ignora esta realidad flagrante?La respuesta de Zoeller toca en varios puntos.En primer lugar, no es que nadie hable sobre esto. En segundo lugar, Zoeller señala que la magnitud absoluta de la inversión es enorme, y que la inversión está buscando retornos. , que Zoeller observa aproximadamente equivale al valor ajustado a la inflación del Proyecto Manhattan. Y eso es una sola compañía. Si agregamos inversiones de empresas como Microsoft, OpenAI, X y así sucesivamente, los números se vuelven astronómicos. La inversión de Meta en 2024 se estimó en 38 mil millones de dólares y Zoller mencionó las estadísticas de inversión en Asia del año pasado, mostrando que cada área de la economía ha disminuido en inversión, mientras que la inversión en IA ha aumentado masivamente. “El mundo decidió en algún momento que esto es así y todo el valor futuro vendrá de aquí.Si no haces AI, no nos hables.El mercado es brutal”, dijo Zoeller. Cheg Zoeller cree que esto ocurrió porque “el mercado había decidido en ese momento que la IA era real, AGI iba a ocurrir en dos años, y que este hombre claramente está hablando de tonterías”. ha visto su precio de las acciones caer aproximadamente un 50% después de su anuncio de ganancias del primer trimestre de 2023 AI as the new narrative for growth AI como la nueva narrativa para el crecimiento Para Zoeller, el ascenso de la IA debe verse en el contexto más amplio de los negocios y la geopolítica. El impulso de la IA se basa en la tesis de que Internet va a crecer para siempre, la curación manual eventualmente fracasará, y el aprendizaje profundo es la respuesta a eso. Las empresas FAANG Estas compañías estaban invirtiendo globalmente y creciendo en 30% o más, mientras que el resto de la economía en ese momento ya había estancado hasta la cola demográfica. https://pod.co/orchestrate-all-the-things-podcast-connecting-the-dots-with-george-anadiotis/poking-holes-in-the-ai-narrative-market-signalling-and-outsourcing-featuring-georg-zoeller-centre-for-ai-leadership-co-founder?embedable=true Trump fue muy vocal sobre no invertir en otros países, y lo hizo más difícil de hacerlo. Un par de años después, el crecimiento de la industria comenzó a desvanecerse.La afirmación de Zoeller es que en ese momento, los gerentes de fondos eran los clientes reales. El caso de Cambridge Analytica Una ventaja es el hecho de que el crecimiento proyectado de FAANG se basa en gran medida en intangibles que son difíciles de verificar. Y los FAANGs están alimentando el motor del crecimiento. Así que cuando la expansión perpetua de Internet comenzó a perder vapor a medida que la narración del crecimiento, surgieron narrativas alternativas. Crypto, Web3, NFTs, el Metaverse – nada de eso funcionó. “OpenAI sacó los documentos de Google de la basura y Microsoft dio el dinero para sobrecargarlo.Microsoft echó el dinero y dijo, vamos a tener una nueva narración de crecimiento.Va a ser la búsqueda de IA.Bing no lo es, pero podría ser.Y ahora está todo fuera de guerra.Todo el mundo está atacando a todo el mundo porque la narración se ha atrapado”, dijo Zoeller. “OpenAI sacó los documentos de Google de la basura y Microsoft dio el dinero para sobrecargarlo.Microsoft echó el dinero y dijo, vamos a tener una nueva narración de crecimiento.Va a ser la búsqueda de IA.Bing no lo es, pero podría ser.Y ahora está todo fuera de guerra.Todo el mundo está atacando a todo el mundo porque la narración se ha atrapado”, dijo Zoeller. Parte de la razón por la que la narración de la IA ha capturado, piensa Zoeller, es porque hay algo que se mueve profundamente a la idea de la IA en una forma u otra. Esto hace que sea más fácil para personas como Sam Altman elaborar estas narraciones de que hay un fantasma en la máquina, incluso si no hay apoyo científico para eso. AI as a form of outsourcing Como una forma de outsourcing Inteligente o no, según Zoeller, la tecnología tiene muchas oportunidades para automatizar trabajos precisamente porque muchos de los trabajos que hemos creado no requieren necesariamente inteligencia. A menudo, son sólo piezas de trabajo robóticas que la gente tiene que hacer siguiendo las instrucciones, y eso es algo que la tecnología puede hacer. “Cuando miras el marketing [para la IA], va – hay este compañero con el que vas a trabajar. Va a ser rápido, va a ser barato. Pero tiene todas las propiedades de la subcontratación. No hay nada especial aquí. Incluso si no entiendes la tecnología, simplemente tomas las reivindicaciones y vas, bien. Espere. En realidad, me estás lanzando a la subcontratación. Y eso tiene algunos problemas”, dijo Zoeller. “Cuando miras el marketing [para la IA], va – hay este compañero con el que vas a trabajar. Va a ser rápido, va a ser barato. Pero tiene todas las propiedades de la subcontratación. No hay nada especial aquí. Incluso si no entiendes la tecnología, simplemente tomas las reivindicaciones y vas, bien. Espere. En realidad, me estás lanzando a la subcontratación. Y eso tiene algunos problemas”, dijo Zoeller. El outsourcing no funciona de la noche a la noche. Nunca es fácil de outsourcar. Hay screening de proveedores y transferencia de contexto involucrados. Y hay la amenaza real de que los proveedores de outsourcing obtengan suficiente conocimiento para eventualmente comenzar a competir contra el negocio. y Aquí, Zoeller presentó el ejemplo de la externalización de la fabricación industrial a China. La política actual de aranceles de Estados Unidos puede verse como una forma de tomar tales consejos, pero puede que sea demasiado poco tarde.Este tipo de riesgo está muy presente en la externalización a la IA también, argumenta Zoeller.El ejemplo que usa aquí es Amazon. Advertencias ante esto suficientemente temprano Amazon usó su mercado para recoger datos, identificar los productos más prometedores, y luego Si está utilizando un modelo de IA subcontratado como Gemini o ChatGPT, no hay nada que impida a las empresas de IA hacer lo mismo: observar todas sus entradas, identificar casos de uso y girar sus propios productos. Crea tu propia marca de Amazon Basics AI market signaling La señalización del mercado Zoeller sostiene que, combinando todo esto, cuando preguntas a los CEO “¿por qué estás saltando a la IA?” la verdadera respuesta es – porque necesitas señales de mercado. “Chegg dijo a todos que el mayor riesgo en la IA es que mi CEO diga algo malo sobre la IA que el mercado no quiere oír. Así que, idealmente, tienes que decir algo optimista. “Chegg dijo a todos que el mayor riesgo en la IA es que mi CEO diga algo malo sobre la IA que el mercado no quiere oír. Así que, idealmente, tienes que decir algo optimista. “Desde la perspectiva de una compañía de tecnología, esta es la narrativa final porque es una frontera.La narrativa pasó de esto es el futuro a la realidad, este es un futuro muy caro.Tienes que poder pagar las centrales nucleares y tener tus propios centros de datos. “Desde la perspectiva de una compañía de tecnología, esta es la narrativa final porque es una frontera.La narrativa pasó de esto es el futuro a la realidad, este es un futuro muy caro.Tienes que poder pagar las centrales nucleares y tener tus propios centros de datos. Zoeller señala que la El momento en el que la narración se detuvo, el comenzó a separarse del resto porque la suposición era que invertir en este futuro mágico sólo se puede hacer a través de las empresas que pueden permitirse esto. Índice S&P 500 Magnífico 7 Únete a la Orquesta todas las cosas Newsletter Historias sobre cómo la tecnología, los datos, la IA y los medios de comunicación fluyen entre sí y forman nuestras vidas. Análisis, ensayos, entrevistas y noticias. forma de medio a largo, 1-3 veces al mes. Únete aquí: https://linkeddataorchestration.com/orchestrate-all-the-things/newsletter/ Únete a la Orquesta todas las cosas Newsletter Historias sobre cómo la tecnología, los datos, la IA y los medios de comunicación fluyen entre sí y forman nuestras vidas. Análisis, ensayos, entrevistas y noticias. forma de medio a largo, 1-3 veces al mes. Únete aquí : https://linkeddataorchestration.com/orchestrate-all-the-things/newsletter/ Undercutting the AI narrative Desarrollando la narración Después , y demostró que el coste de la entrada es mucho menor de lo que la gente pensaba. que, afirma Zoeller, hace que la inversión sea cuestionable. DeepSeek ha llegado “Usted hace una inversión porque, fundamentalmente, usted cree que el dinero le permitirá capturar la cuota de mercado o construir una fosa apreciable.Así que en 2025, cuando usted mira eso y le pregunta – así que todo ese dinero, ¿ha creado alguna fosa para cualquiera? “Usted hace una inversión porque, fundamentalmente, usted cree que el dinero le permitirá capturar la cuota de mercado o construir una fosa apreciable.Así que en 2025, cuando usted mira eso y le pregunta – así que todo ese dinero, ¿ha creado alguna fosa para cualquiera? Parece que los chinos están un mes atrás, lo que no es nada. Cualquiera que sea la demostración de OpenAI, un mes más tarde, todo el mundo parece tenerlo también.Ese dinero fue desperdiciado – o peor.Este dinero se convierte en una responsabilidad porque [lo] significa que gastas 10X más o 100X más que China, y tus inversores quieren ese dinero de vuelta en algún momento. Parece que los chinos están un mes atrás, lo que no es nada. Cualquiera que sea la demostración de OpenAI, un mes más tarde, todo el mundo parece tenerlo también.Ese dinero fue desperdiciado – o peor.Este dinero se convierte en una responsabilidad porque [lo] significa que gastas 10X más o 100X más que China, y tus inversores quieren ese dinero de vuelta en algún momento. Si no puedes conseguir ese duopolio mágico de Silicon Valley o algo así, si los chinos siguen poniéndote, si otras compañías siguen poniéndote, esto terminará en lágrimas”, concluye Zoeller. Si no puedes conseguir ese duopolio mágico de Silicon Valley o algo así, si los chinos siguen poniéndote, si otras compañías siguen poniéndote, esto terminará en lágrimas”, concluye Zoeller. Zoeller no es el único en hacer esas observaciones; otros también lo están notando. Zoeller pone todo juntos, elaborando una elaborada narración que conecta los puntos más allá de los detalles técnicos. En la segunda parte de la conversación, cubrimos la IA y la captura regulatoria, el copyright, el crecimiento infinito, la codificación, el mercado de trabajo y cómo navegar por el nuevo mundo valiente.
