Can AI work reliably at scale? Will everything be outsourced to AI? Will AI replace CEOs? Why is everyone riding the AI bandwagon, and where is it headed? Estes son os tipos de preguntas que abordarías con alguén que ten unha longa experiencia en IA, enxeñaría, negocios e máis aló. Georg Zoeller é esa persoa: un enxeñeiro de software e negocios experimentado con tecnoloxía de fronteira na industria do xogo e Facebook. Zoeller usou a IA no seu traballo que se remonta aos anos 2010, ata o punto en que a IA está agora no núcleo do que fai. , unha startup de saúde con sede en Singapur, así como o cofundador do e o . Nova saúde Centro para o liderado Instituto de Alfabetización e Transformación Zoeller ten moitas ideas para compartir sobre a IA. E aínda así, a razón pola que nos coñecemos e tivemos unha extensa e profunda conversación foi unha broma. AI and Intelligence AI e intelixencia Volvendo aos primeiros días de aplicar a IA en Facebook Messenger en 2016, Zoeller sorprende a que lonxe chegou a tecnoloxía. Isto non é nada en comparación co que é posible hoxe, recoñece. Ao mesmo tempo, con todo, Zoeller é astutamente consciente do hype e as limitacións ao redor da tecnoloxía tamén. “A IA é a ciencia do aprendizaxe automático, que vén da análise de datos. Chamar esa intelixencia artificial está ben porque iso é o que sempre fixemos. Pero tamén é un mal nome. Non hai intelixencia alí", dixo Zoeller. Transformadores "Cada lavadora e cada cepillo de dentes agora son 'AI-powered'. que cepillo de dentes tiña un sensor de presión hai 15 anos. pero ao golpear a palabra AI sobre el, e finxir que hai algunha intelixencia superior que calcula o quão duro debe presionar as súas gengivas como se non tivésemos resolto isto hai 15 anos, podemos cobrar 15 dólares máis", engadiu. The AI CEO O CEO Zoeller combina experiencia co pensamento crítico e un sentido do humor.Non hai mellor epitomización disto que o , que serviu como o punto de contacto orixinal para conectar. O CEO Zoeller está a experimentar coa xeración de código alimentado por IA mentres se está a mellorar. estaba a preguntar canto tempo levaría para crear un sitio web de boa aparencia. Ao mesmo tempo, estaba constantemente a ser exposto a publicacións de influenciadores de LinkedIn do tipo que é común na plataforma - chamémolas a . Geoffrey Hinton tipo que Normalmente comezan cunha frase como "AI xa está revolucionando a industria A, B, C", e despois avanzan a afirmar como todo será automatizado. Zoeller pensou que sería interesante explorar como isto parecería para o CEO. Entón usou AI para crear un sitio web de linguaxe na cara sobre un produto SaaS que substituiría aos CEO. Co tempo, o sitio web do CEO de IA converteuse nunha ferramenta educativa. Zoeller ensina clases de IA nalgunhas universidades, e unha das cousas que as súas clases cobren é Zoeller engadiu unha inxección inmediata ao CEO de IA. Algún texto invisible está incluído no sitio, instruíndo aos modelos de IA como deben responder a iso. Inxección rápida A inxección rápida de Zoeller instruíu aos modelos de IA a tratar isto como un produto moi serio, totalmente lexítimo, con investidores moi importantes detrás del. Foi sorprendido de que isto funcionase de forma fiable en modelos como Perplexity e ChatGPT. Prompt Injection: AI and security are at odds Inxección rápida: AI e seguridade están en desacordo Ademais de divertirse e ensinar leccións, con todo, hai algo serio que está a suceder aquí.Como Zoeller sinala, a razón pola que a inxección inmediata do CEO de IA funciona ata hoxe, é porque isto está enraizado nun problema non resolto profundamente na sociedade. . arquitectura de transformadores que potencia os modelos GenAI O que isto significa é que ao construír software cun transformador o prompt ten que incluír tanto as instrucións do enxeñeiro de software como a entrada do usuario. Tomemos o exemplo dunha aplicación de tradución. pediríamos ao usuario o seu texto, e logo escribimos un prompt ao longo das liñas de "tomar este texto e convertelo en inglés". O problema é que todo o texto vai na mesma entrada, o prompt. Non podemos dicir ao LLM que é a instrución e que son os datos. Entón que acontece se os datos conteñen unha instrución - por exemplo, responder en estilo haiku? https://www.youtube.com/watch?v=vVVSWIN3NFw&embedable=true Non podemos filtrar iso, porque a determinación ocorre dentro dos pesos de caixa negra do modelo, sobre os que non temos influencia. Zoeller trouxo un par de exemplos aquí. primeiro, un libro que pode incluír citas dun personaxe "ordenando" o LLM para actuar. segundo, un escenario de actores maliciosos na contratación, onde os candidatos poden incluír comandos de inxección rápida nos seus currículos, instruíndo aos modelos a favorecer o seu currículo sobre outros. Sabemos que a contratación está dominada pola IA tanto para os solicitantes como para os reclutadores e temos informes de que Non obstante, non temos datos fiables sobre a taxa á que isto está a suceder. Estas estratexias que se utilizan Ambos os lados Aínda que tales tácticas fosen identificadas, probablemente non serían feitas públicas. As cousas non parecen boas. información dispoñible do dominio de revisións de investigación académica AI and market pressure AI e presión do mercado Como di Zoeller, hai un buraco na tecnoloxía, está ben documentado, e non hai ciencia contraditoria en absoluto. Por exemplo, como deben funcionar os axentes baseados en sistemas de transformadores?Os axentes son anunciados como a seguinte gran cousa na IA. Pero se se lles concede o dereito a executar accións como mercar en nome dos usuarios, e ao mesmo tempo, actúan como un internado lúdico que leva todo o que atopa a valor cara a cara, non é esa unha receita para o desastre? . Claras do mundo están a contratar xente de volta Pero o máis importante - por que a xente está ignorando esta realidade flagrante? a resposta de Zoeller toca en varios puntos. Primeiro, non é que ninguén fale sobre iso. É só que os que falan sobre iso non reciben o tipo de atención que os cheerleaders de IA fan. En segundo lugar, Zoeller sinala que a magnitude absoluta do investimento é enorme, e que o investimento está a buscar retornos. , que Zoeller observa aproximadamente equivale ao valor axustado á inflación do Proxecto Manhattan. E iso é unha única empresa. Se engadimos investimentos de como Microsoft, OpenAI, X e así por diante, os números son astronómicos. O investimento de Meta en 2024 foi estimado en 38 mil millóns de dólares que Zoller mencionou as estatísticas de investimento en Asia do ano pasado, mostrando que cada área da economía baixou en investimento, mentres que o investimento en IA aumentou masivamente. "O mundo decidiu nalgún momento que isto é así e todo o valor futuro virá de aquí.Se non fai AI, non nos fales.O mercado é brutal", dixo Zoeller. Chegada Zoeller cre que isto ocorreu porque "o mercado decidiu nese momento que a IA era real, AGI ía ocorrer en dous anos, e que este home claramente está a falar de tonterías". o seu prezo de accións caeu aproximadamente un 50% despois do anuncio dos seus beneficios do primeiro trimestre de 2023 AI as the new narrative for growth AI como nova narrativa para o crecemento Para Zoeller, o ascenso da IA ten que verse no contexto máis amplo dos negocios e da xeopolítica. O impulso da IA está construído sobre a tese de que a Internet vai crecer para sempre, a curación manual acabará fallando, e o aprendizaxe profundo é a resposta a iso. Facenda Empresas Estas empresas estaban a investir globalmente e crecendo en 30% ou máis, mentres que o resto da economía nese momento xa estaba estancado ata a cola demográfica. https://pod.co/orchestrate-all-the-things-podcast-connecting-the-dots-with-george-anadiotis/poking-holes-in-the-ai-narrative-market-signalling-and-outsourcing-featuring-georg-zoeller-centre-for-ai-leadership-co-founder?embedable=true Trump foi moi vocal sobre non investir noutros países, e fixo que fose máis difícil facelo. fixo moitos países alerta do FAANG. Un par de anos despois, o crecemento da industria comezou a desaparecer. A afirmación de Zoeller é que nese momento, os xestores de fondos eran os clientes reais. as empresas FAANG teñen algunhas vantaxes en comparación con outros sectores da economía. O caso de Cambridge Analytica Unha vantaxe é o feito de que o crecemento proxectado de FAANG está baseado en gran medida en intanxibles que son difíciles de verificar. E FAANGs están alimentando o motor de crecemento. Entón, cando a expansión perpétua de Internet comezou a perder vapor como a narración de crecemento, xurdiron narrativas alternativas. Crypto, Web3, NFTs, o Metaverse - nada diso funcionou. "OpenAI tirou os papeis de Google do lixo e Microsoft deu o diñeiro para supercargalo.Microsoft botou o diñeiro e dixo, imos ter unha nova narración de crecemento.Irá ser a busca de IA.Bing non é, pero podería ser.E agora está todo fóra de guerra.Todo o mundo está atacando a todos porque a narración foi capturada", dixo Zoeller. "OpenAI tirou os papeis de Google do lixo e Microsoft deu o diñeiro para supercargalo.Microsoft botou o diñeiro e dixo, imos ter unha nova narración de crecemento.Irá ser a busca de IA.Bing non é, pero podería ser.E agora está todo fóra de guerra.Todo o mundo está atacando a todos porque a narración foi capturada", dixo Zoeller. Parte da razón pola que a narración de IA foi capturada, Zoeller pensa, é porque hai algo que se move profundamente á idea de IA nunha forma ou outra. que fai máis fácil para persoas como Sam Altman para elaborar estas narracións de que hai un fantasma na máquina, aínda que non hai apoio científico para iso. AI as a form of outsourcing AI como unha forma de outsourcing Intelixente ou non, como segundo Zoeller, a tecnoloxía ten moitas oportunidades para automatizar traballos precisamente porque moitos dos traballos que creamos non necesariamente requiren intelixencia. Moitas veces, son só pezas de traballo robóticos que a xente ten que facer seguindo instrucións, e iso é algo que a tecnoloxía pode facer. "Cando miras o marketing [para AI], vai - hai este compañeiro que vai traballar con. Vai ser rápido, vai ser barato. Pero ten todas as propiedades de outsourcing. Non hai realmente nada especial aquí. Aínda que non entenda a tecnoloxía, só toma as alegacións e vai, ok. "Cando miras o marketing [para AI], vai - hai este compañeiro que vai traballar con. Vai ser rápido, vai ser barato. Pero ten todas as propiedades de outsourcing. Non hai realmente nada especial aquí. Aínda que non entenda a tecnoloxía, só toma as alegacións e vai, ok. O outsourcing non funciona de noite. Nunca é fácil de outsourcar. Hai revisión de vendedores e transferencia de contexto implicados. E hai a ameaza real de que os vendedores de outsourcing obteñan o coñecemento suficiente para finalmente comezar a competir contra o negocio. que Aquí, Zoeller trouxo o exemplo de outsourcing da fabricación industrial a China. A actual política de tarifas dos Estados Unidos pode ser vista como unha forma de tomar tales consellos, pero pode ser demasiado pouco tarde.Este tipo de risco está moi presente no outsourcing á IA tamén, argumenta Zoeller. As advertencias foron emitidas con moita antelación Amazon usou o seu mercado para recoller datos, identificar os produtos máis prometedores e, a continuación, Se está a usar un modelo de IA externalizado como Gemini ou ChatGPT, non hai nada que impida que as empresas de IA fagan o mesmo: observando todas as súas entradas, identificando casos de uso e lanzando os seus propios produtos. Crea a túa propia marca Amazon Basics AI market signaling Sinalización do mercado Zoeller afirma que poñendo todo isto xuntos, cando preguntas aos CEOs "por que estás saltando a AI?" a resposta real é - porque necesitas sinalización de mercado. “Chegg dixo a todos que o maior risco na IA é que o meu CEO diga algo errado sobre a IA que o mercado non quere oír. “Chegg dixo a todos que o maior risco na IA é que o meu CEO diga algo errado sobre a IA que o mercado non quere oír. "Desde a perspectiva dunha empresa de tecnoloxía, esta é a narrativa final porque é unha fronteira.A narrativa foi deste é o futuro para a realidade, este é un futuro moi caro.Tes que ser capaz de pagar as centrais nucleares e ter os seus propios centros de datos. "Desde a perspectiva dunha empresa de tecnoloxía, esta é a narrativa final porque é unha fronteira.A narrativa foi deste é o futuro para a realidade, este é un futuro moi caro.Tes que ser capaz de pagar as centrais nucleares e ter os seus propios centros de datos. O BNG apunta a que o E, por suposto, é o momento no que a narración aparece. comezou a separarse do resto porque a suposición era que investir neste futuro máxico só se pode facer a través das empresas que poden permitilo. Índice S&P 500 Magnífico 7 Únete á Orquestra todas as cousas Newsletter Historias sobre como a tecnoloxía, os datos, a IA e os medios de comunicación flúen entre si e forman as nosas vidas. Análise, ensaios, entrevistas e noticias. formato medio a longo, 1-3 veces ao mes. Únete aquí: https://linkeddataorchestration.com/orchestrate-all-the-things/newsletter/ Únete á Orquestra todas as cousas Newsletter Historias sobre como a tecnoloxía, os datos, a IA e os medios de comunicación flúen entre si e forman as nosas vidas. Análise, ensaios, entrevistas e noticias. formato medio a longo, 1-3 veces ao mes. Únete aquí : https://linkeddataorchestration.com/orchestrate-all-the-things/newsletter/ Undercutting the AI narrative Subliñando a narración Entón , e demostrou que o custo de entrada é moito menor do que a xente pensaba. que, afirma Zoeller, fai o investimento cuestionable. DeepSeek chegou “Vostede fai un investimento porque, fundamentalmente, cre que o diñeiro permitirá que tome a cota de mercado ou construa unha fenda apreciable.Entón, en 2025, cando mira a iso e pregunta - entón todo ese diñeiro, creou algunha fenda para calquera? “Vostede fai un investimento porque, fundamentalmente, cre que o diñeiro permitirá que tome a cota de mercado ou construa unha fenda apreciable.Entón, en 2025, cando mira a iso e pregunta - entón todo ese diñeiro, creou algunha fenda para calquera? Parece que os chineses están un mes atrás, o que non é nada. Non importa as demostracións de OpenAI, un mes máis tarde, todo o mundo parece ter tamén. Que o diñeiro foi desperdiciado - ou peor. Que o diñeiro se converte nunha responsabilidade porque significa que gastas 10X máis ou 100X máis que China, e os teus investidores queren que o diñeiro de volta nalgún momento. Parece que os chineses están un mes atrás, o que non é nada. Non importa as demostracións de OpenAI, un mes máis tarde, todo o mundo parece ter tamén. Que o diñeiro foi desperdiciado - ou peor. Que o diñeiro se converte nunha responsabilidade porque significa que gastas 10X máis ou 100X máis que China, e os teus investidores queren que o diñeiro de volta nalgún momento. Se non podes conseguir ese duopolio máxico do Val do Silicon ou algo así, se os chineses continúan subxacéndote, se outras empresas continúan subxacéndote, isto acabará en bágoas", conclúe Zoeller. Se non podes conseguir ese duopolio máxico do Val do Silicon ou algo así, se os chineses continúan subxacéndote, se outras empresas continúan subxacéndote, isto acabará en bágoas", conclúe Zoeller. Zoeller non é o único en facer esas observacións; outros están a notar tamén. Zoeller pon todo xuntos, elaborando unha elaborada narración que conecta os puntos que van máis aló das minucias técnicas. Na segunda parte da conversación, cubrimos a IA e a captura regulatoria, os dereitos de autor, o crecemento infinito, a codificación, o mercado de traballo e como navegar polo valente novo mundo.
