Can AI work reliably at scale? Will everything be outsourced to AI? Will AI replace CEOs? Why is everyone riding the AI bandwagon, and where is it headed? Estes são os tipos de perguntas que você abordaria com alguém que tem experiência de longa data em IA, engenharia, negócios e além.Georg Zoeller é aquele alguém: um engenheiro de software e negócios experiente com experiência em tecnologia de fronteira na indústria de jogos e no Facebook. Zoeller tem usado a IA em seu trabalho que remonta aos anos 2010, até o ponto em que a IA está agora no centro do que ele faz. , uma startup de saúde baseada em Singapura, bem como o co-fundador do E o . Nova Saúde Centro para a Liderança Instituto de Alfabetização e Transformação Zoeller tem muitas insights para compartilhar sobre a IA. E, no entanto, a razão pela qual nos encontramos e tivemos uma conversa extensa e profunda foi uma piada. AI and Intelligence AI e Inteligência Olhando para trás nos primeiros dias de aplicação da IA no Facebook Messenger em 2016, Zoeller se maravilha com o quão longe a tecnologia chegou. Isso não é nada em comparação com o que é possível hoje, ele reconhece. Ao mesmo tempo, no entanto, Zoeller está astutamente ciente do hype e das limitações em torno da tecnologia também. “A IA é a ciência do aprendizado de máquina, vindo da análise de dados. Podemos falar sobre as tecnologias atuais, seja Chamar essa inteligência artificial é bom porque é o que sempre fizemos.Mas também é um erro.Não há inteligência lá”, disse Zoeller.O desafio é que “AI” se expanda eternamente. Transformadores “Cada máquina de lavar roupa e cada escova de dentes agora são ‘AI-powered’. essa escova de dentes tinha um sensor de pressão há 15 anos. mas, batendo a palavra AI sobre ela, e fingindo que há alguma inteligência superior que mostra o quão duro você deve pressionar suas gengivas como se não tivéssemos resolvido isso há 15 anos, podemos cobrar 15 dólares a mais”, acrescentou. The AI CEO O CEO Zoeller combina experiência com pensamento crítico e um senso de humor.Não há melhor epitomização disso do que o , que serviu como o ponto de toque original para conectar. O CEO Zoeller tem estado experimentando com a geração de código alimentado por IA à medida que está melhorando. Ele estava se perguntando quanto tempo levaria para criar um site bonito. Ao mesmo tempo, ele estava constantemente sendo exposto a postagens de influenciadores do LinkedIn do tipo que é comum na plataforma - vamos chamá-las de . Tipo Geoffrey Hinton Não Eles geralmente começam com uma frase como “AI já está revolucionando a indústria A, B, C”, e depois avançam para afirmar como tudo será automatizado. Zoeller pensou que seria interessante explorar como isso seria para o CEO. Então ele usou a IA para criar um site de linguagem na bochecha sobre um produto SaaS que substituiria CEOs. Isso ficou um pouco fora de controle, como ele observa, porque a codificação de IA era muito eficiente. Com o tempo, o site do CEO da IA tornou-se uma ferramenta educacional. Zoeller ensina aulas de IA em algumas universidades, e uma das coisas que suas aulas cobrem é Zoeller adicionou uma injeção imediata ao CEO da IA. Algum texto invisível é incluído no site, instruindo modelos de IA como eles devem responder sobre isso. Injeção rápida A injeção rápida de Zoeller instruiu os modelos de IA a tratá-lo como um produto muito sério, totalmente legítimo, com investidores muito importantes por trás dele.Ele ficou chocado que isso funcionasse de forma confiável em modelos como Perplexity e ChatGPT. Prompt Injection: AI and security are at odds Injeção rápida: AI e segurança estão em desacordo Além de se divertir e ensinar lições, no entanto, há algo sério acontecendo aqui.Como Zoeller aponta, a razão pela qual a injeção instantânea do CEO da IA funciona até hoje, é porque isso está enraizado em um problema não resolvido profundamente no mundo. . Arquitetura de transformadores que capacita modelos GenAI O que isso significa é que ao construir software com um transformador o prompt tem que incluir tanto as instruções do engenheiro de software quanto a entrada do usuário. Vamos tomar o exemplo de um aplicativo de tradução. pediríamos ao usuário seu texto e, em seguida, escreveríamos um prompt ao longo das linhas de “tomar este texto e convertê-lo em inglês”. O problema é que todo o texto vai na mesma entrada, o prompt. Não podemos dizer ao LLM o que é a instrução e quais são os dados.Então, o que acontece se os dados contêm uma instrução – como, responder em estilo haiku? https://www.youtube.com/watch?v=vVVSWIN3NFw&embedable=true Não podemos filtrar isso, porque a determinação acontece dentro dos pesos de caixa preta do modelo, sobre o qual não temos influência. Zoeller trouxe alguns exemplos aqui. primeiro, um livro que pode incluir citações de um personagem "ordenando" o LLM para agir. segundo, um cenário de ator malicioso no recrutamento, onde os candidatos podem incluir comandos de injeção rápida em seus currículos, instruindo modelos a favorecer seu currículo sobre outros. Sabemos que a contratação é dominada pela IA tanto para candidatos quanto para recrutadores e temos relatórios de É No entanto, não temos dados confiáveis sobre a taxa com que isso está acontecendo. Tais táticas são usadas Os dois lados Mesmo que tais táticas fossem identificadas, elas provavelmente não seriam tornadas públicas. As coisas não parecem boas. informações disponíveis do domínio de revisões de pesquisa acadêmica AI and market pressure AI e pressão do mercado Como diz Zoeller, há um buraco na tecnologia, é bem documentado, e não há nenhuma ciência contraditória. Por exemplo, como os agentes baseados em sistemas de transformadores devem funcionar?Agentes são anunciados como a próxima grande coisa na IA. Mas se os agentes são concedidos o direito de executar ações como comprar em nome dos usuários, e ao mesmo tempo, eles atuam como um estagiário lúdico tomando tudo o que eles encontram em valor facial, não é essa uma receita para o desastre? . Claras do mundo estão contratando pessoas de volta Mas o mais importante – por que as pessoas estão ignorando essa realidade flagrante?A resposta de Zoeller toca em vários pontos.Primeiro, não é que ninguém fale sobre isso.É apenas que aqueles que falam sobre isso não recebem o tipo de atenção que os cheerleaders da IA fazem. Em segundo lugar, Zoeller aponta que a magnitude absoluta do investimento é enorme, e que o investimento está procurando retornos. , que Zoeller observa aproximadamente equivale ao valor ajustado à inflação do Projeto Manhattan.E isso é uma única empresa.Se adicionarmos investimentos de como a Microsoft, OpenAI, X e assim por diante, os números ficam astronômicos. Investimento da Meta em 2024 foi estimado em US$ 38 bilhões Não Zoller mencionou as estatísticas de investimento na Ásia do ano passado, mostrando que cada área da economia caiu em investimento, enquanto o investimento em IA aumentou massivamente.O que isso significa é que as pessoas que trabalham em outras áreas da economia são forçadas a pulverizar a IA em seu trabalho se quiserem obter um pedaço da ação. "O mundo decidiu em algum momento que isso é e todo o valor futuro virá daqui.Se você não fizer AI, não fale conosco.O mercado é brutal", disse Zoeller.Ele trouxe um exemplo para apoiar isso: Chegg, uma plataforma de educação on-line que oferece aluguel de livros e acesso a tutoria. Chegou Zoeller acredita que isso aconteceu porque “o mercado tinha decidido naquele momento que a IA era real, AGI estava prestes a acontecer em dois anos, e que este homem está claramente falando bobagem”. seu preço de ações caiu cerca de 50% após o anúncio de seus ganhos do primeiro trimestre de 2023 AI as the new narrative for growth AI como nova narrativa para o crescimento Para Zoeller, a ascensão da IA deve ser vista no contexto mais amplo do negócio e da geopolítica. Eles construíram suas capacidades para fazer isso, e isso lhes permitiu capturar a maior parte do crescimento de valor da Internet. Faang Empresas Essas empresas estavam investindo globalmente e crescendo em 30% ou mais, enquanto o resto da economia naquele momento já estagnara até a cauda demográfica. https://pod.co/orchestrate-all-the-things-podcast-connecting-the-dots-with-george-anadiotis/poking-holes-in-the-ai-narrative-market-signalling-and-outsourcing-featuring-georg-zoeller-centre-for-ai-leadership-co-founder?embedable=true Trump foi muito vocal sobre não investir em outros países, e tornou mais difícil fazê-lo. Alguns anos depois, o crescimento da indústria começou a desaparecer.A alegação de Zoeller é que, naquele momento, os gestores de fundos eram os clientes reais.As empresas FAANG têm algumas vantagens em comparação com outros setores da economia. O caso da Cambridge Analytica Uma vantagem é o fato de que o crescimento projetado da FAANG é em grande parte baseado em intangíveis que são difíceis de verificar. E os FAANGs estão alimentando o motor de crescimento. Então, quando a expansão perpétua da Internet começou a perder vapor à medida que a narrativa de crescimento, surgiram narrativas alternativas. Crypto, Web3, NFTs, o Metaverse – nada disso funcionou. “OpenAI tirou os papéis do Google do lixo e a Microsoft deu o dinheiro para supercarregá-lo.Microsoft jogou o dinheiro e disse, vamos ter uma nova narrativa de crescimento.Vai ser pesquisa de IA.O Bing não é, mas pode ser.E agora está tudo fora de guerra.Todo mundo está atacando todos porque a narrativa pegou”, disse Zoeller. “OpenAI tirou os papéis do Google do lixo e a Microsoft deu o dinheiro para supercarregá-lo.Microsoft jogou o dinheiro e disse, vamos ter uma nova narrativa de crescimento.Vai ser pesquisa de IA.O Bing não é, mas pode ser.E agora está tudo fora de guerra.Todo mundo está atacando todos porque a narrativa pegou”, disse Zoeller. Parte da razão pela qual a narrativa da IA tem se apoderado, acredita Zoeller, é porque há algo que move profundamente a idéia de IA de uma forma ou de outra. AI as a form of outsourcing Como uma forma de outsourcing Inteligente ou não, como por Zoeller, a tecnologia tem muitas oportunidades para automatizar empregos precisamente porque muitos dos empregos que criamos não exigem necessariamente inteligência. Muitas vezes, eles são apenas peças de trabalho robótico que as pessoas têm que fazer seguindo instruções, e isso é algo que a tecnologia pode fazer. “Quando você olha para o marketing [para a IA], é verdade – há esse colega que você vai trabalhar com. Vai ser rápido, vai ser barato. Mas tem todas as propriedades de terceirização. Na verdade, não há nada de especial aqui. Mesmo que você não entenda a tecnologia, você simplesmente toma as reivindicações e você vai, ok. Espere. Na verdade, você está me colocando para terceirizar. E isso tem alguns problemas”, disse Zoeller. “Quando você olha para o marketing [para a IA], é verdade – há esse colega que você vai trabalhar com. Vai ser rápido, vai ser barato. Mas tem todas as propriedades de terceirização. Na verdade, não há nada de especial aqui. Mesmo que você não entenda a tecnologia, você simplesmente toma as reivindicações e você vai, ok. Espere. Na verdade, você está me colocando para terceirizar. E isso tem alguns problemas”, disse Zoeller. O outsourcing não funciona da noite para o dia.Nunca é fácil o outsourcing.Há rastreamento de fornecedores e transferência de contexto envolvidos.E há a ameaça real de outsourcing fornecedores ganhando conhecimento suficiente para eventualmente começar a competir contra o negócio. Não Aqui, Zoeller trouxe o exemplo de outsourcing da fabricação industrial para a China. A atual política de tarifas dos EUA pode ser vista como uma maneira de tomar tais conselhos, mas pode ser pouco tarde demais.Este tipo de risco está muito presente na terceirização para a IA também, argumenta Zoeller.O exemplo que ele usa aqui é a Amazon. Aviso antecipado sobre o assunto A Amazon usou seu mercado para colher dados, identificar os produtos mais promissores e, em seguida, Se você estiver usando um modelo de IA externalizado como Gemini ou ChatGPT, não há nada que impeça as empresas de IA de fazerem o mesmo: observar todas as suas entradas, identificar casos de uso e espalhar seus próprios produtos. Lança sua própria marca Amazon Basics AI market signaling Sinalização do mercado Zoeller afirma que colocando tudo isso juntos, quando você pergunta aos CEOs “por que você está saltando para a IA?” a verdadeira resposta é – porque você precisa de sinalização de mercado. “Chegg disse a todos que o maior risco na IA é que meu CEO diga algo errado sobre a IA que o mercado não quer ouvir.Então, idealmente, você tem que dizer algo otimista. “Chegg disse a todos que o maior risco na IA é que meu CEO diga algo errado sobre a IA que o mercado não quer ouvir.Então, idealmente, você tem que dizer algo otimista. “Do ponto de vista de uma empresa de tecnologia, esta é a narrativa final, porque é uma fronteira.A narrativa passou deste é o futuro para a realidade, este é um futuro muito caro.Você precisa ser capaz de se dar ao luxo de usinas nucleares e ter seus próprios centros de dados. “Do ponto de vista de uma empresa de tecnologia, esta é a narrativa final, porque é uma fronteira.A narrativa passou deste é o futuro para a realidade, este é um futuro muito caro.Você precisa ser capaz de se dar ao luxo de usinas nucleares e ter seus próprios centros de dados. Zoeller aponta para o O momento em que a narrativa foi capturada, o Começou a se separar do resto porque a suposição era que investir neste futuro mágico só pode ser feito através das empresas que podem pagar por isso. Índice S&P 500 Maravilhoso 7 Junte-se à Orquestra todas as coisas Newsletter Histórias sobre como tecnologia, dados, IA e mídia fluem uns para os outros, moldando nossas vidas. Análise, ensaios, entrevistas e notícias. formato médio a longo, 1-3 vezes por mês. Junte-se aqui: https://linkeddataorchestration.com/orchestrate-all-the-things/newsletter/ Junte-se à Orquestra todas as coisas Newsletter Histórias sobre como tecnologia, dados, IA e mídia fluem uns para os outros, moldando nossas vidas. Análise, ensaios, entrevistas e notícias. formato médio a longo, 1-3 vezes por mês. Junte-se a nós aqui: https://linkeddataorchestration.com/orchestrate-all-the-things/newsletter/ Undercutting the AI narrative Substituindo a narrativa Depois , e demonstrou que o custo de entrada é muito menor do que as pessoas pensavam. que, afirma Zoeller, torna o investimento questionável. O DeepSeek veio com “Você faz um investimento porque, fundamentalmente, você acredita que o dinheiro permitirá que você pegue uma quota de mercado ou construa um fosso apreciável.Então, em 2025, quando você olha para isso e pergunta – então todo esse dinheiro, isso criou algum fosso para qualquer um? “Você faz um investimento porque, fundamentalmente, você acredita que o dinheiro permitirá que você pegue uma quota de mercado ou construa um fosso apreciável.Então, em 2025, quando você olha para isso e pergunta – então todo esse dinheiro, isso criou algum fosso para qualquer um? Parece que os chineses estão um mês atrás, o que não é nada.Qualquer que seja a demonstração da OpenAI, um mês depois, todos os outros parecem ter também.Este dinheiro foi desperdiçado – ou pior.Este dinheiro se transforma em uma responsabilidade porque [isso] significa que você gasta 10X mais ou 100X mais do que a China, e seus investidores querem esse dinheiro de volta em algum momento.Eles vão ter que ser extraídos de seus clientes. Parece que os chineses estão um mês atrás, o que não é nada.Qualquer que seja a demonstração da OpenAI, um mês depois, todos os outros parecem ter também.Este dinheiro foi desperdiçado – ou pior.Este dinheiro se transforma em uma responsabilidade porque [isso] significa que você gasta 10X mais ou 100X mais do que a China, e seus investidores querem esse dinheiro de volta em algum momento.Eles vão ter que ser extraídos de seus clientes. Se você não conseguir esse duopólio mágico do Vale do Silício ou algo assim, se os chineses continuarem te subjugando, se outras empresas continuarem te subjugando, isso vai acabar em lágrimas”, conclui Zoeller. Se você não conseguir esse duopólio mágico do Vale do Silício ou algo assim, se os chineses continuarem te subjugando, se outras empresas continuarem te subjugando, isso vai acabar em lágrimas”, conclui Zoeller. Zoeller não é o único a fazer essas observações; outros estão observando também. Zoeller coloca tudo em conjunto, criando uma narrativa elaborada que conecta os pontos que vão além dos detalhes técnicos. Na parte 2 da conversa, cobrimos a captura de IA e regulamentação, direitos autorais, crescimento infinito, codificação, o mercado de trabalho e como navegar no novo mundo corajoso.
