Recentemente, participei de um debate de mesa redonda sobre temas de IA na Universidade de Oxford, juntado por acadêmicos e profissionais de IA e conformidade.Um dos participantes começou a falar sobre a assustadora “singularidade da IA”. Eu comecei a brincar com a ideia de encontrar correlações entre a IA e a física. A singularidade Buracos negros tecnológicos: a singularidade da IA Na física, uma singularidade é uma região onde a curvatura do espaço-tempo se torna infinita. O conceito é famosamente ligado a buracos negros, onde a matéria é comprimida para densidade infinita e volume zero, e o tempo e o espaço realmente se dobram infinitamente. – pardon the simplification, physicists (see Ao contrário dos buracos negros, dos quais nada pode escapar uma vez que entra em sua fronteira, os buracos brancos expulsam a matéria e não podem ser introduzidos. Buraco Branco Buracos Brancos Buracos Brancos A aplicação do A tecnologia como um ponto onde as capacidades tecnológicas se tornam infinitas e incontroláveis certamente não é nova. Este é um momento hipotético no futuro, quando a IA supera as capacidades cognitivas humanas e se torna autônoma em auto-melhorar e escalar-se. Isto reforça ainda mais a ideia de que os seres humanos podem um dia não mais ser capazes de compreender, e, portanto, controlar, sistemas de IA. Essas preocupações são provavelmente esvaziadas de proporção, infladas pela imaginação cinematográfica, e parecem ser restringidas pela realidade de nossos recursos limitados. no presente . singularidade A singularidade Impossível alcançar O horizonte dos modelos Como mencionado, nada atravessando o limite de um buraco negro pode então escapar. nem mesmo a luz, que está preso para sempre. Não é uma borda visível, mas sim uma região matemática – uma que precisamos agradecer. para o . Evento Horizonte Carlos Schwarzschild There is a somewhat similar concept in AI systems – that is, an event horizon beyond which an AI model’s reliability begins crumbling away. This boundary is determined by the distribution of the data an AI system was trained on. When the model interacts with data differing from the training set, it encounters what experts call an A generalização em si é a capacidade de um modelo de IA para “ “Inputs que nunca foram vistos antes, quando a generalização é pobre.” » » Problema de generalização de “out-of-distribution” (OOD) manuseio de entradas que não foram encontradas durante o treinamento pode desempenhar perfeitamente nos dados em que foi treinado, mas falha miseravelmente quando confrontado com novos dados Esta questão está ligada ao conceito de , onde um modelo aprende características relevantes e irrelevantes ao mesmo tempo para fazer boas previsões. Quando os dados mudam, a influência de características irrelevantes pode degradar significativamente a precisão de boas previsões. Por exemplo, um modelo de processamento de linguagem natural (NLP) treinado em conjuntos com frases altamente específicas pode lutar com o processamento preciso e a interpretação de frases que não contêm essas frases específicas. Figura contaminação The event horizon of AI models is more likely an uncharted territory rather than a region of infinite curvature. But it’s interesting how in both the AI and physics worlds, once you cross it, you venture yourself into the unknown – and the unthinkable could just happen. Mecânica Quântica: raciocínio probabilístico A IA não é apenas uma questão da Teoria da Relatividade de Einstein, mas também uma thing. At the heart of quantum mechanics lies the most outlandish, lunatic idea: uncertainty is the fundamental feature of the universe. Odd, right? A particle could, in principle, be found anywhere until we measure it. It doesn’t exist in a specific defined state, but in a of possible ones, described by a wavefunction that encodes probabilities. In fact, you could think of this wavefunction as a “map of probabilities”, showing where that particle might be or how fast it might move (its momentum). Quântico Superposição Obviamente, a IA não obedece às leis da mecânica quântica (ou pelo menos ainda não). Mas, como a física quântica, a IA opera sob uma lógica probabilística em vez de uma lógica determinista.O exemplo mais óbvio é o ChatGPT. O modelo basicamente inferirá qual palavra é mais provável ser a correta depois da anterior. Resposta coerente Em outras palavras, muito como a física quântica, a IA é sobre realidades estatísticas, não absolutos definidos em pedra. O universo em expansão do conhecimento Like many scientists of his time, Einstein was not convinced that the universe was expanding. His equations did show that the universe should either expand or contract, but he was reluctant to the idea that the universe could, in fact, be in motion at all. To preserve a static universe, he introduced the , uma medida de um certo efeito "anti-gravidade" (Λ) que compensa a expansão do universo como descrito por suas próprias previsões. Em retrospecto, ele deveria ter confiado em sua própria matemática. Graças a Edwin Hubble, que em 1929 descobriu que as galáxias estão se afastando de nós, agora sabemos que a universidade está realmente se expandindo. “Einstein tinha muita razão. – Hubble demonstrou que ele estava certo mesmo quando estava errado. constante cosmológica O maior erro da minha vida Existe uma certa ressonância entre a dinâmica da expansão do universo descrita pela constante do Hubble e o impacto da IA. Em um nível básico, pode-se argumentar que a IA expande o conhecimento fornecendo informações aos usuários. Seja ChatGPT ou um modelo binário, quem insira uma consulta receberá uma resposta que pode ampliar o conhecimento pessoal, impulsionar decisões de negócios e assim por diante. Usando dados anónimos das conversas de seus usuários. periodically refined or fine-tuned But there’s more to it. Cosmic expansion is the cornerstone of our understanding of the world because it’s inherently, profoundly tied to our idea of order. The Big Bang, from which the cosmic expansion originates, gave order to time and space (see next section). It marked the watershed moment between an unknown before and everything that followed. Whatever the before was (because we don’t know) was unimaginably hot, the after has been progressively cooling down ever since. With no external influence, a body that is hot, like a cup of coffee, slowly becomes lukewarm, then cold. A expansão cósmica descreve como o universo transforma o caos e as irregularidades em estrutura e forma (depois de tudo, o cosmos é uma palavra grega que significa “ordem”). De forma semelhante, a IA nos ajuda a transformar o ruído e a ambiguidade em significado e conhecimento. E o que é mais surpreendente é que ambos os processos são espontâneos e auto-organizados – um impulsionado pela física, o outro por algoritmos. Ao contrário da inflação cósmica, no entanto, o processo de expansão da IA ainda pode ser parado se os humanos estiverem dispostos a fazê-lo. Modelo de radiação de fundo bias A previsão correta de Einstein sobre a expansão do universo foi recolhida em 1927. , um físico e sacerdote belga que teorizou o que hoje chamamos de Teoria do Big Bang (nope, não a sitcom sobrevalorizada...). George Lemaître Cerca de 13,8 bilhões de anos atrás, um estado extremamente quente e denso, provavelmente uma singularidade, expandiu-se rapidamente com um imenso , projetando matéria, energia, espaço e tempo para fora, e então lentamente começou a esfriar.Este evento foi o catalisador para a formação de toda a matéria, incluindo a formação de galáxias e a ignição de estrelas. was so violent that even today, a little less than 14bn years later, we can still detect its afterglow, in the form of a faint signal permeating the universe and gently humming through its fabric. This is known as the . Bang Bang cosmic microwave background radiation Assim, uma radiação relíquia, de um evento catastrófico inicial sobrevive hoje, embora em uma escala mínima e passando despercebida sem mecanismos sofisticados. Algo bastante semelhante acontece em modelos de IA em relação aos dados de treinamento, e em particular ao conceito de representatividade de dados. Se os dados são representativos de todos os grupos (gênero, raça, idade, etnia, orientação sexual, etc.), o modelo provavelmente permanecerá justo. Por outro lado, se os dados não forem representativos (incompletos ou preconceituosos), o modelo provavelmente produzirá saídas que são involuntariamente discriminatórias em relação a certos grupos. Na verdade, a representatividade dos dados é uma das principais dimensões contra as quais um modelo de IA é testado por éticos de IA e especialistas em conformidade. Se você não, você precisará mitigar o viés pós-implantação, para garantir que nenhuma discriminação ocorra (ou pelo menos é minimizada). Descreva os melhores padrões de prática para testar a equidade e robustez do seu modelo de IA (certamente vale a pena ler, se você é nerd o suficiente!). Antes ISO/IEC 24027:2021 guidelines Anyways, the point of it all being: when not taken care of, bias persists and propagates itself, just like the cosmic background radiation has survived through billions of years. And when it does, the societal impact can be non-trivial: a brilliant female candidate might be ruled out by a predictive model in favour of less qualified male candidates, because the training data carried gender bias. The good news is that again, unlike the Big Bang’s radiation, we can definitely do something about it. That’s what we AI governance and compliance guys are here for. We cannot stop the de brincar através de galáxias (se alguma coisa, vamos mantê-lo vindo!). Mas o modelo de preconceito da IA? Isso é gerenciável. Música do Big Bang music of the Big Bang A decadência estelar dos modelos AI Eu não viveria o suficiente para ver uma estrela colapsar em uma estrela de nêutrons, mas hej, nunca diga nunca.Quem teria dito que poderíamos “fotografar” buracos negros e detectar ondas gravitacionais, e ainda assim, aqui estamos. Se as estrelas de nêutrons fossem apenas metade do espetáculo que os astrofísicos descrevem, valeriam um bilhete de ida para o universo para simplesmente admirá-las.Estas estrelas nascem quando a gravidade se torna tão forte que esmagam o núcleo de uma supernova.A imensa força à qual ela está sujeita leva a um núcleo compacto, denso onde prótons e elétrons são combinados em nêutrons.Enquanto isso, em outro lugar, um modelo de IA é formado a partir da compressão de dados, colapsando vastas informações em compacto. das representações. Núcleos Visto de longe, veríamos uma estrela de beleza incompreensível, bastante pequena em tamanho (10-12 km de diâmetro) mas incompreensivelmente poderosa em densidade (metade de um bastão de sushi poderia pesar um bilhão de toneladas) e gravidade (cerca de 200 bilhões de vezes mais forte do que a da Terra). Uma estrela com uma superfície enganosa, suave e suave para o olho, mas capaz de esmagá-lo em pedaços assim que você tocá-lo. Um modelo de IA que gera as imagens mais realistas, mas capaz de desalinhar grosseiramente o tronco de uma árvore de sua canoa ou um dedo de sua mão. Uma estrela oferecendo uma dança fascinante de giros ultra-rápidos, entrelaçada com uma luz frené Luta pela sobrevivência What appears to be the most stunning creation of the universe, or the best-performing AI model system, is actually fighting for existence. The neutron star is doing its best to resist the astounding gravitational force that would like to crush it, and for that it deploys the , que está lutando com a gravidade, empurrando para fora e resistindo ao colapso. Da mesma forma, em outro canto do universo, um modelo de IA está lutando contra a atração implacável de dados barulhentos e viciados, que gostariam de desestabilizá-lo e empurrá-lo para produzir saídas irrelevantes ou até mesmo prejudiciais. ou , que minimizam os riscos do modelo de sobreposição ou colapso em valores extremos. Pressão de degeneração de nêutrons Regularização sparsity neutron degeneracy pressure Mas não cometa erros: é um equilíbrio delicado. O evento minimamente perturbador pode causar a gravidade e o preconceito a vencer. Uma vez que a pressão de degeneração de nêutrons cede à gravidade (talvez porque essa estrela incorporou matéria puxada de outras estrelas, aumentando a alavancagem da gravidade), o colapso é inevitável. Como um rei ganancioso, a gravidade impõe sua supremacia e torna-se inabalável. Ao mesmo tempo, as salvaguardas do modelo aplicado podem não resistir à atração de dados infinitos, talvez porque absorveu muita ou muito variada informação, e sua estabilidade começa a quebrar. . overfitting and the loss of meaningful generalization O espaço-tempo se curva cada vez mais. Anunciado pela formação de um horizonte de eventos, a estrela de nêutrons colapsa em um buraco negro. A velocidade de escape agora excedeu a velocidade da luz, o que significa que a luz não pode mais escapar. Em uma rotação dramática dos eventos, esse belo anjo branco etérico se transforma em um buraco negro. E assim como as supernovas semeam novas estrelas e alimentam o cosmos, os remanescentes do nosso modelo de IA – aqueles pesos e lições bem ajustados aprendidos a partir do fracasso anterior do modelo – podem ser o ponto de partida para construir a arquitetura da próxima geração. Em ambos os casos, vemos um ciclo de transformação, onde mesmo o desequilíbrio mínimo pode fazer com que a estabilidade diminua de um momento para o outro. Entangled e em todos os lugares: AI e Qubits Quando penso sobre quais são os problemas mais assustadores e mais urgentes que a humanidade enfrenta a longo prazo, minha mente vai direto para três emergências: impactos climáticos, crises demográficas e computação quântica. computação quântica está lentamente mas constantemente ganhando relevância em todo o mundo, com as notícias ocasionais deste ou daquele chip quântico sendo produzido pela Microsoft ou outros jogadores da tecnologia. , was awarded the . John Martinis Nobel Prize in Physics this year Mas a verdade é que, uma vez que sejamos capazes de construir eficientemente computadores quânticos em grande escala, não vamos simplesmente ler um artigo aleatório e obscuro sobre isso.Nossas vidas serão severamente afetadas por esta tecnologia. e) o . In theory, it could allow a country to make it easier to steal another country’s classified secrets, maybe relating to defence. You can imagine the cascading effects of such technology if not properly regulated and controlled. Luckily, this dystopian scenario is still theoretical at present, and quantum-safe encryption standards are being to pre-empt this. inter alia break high-level encryption Desenvolvido por NIST A computação quântica leva seu nome dos princípios da mecânica quântica.Em primeiro lugar, a mecânica quântica introduziu o conceito de (uma partícula pode estar em qualquer lugar até que seja observada e medida).Esta lógica é aplicada aos qubits dos computadores quânticos (= bits quânticos). . This property is, and will, expand a computer’s capabilities beyond our imagination (i.e., performing multiple calculations simultaneously). And let’s not forget about , the property of two particles to influence each other at a distance. The same happens in quantum computing: qubits can similarly become linked and affect each other no matter how distant. This will again scale the capabilities of computers, particularly in terms of correlating data and performing incredibly complex operations. superposition Combinação de estados entre 1 e 0 simultaneamente entanglement Então, onde a IA se encaixa em tudo isso?Enquanto conceitos distintos, a IA e a computação quântica estão fortemente interligados. quantum computing, for instance by designing better and error-free quantum circuits, or fine-tuning quantum machines for stability and performance.[23] On the other, in the future, quantum computers could help process massive datasets for AI, exponentially faster than our computers. In turn, this could likewise dramatically accelerate and refine neural network training. In other words, AI currently supports quantum computing development; quantum computing might return the favour in the future. optimise and calibrate Some parallels are more precise, others perhaps a little forced. I hope you didn’t take the above too seriously — see it for what it is: nothing more than an intellectual . entretenimento
