Uma discussão artificial sobre inteligência artificial

Para falar de verdade sobre inteligência artificial, teremos que usar o termo “aprendizado de máquina” também. A IA é a grande coisa para a qual as pessoas estão usando o aprendizado de máquina. O aprendizado de máquina é a base da IA, a matemática e os algoritmos que o alimentam.

Eles não são os mesmos, mas seu diagrama de Venn tem sobreposição suficiente para que isso realmente não importe para nossos propósitos.

Basicamente, há matemática que descreve curvas. Lembra das parábolas? Coisas com aparência de ferradura onde as pontas continuam?

Você pode modelar uma tonelada de coisas na vida real com equações de curvas e, especificamente, com quantidades absurdas delas em camadas de maneiras absurdamente complexas. O poder de computação é barato agora. Isso mais a capacidade da Internet de criar grandes quantidades de dados de treinamento é uma combinação e tanto.

As pessoas que fazem essa modelagem geralmente tentam encontrar algum valor ideal em muitas curvas ao mesmo tempo - o ponto final, o topo ou a base da parábola, a extremidade finita da ferradura.

Algumas curvas são geralmente mais importantes para a saída final do que outras; você deseja ser realmente exato sobre como otimizar alguns e pode ser mais confuso sobre como otimizar outros.

Você pode fazer com que o computador aprenda os “pesos” corretos para colocar em pesos diferentes. Você pode restringir as próprias equações de modelagem.

No final, o computador encontra um conjunto ideal de valores de forma a otimizar algum resultado final. Essa é a “mágica” (aspas pesadas) do aprendizado de máquina.

Você pode receber uma entrada - um prompt verbal, um conjunto de dados sobre suas preferências - e produzir uma saída bastante realista em alguma dimensão - um desenho, a voz de uma celebridade, uma recomendação de música.

O poder de computação pode ser barato, mas pagar aos humanos para fazer toda essa matemática, ou mesmo programar essa matemática em um computador, fica caro.

Pessoas inteligentes descobriram como fazer as máquinas fazerem muito desse trabalho braçal para nós: existem maneiras de fazer as máquinas “viajarem ao longo” de equações de curvas e segui-las “ladeira abaixo”.

Isso personalizou seus resultados do Google por algumas décadas. Desde então, houve uma corrida armamentista de placas gráficas. Houve o AlphaGo, que venceu o melhor jogador de Go do mundo em 2015.

Houve cães robôs dinâmicos de Boston. Existem aplicativos como Shazam e Siri. Existem programas de desenho como DALL-E e Midjourney .

Tudo isso é legal, mas o dinheiro não se afastou dos resultados da pesquisa. Ele se derramou em uma coisa adjacente: mostrar às pessoas coisas de que elas gostarão nas mídias sociais. Coisas que você vai gastar tempo olhando e anúncios nos quais você pode clicar.

O conceito mais amplo de IA, enquanto isso, tem sido um elemento básico da ficção científica por um pouco mais de tempo, e está interagindo com esse “estouro” que o campo experimentou nos últimos cinco a dez anos. Vemos esse crescimento exponencial e pensamos em “O Exterminador do Futuro”.

As pessoas que vendem IA ficam felizes em nos deixar pensar isso, para pular alguns fatos importantes, então acreditaremos em suas afirmações de “sim! compare-nos com a Skynet dos filmes Terminator! [Crazy Invention #4852], que minha empresa constrói, é de 5 a 10 anos no máximo!”

Entendo por que as pessoas veem o crescimento reconhecidamente rápido no que ele pode fazer e pensam que estamos realmente à beira do precipício de dar-lhe consciência.

Mesmo que esse precipício esteja mais na escala de 200 anos, em vez de 2 ou 20, isso é uma coisa bastante significativa em comparação com o tempo que nós, humanos, existimos.

Nós realmente poderíamos, nessa escala de tempo, ultrapassar o ponto em que os programas de IA são apenas “preenchimento automático de conceitos em vez de palavras”, como no ChatGPT ou no argumento da sala chinesa de Searle .

Podemos realmente colocar os programas certos no hardware de inspiração biológica certo e realmente imitar a mente humana, levantando questões de humanidade e sensibilidade levantadas por Philip K. Dick e outros.

Se e quando a IA realmente rivalizar com nossa inteligência emocional e perceptiva, possuindo uma consciência ininterrupta como a nossa, em vez de mera habilidade em domínios específicos, teremos um ajuste de contas.

Não será hoje, amanhã, na próxima semana ou mesmo no próximo ano.

As conexões neurais massivamente paralelas (significando, neste caso, trabalhando ao mesmo tempo) que temos em nossos cérebros – este é o fosso do nosso castelo, por assim dizer. É o que torna a “inteligência geral artificial” daqui a anos ou, mais provavelmente, décadas.

O aprendizado profundo, o ramo do aprendizado de máquina por trás de muitos de seus avanços recentes, é um nome legal para as estatísticas e cálculos de imitar as relações de entrada e saída que vemos no mundo real. Isso não significa - ainda não, pelo menos - que os computadores estejam "aprendendo profundamente" alguma coisa.

Por mais impressionante que seja, é a matemática acontecendo em um computador, de uma forma fundamentalmente diferente de como a “matemática acontece” em seu cérebro.

O cérebro usa chocantemente pouca eletricidade. Os data centers usam quantidades surpreendentemente grandes. Estes últimos são máquinas de força bruta. Eles processam menos threads e com menos flexibilidade do que nós; cada um é tão rápido .

Ele calcula e restringe as possibilidades tão rapidamente que até mesmo os melhores jogadores de xadrez e Go não conseguem acompanhar.

Seu calcanhar de Aquiles é o fato de exigir problemas bastante bem definidos, entradas e saídas razoavelmente limpas. Um jogo de tabuleiro. Um robô que não cai. Ele não pode lidar com um conjunto de problemas de “otimização” absurdamente diversos e que mudam rapidamente, alternando entre eles o tempo todo.

Quaisquer que sejam os pontos fortes e as falhas da IA em áreas individuais, ela não pode vincular muitas áreas como fazemos, mudando o foco conforme necessário, adaptando e transferindo o comportamento entre os domínios. Não pode fazer isso no nível de uma criança humana.

Um grande alvo na pesquisa de IA tem sido o aprendizado “one-shot” ou “poucos tiros”, o que significa não exigir conjuntos de dados massivos e tempos de treinamento para aprender como fazer algo. Houve um sucesso aqui; ainda está muito atrás de nossos cérebros.

Automaticamente, somos bons em aprendizado de poucos tiros em muitos domínios e desde tenra idade. Aprendemos regras e estratégias quase sem dados de treinamento rapidamente. Você pode mostrar a uma criança como usar um iPad, andar de bicicleta, amarrar os sapatos ou explicar a moral de uma história (não apenas o resumo da trama).

Você mal pode treinar um computador para fazer bem uma dessas coisas. Se pudesse fazer raciocínio cognitivo, locomoção e interação humana sem ser aterrorizante, já o estaríamos usando para todas essas coisas.

As empresas são alérgicas ao trabalho humano confuso, sempre buscando versões de máquinas mais baratas. Eles teriam feito isso acontecer. Eles não têm.

Os laboratórios de neurociência computacional nas universidades são os interessados em modelar o pensamento interno e o raciocínio que nossos cérebros fazem sobre o mundo. Não é o objetivo dos modelos que misturam as fotos de duas pessoas para ver como seus bebês ficariam.

Provavelmente, por décadas, apenas nós, humanos, conseguiremos navegar pelo mundo de maneiras difusas, adaptativas e de remendar estratégias-juntos-on-the-fly.

Essa capacidade geral de aprender e navegar no mundo, a partir de uma base de emoções e experiências, não é algo que a indústria de tecnologia tenha considerado útil ao construir IA.

Esparsas são as maneiras pelas quais a imitação real do cérebro aconteceu no aprendizado de máquina até agora. Copiar o cérebro não foi necessário, ou seja, lucrativo.

Em vez disso, as empresas (e as universidades que financiam) otimizaram para coisas mais mensuráveis: o número de cliques em um feed de mídia social ou a precisão de um ataque de drone.

Se tentou nos imitar, foi uma tentativa lucrativa de obter os resultados de certas coisas que o cérebro pode fazer. Algumas formas impressionantes e interessantes de reconhecimento de padrões acontecem na visão computacional.

Tudo isso é para deixar claro que a IA não é “mágica que dá vida aos computadores” nem “mágica que algumas pessoas podem fazer com computadores”. É matemática de força bruta. Conhecimento misturado com poder de computação. Aproveitar. A maioria dos modelos de IA está analisando números para fazer uma coisa: ganhar dinheiro.

As pessoas com esse ganso de ouro, essa ferramenta poderosa, são economicamente incentivadas a afirmar que a IA está prestes a fazer algo cósmico ou apocalíptico para esconder as coisas mais reais, mundanas e menos chamativas que está fazendo para seus negócios.

Eles têm interesse em afirmar que serão capazes de grandes coisas nos próximos 1, 5, 10 ou 15 anos. Estes são cronogramas que os investidores gostam. Carros totalmente autônomos que não dão certo são apenas um dos primeiros fracassos que veremos nesta frente.

Grandes premissas e promessas de ficção científica criam bons filmes. Ex Machina, Her, Blade Runner . Isso não significa que eles são verdadeiros.

Quando aceitamos o próprio enquadramento dos desenvolvedores de IA de seus produtos como (1) inevitável e (2) politicamente e economicamente transformador, torna-se fácil omitir o fato óbvio de que as formas que a IA assume (ou seja, como chatbots! Como "mecanismos de busca"! ) e os usos a que se destina (isto é, os empregos que aumentará ou substituirá! As tarefas que tornará mais fáceis ou mais difíceis!) dependem das condições políticas e econômicas em que emerge.

…

Estou aberto à possibilidade de estarmos à beira de um precipício — de que um mundo “irreconhecidamente transformado” por grandes modelos de linguagem esteja a apenas alguns meses de distância, como Paul Christiano parece acreditar. Mas uma regra básica deste boletim informativo é que as coisas mudam lenta e estupidamente, em vez de rápida e dramaticamente, e uma crítica adequada da IA precisa levar em conta essa probabilidade. Por enquanto, estou cheio de ressentimento por me encontrar mais uma vez no meio de um discurso sobre tecnologia em que os termos e estruturas de discussão foram mais ou menos inteiramente definidos pelas empresas privadas que lucram com seu desenvolvimento e adoção .

— Max Read, O que a crítica do Facebook pode nos ensinar sobre a crítica da IA

Vamos fazer um balanço por um segundo. Como, historicamente, isso foi para nós, aceitando os “termos e estruturas de discussão” que a elite tecnocrática impõe nas discussões de assuntos técnicos, seja criptomoeda ou bancário?

Quantas crises bancárias que derrubaram a economia aconteceram entre as reformas pós-Grande Depressão de FDR e os anos 80? Quantos aconteceram desde então, depois que Reagan os reverteu?

Max Read cita o excelente artigo da Harper's de Joe Bernstein sobre como o Facebook já fez isso por trás da cortina; vendeu a toda uma classe de pessoas um modelo instável e cada vez mais insustentável da eficácia de seus próprios anúncios.

Só porque um esquema de pirâmide é baseado em um produto real não significa que não seja um esquema de pirâmide.

Um grande ponto aqui é o seguinte: a tecnologia não é “melhor” do que as finanças quando se trata de enganar o público sobre suas ofertas. É indiscutivelmente pior. Você viu o que aconteceu com exames de sangue baratos, espaços de coworking e blockchain. Indústrias finas são maculadas pela tolice.

Veja como eles massacraram meu filho.

Eles bagunçam as coisas internamente, mas de maneiras que afetam a todos nós, porque nossos amigos e vizinhos aceitam suas besteiras e permitem que eles estabeleçam os termos da discussão. Então pagamos por seus pára-quedas dourados.

Milhões perdem seus meios de subsistência em eventos econômicos que poderiam ter sido evitados com algumas regulamentações bem colocadas. Conto tão antigo como o tempo.

Cabe a nós tentar algo novo com IA. Vale a pena dar ao nosso futuro eu a liberdade de tomar decisões sensatas sobre isso, com base em informações sólidas. Vale a pena saber a verdade sobre isso. Aceitar os caprichos dos outros pelo valor de face garante que você pagará um preço mais alto no futuro.

As pessoas estão ficando boas em usar ML e aprendizado profundo para todos os tipos de coisas – fazendo com que os computadores reconheçam rostos, reproduzam vozes e mostrem às pessoas conteúdo que as manterá rolando.

Esses usos não ficarão melhores ou mais úteis para nossas vidas, em vez de tornar algumas pessoas muito ricas, a menos que o façamos.

Nesse ínterim, é claro, eles podem ser muito divertidos.

A IA pode ser usada para o bem, para o mal, simplesmente para o estranho ou para qualquer coisa, dependendo das condições humanas. No momento, isso significa apenas que tudo depende de onde leva a motivação do lucro.

A maior parte da experiência em IA foi adquirida por empresas que tentam nos espremer por dólares. Simplesmente não há tanto dinheiro em esforços públicos, transparentes e dirigidos por pessoas para tornar a vida fundamentalmente melhor (anteriormente domínio do governo) ou mesmo em simulação cerebral.

Está no pão e circo e nos usos militares. Esses tipos de condições são o que fazem a IA, e qualquer outra tecnologia, seguir na direção que segue.

AI está lá fora agora. Esse fato é água debaixo da ponte. Falar sobre isso como se fosse mágica só beneficia as pessoas que têm mais a ganhar com isso.

Vestir a IA com uma conversa pesada, neste caso, uma conversa apocalíptica, explorando o interesse desinformado das pessoas por ela, é um padrão que já vimos antes.

“Theranos/WeWork/NFTs vão mudar tudo.” Correção: eles poderiam ter mudado muito. Em vez disso, eles se venderam demais. Eles prometeram demais e entregaram de menos.

Essa histeria em torno da IA, superestimando tanto suas capacidades quanto seus riscos para que algumas pessoas fiquem mais ricas, é difícil de separar das pessoas que estão naturalmente interessadas nela. É uma coisa interessante com uma ampla gama de usos.

As pessoas vão comprá-lo de qualquer maneira, como fizeram com criptomoedas e NFTs, e provavelmente mais ainda. Mais uma razão para saber a verdade sobre isso.

Se você não tirar mais nada deste post, veja isto: como usamos a IA uns nos outros é, no momento, uma questão muito mais premente do que qualquer coisa sobre a IA se tornando consciente. Pense nisso: se ele se tornou consciente e quis nos prejudicar, por quê ? Por que ele pode querer fazer isso?

Não parece patentemente óbvio que a maneira como a trazemos ao mundo terá algum efeito em sua postura em relação à espécie humana?

Faz sentido confiar isso, e as narrativas em torno disso, inteiramente a CEOs e proprietários de capital adjacentes à tecnologia, um grupo com um histórico terrível nisso e que provou ter uma incidência maior de psicopatia do que a população em geral?

Queremos que eles se responsabilizem por seu uso, pesquisa e desenvolvimento, até o momento em que se torna senciente, seja em 2030 ou 2230?

Como Read apontou, os criadores de medo da IA acham conveniente que as pessoas não pensem nisso.

Eles acham muito mais conveniente que esse fato permaneça oculto para que possam falar sobre seu avanço ser inevitável, não vale a pena questionar e a Singularidade estar logo ali.

Não há nada inevitável aqui, exceto o que os humanos tornam inevitável. Os gorilas não estão trabalhando nisso.

Se e quando a inteligência artificial geral chegar, será uma questão de astrobiologia, de uma forma de vida alienígena. Até aquele momento, é da filosofia, da história, das humanidades. Faremos como nós, à nossa imagem, talvez até melhor do que nós?

Vamos torná-lo pior, um espelho de nossas tendências mais sociopatas? O mais louco é: os humanos decidem. Nós somos os construtores. Estamos exercendo controle sobre o quão alienígena ou humano ele é.

Exceto, é claro, “nós” não. Algumas pessoas são mais do que outras. Estamos bem com isso? Estamos bem com quem são essas pessoas? Estamos bem para onde eles estão direcionando essa tecnologia?

Tendo visto o que a classe proprietária de alto capital tende a “tornar inevitável” – seus prognósticos em outras indústrias, suas práticas míopes e de ignorar fatos e mentalidade de rebanho que derrubaram tantas empresas de bilhões de dólares – algum ceticismo sobre como eles falam sobre IA é garantido.

Também publicado aqui