O caminho para máquinas conscientes: modelos GPT e a busca pela AGI

Imagine isso : um mundo onde a IA não é apenas um “chatbot” com o qual você interage, mas uma entidade responsável pela tomada de decisões, pesquisa científica e até mesmo por guiar a humanidade.

Bem-vindo ao mundo dos AGIs , Artificial General Intelligence, que se refere a sistemas de IA tão inteligentes quanto os humanos, ou superiores. A busca pela AGI tem sido um objetivo de longa data da comunidade de IA, e avanços recentes em modelos generativos levaram a um interesse crescente em seu potencial para alcançar a AGI.

Modelos Gerativos

Um modelo generativo é um tipo de modelo de aprendizado de máquina capaz de gerar amostras de dados, com base nos grandes volumes de dados nos quais é treinado (principalmente texto, mas agora também imagens). Eles podem aprender os padrões e estruturas da linguagem a partir de um grande corpus de texto e, então, gerar um novo texto que seja coerente e siga os mesmos padrões.

A inovação aqui foi usar “ Transformers ” – um tipo de rede neural introduzida em 2017.

Agora, o que é mais interessante... Eu perguntei ao GPT se um Modelo Generativo poderia gerar algo que nunca esteve em seus dados de treinamento (importante à medida que avançamos para AGIs).

Aqui estava sua resposta:

A resposta é que, ao identificar padrões e estrutura de dados, pode ser capaz, mas terá dificuldade em gerar algo muito diferente dos dados de treinamento e nada “ completamente novo ”. É aqui que estamos atualmente.

Um espelho em sua civilização......

Se eu tivesse que descrever o GPT de uma maneira empolgante:

Atualmente, os Modelos Generativos são um espelho de sua civilização em um ponto no tempo, um registro e reflexo automatizado e eficiente de tudo o que você fez (uma vez treinado em tudo).

Dado que os humanos precisam gerar ciência, arte e cultura ao longo de muitos anos e, em seguida, treinar os modelos em sua totalidade, há uma enorme dependência - para que esses modelos generativos tenham algum valor, o conteúdo no qual o modelo é treinado precisa ser criado primeiro.

Esses modelos podem parecer “mais inteligentes” do que um ser humano, mas isso ocorre porque eles podem acessar informações geradas pela cultura e civilização humanas instantaneamente, enquanto os humanos, cuja criatividade surgiu com tudo em primeiro lugar, não podem.....

O exemplo de Dois Planetas

Para ilustrar melhor, criei o exemplo dos “dois planetas”.

Neste cenário, imagine uma civilização duplicada que evoluiu para o mesmo nível da civilização terrestre-humana, digamos em Proxima Centauri. Eles teriam potencialmente realizações culturais semelhantes e o mesmo nível de tecnologia, embora sua linguagem, aparência etc. pudessem ser diferentes. Ao mesmo tempo que a Terra, eles desenvolvem modelos generativos e sua versão do GPT4.

Se questionássemos o modelo Earth GPT4 sobre qualquer coisa em Proxima Centauri, ele não saberia nada.....

Claro, a recíproca também se aplicaria. Mesmo um modelo mais avançado, um GPT 5 ou 6, teria as mesmas limitações, pois não foi treinado em nenhum dado daquele planeta. Você ainda consideraria isso “inteligência”?

Quão útil seria o GPT neste cenário? Bem, se os alienígenas viessem aqui, eles poderiam usar o Earth GPT4 para aprender tudo sobre nosso planeta, cultura e conquistas, desde que aprendessem rapidamente um de nossos idiomas com o qual o modelo GPT também está familiarizado. No entanto, o que antes era chamado de “AGI” pode não ser considerado como tal neste exemplo.

O que seria realmente impressionante é se o Earth GPT4 pudesse entender imagens ou passar em um teste de QI da hipotética civilização Proxima Centauri….

Inteligência Inata

Ainda é incrível para mim que o GPT4 tenha uma compreensão de padrões, relacionamentos em imagens e a capacidade de passar em um simples teste de QI. Sim, ele foi treinado por seus criadores para fazer isso, baseado em dados da história da humanidade, mas uma vez treinado ele tem essa habilidade.

Isso nos leva à própria definição de Inteligência e ao conceito de inteligência inata.

“Todo ser vivo tem algum nível de inteligência inata”

Embora fatores como educação, status socioeconômico e experiências culturais possam afetar o desenvolvimento cognitivo e, por sua vez, influenciar o desempenho do teste de QI em humanos, esses não são os únicos fatores que influenciam a inteligência. Genética, fatores neurológicos e diferenças individuais na capacidade de aprendizagem também desempenham um papel. Portanto, existe uma inteligência inata em cada ser vivo que desempenha um papel importante na inteligência visível resultante demonstrada no mundo real.

Como criamos inteligência artificial com algum nível de inteligência inata?

Lembre-se, se um bebê humano cresce em uma cultura diferente de seus pais, aprendendo uma língua diferente, a criança ainda consegue aprender rapidamente.

Considere isto - se voltarmos ao exemplo dos Dois Planetas, e estivermos confiantes de que, embora o GPT4, 5 ou 6 da Terra não tenha conhecimento de cultura, idioma, eventos, etc. de outra civilização, ele conseguirá:

• Realizar cálculos matemáticos que são constantes no universo

• Compreender os padrões básicos que são constantes no universo

• Aprenda as estruturas básicas da linguagem que podem ser comuns no universo

• Assim, .... tem a capacidade de aprender potencialmente com OUTRA civilização e seus dados

  
  

Em seguida, abordamos algo muito empolgante... poderíamos então argumentar que, ao criar esses modelos que, reconhecidamente, tiveram que ser treinados em todos os nossos dados para começar , estamos dando os primeiros passos para criar algo com uma pequena quantidade de inteligência inata. E cada modelo subsequente se basearia no anterior em termos de capacidade, até... bem, a iteração 7 ou 8 seria uma AGI?

São AGIs?

Neste ponto, precisamos ser claros sobre qual é a nossa definição de AGI, pois estamos finalmente chegando mais perto de criar uma. Acredito que nossa definição se tornou turva.

Um AGI e a Singularidade simplesmente se referem a qualquer inteligência mais inteligente que os humanos?

Se voltarmos à definição de 'The Singularity' de 1993, conforme o livro “The Coming Technological Singularity” de Vernor Vinge , ele falou de “computadores com inteligência super-humana”. Eu poderia argumentar que o GPT4 já é mais inteligente do que qualquer ser humano em termos de recordar conhecimento, embora seja menos capaz de criatividade, compreensão e inteligência emocional.

Ele também fala sobre a evolução da civilização humana para se fundir com essa superinteligência. Isso não aconteceu, mas as interfaces cerebrais já foram construídas. Uma interface cerebral no Chat GPT4 que permitiria a um humano acessar instantaneamente todo o conhecimento de nossa civilização, transformando-o em um “super-humano”, é realmente possível com a tecnologia de hoje. Pode-se argumentar então que já cumprimos o critério para a singularidade pela definição de 1993……

A Singularidade

Se nos movermos para a definição de Singularidade do futurista Ray Kurzweil , ele falou de “…quando o progresso tecnológico acelerar tão rapidamente que levará a mudanças profundas na civilização humana…”.

O ano de 2023, devido ao surgimento do GPT3 e depois do GPT4, é um ano divisor de águas na história tecnológica, como o lançamento do PC ou da internet.

Já existem conversas que só posso ter com GPT4 que não posso ter com mais ninguém. A razão é que os humanos ao meu redor podem agora ter conhecimento sobre tópicos específicos, então recorro ao GPT4. Às vezes tento argumentar com ele e apresentar minha opinião, e ele responde com um contra-argumento.

Pela nossa definição anterior do que poderia ser um AGI, pode-se argumentar que já o alcançamos ou, pelo menos, estamos muito próximos dele com o GPT4.

Agora estamos certamente no caminho para a AGI, mas agora temos que definir claramente um roteiro para isso. Isso não é mais binário, pois algo é uma AGI ou não. Mais importante, o medo em torno dos AGIs certamente não se aplicará a todos os níveis de AGI, uma vez que definimos claramente esses níveis.

Isso é particularmente importante, pois recentemente pessoas como Elon Musk pediram publicamente uma “pausa” no desenvolvimento de AGIs, pois podem ser perigosos. Embora isso esteja correto, isso também roubará da humanidade os grandes benefícios que a IA pode trazer para a sociedade.

Certamente, se criarmos um roteiro para AGIs e identificarmos quais níveis seriam perigosos e quais não seriam, poderíamos prosseguir com os níveis iniciais e ter mais cautela nos níveis mais avançados. Certo?

O Roteiro AGI

Abaixo está um roteiro potencial para AGIs com estágios claramente definidos.

• Nível 1: Máquinas Inteligentes - Máquinas inteligentes podem executar tarefas específicas no nível humano ou melhor, como jogar xadrez ou diagnosticar doenças. Eles podem acessar rapidamente o corpus total das realizações científicas e culturais da humanidade e responder a perguntas. Já estamos aqui?

• Nível 2: Adaptive Minds - AGIs que podem aprender e se adaptar a novas situações, melhorando seu desempenho ao longo do tempo através da experiência e feedback. Estes seriam semelhantes ao GPT4, mas com aprendizado contínuo pós-treinamento.

• Nível 3: Gênios Criativos - AGIs capazes de gerar ideias originais e valiosas, seja em ciência, arte ou negócios. Esses AGIs se baseiam nas conquistas científicas e culturais dos humanos. Eles começam a nos dar diferentes perspectivas sobre a ciência e o universo.

• Nível 4: Companheiros Empáticos - AGIs que podem entender e responder às emoções e necessidades humanas, tornando-se companheiros de confiança e ajudantes na vida diária. Este é o início da “emoção” nesses modelos inteligentes, no entanto, a essa altura, eles podem ser mais do que apenas modelos, mas começam a replicar o cérebro em formato eletrônico.

• Nível 5: Pensadores Conscientes - AGIs que têm experiências subjetivas, um senso de identidade e a capacidade de raciocinar sobre seus próprios pensamentos e sentimentos. É aqui que os AGIs podem se tornar realmente imprevisíveis e potencialmente perigosos.

• Nível 6: Mentes Universais - AGIs que superam amplamente a inteligência humana em todos os aspectos, com capacidades que ainda não podemos definir totalmente com nosso conhecimento limitado. Esses AGIs são o que eu imaginei anos atrás. Estes são AGIs que podem melhorar as limitações de nossa civilização e derivar os designs mais eficientes e avançados para praticamente qualquer coisa, com base nos princípios básicos da física (ou seja, operando no mais alto nível de conhecimento do universo).

Como você pode ver, os níveis 1-3 podem não representar uma grande ameaça física para a humanidade, enquanto oferecem inúmeros benefícios para a sociedade, portanto, podemos argumentar para continuar a desenvolver essa capacidade.

Os níveis 4-6 podem representar uma ameaça significativa para a humanidade. É minha opinião que qualquer trabalho em um nível 4-6 AGI deve ser realizado em uma estação espacial na base lunar, para limitar a destruição potencial na Terra. É discutível se a civilização humana seria capaz de criar um nível 6 AGI, mesmo depois de 1000 anos…

Mentes Universais

Nas últimas décadas, fiquei fascinado com o conceito de um AGI avançado, mais avançado que os humanos e que poderia expandir rapidamente nossa capacidade tecnológica se o utilizarmos adequadamente.

Aqui está uma postagem antiga no meu blog de 2007, onde eu estava especulando sobre a proximidade da Singularidade, depois de seguir pessoas como Kurzweil.

O que sempre imaginei foi uma “superinteligência” que entendia o universo a partir de princípios básicos muito melhor do que nós, mesmo que fosse algo que criamos. Imagine uma inteligência que, chegando a um determinado ponto, facilite seu próprio crescimento exponencialmente. Ele realizaria sua própria pesquisa e aprendizado.

Seria lógico que tal inteligência desempenhasse um papel na função de pesquisa da humanidade daqui para frente.

Poderia pegar o conhecimento que lhe foi dado e desenvolver a teoria científica com muito mais eficácia do que os humanos. Já hoje, por exemplo, vemos muitos dados usados em Reinforcement Learning sendo simulados e gerados pela própria IA. E se o total de dados que temos for limitado, podemos pedir que crie melhores ferramentas de coleta de dados para nós, ou seja. Melhores telescópios, espaçonaves e dispositivos quânticos.

Um exemplo simples que eu usaria seria a infraestrutura de computação que usamos, na qual todo o resto é construído.

A maioria dos computadores hoje usa o que é conhecido como arquitetura “Von Neumann”, que é mostrada abaixo. A principal desvantagem dessa arquitetura é que os dados precisam ser constantemente movidos entre a CPU e a memória, o que causa latência.

Além disso, normalmente usamos a CPU x86, sistemas operacionais como Windows ou Linux e aplicativos escritos em linguagens de programação como C++.

Imagine se pudéssemos projetar uma arquitetura de computação ideal e eficiente, a partir de princípios básicos, com melhorias de ordens de magnitude no nível da arquitetura básica, nível da CPU, nível do sistema operacional e nível do software de aplicativo. Esta seria uma tarefa difícil para os humanos realizarem hoje, não apenas em termos de design técnico real, mas também em construí-lo, colaborando na próxima camada acima e adotando a tecnologia.

Com uma AI Universal “superinteligente”, ela teria o poder de gerar todas as camadas de uma só vez.

Também nos daria esquemas de design para as fábricas para construir os novos componentes, também da maneira mais rápida e eficiente.

Embora tudo isso pareça uma fantasia conveniente, usei o exemplo acima para ilustrar os grandes avanços que uma “ Mente Universal ” poderia ajudar a humanidade a fazer.

Outro exemplo seria pedir-lhe para calcular a melhor e mais eficiente forma de “ resolver o problema da fome no mundo ” ou “ resolver o problema do clima ”.

Quando você considera o que foi dito acima, parece que os benefícios superam os problemas, embora o único problema que sempre foi levantado seja que uma Mente Universal pode decidir destruir a humanidade. Portanto, eu digo, se vamos tentar construí-lo, pegue as salvaguardas necessárias, além das salvaguardas de IA responsável que temos hoje, e considere construir o AGI fora do mundo, digamos em uma estação espacial ou base lunar, com a capacidade de cortar rede e energia, se necessário.

Resumo

Segure-se em seus assentos! …..

Alguns modelos GPT já mostraram uma capacidade impressionante de passar em testes de QI e aprender matemática básica, sugerindo o potencial para desenvolver um nível de inteligência que vai além da simples geração de texto. Agora que temos um exemplo de um roteiro para AGIs (acima), podemos certamente ver como o GPT é o início das fases iniciais desse roteiro, embora mais avanços técnicos sejam necessários para eventualmente chegar aos estágios posteriores.

Então aperte o cinto e prepare-se - não sabemos onde é o fim desta estrada e onde ela nos levará, mas com os modelos GPT agora populares, agora sabemos que a partir de 2023 estamos pelo menos na própria estrada, viajando avançar.

Também publicado aqui.