GPT Automatizado.. Novamente

➡ Uma foto fofa de como eu gostaria que fosse nosso futuro com IAs (arte do meio da jornada)

TLDR: Esses repositórios de automação GPT são excessivamente complexos; Vou mostrar a você como construir o seu próprio como meu construtor GPT Project , para que você possa ter bots recursivamente construindo seu projeto.

Pessoas normais e saudáveis que não são constantemente distraídas pela menor coisa GPT (não eu), ainda podem não estar cientes de que os principais repositórios de tendências no GitHub estão cheios de arneses de automação GPT.

A frase popular no Reddit é algo como “Chatbots acabaram, o futuro pertence aos agentes”.

O mais popular no momento é o Auto-GPT , que se conecta à sua conta OpenAI e cria um projeto completo para você recursivamente. O hype é real com centenas de vídeos do YouTube já, tanto que você pensaria que eles estão vendendo NFTs.

De qualquer forma, tentei, mas não consegui fazê-lo funcionar; Eu tenho um Mac M1, havia muitos bugs e não queria me inscrever em uma conta Pinecone (por mais legal que fosse a ideia).

Então, decidi tentar construir o meu próprio, e aqui, quero mostrar como fiz - então, se você não gosta do deles ou do meu, pode fazer você mesmo.

Passo 1: O Conceito de Agentes

Como os LLMs de modelos de linguagem grandes, como GPT3, têm contagens de token limitadas para entrada e saída, eles não podem cuspir exatamente um projeto de servidor da Web inteiro (com todos os arquivos html, db e de rota).

Você tem que persuadi-lo e lembrá-lo das coisas que você produziu anteriormente; às vezes, você fica sem permissão para conversar e nunca consegue fornecer um contexto completo.

Então surgiu a ideia dos agentes (por quem? Não faço ideia); o que é ter wrappers especializados em APIs GPT que solicitam de determinadas maneiras e processam os resultados de determinadas maneiras, para que você possa ter coisas como:

• Agente de alerta
• Agente gerador de código
• Agente de depuração

Considerando que cada um gerencia um certo nível de abstração, isso permite que você libere permissão de token e divida seu projeto em bits.

Passo 2: Projeto

Ok, então ter agentes diferentes para coisas diferentes faz sentido, mas como você os junta, todos eles não precisam saber o que os outros estão fazendo?

Mais ou menos, o truque é usar a saída de um agente, comprimi-la e passar apenas os bits relevantes para o próximo agente - isso é complicado porque você precisa descobrir uma maneira de definir claramente o que importa e o que não importa.

Então, no meu caso, o que fiz foi ter um agente papai que classificou o problema:

 if(solvableWithCode): callAgents else: print("Sorry mate, here is a business plan instead")

Se o problema pudesse ser resolvido por código, eu pediria para gerar YAML como acima; dessa forma, cada ENTREGA seria uma chamada separada para a API GPT de forma estruturada, permitindo que ela produzisse apenas o código para aquela coisa.

Etapa 3: automatizando tudo

Assim, temos 3 etapas:

1. O usuário declara seu pedido “Gimme a trading platform now!”

   
   

2. O Classifier Agent o divide em pedaços menores via Yaml.

   
   

3. O Decomposer Agent itera em cada Yaml e cria o código.

K, então o que acontece se a resposta for muito grande e o código for cortado? No código, garanto que o prompt informa para retornar apenas 150 linhas por vez; Eu itero através dele em um loop, anexando continuamente a saída ao arquivo de destino.

Então, digamos que haja um projeto webServer que precise manage.py, blogList.js e index.html, ele criaria cada um por vez e gravaria em um arquivo.

O futuro e meus sentimentos sobre tudo isso

Este material não é ciência de foguetes; na verdade, é simplesmente a velha automação de girar a maçaneta. Eu fiz um blog chamado fazendo pão com macarrão onde eu disse que as pessoas pensam que estamos nos aproximando da AGI, mas não estamos.

Nós apenas temos um modelo de linguagem muito inteligente que estamos tentando unir em AGI como se estivéssemos tentando fazer pão com macarrão.

O produto final pode se parecer com um pedaço de pão, mas não é - é assim que me sinto sobre a automação de LLMs.

No entanto, ainda é incrível fazer parte desse movimento Dev; há um grande valor em GPT, ChatGPT e LLMs, e a criatividade das pessoas que criam arreios de automação em torno deles para facilitar a vida das pessoas é algo ótimo de se fazer parte.

Portanto, se é isso que você gosta, divirta-se - entre em contato comigo se quiser dicas ou tiver coisas que deseja que eu melhore.

Nota : O projeto não está completo; há depuração, registro e outros bits a serem adicionados, mas fique à vontade para brincar com isso, bifurcá-lo e / ou copiar e criar o seu próprio! Eu adoraria ouvir o que você vem com!

Mais de mim:

Jogos e meu projeto de IA youtube

Linkedin

Twitter