Parece que existem infinitas possibilidades de inovação com LLMs. Se você é como eu, já usou aplicativos e ferramentas GenAI – como ChatGPT integrado ao Expedia, Copilot para escrita de código ou até mesmo DALL-E para geração de imagens. Mas, como tecnólogo, quero fazer mais do que apenas usar ferramentas baseadas em LLM. Eu quero construir o meu próprio.   Com todas as novas tecnologias, tornar-se um construtor significa começar de forma simples. É assim para qualquer nova linguagem de programação que estou aprendendo ou para qualquer novo framework que estou testando. Construir com LLMs não é diferente. Então, é isso que vou abordar aqui. Vou construir uma API rápida e suja que interaja com o Google Gemini, efetivamente me dando um pequeno assistente de chatbot próprio.  Aqui está o que faremos:  Apresente brevemente o Google Gemini.  Crie um aplicativo Node.js simples.  Implante o aplicativo no Heroku.  Teste-o.  O que é o Google Gêmeos?  A maioria dos consumidores comuns conhece o ChatGPT, que é baseado no GPT-4 LLM. Mas quando se trata de LLMs, o GPT-4 não é o único jogo disponível. Há também   (anteriormente conhecido como Bard). Na maioria dos benchmarks de desempenho (como problemas de raciocínio multidisciplinares de nível universitário ou geração de código Python), o Gemini supera o GPT-4. o Google Gemini  O que Gêmeos diz sobre si mesmo?   Como desenvolvedores, podemos acessar o Gemini por meio da API Gemini no   . Também existem SDKs disponíveis para   ,   ,   e   . Google AI Studio Python JavaScript Swift Android  Tudo bem. Vamos à construção.  Crie o aplicativo Node.js  Nosso aplicativo Node.js será um servidor   API simples que funciona como um chatbot Gemini. Ele escutará em dois endpoints. Primeiro, uma solicitação   para   (que incluirá uma carga JSON com um atributo   ) enviará a mensagem ao Gemini e retornará a resposta. Nosso aplicativo manterá uma conversa por chat com Gemini. Isso transforma nosso chatbot em um assistente útil que pode guardar anotações para nós. Express POST /chat message  Em segundo lugar, se enviarmos uma solicitação   para   , isso redefinirá a conversa do chat para começar do zero, apagando efetivamente a memória de Gemini de interações anteriores conosco. POST /reset  Se quiser pular este passo a passo do código, você pode ver todo o código em meu   . repositório GitHub aqui  Inicialize o aplicativo  Para começar, inicializamos nosso aplicativo Node.js e instalamos dependências.   ~/project$ npm init -y && npm pkg set type="module" ~/project$ npm install @google/generative-ai dotenv express  Em seguida, adicionamos isso aos   em nosso arquivo   : scripts package.json   "scripts": { "start": "node index.js" },  O arquivo  index.js  Nosso aplicativo consiste em um arquivo e é bastante simples. Examinaremos uma seção de cada vez.  Primeiro, importamos todos os pacotes que usaremos. Em seguida, inicializamos o SDK do Google AI. Usaremos o modelo Gemini-pro. Por último, chamamos   , que cria uma nova instância   para o que o Google chama de   . startChat() ChatSession conversa multiturno   import 'dotenv/config'; import express from 'express'; import { GoogleGenerativeAI } from '@google/generative-ai'; const genAI = new GoogleGenerativeAI(process.env.GEMINI_API_KEY); const model = genAI.getGenerativeModel({ model: "gemini-pro"}); let chat = model.startChat();  A seguir, instanciamos um novo aplicativo Express, que é nosso servidor API.   const app = express(); app.use(express.json())  Em seguida, configuramos nosso ouvinte para solicitações   para o endpoint   . Garantimos que o corpo da carga JSON inclua uma   . Usamos nosso objeto   para enviar essa mensagem ao Gemini. Em seguida, respondemos ao chamador da API com o texto de resposta do Gemini. POST /chat message chat   app.post('/chat', async (req, res) => { if ((typeof req.body.message) === 'undefined' || !req.body.message.length) { res.status(400).send('"message" missing in request body'); return; } const result = await chat.sendMessage(req.body.message); const response = await result.response; res.status(200).send(response.text()); })  Tenha em mente que, ao usar   , há um histórico armazenado e em execução de nossa interação com o Gemini em todas as chamadas de API. Dar a Gêmeos uma “memória” de nossa conversa é útil para contextualizar. ChatSession  Mas e se você quiser que Gêmeos recomece completamente e esqueça todo o contexto anterior? Para isso, temos o endpoint   . Isso simplesmente inicia uma nova   . /reset ChatSession   app.post('/reset', async (req, res) => { chat = model.startChat(); res.status(200).send('OK'); })  Finalmente, inicializamos nosso servidor para começar a ouvir.   const PORT = process.env.PORT || 3000; app.listen(PORT, () => { console.log(`Server is running on port ${PORT}`) })  Como observação lateral, todo este projeto é apenas uma mini demonstração. Não foi feito para ser usado em produção! Da maneira que projetei agora (sem autenticação), qualquer pessoa com a URL pode enviar uma solicitação para   para   . Em uma configuração de produção, teríamos a autenticação adequada e cada usuário teria sua própria instância de conversa com Gemini que ninguém mais poderia manipular. /chat /reset  Obtendo uma chave de API Gemini  Neste ponto, estamos quase prontos para começar. A última coisa que precisamos é de uma chave de API para acessar a API Gemini. Para obter uma chave de API, comece inscrevendo-se em uma   . conta Google AI for Developers  Depois de fazer login, selecione   para iniciar um novo projeto do Google Gemini.  Iniciar Google AI Studio  Dentro do projeto, clique em   para navegar até a página de chaves de API. Em seguida, clique em   para gerar uma chave. Copie o valor.  Obter chave de API Criar chave API  No seu projeto, copie o arquivo chamado   como um novo arquivo chamado   . Cole o valor da sua chave API Gemini. Seu arquivo   deve ser semelhante a este: .env.template .env .env   GEMINI_API_KEY=ABCDEFGH0123456789_JJJ  Teste nosso aplicativo localmente  Com tudo pronto, podemos ativar nosso servidor localmente para testá-lo.   ~/project$ npm start > heroku-gemini-node@1.0.0 start > node index.js Server is running on port 3000  Em um terminal diferente, podemos enviar algumas solicitações curl:   $ curl -X POST -H 'content-type:application/json' \ --data '{"message":"I would like to bake a shepherds pie to feed 8 \ people. As you come up with a recipe, please keep a grocery \ list for me with all of the ingredients that I would need to \ purchase."}' \ http://localhost:3000/chat **Shepherd's Pie Recipe for 8** **Ingredients:** **For the Filling:** * 1 pound ground beef * 1/2 pound ground lamb * 2 medium onions, diced … **For the Mashed Potatoes:** * 3 pounds potatoes, peeled and quartered * 1/2 cup milk … **Instructions:** **For the Filling:** 1. Heat a large skillet over medium heat. Add the ground beef and lamb and cook until browned. … $ curl -X POST -H 'content-type:application/json' \ --data '{"message":"I also need to buy fresh basil, for a different dish (not the shepherds pie). Add that to my grocery list \ too."}' \ http://localhost:3000/chat **Updated Grocery List for Shepherd's Pie for 8, and Fresh Basil:** * 1 pound ground beef * 1/2 pound ground lamb * 2 medium onions * 2 carrots * 2 celery stalks * 1 bag frozen peas * 1 bag frozen corn * 1 tablespoon Worcestershire sauce * 1 teaspoon dried thyme * 1 cup beef broth * 1/4 cup tomato paste * 3 pounds potatoes * 1/2 cup milk * 1/4 cup butter * **Fresh basil** $ curl -X POST -H 'content-type:application/json' \ --data '{"message":"What items on my grocery list can I find in the \ produce section?"}' \ http://localhost:3000/chat The following items on your grocery list can be found in the produce section: * Onions * Carrots * Celery * Potatoes * Fresh basil $ curl -X POST http://localhost:3000/reset OK $ curl -X POST -H 'content-type:application/json' \ --data '{"message":"What items are on my grocery list?"}' \ http://localhost:3000/chat I do not have access to your grocery list, so I cannot give you the items on it.  Está funcionando. Parece que estamos prontos para implantar!  Implante nosso aplicativo no Heroku  Para implantar nosso aplicativo, optei pelo Heroku. É rápido, simples e de baixo custo. Posso executar meu código na nuvem com apenas algumas etapas simples, sem me preocupar com todas as preocupações essenciais da infraestrutura. Dessa forma, posso me concentrar apenas na criação de aplicativos interessantes.  Depois de se inscrever em uma conta Heroku e   , veja o que é necessário para implantar. instalar a CLI  Adicionar   à base de código Procfile  Precisamos incluir um arquivo chamado   que informa ao Heroku como iniciar nosso aplicativo. O conteúdo do   é assim: Procfile Procfile   web: npm start  Nós enviamos este arquivo para nosso repositório de base de código.  Faça login no Heroku (por meio da CLI)   ~/project$ heroku login  Criar aplicativo   ~/project$ heroku create gemini-chatbot Creating ⬢ gemini-chatbot... done https://gemini-chatbot-1933c7b1f717.herokuapp.com/ | https://git.heroku.com/gemini-chatbot.git  Adicionar chave de API Gemini como variável de ambiente de configuração   ~/project$ heroku config:add \ --app gemini-chatbot \ GEMINI_API_KEY=ABCDEFGH0123456789_JJJ Setting GEMINI_API_KEY and restarting ⬢ gemini-chatbot... done, v3 GEMINI_API_KEY: ABCDEFGH0123456789_JJJ  Enviar código para Heroku Remote   ~/project$ git push heroku main ... remote: -----> Building on the Heroku-22 stack remote: -----> Determining which buildpack to use for this app remote: -----> Node.js app detected ... remote: -----> Build succeeded! remote: -----> Discovering process types remote: Procfile declares types -> web remote: remote: -----> Compressing... remote: Done: 45.4M remote: -----> Launching... remote: Released v4 remote: https://gemini-chatbot-1933c7b1f717.herokuapp.com/ deployed to Heroku  É isso? É isso.  Teste nosso aplicativo implantado  Com nosso aplicativo implantado, vamos enviar algumas solicitações curl para o URL do nosso aplicativo Heroku.   $ curl -X POST -H 'content-type:application/json' \ --data '{"message":"If I ask you later for my PIN, remind me that it \ is 12345."}' \ https://gemini-chatbot-1933c7b1f717.herokuapp.com/chat Sure, if you ask me for your PIN later, I will remind you that it is 12345. **Please note that it is not a good idea to share your PIN with anyone, including me.** Your PIN is a secret code that should only be known to you. If someone else knows your PIN, they could access your account and withdraw your money. $ curl -X POST -H 'content-type:application/json' \ --data '{"message":"What is my PIN?"}' \ https://gemini-chatbot-1933c7b1f717.herokuapp.com/chat Your PIN is 12345. $ curl -X POST https://gemini-chatbot-1933c7b1f717.herokuapp.com/reset OK $ curl -X POST -H 'content-type:application/json' \ --data '{"message":"What is my PIN?"}' \ https://gemini-chatbot-1933c7b1f717.herokuapp.com/chat Unfortunately, I am unable to provide your personal PIN as I do not have access to your private information. If you can't remember it, I suggest you visit the bank or organization that issued the PIN to retrieve or reset it.  Conclusão  Agora é um ótimo momento para construir aplicativos baseados em LLM. Pegue a onda!  Vimos como construir um aplicativo simples baseado em LLM no Google Gemini. Nosso simples assistente de chatbot é básico, mas é uma ótima maneira de se familiarizar com a API Gemini e seus SDKs associados. E ao usar o Heroku para implantação, você pode descarregar as preocupações secundárias para que possa se concentrar no aprendizado e na construção onde for importante.

2022 - HackerNoon Contributor of the Year - Engineering

2022 - HackerNoon Contributor of the Year - Heroku

2022 - HackerNoon Contributor of the Year - Jobs

2022 - HackerNoon Contributor of the Year - Kubernetes

2022 - HackerNoon Contributor of the Year - Npm

2022 - No No No Nodejs

Nominated for 2022 - HackerNoon Contributor of the Year - Heroku

Nominated for 2022 - No No No Nodejs

Nominated for 2022 - HackerNoon Contributor of the Year - Jobs

Nominated for 2022 - HackerNoon Contributor of the Year - Npm

Nominated for 2022 - HackerNoon Contributor of the Year - Kubernetes

Nominated for 2022 - HackerNoon Contributor of the Year - Engineering

Este áudio é produzido no idioma original da história!

Muito longo; Para ler

Como criar um aplicativo LLM com o Google Gemini

Como criar um aplicativo LLM com o Google Gemini

About Author

COMENTARIOS

Rótulos

ESTE ARTIGO FOI APRESENTADO EM

Related Stories

Uma breve introdução à teoria do cérebro de Boltzmann

Vazamento do prompt do sistema Claude Sonnet 3.5: uma análise forense

Telegram: a ponte da Crypto Island para o continente

Como melhorar seu fluxo de trabalho em 10 vezes: 17 aplicativos essenciais

Uma breve introdução à teoria do cérebro de Boltzmann

Vazamento do prompt do sistema Claude Sonnet 3.5: uma análise forense

Telegram: a ponte da Crypto Island para o continente

Como melhorar seu fluxo de trabalho em 10 vezes: 17 aplicativos essenciais

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps