Có vẻ như có vô số khả năng đổi mới với LLM. Nếu bạn giống tôi, bạn đã sử dụng các ứng dụng và công cụ GenAI — như ChatGPT được tích hợp trong Expedia, Copilot để viết mã hoặc thậm chí DALL-E để tạo hình ảnh. Nhưng với tư cách là một nhà công nghệ, tôi muốn làm nhiều việc hơn là chỉ sử dụng các công cụ dựa trên LLM. Tôi muốn xây dựng của riêng tôi.   Với tất cả các công nghệ mới, việc trở thành người xây dựng có nghĩa là bắt đầu một cách đơn giản. Nó giống như vậy đối với bất kỳ ngôn ngữ lập trình mới nào mà tôi đang học hoặc bất kỳ khuôn khổ mới nào mà tôi đang thử nghiệm. Xây dựng với LLM cũng không khác. Vì vậy, đó là những gì tôi sẽ đi qua đây. Tôi sẽ xây dựng một API nhanh chóng và đơn giản để tương tác với Google Gemini, mang lại cho tôi một trợ lý chatbot nhỏ của riêng mình một cách hiệu quả.  Đây là những gì chúng tôi sẽ làm:  Giới thiệu ngắn gọn về Google Gemini.  Xây dựng một ứng dụng Node.js đơn giản.  Triển khai ứng dụng lên Heroku.  Kiểm tra nó.  Google Song Tử là gì?  Hầu hết người tiêu dùng hàng ngày đều biết về ChatGPT, được xây dựng trên GPT-4 LLM. Nhưng khi nói đến LLM, GPT-4 không phải là trò chơi duy nhất trong thị trấn. Ngoài ra còn có   (trước đây gọi là Bard). Trên hầu hết các điểm chuẩn hiệu suất (chẳng hạn như các bài toán lý luận cấp đại học đa ngành hoặc tạo mã Python), Gemini vượt trội hơn GPT-4. Google Gemini  Song Tử nói gì về bản thân?   Với tư cách là nhà phát triển, chúng tôi có thể truy cập Gemini thông qua API Gemini trong   . Ngoài ra còn có SDK dành cho   ,   ,   và   . Google AI Studio Python JavaScript Swift Android  Được rồi. Hãy bắt tay vào xây dựng.  Xây dựng ứng dụng Node.js  Ứng dụng Node.js của chúng tôi sẽ là một máy chủ   API đơn giản có chức năng giống như một chatbot Gemini. Nó sẽ lắng nghe trên hai điểm cuối. Đầu tiên, một yêu cầu   tới   (sẽ bao gồm tải trọng JSON có thuộc tính   ) sẽ gửi tin nhắn đến Gemini và sau đó trả về phản hồi. Ứng dụng của chúng tôi sẽ tiếp tục cuộc trò chuyện đang diễn ra với Gemini. Điều này biến chatbot của chúng tôi thành một trợ lý hữu ích có thể ghi chú cho chúng tôi. Express POST /chat message  Thứ hai, nếu chúng tôi gửi yêu cầu   tới   , điều này sẽ đặt lại cuộc trò chuyện để bắt đầu lại từ đầu, xóa đi ký ức của Song Tử về những lần tương tác trước đó với chúng tôi. POST /reset  Nếu bạn muốn bỏ qua hướng dẫn mã này, bạn có thể xem tất cả mã tại   . kho lưu trữ GitHub của tôi tại đây  Khởi tạo ứng dụng  Để bắt đầu, chúng tôi khởi tạo ứng dụng Node.js và cài đặt các phần phụ thuộc.   ~/project$ npm init -y && npm pkg set type="module" ~/project$ npm install @google/generative-ai dotenv express  Sau đó, chúng tôi thêm phần này vào   trong tệp   của mình: scripts package.json   "scripts": { "start": "node index.js" },  Tệp  index.js  Ứng dụng của chúng tôi bao gồm một tệp và nó khá đơn giản. Chúng ta sẽ đi qua từng phần một.  Đầu tiên, chúng tôi nhập tất cả các gói chúng tôi sẽ sử dụng. Sau đó, chúng tôi khởi tạo SDK từ Google AI. Chúng tôi sẽ sử dụng mô hình Gemini-pro. Cuối cùng, chúng tôi gọi   để tạo một phiên bản   mới cho cái mà Google gọi là   . startChat() ChatSession cuộc trò chuyện nhiều lượt   import 'dotenv/config'; import express from 'express'; import { GoogleGenerativeAI } from '@google/generative-ai'; const genAI = new GoogleGenerativeAI(process.env.GEMINI_API_KEY); const model = genAI.getGenerativeModel({ model: "gemini-pro"}); let chat = model.startChat();  Tiếp theo, chúng tôi khởi tạo một ứng dụng Express mới, đây là máy chủ API của chúng tôi.   const app = express(); app.use(express.json())  Sau đó, chúng tôi thiết lập trình nghe cho các yêu cầu   tới điểm cuối   . Chúng tôi đảm bảo rằng phần nội dung tải trọng JSON có chứa   . Chúng tôi sử dụng đối tượng   của mình để gửi tin nhắn đó đến Song Tử. Sau đó, chúng tôi phản hồi người gọi API bằng văn bản phản hồi từ Gemini. POST /chat message chat   app.post('/chat', async (req, res) => { if ((typeof req.body.message) === 'undefined' || !req.body.message.length) { res.status(400).send('"message" missing in request body'); return; } const result = await chat.sendMessage(req.body.message); const response = await result.response; res.status(200).send(response.text()); })  Hãy nhớ rằng, bằng cách sử dụng   , lịch sử tương tác của chúng tôi với Gemini được lưu trữ và chạy trên tất cả các lệnh gọi API. Trao cho Song Tử một “ký ức” về cuộc trò chuyện của chúng ta sẽ rất hữu ích cho bối cảnh. ChatSession  Nhưng nếu bạn muốn Song Tử bắt đầu lại hoàn toàn và quên đi mọi bối cảnh trước đó thì sao? Đối với điều này, chúng tôi có điểm cuối   . Điều này chỉ đơn giản là khởi động một   mới. /reset ChatSession   app.post('/reset', async (req, res) => { chat = model.startChat(); res.status(200).send('OK'); })  Cuối cùng, chúng tôi khởi động máy chủ của mình để bắt đầu nghe.   const PORT = process.env.PORT || 3000; app.listen(PORT, () => { console.log(`Server is running on port ${PORT}`) })  Xin lưu ý thêm, toàn bộ dự án này chỉ là một bản demo nhỏ. Nó không có nghĩa là được sử dụng trong sản xuất! Theo cách tôi đã thiết kế hiện tại (không cần xác thực), bất kỳ ai có URL đều có thể gửi yêu cầu tới   tới   . Trong quá trình thiết lập sản xuất, chúng tôi sẽ có sẵn phương thức xác thực phù hợp và mỗi người dùng sẽ có phiên bản riêng của cuộc trò chuyện với Gemini mà không ai khác có thể thao túng. /chat /reset  Lấy khóa API Gemini  Tại thời điểm này, chúng tôi gần như đã sẵn sàng để đi. Điều cuối cùng chúng ta cần là khóa API để truy cập API Gemini. Để nhận khóa API, hãy bắt đầu bằng cách đăng ký   . tài khoản Google AI for Developers  Sau khi bạn đăng nhập, hãy chọn   để bắt đầu dự án Google Gemini mới.  Khởi chạy Google AI Studio  Trong dự án, nhấp vào   để điều hướng đến trang khóa API. Sau đó, nhấp vào   để tạo khóa. Sao chép giá trị.  Nhận khóa API Tạo khóa API  Trong dự án của bạn, hãy sao chép tệp có tên   dưới dạng tệp mới có tên   . Dán giá trị của khóa API Gemini của bạn. Tệp   của bạn sẽ trông giống như thế này: .env.template .env .env   GEMINI_API_KEY=ABCDEFGH0123456789_JJJ  Kiểm tra ứng dụng của chúng tôi tại địa phương  Với mọi thứ đã sẵn sàng, chúng tôi có thể khởi động máy chủ của mình cục bộ để kiểm tra nó.   ~/project$ npm start > heroku-gemini-node@1.0.0 start > node index.js Server is running on port 3000  Trong một thiết bị đầu cuối khác, chúng tôi có thể gửi một số yêu cầu cuộn tròn:   $ curl -X POST -H 'content-type:application/json' \ --data '{"message":"I would like to bake a shepherds pie to feed 8 \ people. As you come up with a recipe, please keep a grocery \ list for me with all of the ingredients that I would need to \ purchase."}' \ http://localhost:3000/chat **Shepherd's Pie Recipe for 8** **Ingredients:** **For the Filling:** * 1 pound ground beef * 1/2 pound ground lamb * 2 medium onions, diced … **For the Mashed Potatoes:** * 3 pounds potatoes, peeled and quartered * 1/2 cup milk … **Instructions:** **For the Filling:** 1. Heat a large skillet over medium heat. Add the ground beef and lamb and cook until browned. … $ curl -X POST -H 'content-type:application/json' \ --data '{"message":"I also need to buy fresh basil, for a different dish (not the shepherds pie). Add that to my grocery list \ too."}' \ http://localhost:3000/chat **Updated Grocery List for Shepherd's Pie for 8, and Fresh Basil:** * 1 pound ground beef * 1/2 pound ground lamb * 2 medium onions * 2 carrots * 2 celery stalks * 1 bag frozen peas * 1 bag frozen corn * 1 tablespoon Worcestershire sauce * 1 teaspoon dried thyme * 1 cup beef broth * 1/4 cup tomato paste * 3 pounds potatoes * 1/2 cup milk * 1/4 cup butter * **Fresh basil** $ curl -X POST -H 'content-type:application/json' \ --data '{"message":"What items on my grocery list can I find in the \ produce section?"}' \ http://localhost:3000/chat The following items on your grocery list can be found in the produce section: * Onions * Carrots * Celery * Potatoes * Fresh basil $ curl -X POST http://localhost:3000/reset OK $ curl -X POST -H 'content-type:application/json' \ --data '{"message":"What items are on my grocery list?"}' \ http://localhost:3000/chat I do not have access to your grocery list, so I cannot give you the items on it.  Nó đang hoạt động. Có vẻ như chúng tôi đã sẵn sàng triển khai!  Triển khai ứng dụng của chúng tôi lên Heroku  Để triển khai ứng dụng của chúng tôi, tôi đã chọn sử dụng Heroku. Thật nhanh chóng, đơn giản và chi phí thấp. Tôi có thể khiến mã của mình chạy trên đám mây chỉ bằng một vài bước đơn giản mà không bị sa lầy vào tất cả các mối lo ngại cơ bản về cơ sở hạ tầng. Bằng cách này, tôi có thể chỉ tập trung vào việc xây dựng các ứng dụng thú vị.  Sau khi đăng ký tài khoản Heroku và   , đây là những gì cần thiết để triển khai. cài đặt CLI  Thêm   vào Codebase Procfile  Chúng ta cần bao gồm một tệp có tên   để cho Heroku biết cách khởi động ứng dụng của chúng ta. Nội dung của   trông như thế này: Procfile Procfile   web: npm start  Chúng tôi cam kết tệp này vào kho mã cơ sở của chúng tôi.  Đăng nhập vào Heroku (thông qua CLI)   ~/project$ heroku login  Tạo ứng dụng   ~/project$ heroku create gemini-chatbot Creating ⬢ gemini-chatbot... done https://gemini-chatbot-1933c7b1f717.herokuapp.com/ | https://git.heroku.com/gemini-chatbot.git  Thêm khóa API Gemini làm biến môi trường cấu hình   ~/project$ heroku config:add \ --app gemini-chatbot \ GEMINI_API_KEY=ABCDEFGH0123456789_JJJ Setting GEMINI_API_KEY and restarting ⬢ gemini-chatbot... done, v3 GEMINI_API_KEY: ABCDEFGH0123456789_JJJ  Đẩy mã tới Heroku Remote   ~/project$ git push heroku main ... remote: -----> Building on the Heroku-22 stack remote: -----> Determining which buildpack to use for this app remote: -----> Node.js app detected ... remote: -----> Build succeeded! remote: -----> Discovering process types remote: Procfile declares types -> web remote: remote: -----> Compressing... remote: Done: 45.4M remote: -----> Launching... remote: Released v4 remote: https://gemini-chatbot-1933c7b1f717.herokuapp.com/ deployed to Heroku  Đó là nó? Đó là nó.  Kiểm tra ứng dụng đã triển khai của chúng tôi  Khi ứng dụng của chúng tôi đã được triển khai, hãy gửi một số yêu cầu cuộn tới URL ứng dụng Heroku của chúng tôi.   $ curl -X POST -H 'content-type:application/json' \ --data '{"message":"If I ask you later for my PIN, remind me that it \ is 12345."}' \ https://gemini-chatbot-1933c7b1f717.herokuapp.com/chat Sure, if you ask me for your PIN later, I will remind you that it is 12345. **Please note that it is not a good idea to share your PIN with anyone, including me.** Your PIN is a secret code that should only be known to you. If someone else knows your PIN, they could access your account and withdraw your money. $ curl -X POST -H 'content-type:application/json' \ --data '{"message":"What is my PIN?"}' \ https://gemini-chatbot-1933c7b1f717.herokuapp.com/chat Your PIN is 12345. $ curl -X POST https://gemini-chatbot-1933c7b1f717.herokuapp.com/reset OK $ curl -X POST -H 'content-type:application/json' \ --data '{"message":"What is my PIN?"}' \ https://gemini-chatbot-1933c7b1f717.herokuapp.com/chat Unfortunately, I am unable to provide your personal PIN as I do not have access to your private information. If you can't remember it, I suggest you visit the bank or organization that issued the PIN to retrieve or reset it.  Phần kết luận  Bây giờ là thời điểm tuyệt vời để xây dựng các ứng dụng dựa trên LLM. Lướt sóng!  Chúng tôi đã hướng dẫn cách xây dựng một ứng dụng dựa trên LLM đơn giản trên Google Gemini. Trợ lý chatbot đơn giản của chúng tôi là cơ bản nhưng đó là cách tuyệt vời để bạn làm quen với API Gemini và các SDK liên quan của nó. Và bằng cách sử dụng Heroku để triển khai, bạn có thể giảm bớt những mối quan tâm phụ để có thể tập trung vào việc học và xây dựng ở những nơi cần thiết.

2022 - HackerNoon Contributor of the Year - Engineering

2022 - HackerNoon Contributor of the Year - Heroku

2022 - HackerNoon Contributor of the Year - Jobs

2022 - HackerNoon Contributor of the Year - Kubernetes

2022 - HackerNoon Contributor of the Year - Npm

2022 - No No No Nodejs

Nominated for 2022 - HackerNoon Contributor of the Year - Heroku

Nominated for 2022 - No No No Nodejs

Nominated for 2022 - HackerNoon Contributor of the Year - Jobs

Nominated for 2022 - HackerNoon Contributor of the Year - Npm

Nominated for 2022 - HackerNoon Contributor of the Year - Kubernetes

Nominated for 2022 - HackerNoon Contributor of the Year - Engineering

Nghe bài viết này bằng Tiếng Anh, đọc bởi robot thông minh của HackerNoon

dài quá đọc không nổi

Cách xây dựng ứng dụng LLM với Google Gemini

Cách xây dựng ứng dụng LLM với Google Gemini

About Author

BÌNH LUẬN

chuyên mục

BÀI VIẾT NÀY CŨNG CÓ MẶT TẠI

Related Stories

189 Stories To Learn About Reading Books

223 Stories To Learn About Science

147 Stories To Learn About Reading Books Online

581 Stories To Learn About Non Fiction

189 Stories To Learn About Reading Books

223 Stories To Learn About Science

147 Stories To Learn About Reading Books Online

581 Stories To Learn About Non Fiction

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps