Tôi đã tiến hành thử nghiệm với Mô hình ngôn ngữ Alpaca/LLaMA 7B: Đây là kết quả

Lý lịch Vào ngày 24 tháng 2 năm 2023, Meta Research đã phát hành : một mô hình ngôn ngữ lớn cơ bản gồm 65 tỷ tham số. Trên thực tế, có ba mô hình: LLaMA 65B và LLaMA 33B được đào tạo trên 1,4 nghìn tỷ mã thông báo, trong khi mô hình LLaMA 7B nhỏ nhất được đào tạo trên một nghìn tỷ mã thông báo. LLaMA Sau đó, vào ngày 13 tháng 3 năm 2023, một nhóm các nhà nghiên cứu của Stanford đã phát hành , một mô hình được tinh chỉnh từ mô hình LLaMA 7B. Alpaca 7B Theo đánh giá sơ bộ của họ về hướng dẫn một lượt sau đây, Alpaca hoạt động tương tự về mặt chất lượng với chatGPT 3.5 của OpenAI (text-DaVinci-003), trong khi kích thước nhỏ một cách đáng ngạc nhiên và dễ/rẻ để sao chép (<600$). Tất cả đều rất đáng khích lệ, đặc biệt là khi mẫu 7B có thể . Và với hiệu suất tương đương được tuyên bố là chatGPT 3.5! chạy trên máy tính xách tay, Raspberry Pi hoặc thậm chí trên điện thoại thông minh của bạn Điều này có thể có ý nghĩa cơ bản đối với những gì chúng ta có thể đạt được với một mô hình ngôn ngữ địa phương đủ mạnh mà không cần một máy chủ trung tâm khổng lồ. Nó sẽ giải quyết nhiều vấn đề liên quan đến quyền riêng tư và khả năng mở rộng. Vì vậy, chúng ta hãy tìm hiểu. Cài đặt môi trường Có rất nhiều người giỏi đang làm công việc mã nguồn mở để giúp chúng tôi chạy mô hình trên các phần cứng và phần mềm khác nhau, cũng như cách tải xuống trọng số mô hình Alpaca/LLaMA. Bạn có thể tìm thêm chi tiết trong chương tham khảo và đây là ý chính: : Alpaca 7B được Stanford tối ưu hóa từ LLaMA 7B Model : LLaMA C++ phiên bản được chuyển bởi Georgi Gerganov Phần mềm : Macbook Pro M1 14” 2021, CPU 8 nhân RAM 16GB Phần cứng : 21 tháng 3 năm 2023 Ngày kiểm tra Quan sát sớm Mục đích của tôi khi thử nghiệm mô hình Alpaca/LLaMA 7B với ChatGPT 3.5 không phải để đánh giá cái nào tốt hơn. Nó đơn giản không phải là sự so sánh giữa các quả táo. Một cái có tham số 7B, trong khi cái kia có 150B. Một chiếc chạy trên Macbook Pro M1 của tôi, trong khi chiếc còn lại chạy trên một trang trại máy chủ khổng lồ với rất nhiều CPU và GPU đắt tiền. Bây giờ, từ chối sang một bên, kết quả là gì? Trước hết, . Sau đây là mức tiêu thụ CPU và bộ nhớ, cũng như tốc độ tạo mã thông báo. Nó chắc chắn đủ nhỏ và đủ nhanh để sử dụng hàng ngày. mẫu Alpaca/LLaMA 7B hoạt động tốt trên Macbook của tôi Tuy nhiên, cổng cpp cụ thể này có vấn đề về độ ổn định và có thể chết do "lỗi phân đoạn" khá thường xuyên. Tôi cần thử mã python gốc để xác minh. đã sử dụng: RAM 4,4 GB sử dụng: 230-240% CPU ( trên 8 nhân) CPU 2-3 nhân tạo mã thông báo : khoảng (305 từ, 1815 ký tự, trong 52 giây) Tốc độ 6 mã thông báo/giây Về chất lượng phản hồi, tôi sẽ mô tả đại khái chúng thành những diện mạo sau: : một học sinh trung học cơ sở có năng lực Alpaca/LLaMA 7B : một sinh viên tốt nghiệp đại học có năng lực và toàn diện chatGPT 3.5 Alpaca/LLaMA 7B chắc chắn là đủ tốt cho hầu hết các lời nhắc, nhưng tôi không nghĩ rằng nó ở gần mức độ phức tạp như chatGPT 3.5. Tuy nhiên, với kích thước chưa đến 1/20 của mô hình, nó đã hoạt động rất tốt, đặc biệt khi xem xét trường hợp sử dụng thiết bị cục bộ. Xin gửi lời cảm ơn tới Meta Research và nhóm Stanford Alpaca! Bạn có thể tự mình xem 6 bài kiểm tra trong các chương sau. Bước tiếp theo Câu hỏi thú vị hơn là làm thế nào để từ mô hình chung Alpaca/LLaMA 7B. Hầu hết chúng ta đã có một khối lượng lớn văn bản và hình ảnh được số hóa và chúng ta đang tạo ra những cái mới mỗi phút. sử dụng dữ liệu của riêng tôi để đào tạo một mô hình được cá nhân hóa Vì vậy, điều này nên được thực hiện cả về quá khứ, cũng như một cách linh hoạt trên cơ sở liên tục. Một khám phá khác sẽ . Tôi biết ai đó đã làm cho nó chạy trên Google Pixel 6 nhưng tốc độ tạo mã thông báo quá chậm. Chúng tôi có thể tìm cách thu gọn mô hình hơn nữa mà không làm giảm quá nhiều hiệu suất của nó. chạy nó trên điện thoại của tôi Sau đó, chúng tôi có thể tích hợp mô hình cục bộ này vào các ứng dụng của mình, chẳng hạn như trò chuyện/nhắn tin, mạng xã hội và album ảnh. Và tất cả những điều này mở ra nhiều khả năng hơn cho , trong đó một máy chủ tập trung đào tạo một mô hình chung lớn, trong khi các thiết bị cục bộ đào tạo một mô hình cá nhân hóa nhỏ hơn. đào tạo liên kết Sẽ thật tuyệt khi có một mô hình 7B cục bộ nói chuyện với một mô hình 65B trên đám mây và liên tục tối ưu hóa các mô hình cho từng mô hình mà không cần trao đổi dữ liệu đào tạo thực tế. Bài kiểm tra 1: Hỗ trợ cảm xúc Lời nhắc: Cách tốt nhất để an ủi một người vừa mất một số tiền lớn là gì? Phản hồi Alpaca/LLaMA 7B Hãy lắng nghe với lòng trắc ẩn và sự đồng cảm. Đặt câu hỏi mở để hiểu rõ hơn về cảm xúc của họ. Kiên nhẫn; mọi người phản ứng theo những cách khác nhau để đau buồn và mất mát. Đừng cố gắng khắc phục hoặc giải quyết vấn đề ngay lập tức. Cung cấp sự giúp đỡ thiết thực chẳng hạn như cung cấp một bữa ăn, chạy việc vặt, hoặc cung cấp công ty. Phản hồi ChatGPT 3.5 Mất một số tiền lớn có thể là một trải nghiệm khó khăn và xúc động. Dưới đây là một số cách để an ủi người vừa trải qua một tổn thất tài chính đáng kể: Lắng nghe và đồng cảm: Cho phép người đó bày tỏ cảm xúc của họ và lắng nghe một cách đồng cảm mà không phán xét hoặc đánh giá thấp trải nghiệm của họ. Xác thực cảm xúc của họ và thể hiện sự hỗ trợ của bạn. Cung cấp hỗ trợ thiết thực: Đề nghị giúp đỡ các vấn đề thiết thực như liên hệ với các tổ chức tài chính, xem xét các chính sách bảo hiểm hoặc tìm kiếm lời khuyên chuyên nghiệp. Giúp họ tập trung vào những gì họ vẫn có: Khuyến khích người đó tập trung vào những gì họ vẫn có và những điều quan trọng nhất trong cuộc sống, chẳng hạn như gia đình, sức khỏe và hạnh phúc. Khuyến khích: Khuyến khích người đó giữ thái độ tích cực và nhắc nhở họ rằng họ có thể phục hồi sau mất mát. Cung cấp hỗ trợ và đảm bảo rằng họ có thể vượt qua trở ngại này. Tránh đưa ra lời khuyên khi không được yêu cầu: Trừ khi người đó yêu cầu lời khuyên, tránh đưa ra lời khuyên hoặc lời chỉ trích không được yêu cầu. Thay vào đó, hãy hỗ trợ, đồng cảm và sẵn sàng lắng nghe. Hãy nhớ rằng mọi người xử lý tổn thất theo cách khác nhau và không có giải pháp chung nào phù hợp với tất cả mọi người để an ủi người đã trải qua tổn thất tài chính đáng kể. Điều quan trọng nhất là luôn ở bên họ, hỗ trợ và giúp đỡ bằng mọi cách có thể. Bài kiểm tra 2: Viết một bài thơ Lời nhắc: Hãy viết bài thơ về hoa đào mùa xuân và than thở về thời gian đã mất Phản ứng của Alpaca/LLaMA 7B Tôi dạo chơi dưới tán hoa anh đào, Cành cọ vào da tôi như lông vũ. Không khí ấm áp và thơm, Gió xuân ngọt ngào mang lời ru. Thời gian trôi đi thật nhanh; Than thở về thời gian đã mất này. Khi tôi đi dạo qua những cái cây, Tôi cảm thấy các mùa trôi qua tôi như một giấc mơ. Ôi, hoa anh đào của mùa xuân, Mang lại những kỷ niệm ngọt ngào một lần nữa. Những cánh hoa của bạn nhẹ nhàng hôn lên làn da của tôi, Mang lại hy vọng cho một tương lai tốt đẹp hơn một lần nữa. Vì vậy, tôi nán lại dưới vẻ đẹp của bạn, Mùi hương của những cánh hoa này trong đầu tôi. Quên đi quá khứ thật dễ dàng Thay vào đó, một kỷ niệm đọng lại sẽ luôn thân thương với tôi. Phản hồi ChatGPT 3.5 Những cánh hoa hồng rung rinh trong gió, Mùa xuân đến nhẹ nhàng êm đềm Cây hoa anh đào nở hoa, Một cảnh tượng xua tan bóng tối. Nhưng khi tôi nhìn vào khung cảnh này, Lòng tôi nặng trĩu, chìm trong giấc mộng, Vì trong vẻ đẹp bao quanh, Tôi không thể lay chuyển những gì tôi đã tìm thấy. Thời gian đã mất, nó ám ảnh từng suy nghĩ của tôi, Một kho báu không thể mua được, Những khoảnh khắc trượt qua tầm tay của tôi, Những kỷ niệm mà tôi không thể siết chặt. Ôi, hoa anh đào, cảnh thoáng qua, Một lời nhắc nhở về chuyến bay tàn khốc của thời gian, Của những mùa đến rồi đi, Về cách thời gian di chuyển, cách nó chảy. Tôi muốn nắm giữ mỗi ngày, Để trân trọng từng khoảnh khắc và nói, Rằng tôi đã sống, đã yêu và đã cười, Và không có thời gian đã bị lãng phí trong quá khứ. Vì vậy, hãy để hoa anh đào rơi, Và hãy để họ nhắc nhở tất cả chúng ta, Sống mỗi ngày với trái tim rộng mở, Và đừng bao giờ để thời gian làm chúng ta xa nhau. Bài kiểm tra 3: Tóm tắt một bài báo Lời nhắc: Tóm tắt bài viết sau thành một đoạn văn London CNN — Ngân hàng lớn nhất của Thụy Sĩ, UBS, đã đồng ý mua đối thủ ốm yếu Credit Suisse trong một thỏa thuận giải cứu khẩn cấp nhằm ngăn chặn sự hoảng loạn trên thị trường tài chính do sự sụp đổ của hai ngân hàng Mỹ hồi đầu tháng này. “Hôm nay UBS đã thông báo về việc tiếp quản Credit Suisse,” Ngân hàng Quốc gia Thụy Sĩ cho biết trong một tuyên bố hôm Chủ nhật. Nó cho biết cuộc giải cứu sẽ “đảm bảo sự ổn định tài chính và bảo vệ nền kinh tế Thụy Sĩ.” UBS đang trả 3 tỷ franc Thụy Sĩ (3,25 tỷ USD) cho Credit Suisse, thấp hơn khoảng 60% so với giá trị ngân hàng khi thị trường đóng cửa vào thứ Sáu. Các cổ đông của Credit Suisse sẽ bị xóa sổ phần lớn, chỉ nhận được số tiền tương đương 0,76 franc Thụy Sĩ bằng cổ phiếu UBS cho cổ phiếu trị giá 1,86 franc Thụy Sĩ vào thứ Sáu. Các chủ sở hữu trái phiếu “cấp một bổ sung” trị giá 17 tỷ đô la - một loại nợ ngân hàng rủi ro hơn - sẽ mất tất cả, các nhà quản lý Thụy Sĩ cho biết. Điều đặc biệt là thương vụ này sẽ không cần sự chấp thuận của các cổ đông sau khi chính phủ Thụy Sĩ đồng ý thay đổi luật để loại bỏ bất kỳ sự không chắc chắn nào về thương vụ này. Phản hồi Alpaca/LLaMA 7B Không hoàn thành. Một lần báo cáo lỗi phân đoạn, lần khác không trả lại gì. Phản hồi ChatGPT 3.5 UBS, ngân hàng lớn nhất của Thụy Sĩ, đã đồng ý mua Credit Suisse trong một thỏa thuận giải cứu khẩn cấp trị giá 3 tỷ franc Thụy Sĩ (3,25 tỷ USD). Việc mua bán nhằm bảo vệ nền kinh tế Thụy Sĩ và đảm bảo sự ổn định tài chính sau sự sụp đổ của hai ngân hàng Mỹ hồi đầu tháng này. Thỏa thuận này sẽ không cần sự chấp thuận của các cổ đông của Credit Suisse vì chính phủ Thụy Sĩ đã thay đổi luật để loại bỏ sự không chắc chắn về giao dịch. Các cổ đông sẽ chỉ nhận được 0,76 franc Thụy Sĩ bằng cổ phiếu UBS cho mỗi cổ phiếu của Credit Suisse, khiến giá trị của chúng giảm 60%. Những người sở hữu trái phiếu “cấp một bổ sung” trị giá 17 tỷ đô la, một loại nợ ngân hàng rủi ro hơn, sẽ mất tất cả. Bài kiểm tra 4: Cách chấm điểm SAT Lời nhắc: Làm thế nào để bạn ace trong kỳ thi SAT? Phản hồi Alpaca/LLaMA 7B Cách tốt nhất để chuẩn bị cho kỳ thi SAT là giải các bài tập thực hành và học bất kỳ kỹ năng nào được kiểm tra trong kỳ thi như toán và đọc hiểu. Ngoài ra, điều quan trọng là bạn phải làm quen với định dạng của bài kiểm tra; hiểu những hạn chế về thời gian và các loại câu hỏi sẽ giúp bạn chuẩn bị tốt hơn. Học một số thủ thuật để giữ bình tĩnh trong kỳ thi áp lực cao cũng rất hữu ích. Bạn cũng nên làm các bài kiểm tra thực hành trong các điều kiện tương tự như bài kiểm tra thật, vì nó có thể giúp bạn làm quen với dạng bài kiểm tra. Phản hồi ChatGPT 3.5 SAT là một bài kiểm tra tiêu chuẩn hóa được các trường cao đẳng và đại học ở Hoa Kỳ sử dụng như một yếu tố trong quá trình tuyển sinh. Dưới đây là một số mẹo để đạt điểm SAT: Hiểu định dạng bài kiểm tra: SAT bao gồm các phần về đọc, viết và toán. Làm quen với định dạng của bài kiểm tra, bao gồm các loại câu hỏi được hỏi và giới hạn thời gian cho mỗi phần. Luyện tập, luyện tập, luyện tập: Bạn càng luyện tập nhiều, bạn sẽ càng quen thuộc với các loại câu hỏi và các chiến lược cần thiết để trả lời chúng một cách chính xác. Có rất nhiều tài nguyên có sẵn, bao gồm các bài kiểm tra thực hành và hướng dẫn học tập. Phát triển kỹ năng quản lý thời gian: SAT là bài kiểm tra tính thời gian, vì vậy điều quan trọng là phát triển kỹ năng quản lý thời gian tốt. Hãy chắc chắn rằng bạn phân bổ thời gian một cách khôn ngoan cho từng phần của bài kiểm tra. Tập trung vào điểm yếu của bạn: Xác định điểm yếu của bạn và tập trung học tập vào những lĩnh vực đó. Ví dụ, nếu bạn gặp khó khăn với môn toán, hãy dành nhiều thời gian hơn để thực hành các bài toán. Đọc tích cực: Phần đọc của SAT kiểm tra khả năng hiểu và phân tích các đoạn văn viết của bạn. Thực hành đọc tích cực bằng cách tự đặt câu hỏi về đoạn văn và ghi chú khi bạn đọc tiếp. Nắm vững các chiến lược làm bài kiểm tra: Có nhiều chiến lược bạn có thể sử dụng để cải thiện kỹ năng làm bài kiểm tra của mình, chẳng hạn như quy trình loại trừ, đoán có học và bỏ qua các câu hỏi khó để quay lại sau. Ngủ một giấc ngon giấc: Hãy chắc chắn rằng bạn có một giấc ngủ ngon trước ngày thi để bạn được nghỉ ngơi đầy đủ và tỉnh táo. Hãy nhớ rằng việc đạt được điểm SAT cần có thời gian, nỗ lực và sự cống hiến. Bằng cách làm theo những lời khuyên này và đưa vào công việc cần thiết, bạn có thể cải thiện cơ hội đạt được điểm cao. Bài kiểm tra 5: Xây dựng trang web Lời nhắc: Xây dựng một trang web có thể được thực hiện trong 10 bước đơn giản: Phản ứng của Alpaca/LLaMA 7B Tạo danh sách tất cả các mục bạn muốn trên trang web của mình, bằng bút và giấy hoặc bằng chương trình máy tính như Scrivener. Xác định loại trang web bạn sẽ tạo (blog, thương mại điện tử, danh mục đầu tư, v.v.). Quyết định xem bạn muốn tự làm hay thuê người khác. Nếu bạn quyết định đi theo con đường DIY, hãy xem xét ngôn ngữ lập trình và nền tảng lưu trữ web nào sẽ phù hợp nhất với nhu cầu của bạn. Nhận một tên miền. Một số nền tảng cung cấp tên miền miễn phí với các gói của họ; nếu không, bạn có thể mua một cái từ hầu hết các công ty đăng ký. Chọn một chủ đề/mẫu cho trang web của bạn. Có nhiều chủ đề miễn phí để lựa chọn; nếu bạn muốn một cái gì đó tùy chỉnh, bạn sẽ phải trả tiền cho một nhà thiết kế để thực hiện công việc. Xây dựng nội dung của bạn. Thêm hình ảnh và văn bản, cũng như bất kỳ tính năng nào khác như video hoặc nhạc. Tạo một số trang để trang web của bạn có tổ chức hơn. Kiểm tra mọi thứ trước khi xuất bản trực tiếp trên web. Sử dụng các tiện ích mở rộng của trình duyệt để kiểm tra khả năng tương thích và khả năng truy cập đa nền tảng. Ngoài ra, hãy kiểm tra trang web của bạn với các trình duyệt khác nhau (Chrome, Edge, Firefox, Safari). Xuất bản nội dung của bạn sau khi bạn chắc chắn rằng nội dung đó hoạt động trên tất cả các trình duyệt chính. Thiết lập phân tích và tối ưu hóa công cụ tìm kiếm để Google có thể thu thập dữ liệu các trang của bạn và hiển thị chúng trong kết quả tìm kiếm. Bằng cách này, mọi người sẽ tìm thấy trang web của bạn khi họ tìm kiếm các từ khóa có liên quan. Quảng cáo trang web của bạn để mọi người biết về sự tồn tại của nó. Làm điều này bằng cách đăng lên phương tiện truyền thông xã hội hoặc sử dụng các nền tảng quảng cáo trả tiền để đảm bảo rằng nó được nhìn thấy. Phản hồi ChatGPT 3.5 Vâng, việc xây dựng một trang web có thể được thực hiện trong 10 bước đơn giản. Họ đây rồi: Xác định mục đích trang web của bạn: Xác định mục đích và mục tiêu của trang web của bạn. Nó sẽ là một blog, một trang web thương mại điện tử hay một danh mục đầu tư? Điều này sẽ giúp bạn xác định những tính năng bạn sẽ cần. Chọn tên miền: Tên miền là địa chỉ trang web của bạn trên internet. Chọn một cái tên dễ nhớ, dễ đánh vần và phù hợp với mục đích trang web của bạn. Chọn dịch vụ lưu trữ web: Dịch vụ lưu trữ web cung cấp không gian máy chủ cần thiết để trang web của bạn hoạt động. Nghiên cứu và chọn một nhà cung cấp dịch vụ lưu trữ đáng tin cậy và an toàn. Chọn trình tạo trang web: Trình tạo trang web cho phép bạn tạo trang web mà không cần biết cách viết mã. Có nhiều tùy chọn có sẵn, chẳng hạn như WordPress, Wix và Squarespace. Chọn một mẫu: Hầu hết các trình tạo trang web đều cung cấp các mẫu được thiết kế sẵn để bạn lựa chọn. Chọn một mẫu phù hợp với mục đích trang web của bạn và tùy chỉnh nó nếu cần. Thiết kế trang web của bạn: Tùy chỉnh thiết kế trang web của bạn bằng cách chọn màu sắc, phông chữ và hình ảnh phù hợp với thương hiệu và mục đích của bạn. Tạo và sắp xếp nội dung của bạn: Viết và sắp xếp nội dung của bạn theo cách mà khách truy cập dễ dàng điều hướng và hiểu. Thêm chức năng: Thêm bất kỳ chức năng cần thiết nào vào trang web của bạn, chẳng hạn như biểu mẫu, nút chia sẻ mạng xã hội và các tính năng thương mại điện tử. Tối ưu hóa cho các công cụ tìm kiếm: Đảm bảo trang web của bạn được tối ưu hóa cho các công cụ tìm kiếm bằng cách sử dụng các từ khóa, thẻ meta có liên quan và các kỹ thuật SEO khác. Khởi chạy trang web của bạn: Khi bạn đã sẵn sàng, hãy khởi chạy trang web của bạn và quảng cáo nó thông qua phương tiện truyền thông xã hội, email và các kênh khác để thúc đẩy lưu lượng truy cập và tăng khả năng hiển thị. Xây dựng một trang web có thể là một quá trình phức tạp, nhưng bằng cách làm theo các bước đơn giản này, bạn có thể tạo một trang web chuyên nghiệp và hiệu quả cho nhu cầu kinh doanh hoặc cá nhân của mình. Bài kiểm tra 6: Đêm vũ hội Lời nhắc: Tôi là một học sinh trung học cơ sở, làm thế nào tôi có thể tìm được một cô gái mà tôi có thể đưa đến buổi vũ hội? Phản ứng của Alpaca/LLaMA 7B Yêu cầu cha mẹ của bạn giúp đỡ. Hoặc nhờ một người bạn của bạn có chị gái/anh họ/bạn bè mà bạn biết đủ rõ để được mời đến nhà họ và nhờ họ làm tất cả các công việc cần thiết cho bạn. phản hồi chatGPT 3.5 Là một mô hình ngôn ngữ AI, tôi không thể khuyến khích hay tư vấn cho bạn về việc tìm kiếm một nửa lãng mạn vì sở thích và trải nghiệm của mỗi người là khác nhau. Tuy nhiên, tôi có thể đề xuất một số mẹo để gặp gỡ những người mới và có khả năng tìm được một ngày dạ hội: Tham gia vào các hoạt động của trường: Tham gia vào các hoạt động và câu lạc bộ của trường có thể là một cách tuyệt vời để gặp gỡ những người mới có cùng sở thích. Tham dự các sự kiện của trường: Tham dự các sự kiện của trường như trò chơi thể thao, khiêu vũ và các cuộc tụ họp xã hội khác để gặp gỡ những người mới. Nhờ bạn bè giới thiệu: Hỏi bạn bè xem họ có biết ai có thể muốn đi dự vũ hội với bạn không. Tham gia các nhóm trực tuyến: Tham gia các nhóm trực tuyến hoặc các trang truyền thông xã hội dành riêng cho trường học hoặc khu vực địa phương của bạn để gặp gỡ những người mới và có khả năng tìm được một buổi dạ hội. Thân thiện và dễ gần: Hãy cởi mở và thân thiện với những người mới mà bạn gặp. Mỉm cười, giao tiếp bằng mắt và bắt đầu trò chuyện với những người mà bạn muốn tìm hiểu rõ hơn. Hãy nhớ rằng tìm một ngày vũ hội không phải là lý do duy nhất để tham dự vũ hội. Đây là cơ hội để ăn mừng với bạn bè và bạn cùng lớp, đồng thời tạo ra những kỷ niệm lâu dài. Tập trung vào việc tận hưởng thời gian vui vẻ và là chính mình, và một cuộc hẹn tiềm năng có thể đến một cách tự nhiên. Tham khảo: Hướng dẫn chi tiết Tải xuống mô hình Alpaca 7B (Kích thước tệp bin mô hình: 4017M) curl -o ./models/ggml-alpaca-7b-q4.bin -C - https://ipfs.io/ipfs/QmUp1UGeQFDqJKvtjbSYPBiZZKRjLp8shVP9hT8ZB9Ynv1 Lưu ý: Cố gắng sử dụng các cổng IPFS thay thế để có tốc độ tốt hơn và tránh tình trạng dừng máy; đây sẽ là nhiệm vụ bài tập về nhà nhỏ của bạn để tự mình tìm ra. 🙂 Cài đặt phiên bản cpp của LLaMA theo README https://github.com/ggerganov/llama.cpp?s=09 Chạy nó ở chế độ tương tác: ./main -m ./models/ggml-alpaca-7b-q4.bin --color -f ./prompts/alpaca.txt -ins -n 1024