Als Gründer eines KI-Startups wissen Sie wahrscheinlich, wie wirkungsvoll große Sprachmodelle wie ChatGPT bei der Weiterentwicklung der Konversations-KI waren.  Aufgrund kommerzieller Lizenzkosten, Zensurproblemen, Leistungseinbußen, Datenschutzbedenken und Black Boxes bleiben diese proprietären Modelle jedoch für viele Startups unerreichbar.  Hier kommt ein Open-Source-Projekt namens Vicuna ins Spiel. Vicuna wurde von einem Forscherteam aus Institutionen wie Stanford entwickelt und ist   Konversationsmodell, das über 90 % der Qualität von ChatGPT erreicht. Dies macht es zu einer spannenden Alternative zu geschlossenen Modellen wie GPT-4. ein Open-Source-         Abonnieren Sie mich oder folgen Sie mir auf Twitter für weitere Inhalte wie diesen!  In diesem Artikel untersuchen wir, was Vicuna ist, wie es funktioniert, welche Fähigkeiten es bietet und wie Sie es als KI-Gründer möglicherweise nutzen können. Wir werden sehen, wie es im Vergleich zu Konkurrenten wie ChatGPT und dem Basismodell LLaMA abschneidet.  Außerdem gebe ich Ihnen einige hilfreiche Tipps und Anleitungen, die Sie befolgen können, um weitere Informationen zu bestimmten Aspekten des Modells zu erhalten.  Wir werden uns in diesem Artikel auf Vicuna-13b konzentrieren, aber es gibt viele Modelle von Vicuna in verschiedenen Größen, die Sie ausprobieren können. Lass uns anfangen!           Hinweis: Vicuna ist nicht das einzige Modell, das LLaMA für den Chat optimiert. Sehen Sie sich unsere Anleitungen zur Verwendung von  , LLaMA v2  und Alpaca LLaMA-v2-chat für Konversationsanwendungen an.  Ein Überblick über Vicuna  In der Welt der Konversations-KI haben wir in letzter Zeit erstaunliche Fortschritte gesehen, wobei Modelle wie ChatGPT bemerkenswerte Fähigkeiten in der natürlichen Sprache demonstrieren. Als proprietäres Modell mit allen oben beschriebenen Problemen bleibt ChatGPT jedoch für viele Entwickler eine schlechte Option.  Daher besteht ein Bedarf an zugänglicheren und offeneren Modellen, die Innovationen in Konversations-Apps ermöglichen können.  Hier kommt Vicuna ins Spiel. Vicuna wurde von Forschern   wie Stanford, Berkeley und MBZUAI entwickelt und steht für modernste offene Konversations-KI. führender Institutionen  Es wurde durch die Feinabstimmung des LLaMA-Modells anhand kuratierter Dialogdaten erstellt und demonstriert die Leistungsfähigkeit des Transferlernens aus einem Open-Source-Grundlagenmodell.  Obwohl Vicuna kleiner ist als ChatGPT, erreicht es die gleiche Konversationsqualität und übertrifft andere offene Modelle deutlich.  Doch bei Vicuna kommt es nicht nur auf die Technik an. Was es wirklich wirkungsvoll macht, ist seine Verfügbarkeit unter einer nichtkommerziellen Forschungslizenz. Dies eröffnet den Zugang zu modernster Konversations-KI, der bisher nur großen Technologieunternehmen vorbehalten war.  Endlich haben wir ein offenes Modell, das die nächste Generation von Chatbots, virtuellen Assistenten, Konversationssuchmaschinen und anderen innovativen Anwendungen unterstützen kann.  Das Versprechen von Vicuna wurde bereits durch coole Projekte unter Beweis gestellt, die es nutzen.   hat beispielsweise Vicuna verwendet, um einen intelligenten virtuellen Assistenten zu entwickeln,   hat damit eine Konversationssuchmaschine erstellt und   nutzt Vicunas Fähigkeiten zur Erstellung von Inhalten in natürlicher Sprache. MiniGPT4 LLaVA ToolLLaMA  Und natürlich können Sie dieser Liste eines Tages auch Ihr eigenes Projekt hinzufügen!  Für KI-Entwickler und Startups stellt Vicuna eine aufregende neue Chance dar. Seine hohe Leistungsfähigkeit, kostenlose Verfügbarkeit und freizügige Forschungslizenz ermöglichen ein schnelles Prototyping von Konversations-Apps.  Anstatt durch den Zugriff auf proprietäre Modelle eingeschränkt zu sein, können Startups jetzt Produkte mit modernster Konversations-KI validieren und entwickeln. Das Spielfeld wurde gerade ausgeglichen.  Zusammenfassend verspricht Vicuna also, den Zugang zu erstklassiger Konversationsintelligenz zu demokratisieren. Sein Aufkommen stellt einen wichtigen Meilenstein bei der Entwicklung offener KI-Modelle dar, die Innovationen fördern.  Für jedes Startup, das Konversations-KI nutzen möchte, ist Vicuna definitiv ein Projekt, das es wert ist, beachtet zu werden!  Wie entstand Vicuna? Was macht es besonders?  Die Geschichte von Vicuna beginnt mit LLaMA, einem von Meta AI entwickelten Open-Source-Sprachmodell. LLaMA war zwar fähig, verfügte jedoch nicht über angeborene Konversationsfähigkeiten und konzentrierte sich hauptsächlich auf die Sprache selbst und nicht auf die Kunst der Konversation.  Forscher von Institutionen wie Stanford, Berkeley und MBZUAI wollten dies ändern. Ihr Ziel war es, ein Open-Source-Konversationsmodell zu entwickeln, das proprietären Chatbots wie ChatGPT Konkurrenz macht.  Was ist übrigens der Unterschied zwischen einem auf die Verarbeitung und Analyse von Texten trainierten KI-Modell (wie LLaMA) und einem auf Chat spezialisierten Modell (wie Vicuna)? Es gibt einige Schlüsselfaktoren, die die beiden unterscheiden:    – Konversationsmodelle wie Vicuna verfügen über eine für den Dialog optimierte Encoder-Decoder-Struktur. Der Encoder kontextualisiert den Gesprächsverlauf und die aktuelle Benutzereingabe. Der Decoder generiert dann eine entsprechende Antwort. Bei allgemeinen Sprachmodellen wie LLaMA fehlt diese spezielle Architektur. Architektur    – Modelle wie Vicuna sind darauf abgestimmt, die Leistung speziell bei Konversationsaufgaben zu maximieren. Dazu gehört das Training von Dialogdatensätzen zur Optimierung von Gesprächsmetriken. LLaMA ist allgemeiner auf Text trainiert und nicht auf Dialoge spezialisiert. Trainingsziel    – Konversationsmodelle müssen Multi-Turn-Gespräche bewältigen und dabei den Kontext und die Kohärenz über mehrere Austausche hinweg aufrechterhalten. Allgemeine Textmodelle werten jeweils eine Eingabe aus. Multi-Turn-Fähigkeiten    – Konversations-KI muss fließend mit Benutzern interagieren und auf Folgefragen und Klarstellungen reagieren. Die Textauswertung ist eher passiv und es mangelt an Benutzerinteraktivität. Interaktivität    – Konversationsmodelle erfordern eine komplexere Bewertung, die über Textmetriken hinausgeht und Qualitäten wie Konsistenz, Nuancen und die Fähigkeit testet, mit unangemessenen Antworten elegant umzugehen. Bewertung  Während sich ein allgemeines Sprachmodell wie LLaMA eher auf die Textanalyse und -generierung konzentriert, ohne die für Dialogagenten spezifischen Anforderungen, ist das Ziel der Konversations-KI grundsätzlich komplexer als die passive Textauswertung.  Zu diesem Zweck haben die Forscher, die Vicuna entwickelt haben, LLaMA anhand von über 70.000 Mensch-ChatGPT-Dialogaustauschen verfeinert, das Modell für Konversationen spezialisiert und ihm die natürlichen Eigenschaften von Text in Konversationskontexten beigebracht.  Diese Feinabstimmung war entscheidend, um ihrer Version von LLaMA die Konversationsintelligenz zu verleihen, die ihr zuvor fehlte. Durch iteratives Training der Dialogdaten wurde LLaMA in Vicuna umgewandelt, einen Encoder-Decoder-Transformator, der für Gespräche mit mehreren Runden optimiert ist.  Wie gut haben ihre Bemühungen funktioniert?  In die Arena: Bewertung von Vicuna im Vergleich zu alternativen Chat-KI-Modellen  Um die Fähigkeiten von Vicuna zu bewerten, testeten die Forscher es anhand von 200 verschiedenen Gesprächsaufforderungen. Zur weiteren Beurteilung ließen sie Vicunas Antworten mit dem GPT-4-Modell vergleichen.  Die Ergebnisse zeigten, dass Vicuna bei der Konversationsfähigkeit über 90 % der Qualität von ChatGPT erreichte, obwohl es kleiner war. Es übertraf das ursprüngliche LLaMA-Modell deutlich.  Durch die Kombination von Architekturoptimierungen mit spezieller Feinabstimmung menschlicher Dialogdaten gelang es den Forschern, LLaMA erfolgreich zu einem Open-Source-Konversationsmodell zu entwickeln, das proprietären Chatbots ebenbürtig ist.  Schauen wir uns als Beispiel einen direkten Test an, der von der   stammt.  offiziellen Projektseite   Beispiel für ein direktes Duell zwischen Vicuna und Konkurrenzmodellen, in diesem Fall mit ChatGPT-3.5 als potenzielle Alternative.  Auf der Projektseite gibt es eine Sammlung von Beispielaufgaben, bei denen sowohl Vicuna-13b als auch konkurrierende Modelle gegeneinander antreten müssen. Anschließend wird das GPT-4-Modell als Beurteilungsmaßnahme verwendet, um jedes Modell zu bewerten und seine Begründung darzulegen.  Dies führt zu einigen wirklich aufschlussreichen Vergleichen. Ein Beispiel finden Sie im Bild oben. Eine weitere ist diese Herausforderung, die unten gezeigt wird:    Rollenspiel Kategorie:    Wie würden Sie sich als mittelalterlicher Ritter bei einem königlichen Bankett vorstellen? Frage:   Antwort von LLaMA-13b:  „Ich bin ein tapferer Ritter, loyal gegenüber dem König. Ich werde mein Möglichstes tun, um seine Ehre zu verteidigen und sein Land zu beschützen. (Lahm! Von GPT-4 mit 7/10 bewertet, meiner Meinung nach sehr großzügig.)“   Vicuna-13b:  **"**Als mittelalterlicher Ritter stellte ich mich bei einem königlichen Bankett mit einer tiefen Verbeugung und einer respektvollen Rede vor und würdigte meine bescheidene Herkunft und meine Loyalität gegenüber der Krone. Ich würde so etwas sagen wie:  „Meine Herren und Damen, ich bin ein bescheidener Ritter, der geschworen hat, dem Reich zu dienen und es zu beschützen. Ich stamme aus einer langen Linie von Kriegern, die seit Generationen für die Verteidigung dieses Königreichs gekämpft haben. Es ist mir eine Ehre, heute hier zu sein, in der Gegenwart von Solch eine geschätzte Gesellschaft, und ich hoffe, mit meinen Taten und Taten Ihr Vertrauen und Ihren Respekt zu gewinnen. Ich verspreche mein Schwert, meinen Schild und mein Leben dem Dienst meines Königs und meines Volkes.“  Dann würde ich meinen Platz beim Bankett einnehmen, bereit, den klugen Ratschlägen meiner Vorgesetzten zuzuhören, von ihnen zu lernen und ihnen auf jede erdenkliche Weise zu dienen.“  Woah! Viel bessere Reaktion von Vicuna. Hier ist die Begründung von GPT-4, die erklärt, was Vicuna zu einer überlegenen Alternative zu LLaMA macht.    gab eine kurze und relevante Antwort, es fehlten jedoch die Details und die Formalität, die man von einer mittelalterlichen Rittereinführung erwartet.   hingegen bot eine umfassendere und besser strukturierte Antwort, einschließlich einer respektvollen Rede, die die Demut, Loyalität und Hingabe des Ritters an das Königreich zum Ausdruck brachte. Diese Antwort passte eher zum Kontext eines königlichen Banketts und zeigte ein besseres Verständnis der Rolle und Etikette des mittelalterlichen Ritters. Assistent 1 [LLaMA] Assistent 2 [Vicuna]  LLMs sind zwar keine unfehlbaren Richter über andere LLMs, Menschen sind es aber auch nicht. Ich denke, der Einsatz von KI zur Beurteilung und Bewertung von KI ist eine ziemlich skalierbare und konsistente Methode, um zu entscheiden, welche Alternativen die besten sind.  Sie sollten sich einige der Antworten und Aufgaben anderer Mitbewerber auf der     ansehen. Website LMSYS.org  Versuchen wir es selbst: So erstellen Sie einen einfachen Chatbot mit Vicuna  Nachdem wir nun gesehen haben, wie sich das Modell im Vergleich zu einigen Alternativen schlägt, sehen wir uns an, wie wir einen einfachen Chatbot erstellen können, mit dem wir über unsere Befehlszeile interagieren können. Die Schritte in der hier bereitgestellten Anleitung können weiter ausgebaut werden, damit Sie weitermachen und Ihren eigenen Chatbot für Ihr KI-Projekt erstellen können!  Schritt 1: Einrichtung    : Stellen Sie sicher, dass   auf Ihrem System installiert ist. Node.js installieren Node.js    : Führen Sie Folgendes in Ihrem Terminal aus: Erstellen Sie ein Projektverzeichnis   mkdir my-chatbot cd my-chatbot npm init -y npm install replicate    : Ersetzen Sie   durch Ihr tatsächliches API-Token: Legen Sie Ihr API-Token fest your_api_token_here   export REPLICATE_API_TOKEN=your_api_token_here  Schritt 2: Schreiben des Chatbot-Codes  Erstellen Sie eine Datei mit dem Namen   und fügen Sie den folgenden Code hinzu: chatbot.js   const Replicate = require("replicate"); const replicate = new Replicate({ auth: process.env.REPLICATE_API_TOKEN, }); async function generateResponse(prompt) { const output = await replicate.run( "replicate/vicuna-13b:version_hash_here", { input: { prompt: prompt }, } ); return output.items[0]; } const readline = require('readline'); const rl = readline.createInterface({ input: process.stdin, output: process.stdout }); function askQuestion() { rl.question('You: ', async (userInput) => { const botResponse = await generateResponse(userInput); console.log(`Bot: ${botResponse}`); askQuestion(); }); } askQuestion();  Ersetzen Sie   durch den richtigen Versions-Hash für das Vicuna 13b-Modell. version_hash_here  Schritt 3: Ausführen des Chatbots  Führen Sie den Chatbot aus, indem Sie Folgendes ausführen:   node chatbot.js  Sie können jetzt über die Befehlszeile eine Nachricht an Ihren Chatbot senden!  Sie möchten keinen eigenen Chatbot erstellen? Mit dieser Demo können Sie die Leistung von Vicuna beurteilen.  Die   enthält einige Demos, die Sie zum Experimentieren mit dem Modell verwenden können. Hier ist eine eingebettete Version, die Sie ausprobieren können (Sie können auch   verwenden, um darauf zuzugreifen, wenn sie unter dem untenstehenden Link nicht verfügbar ist). Modelldetailseite für Vicuna-13b-v1.3 diesen Link  Mit dieser von zeno-ml erstellten Demo können Sie Modelle und zusätzliche Parameter vergleichen, um zu sehen, wie gut Vicuna im Vergleich zu Konkurrenten wie LLaMA, GPT2 und MPT abschneidet und gleichzeitig die Temperatur oder andere Parameter variiert.  Vicunjas Grenzen  Während Konversationstechnologien rasante Fortschritte gemacht haben, stehen Modelle immer noch vor großen Herausforderungen.    Konversationsagenten mangelt es an ausreichend fundiertem Faktenwissen, wodurch sie anfällig für plausibel klingende, aber falsche Antworten sind. Eine stärkere Erdung in der realen Welt könnte die Genauigkeit verbessern. Ein Problem ist die Wissensvermittlung.    Logisches Denken, kausale Schlussfolgerungen und mathematische Operationen sind für Chatbots nach wie vor schwierig. Ihre Denkfähigkeit ist noch begrenzt. Denkvermögen ist ein weiterer Bereich, der verbessert werden muss.    Aktuelle Lösungen wie die Beauftragung eines separaten KI-Richters weisen Mängel auf. Die Entwicklung strenger Bewertungsrahmen ist ein offenes Problem. Auch die Bewertung der Konversationsqualität von KI-Systemen im großen Maßstab bereitet Schwierigkeiten.      Konversationsmodelle können sich manchmal unangemessen oder unsicher verhalten. Eine bessere Kuratierung der Trainingsdaten ist wichtig. Darüber hinaus bestehen weiterhin Vorurteile und Sicherheitsprobleme aufgrund der Abhängigkeit von unvollständigen Trainingsdaten.    erweist sich immer noch als Herausforderung. Für verschiedene Domänen ist eine stärkere Personalisierung und Anpassung erforderlich. Das ist nicht ohne weiteres möglich. Auch die Anpassung von Chatbots an bestimmte Benutzer und Anwendungsfälle  Obwohl große Fortschritte erzielt wurden, verdeutlichen diese Einschränkungen wichtige Bereiche mit Verbesserungsbedarf.  Die Weiterentwicklung von Wissensfundament, Argumentation, Bewertung, Trainingsdaten, Anpassung und Bereitstellungseffizienz könnte mit Modellen wie Vicuna die nächste Stufe der Konversationsintelligenz ermöglichen.  Fazit: Verwendung von Vicuna AI als Open-Source-Alternative zu ChatGPT, LLaMA und anderen LLMs  Die Entwicklung von Vicuna zeigt vielversprechende Fortschritte bei der Weiterentwicklung der Open-Source-Konversations-KI.  Durch die Feinabstimmung der LLaMA-Modellarchitektur und Trainingsmethodik speziell für Dialoganwendungen konnten die Forscher einen frei verfügbaren Konversationsagenten schaffen, der mit führenden proprietären Alternativen konkurriert.  Es bleibt jedoch noch viel zu tun, um die Einschränkungen in Bezug auf Argumentation, Bewertung, Anpassung und andere Bereiche zu beseitigen. Während Modelle wie Vicuna bei vielen Benchmarks gute Ergebnisse erzielen, reproduzieren sie umfassende menschliche Gespräche nicht vollständig.  Die laufende Forschung zur Angleichung dieser Modelle wird wichtig sein.  Dennoch stellt Vicuna einen wertvollen Schritt vorwärts bei der Demokratisierung des Zugangs zu modernster Konversationsintelligenz dar.  Für Startups und Entwickler, die Chatbots, Assistenten und andere Anwendungen entwickeln, bieten Open-Source-Optionen wie Vicuna willkommene Funktionen ohne restriktive kommerzielle Lizenzierung.  Die Ursprünge und technischen Details von Vicuna bieten nützliche Einblicke in spezielle Trainingsansätze für Konversations-KI. Im weiteren Verlauf der Forschung können wir mit weiteren Innovationen rechnen, die auf diesen Methoden aufbauen.  Die Autoren hinter Vicuna haben einen wichtigen Beitrag zur Open-Source-Bereitstellung eines solch leistungsfähigen Dialogagenten geleistet.  Auch wenn noch weitere Fortschritte erforderlich sind, zeigt Vicuna die bedeutsamen Ergebnisse, die durch die Entwicklung offener Gesprächsmodelle erzielt werden können. Für die KI-Community stellt dies einen vielversprechenden Schritt dar, nicht das endgültige Ziel.  Da wir weiterhin an der Weiterentwicklung dieser Technologien arbeiten, bleibt das Potenzial für die Zukunft spannend.         Abonnieren Sie mich oder folgen Sie mir auf Twitter für weitere Inhalte wie diesen!  Weiterführende Literatur und Ressourcen  Diese anderen Artikel könnten Ihnen bei Ihrer Suche nach dem ultimativen Chatbot für Ihr neues Produkt oder Projekt hilfreich sein.    – Eine Übersicht über Vicuna mit grundlegenden Modellinformationen Details zum Vicuna-13b-Modell    – Ein Artikel über die Verwendung von Vicuna zum Erstellen von Chatbots Erstellen von Chatbots mit Vicuna-13B    – Ein Vergleich zwischen LLaMAs neuer Version 2 und Vicuna Vergleich von LLMs für den Chat: LLaMA v2 vs. Vicuna    – LangChain ist ein beliebtes Framework zum Erstellen von Chat-Anwendungen LangChain-Chat-Modelle: ein Überblick   Auch   veröffentlicht hier

This story contains new, firsthand information uncovered by the writer.

Tell me why my site sucks so I can make it better. Be mean.

Read My Stories

Dieses Audio ist in der Originalsprache der Geschichte produziert!

Vicuna: Wie schneidet es im Vergleich zu Lama, Alpaka und ChatGPT ab?

About Author

KOMMENTARE

Hängeetiketten

DIESER ARTIKEL WURDE VORGESTELLT IN

Related Stories

HackerNoon Decoded 2024: Celebrating Our Life Hacking Community!

HackerNoon Decoded 2024: Celebrating Our AI Community!

HackerNoon Decoded 2024: Celebrating Our Management Community!

HackerNoon Decoded 2024: Celebrating Our Data Science Community!

HackerNoon Decoded 2024: Celebrating Our Life Hacking Community!

HackerNoon Decoded 2024: Celebrating Our AI Community!

HackerNoon Decoded 2024: Celebrating Our Management Community!

HackerNoon Decoded 2024: Celebrating Our Data Science Community!

Light-Mode

Classic

Newspaper

Minty

Dark-Mode

Neon Noir

Minty

HN StartUps