paint-brush
Syntaxfehlerfreier und verallgemeinerbarer Werkzeugeinsatz für LLMs: Anhangvon@textmodels
131 Lesungen

Syntaxfehlerfreier und verallgemeinerbarer Werkzeugeinsatz für LLMs: Anhang

Zu lang; Lesen

Forscher schlagen TOOLDEC vor, eine durch Finite-State-Machine-geführte Dekodierung für LLMs, die Fehler reduziert und die Tool-Nutzung verbessert.
featured image - Syntaxfehlerfreier und verallgemeinerbarer Werkzeugeinsatz für LLMs: Anhang
Writings, Papers and Blogs on Text Models HackerNoon profile picture
0-item

Autoren:

(1) Kexun Zhang, UC Santa Barbara und gleicher Beitrag;

(2) Hongqiao Chen, Northwood High School und gleicher Beitrag;

(3) Lei Li, Carnegie Mellon Universität;

(4) William Yang Wang,UC Santa Barbara.

Linktabelle

A. ANHANG

A.1 PSEUDOCODE DES DECODIERUNGSALGORITHMUS

A.2 VERALLGEMEINERUNG VON TOOLKENGPT AUF UNSICHTBARE NEUE TOOLS

Abbildung 6: Sobald ein Werkzeugaufruf beginnt, fügt TOOLDEC eine spezielle Eingabeaufforderung (blauer Text) in den Kontext ein, um den Werkzeugnamen zu generieren.

A.3 Beispiele für die Beseitigung von Werkzeugfehlern durch ToolDeal

In diesem Abschnitt zeigen wir Beispiele, wie TOOLDEC toolbezogene Fehler auf verschiedenen Basislinien verhindert. Basislinien werden in der linken Spalte angezeigt und TOOLDEC wird auf der rechten angezeigt.





Abbildung 7: TOOLDEC kann Funktionsnamenfehler, Funktionsargumentfehler und ungültige ReAct-Syntax auf ToolLLM verhindern.


Abbildung 8: TOOLDEC kann die üblichen Tool-bezogenen Fehler bei fein abgestimmten Modellen eliminieren.

A.4 Beispiele für Kamel-Beziehungen

Tabelle 6: Beispiele für KAMEL-Beziehungen