paint-brush
Uso de herramientas generalizables y sin errores de sintaxis para LLM: Apéndicepor@textmodels
148 lecturas

Uso de herramientas generalizables y sin errores de sintaxis para LLM: Apéndice

Demasiado Largo; Para Leer

Los investigadores proponen TOOLDEC, una decodificación guiada por máquina de estado finito para LLM, que reduce los errores y mejora el uso de las herramientas.
featured image - Uso de herramientas generalizables y sin errores de sintaxis para LLM: Apéndice
Writings, Papers and Blogs on Text Models HackerNoon profile picture
0-item

Autores:

(1) Kexun Zhang, UC Santa Barbara y contribución de Equal;

(2) Hongqiao Chen, Escuela Secundaria Northwood y Contribución Igual;

(3) Lei Li, Universidad Carnegie Mellon;

(4) William Yang Wang, UC Santa Bárbara.

Tabla de enlaces

A. APÉNDICE

A.1 PSEUDO-CÓDIGO DEL ALGORITMO DECODIFICADOR

A.2 GENERALIZACIÓN DEL TOOLKENGPT A NUEVAS HERRAMIENTAS NO VISTAS

Figura 6: Una vez que comienza la llamada de una herramienta, TOOLDEC inyecta un mensaje especial (texto azul) en el contexto para generar el nombre de la herramienta.

A.3 EJEMPLOS DE ERRORES RELACIONADOS CON LAS HERRAMIENTAS CON TOOLDEC

En esta sección, mostramos ejemplos de TOOLDEC que previenen errores relacionados con herramientas en varias líneas de base. Las líneas de base se muestran en la columna de la izquierda y TOOLDEC se muestra a la derecha.





Figura 7: TOOLDEC puede evitar errores de nombre de función, errores de argumento de función y sintaxis de ReAct no válida en ToolLLM.


Figura 8: TOOLDEC puede eliminar los errores comunes relacionados con las herramientas para modelos ajustados.

A.4 EJEMPLOS DE RELACIONES KAMEL

Tabla 6: Ejemplos de relaciones KAMEL


Este documento está disponible en arxiv bajo licencia CC 4.0 DEED.