paint-brush
Использование без синтаксических ошибок и универсального инструмента для программ LLM: Приложениек@textmodels
145 чтения

Использование без синтаксических ошибок и универсального инструмента для программ LLM: Приложение

Слишком долго; Читать

Исследователи предлагают TOOLDEC, машинное декодирование с конечным числом состояний для LLM, уменьшающее количество ошибок и улучшающее использование инструментов.
featured image - Использование без синтаксических ошибок и универсального инструмента для программ LLM: Приложение
Writings, Papers and Blogs on Text Models HackerNoon profile picture
0-item

Авторы:

(1) Кексун Чжан, Калифорнийский университет в Санта-Барбаре и равный вклад;

(2) Хунцяо Чен, Средняя школа Нортвуда и равный вклад;

(3) Лей Ли, Университет Карнеги-Меллон;

(4) Уильям Ян Ван, Калифорнийский университет, Санта-Барбара.

Таблица ссылок

А. ПРИЛОЖЕНИЕ

А.1 ПСЕВДОКОД АЛГОРИТМА ДЕКОДИРОВАНИЯ

A.2 ОБОБЩЕНИЕ ИНСТРУМЕНТОВ ДЛЯ НЕВИДИМЫХ НОВЫХ ИНСТРУМЕНТОВ

Рисунок 6. Как только начинается вызов инструмента, TOOLDEC вводит в контекст специальный запрос (синий текст) для генерации имени инструмента.

A.3 ПРИМЕРЫ УСТРАНЕНИЯ ОШИБОК, СВЯЗАННЫХ С ИНСТРУМЕНТОМ, с помощью TOOLDEC

В этом разделе мы показываем примеры TOOLDEC, предотвращающие ошибки, связанные с инструментом, на различных базовых показателях. Базовые показатели отображаются в левом столбце, а TOOLDEC — в правом.





Рисунок 7. TOOLDEC может предотвратить ошибку имени функции, ошибку аргумента функции и неверный синтаксис ReAct в ToolLLM.


Рисунок 8: TOOLDEC может устранить распространенные ошибки, связанные с инструментом, для точно настроенных моделей.

A.4 ПРИМЕРЫ ОТНОШЕНИЙ КАМЕЛЯ

Таблица 6: Примеры отношений KAMEL


Этот документ доступен на arxiv под лицензией CC 4.0 DEED.