paint-brush
LLM을 위한 구문 오류가 없고 일반화 가능한 도구 사용: 부록~에 의해@textmodels
131 판독값

LLM을 위한 구문 오류가 없고 일반화 가능한 도구 사용: 부록

너무 오래; 읽다

연구원들은 오류를 줄이고 도구 사용을 개선하는 LLM용 유한 상태 기계 유도 디코딩인 TOOLDEC을 제안합니다.
featured image - LLM을 위한 구문 오류가 없고 일반화 가능한 도구 사용: 부록
Writings, Papers and Blogs on Text Models HackerNoon profile picture
0-item

저자:

(1) Kexun Zhang, UC Santa Barbara 및 균등 기여;

(2) Hongqiao Chen, Northwood 고등학교 및 균등 기여;

(3) 카네기멜론대학교 레이 리(Lei Li);

(4) 윌리엄 양 왕(UC Santa Barbara).

링크 표

가. 부록

A.1 디코딩 알고리즘의 의사 코드

A.2 보이지 않는 새로운 도구에 대한 TOOLKENGPT 일반화

그림 6: 도구 호출이 시작되면 TOOLDEC는 도구 이름을 생성하기 위해 컨텍스트에 특수 프롬프트(파란색 텍스트)를 삽입합니다.

A.3 도구 관련 오류를 제거하는 TOOLDEC의 예

이 섹션에서는 다양한 기준에서 도구 관련 오류를 방지하는 TOOLDEC의 예를 보여줍니다. 기준선은 왼쪽 열에 표시되고 TOOLDEC은 오른쪽에 표시됩니다.





그림 7: TOOLDEC은 ToolLLM에서 함수 이름 오류, 함수 인수 오류 및 잘못된 ReAct 구문을 방지할 수 있습니다.


그림 8: TOOLDEC은 미세 조정된 모델에 대한 일반적인 도구 관련 오류를 제거할 수 있습니다.

A.4 카멜 관계의 예

표 6: KAMEL 관계의 예


이 문서는 CC 4.0 DEED 라이선스에 따라 arxiv에서 볼 수 있습니다.