Аўтары:  (1) Чжан Лінг, Каліфарнійскі ўніверсітэт у Сан-Дыега і роўны ўклад;  (2) Юньхао Фанг, Каліфарнійскі ўніверсітэт у Сан-Дыега і роўны ўклад;  (3) Сюаньлінь Лі, Каліфарнійскі ўніверсітэт у Сан-Дыега;  (4) Чжао Хуан, Каліфарнійскі ўніверсітэт у Сан-Дыега;  (5) Мінгу Лі, Qualcomm AI Research і Qualcomm AI Research  (6) Роланд Мемісевіч, Qualcomm AI Research;  (7) Хао Су, UC San Diego.  Табліца спасылак   Анатацыя і ўводзіны   Роднасная праца   Матывацыя і пастаноўка праблемы   Развагі па ланцужку думак, якія паддаюцца дэдуктыўнай праверцы   Эксперыменты   Абмежаванні   Заключэнне, падзяка і спасылка   Дэдуктыўная праверка з дапамогай мадэляў Vicuna   B Больш падрабязнае абмеркаванне паляпшэння дакладнасці дэдуктыўнай праверкі ў параўнанні з паляпшэннем правільнасці канчатковага адказу   C Больш падрабязна пра выманне адказу   D Падказкі   E Больш прыкладаў дэдуктыўнай праверкі  2 Звязаная праца    Нядаўнія вялікія моўныя мадэлі (LLM) [3, 8, 57, 47, 38, 18, 9, 37] паказалі неверагодную здольнасць у вырашэнні складаных задач мыслення. Замест таго, каб дазваляць магістрам непасрэдна генераваць канчатковыя адказы ў якасці выходных дадзеных, папярэдняя праца паказала, што, заахвочваючы пакрокавыя развагі праз належныя падказкі, такія як падказкі па ланцужку думак (CoT) [50] і многія іншыя [21, 59, 58, 44, 48, 60, 25, 54], LLM дэманструюць значна лепшую прадукцыйнасць у розных задачах мыслення. Для далейшага паляпшэння працэсу паэтапнага разважання некаторыя нядаўнія даследаванні даследавалі выкарыстанне знешніх вырашальнікаў, такіх як праграмныя інтэрпрэтатары [39, 5, 27], навучанне і выклік знешніх модуляў разважанняў [11] або выкананне відавочнага пошуку для стварэння дэдуктыўных крокаў. [2, 46]. Паралельна з гэтымі працамі, мы не належым на знешнія модулі і алгарытмы, і мы непасрэдна выкарыстоўваем кантэкстную здольнасць навучання LLMs для стварэння больш дакладных і строгіх дэдуктыўных разважанняў. Разважанне з дапамогай вялікіх моўных мадэляў.    Выкарыстанне моўных мадэляў для ацэнкі пакаленняў мадэляў было даўняй ідэяй [22, 36, 40, 4]. Паколькі LLM дэманструюць уражлівыя магчымасці для розных задач, становіцца натуральнай ідэяй выкарыстоўваць LLM як інструменты ацэнкі і праверкі. Напрыклад, [10, 11, 33] тонка наладзіць LLM для праверкі рашэнняў і прамежкавых этапаў. LLM, узгодненыя з RLHF [32, 31, 48], таксама выкарыстоўваліся для параўнання розных пакаленняў мадэляў. Акрамя таго, нядаўнія працы, такія як [43, 52, 28, 6], выкарыстоўваюць дызайн падказкі, каб дазволіць LLM самастойна правяраць, самастойна ўдасканальваць і самастойна адладжваць без неабходнасці тонкай налады. Аднак гэтыя працы не засяроджваюцца на строгасці і надзейнасці працэсаў дэдуктыўнага разважання на кожным этапе разважання. У гэтай працы мы прапануем заснаваны на натуральнай мове фармат дэдуктыўнага разважання, які дазваляе магістрам права правяраць кожны прамежкавы этап працэсу дэдуктыўнага разважання, тым самым паляпшаючы строгасць і даверлівасць разважанняў.  Вялікія моўныя мадэлі як верыфікатары.  Акрамя таго, у той час як некаторыя нядаўнія працы [12, 53, 15, 34] прапанавалі метады праверкі асобных крокаў у працэсе развагі, наш падыход адрозніваецца ад гэтых работ наступнымі пунктамі гледжання:   Наш падыход выкарыстоўвае кантэкстнае навучанне для дасягнення праверка аргументацыі без неабходнасці тонкай налады моўнай мадэлі.   Наш падыход да праверкі LLM, заснаваны на натуральнай праграме, не толькі вызначае недапушчальныя этапы развагі, але таксама дае відавочныя тлумачэнні, чаму яны несапраўдныя, з падрабязным апісаннем канкрэтных памылак у разважанні.   Наш падыход да аргументацыі і праверкі, заснаваны на натуральнай праграме, сумяшчальны з задачамі абстрактнага разважання ў кантэксце, у якіх этапы разважання не маюць структур, падобных да доказу. Напрыклад, наш падыход сумяшчальны з задачай "Апошнія літары", дзе LLM атрымлівае інструкцыю выводзіць канкатэнацыю апошніх літар усіх слоў у паслядоўнасці ў якасці канчатковага адказу.   Падыход нашай натуральнай праграмы дазваляе выкарыстоўваць разумныя веды, якія не пазначаны ў памяшканні. Напрыклад, разгледзім такую праблему: «Марына з'ядае 4 яблыка ў дзень. Колькі яблыкаў ён з'ядае ў лістападзе?» Нягледзячы на тое, што «лістапад мае 30 дзён» не пазначана ў памяшканні, Natural Program дазваляе выкарыстоўваць такія агульныя веды ў рамках этапу развагі. Наш працэс праверкі ў кантэксце таксама здольны апрацоўваць гэтыя няяўныя памяшканні (напрыклад, калі LLM выдае «Лістапад мае 29 дзён» на этапе аргументацыі, гэта будзе пазначана як несапраўднае). (1) (2) (3) (4)  Гэты дакумент   пад ліцэнзіяй CC BY 4.0 DEED. даступны на arxiv

Part of HackerNoon's growing list of open-source research papers, promoting free access to academic material.

cosmological.TECH

Read My Stories

From Big Bang's singularity to galaxies' cosmic dance the universe unfolds its majestic tapestry of space and time.

Cosmological's blog

Гэта аўдыя зроблена на мове арыгіналу гісторыі!

Рашэнне праблемы галюцынацый штучнага інтэлекту з дапамогай натуральных праграм з самаправеркай

About Author

КАМЕНТАРЫІ

ВЕСІЦЬ БІРКІ

ГЭТЫ АРТЫКУЛ БЫЎ ПРАДСТАЎЛЕНЫ Ў

Related Stories

Navigating the Future of Blockchain VC Industry With Stelian Balta of Hyperchain Capital

How Fraction AI is Democratizing AI Ownership for the Masses

34 Stories To Learn About Eos

How Edge & Node’s Rodrigo Coelho Is Reimagining the Web with The Graph

Navigating the Future of Blockchain VC Industry With Stelian Balta of Hyperchain Capital

How Fraction AI is Democratizing AI Ownership for the Masses

34 Stories To Learn About Eos

How Edge & Node’s Rodrigo Coelho Is Reimagining the Web with The Graph

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps