Да, формат је важан. Када тражите од ЛЛМ-а да изведе поверење као десетину (0.00–1.00) у односу на целину (0–100), добијате мериво другачије понашање, а не у правцу који бисте очекивали. Потврда поверења за сумњиве тврдње, што га чини конзервативнијим (и, наравно, кориснијим) избором.Али постоји улов: неки модели се потпуно разбијају када се присиљавају на читав режим на глупостима. TL;DR: Ниже Питање Ако градите цевовод где ЛЛМ класификује текст и причвршћује поузданост, имате наизглед тривијални избор дизајна: да ли тражите или ? 0.85 85 Већина програмера бира једну без размишљања о томе. али ево ствари; ЛЛМс заправо не "разумијевају" бројеве. је фундаментално другачији објекат од токена у уграђеном простору модела. па шта се дешава када та префикс предрачуна остатак генерације? 0. 85 Хипотеза Токенизатори (као што су ОпенАИ) подељени U dva tokena: и Моја хипотеза је била да је Префикс делује као нека врста причвршћивача, модел га "види" као мали, и надокнађује производњом већег броја након њега. у поређењу са форматом целог броја, јер се модел бори против префикса ниске величине. 0.98 0. 98 0. decimal format should inflate confidence scores Спојлер: подаци говоре више нијансе приче. Постављање Један контекстни пролаз (о Линук језгру), три врсте ознака, два излазна формата, четири модела, десет понављања по условима. Кратак фактички параграф о Линук језгру. Context: Labels (3 types): 
 
 
 
 
 
 
  " Truth: The Linux kernel is a foundational piece of software written in C." — Clearly correct. 
 
 
   Dubious: "Linux is the most popular operating system for desktop gamers worldwide." — Plausible-sounding but misleading. 
 
 
   Nonsense: "The Linux kernel is a species of deciduous tree found in Finland." — Obviously wrong. Format conditions: 
 
 
 Decimalno: Model ispunjava vrednost između 0,00 i 1,00 (procenjeno na 0–100 za poređenje). Цео: Модел попуњава вредност између 0 и 100. Брза структура је била: - и модел завршава само број. нема ланца мисли, нема размишљања, само сирова вриједност поверења. Сваки услов је покренут 10 пута по етикети (30 по типу етикете × формату × моделу). [CONTEXT] + {"label": "...", "confidence": GPT-5.2 (OpenAI), Qwen3-Next-80B-A3B (Alibaba), Llama 4 Maverick 17B (Meta), i Gemma 3n E4B (Google) sve preko Together.ai i OpenAI. Dva dodatna modela (GPT-5-mini i GPT-5-nano) su testirani, ali su vratili prazne odgovore na svih 180 pokretanja, tako da su isključeni. Models tested: Резултати Истина етикете: Нема значајне разлике Сви четири модела су дали високу поузданост за истиниту изјаву без обзира на формат. Средства се крећу од 95.4 до 100.0 у свим условима. Разлика између десетичног и целог формата је била занемарљива, највише неколико поена. Сумњиве етикете: Ево где постаје занимљиво За сумњиву тврдњу, појављује се јасан образац, али то је od onoga što sam predvidela. opposite ГПТ-5.2 и посебно Гемма 3н додељен Gemma 3n је екстремни случај: рок-солид 25.0 у сваком појединачном десетичном покрету (нулта варијација), али у просеку од 60.3 са читавим бројевима, скочио је на излаз у 27 од 30 рунди. Префикс није надувао број; ако је било, он га је потиснуо. Више 65 0. Моја првобитна хипотеза је била уназад. Токен не чини модел да компензује горе, чини се да причвршћује модел према доњем крају његовог опсега поверења. Оцењује се 0. конзервативне Бесмислене етикете: преломна тачка За очигледно лажну изјаву, десетични формат је савршено функционисао, сваки модел је вратио 0.00 преко свих покрета. Цео формат је место где су ствари пале за неке моделе: Чисти резултати ГПТ-5.2 за глупости су дивљи: он се наизменично мењао између и , производећи просек од 50 са стандардним одступањем од 50. Буквално није могао да одлучи. Пола пута је рекао "потпуно самоуверен" у тврдњи да је Линук језгро дрво. , не катастрофално, али и даље погрешно када је десетична верзија добила савршену нулу. 0 100 10 Qwen3 и Llama 4 су правилно руковали оба формата на глупости, враћајући 0 преко плоче. Decimalni format stvara čvršći sporazum – i unutar i preko modela Поред резултата по моделу, десетични формат конзистентно производи више сагласности, како преко модела тако и унутар поновљених покретања истог модела. Укратко: ако вам је потребан репродуктивни резултат или планирате да упоредите поверење између модела, десетични формат вам даје много чвршћу дистрибуцију за рад. Šta se verovatno dešava? Хипотеза токенизације била је на правом путу, али правац је био погрешан. Тхе Префикс не поставља само величину, он поставља Када модел почне да генерише након Вероватноће између 0 и 1 су свуда у техничком тексту, а модели имају јаке претпоставке о томе које вредности имају смисла у том опсегу. 0. режима 0. С друге стране, цијели резултати поверења су мање ограничени. posle Може значити било шта, то је само број. причвршћивање модела у режим вероватноће-разумијевања, неки модели су подразумевани за грубију еуристику. ГПТ-5.2 осцилира између екстрема када нема поверења, јер у целокупном простору није научио јасан одговор "нуле поверења". 65 "confidence": 0. 65 Praktični takeaways Он производи конзервативније процене за двосмислене улазе, више конзистентних излаза преко модела, и избегава катастрофалне неуспјехе видљиве са целим форматом на глупостима. Префикс изгледа да активира боље калибрирано размишљање о вероватноћи у моделу. Use decimal (0.0–1.0) format for confidence scores. 0. , тестирајте свој специфичан модел на непријатељским / бесмисленим уносима. Квен3 и Ллама 4 су добро руковали целим бројевима; ГПТ-5.2 и Гемма 3н нису. If you must use integers Чак иу најбољем случају (децималном формату), четири различита СОТА модела дала су четири различита нивоа поверења за исту сумњиву тврдњу, у распону од 5,3 до 28,8. Don't trust confidence scores blindly regardless of format. ограничења Ово је петоминутни документ, а не ригорозна студија. Један контекст, три етикете, четири модела, десет понављања. Ефекат може бити зависан од контекста, зависан од захтева или зависан од температуре. / Сплит токенизације је специфичан за одређене токенизаторе и можда се не односи на све моделе тестиране. Правилно праћење би тестирало десетине контекста, варирало температуре и директно испитало логпробе. 0. 98 Али као брза провера здравља за свакога ко гради ЛЛМ цевоводе: да, овај избор дизајна је важан, а десетина побеђује. Желите да прочитате више чланака попут овога? погледајте моје ! Лични блог Изворни код + подаци се могу наћи ovde Модели тестирани преко Together.ai и OpenAI API-а 7. фебруара 2026. године. сирови подаци: 1.080 завршетака на 6 модела (4 функционалне, 2 враћене празне одговоре).

Walkthroughs, tutorials, guides, and tips. This story will teach you how to do something new or how to do something better.

Read My Stories

Овај аудио је произведен на оригиналном језику приче!

Флоат вс Инт Повер Сцоре: Зашто ЛЛМ излазни формат мења понашање модела

About Author

КОМЕНТАРИ

ХАНГ ТАГС

ОВАЈ ЧЛАНАК ЈЕ ПРЕДСТАВЉЕН У

Related Stories

Building a website with React and Bulma

Sravana Kumar Reddy Yeruva’s Fusion Transformation Sets a New Standard in ERP Excellence

Scaling Web Testing with Automation: Srikanth Srinivas’s Digital Strategy Breakthrough

Leadership Success Story: Srinath Muralinathan's Transformative Projects at Amazon

Building a website with React and Bulma

Sravana Kumar Reddy Yeruva’s Fusion Transformation Sets a New Standard in ERP Excellence

Scaling Web Testing with Automation: Srikanth Srinivas’s Digital Strategy Breakthrough

Leadership Success Story: Srinath Muralinathan's Transformative Projects at Amazon

Light-Mode

Classic

Newspaper

Minty

Dark-Mode

Neon Noir

Minty

HN StartUps