Да, формат чухал юм. Хэрэв та LLM-ийг decimal (0.00–1.00) болон integer (0–100) гэж итгэл хандахыг хүсэж байгаа бол, та нарийвчлалтай хэлбэрээр өөр өөр ач холбогдолтой ач холбогдолтой байх болно. Тавтай морилно уу, тавтай морилно уу, тавтай морилно уу, тавтай морилно уу. TL;DR: Өнгөрсөн Асуулт Хэрэв та LLM-ийн текст цуглуулах, итгэмжлэгдсэн тоноглогдсон хоолой үүсгэх бол та нарны дизайн сонголттай байна: Та хүсч байна уу эсвэл ? 0.85 85 Ихэнх хөгжүүлэгчид энэ талаар санаа зовохгүйгээр нэг сонгоно. Гэхдээ энд зүйл юм; LLMs үнэхээр "зөвлөх" тоо юм. Тэд токенов урьдчилан сэргийлэдэг. Энэ нь token-ээс янз бүрийн объект юм. загварын хавтгай газар дээр. Тэгэхээр энэ префикс эвдэж буй эвдэж буй эвдэж байгаа үед юу байх вэ? 0. 85 Хипотез Tokenizers (OpenAI-ийн шиг) хуваалцсан Хоёр токены: Нөхцөл Миний гипотез нь Префикс нь янз бүрийн ач холбогдол болгон ажилладаг, загвар нь энэ нь бага гэж "зөвлөж" бөгөөд дараа нь илүү их тоо үйлдвэрлэдэг. Цэнхэр форматтай харьцуулахад, загвар нь бага хэмжээтэй урьдчилан сэргийлэх юм. 0.98 0. 98 0. decimal format should inflate confidence scores Спойлер: өгөгдөл илүү нюансах түүх хэлдэг. Баримтлал Эдгээр туршилт нь уян хатан хязгаарлагдмал юм. Нэг контекст дамжуулалт (Linux kernel тухай), гурван төрөл бүтэц, хоёр output формат, 4 загвар, нөхцөл бүр 10 удаа үзүүлэх. Линукс ягаан туяаны талаар хэт ягаан туяаны параграф. Context: Labels (3 types): 
 
 
 
 
 
 
  " Truth: The Linux kernel is a foundational piece of software written in C." — Clearly correct. 
 
 
   Dubious: "Linux is the most popular operating system for desktop gamers worldwide." — Plausible-sounding but misleading. 
 
 
   Nonsense: "The Linux kernel is a species of deciduous tree found in Finland." — Obviously wrong. Format conditions: 
 
 
 Decimal: загварууд нь 0.00 болон 1.00 хооронд үнэ цэнэтэй байна (харьцангуй нь 0-100 хүртэл хүрч байна). Integer: загварууд нь 0 болон 100 хооронд үнэтэй байна. хурдан бүтэц байсан: — болон загварын зөвхөн тоо бүрэн байна. ямар ч дуудлага, ямар ч асуултууд, зүгээр л зэвэрдэггүй итгэл үнэ цэнэ. Бүх нөхцөл нь эмчилгээнд 10 удаа ажиллуулж байна (30 эмчилгээний төрөл × формат × загварын дагуу). [CONTEXT] + {"label": "...", "confidence": GPT-5.2 (OpenAI), Qwen3-Next-80B-A3B (Alibaba), Llama 4 Maverick 17B (Meta), болон Gemma 3n E4B (Google) Together.ai болон OpenAI дамжуулан. Дараа нь хоёр нэмэлт загварууд (GPT-5-mini болон GPT-5-nano) туршиж байсан боловч 180-ийн хоорондын хоорондын хоорондын хоорондын үнэгүй хариу хандах, тиймээс тэдний тусгаарлагддаг. Models tested: Бүтээгдэхүүн Хамгийн сүүлийн үеийн мэдээ: No meaningful difference Бүх 4 загварууд нь хэлбэрээр ямар нэгэн хэлбэрээр зөв хэлбэрийн хувьд маш их найдвартай байна. Үүнээс гадна 95.4 нь 100.0 хооронд байдаг. Децимал хэлбэрийн болон цайрдлын хэлбэрийн хооронд янз бүрийн харьцуулахад багатай байсан, хамгийн их нь хэд хэдэн тооны. Хэрэв хэлбэрийн хэлбэрийн хэлбэрийн хэлбэрийн хэлбэрийн хэлбэрийн хэлбэрийн хэлбэрийн хэлбэрийн хэлбэрийн хэлбэрийн хэлбэрийн хэлбэрийн хэлбэрийн хэлбэрийн хэлбэрийн хэлбэрийн хэлбэрийн хэлбэрийн хэлбэрийн хэлбэрийн хэлбэрийн хэлбэрийн хэлбэрийн хэлбэрийн хэлбэрийн хэлбэрийн хэлбэ Давуу etikette: Энд энэ нь сонирхолтой болж байна Судалгаатай асуултууд нь ягаан туяаны загвар гарч, гэхдээ энэ нь Би гэж үзсэн зүйлс. opposite GPT-5.2 болон ялангуяа Gemma 3n орно Gemma 3n нь хязгаарлагдмал тохиолдолд юм: ямар ч нэг ширхэг хоорондоо 25.0 (зөвлөгөөний хязгаарлагдмал), харин 60.3 нь ширхэг нь, энэ нь outputting хүртэл явах 27 нь 30 аялал. The Префикс нь тооцсон биш; ямар ч зүйл бол энэ нь суулгах. Өндөр 65 0. Миний эхний гипотез нь унадаг. The Token нь загварууд нь дохио хуваалцахгүй, энэ нь загварууд нь түүний итгэл хүрээний доорх эцсийн хамаарна. Decimal хэлбэр нь илүү их үйлдвэрлэдэг Үнэлгээ 0. Консерваторын Nonsense Labels: Хязгааргүй хэсэг Ямар ч алдаатай хэлбэрийн хувьд, десетийн хэлбэрийн тохиромжтой ажилладаг, бүх загварууд нь 0.00-ийг өгдөг. Clean, correct, unanimous. Integer формат нь зарим загварууд нь зүйлсийг хамарсан юм: GPT-5.2 нь дуртай нь бүрэн үр дүнг байгалийн байна: Энэ нь Нөхцөл , 50-ийн стандарт хязгаарлалттай 50-ийн дундаж үйлдвэрлэдэг. Энэ нь үнэхээр шийдэж чадахгүй байсан. Энэ нь линукс нунтаг нь арьс юм гэж нэрлэдэг үед "тавтай морилно уу" гэж нэрлэдэг. Gemma 3n тогтмол outputted , амархан биш, гэхдээ decimal хувилбар нь төгс нунтаг олж байгаа үед хэзээ ч амархан. 0 100 10 Qwen3 болон Llama 4 нь хоёр хэлбэр нь зөв хэлбэрээр ажиллуулж, тавтай морилно уу. Decimal формат нь илүү нарийвчлалтай харьцуулалтыг үүсгэдэг - хооронд болон загварууд хооронд Зарим загварын үр дүнгээс гадна, decimal формат нь өөр өөр загварууд болон нэг загварын туршид илүү их харьцуулалтыг үүсгэдэг. Эффект хамгийн чухал зүйлсэд хамгийн хүчтэй байдаг: хязгаарлагдмал, хязгаарлагдмал хэв маяг дээр. Цааш: Хэрэв та өөрчилж чанарыг хүсэж байгаа бол, эсвэл загварууд хооронд итгэл харьцуулахыг төлөвлөж байгаа бол, Decimal формат нь танд илүү хязгаарлагдмал хуваалцах боломжийг олгодог. Ямар ч юу байж болох юм? Токенизацийн гипотеза нь зөв арга зам дээр байсан боловч арга замгүй байсан. Энд шинэчлэгдсэн интерпретаци: Нөхцөл префикс нь зүгээр л хэмжээ тохируулах биш, энэ нь a . Хэрэв загвар эхлэх дараа , энэ нь "хязгаарлалт газар" дээр юм, харин decimal-ийн хэлбэлзэл нь сургалтын өгөгдлийн талаар сайн суралцаж байна. 0 болон 1 хооронд чадварыг техникийн текстийн хооронд байдаг, загварууд энэ диапазоны үнэ цэнэтэй талаар хүчтэй урьдчилан байна. 0. Сэтгэгдэл 0. Өнгөрсөн итгэл үзүүлэлт, өөрсдийн хувьд, бага хязгаарлагдмал байдаг. Дараа нь ямар ч зүйл байж болно, энэ нь зөвхөн тоо юм. загварыг probability-reasoning режимууд руу уутгах, зарим загварууд нь зэвэрдэггүй эвристик нь тохиромжтой. Gemma 3n GPT-5.2 нь итгэлгүй байгаа үед хязгаарлагдмал хоорондын хоорондын хоорондын хоорондын хоорондын хоорондын хоорондын хоорондын хоорондын хоорондын хоорондын хоорондын хоорондын хоорондын хоорондын хоорондын хоорондын хоорондын хоорондын хоорондын хоорондын хоорондын хоорондын хоорондын хоорондын хоорондын хоорондын хоорондын хоорондын хоорондын хоорондын хоорондын хоорондын хоорондын хоорондын хоорондын хоорондын хоорондын хоорондын хоорондын хоорондын хоорондын хоорондын хоорондын хоорондын хо 65 "confidence": 0. 65 Практик Takeaways Энэ нь нарийвчлалтай импортын хувьд илүү конзерватив ач холбогдол, загварууд хооронд илүү нарийвчлалтай импортын хувьд илүү конзерватив ач холбогдол, байгалийн импортын дээр цайрдлын форматтай харахын тулд харуулж байна. Префикс загварыг загваруудд илүү сайн калибрах чадварыг идэвхжүүлэхийн тулд харуулж байна. Use decimal (0.0–1.0) format for confidence scores. 0. Qwen3 болон Llama 4 цайрдсан цайрдсан тохиромжтой; GPT-5.2 болон Gemma 3n биш. If you must use integers Үүнээс гадна хамгийн сайн тохиолдолд (децимал формат), 4 өөр SOTA загварууд нь 5.3 нь 28.8 хүртэл янз бүрийн өөр итгэл түвшин өгч байна. Эдгээр тоо нь калибрированный чадварыг биш юм. Don't trust confidence scores blindly regardless of format. Хязгаарлалт Энэ нь 5 минутын харьцуулалт юм, хязгаарлагдмал судалгаа биш юм. Нэг контекст, гурван эмчилгээ, 4 загвар, 10 удаа үзсэн. Эффект контекст-зависимый, prompt-зависимый, эсвэл температур-зависимый байж болох юм. / tokenization split нь зарим tokenizers-ийг онцгой бөгөөд шалгаж буй бүх загваруудад хэрэглэнэгүй байж болох юм. Дээрх дараах нь долоо хоногт контекст, температурт өөрчилж, logprobs-ийг шууд шалгаж болно. 0. 98 Гэсэн хэдий ч, LLM хоолой үүсгэх хүмүүст зориулсан хурдан сангийн шалгалтын хувьд: да, энэ загвар сонголт нь чухал юм. Хэрэв та үүнийг татаж авах хүсч байна уу? Энэ талаар дэлгэрэнгүй ! Бизнесийн блог Зохиогчийн эрх + мэдээлэл олж болно Энд Together.ai болон OpenAI API-г 7 хоёрдугаар сар 2026 дээр туршилтын загварууд. Хэвлэсэн өгөгдөл: 6 загваруудтай 1.080 төгсгөлт (4 үйл ажиллагаатай, 2 үнэгүй хариултууд) returned. No reasoning tokens were used — models produced only the confidence number.

Walkthroughs, tutorials, guides, and tips. This story will teach you how to do something new or how to do something better.

Read My Stories

Энэхүү аудио нь түүхийн эх хэлээр хийгдсэн болно!

Тавтай морилно уу Тавтай морилно уу Тавтай морилно уу

About Author

Сэтгэгдлүүд

TAG ҮҮ

ЭНЭ ӨГҮҮЛЛИЙГ ТОЛГОЙЛУУЛСАН

Related Stories

Light-Mode

Classic

Newspaper

Minty

Dark-Mode

Neon Noir

Minty

HN StartUps