LLM Data Drift LLM Pengurusan Data Prediksi heuristik kelihatan dikendalikan oleh peraturan pihak ketiga. Tetapi dalam amalan, pengurusan itu tidak asli kepada model - ia dikenakan secara luaran oleh pengembang melalui lapisan moderasi, penapis selepas pemprosesan, atau peraturan penyesuaian halus yang bertindak seperti sekatan pihak ketiga pada enjin prediksi yang tidak terhad. Ini baik, tetapi ia tidak membantu secara signifikan meningkatkan ketepatan model atau mencipta model yang sedar konteks yang tidak akan meletup dalam bilangan parameter. Kebanyakan LLM (Large Language Models - ChatGPT, Claude, Gemini, Grok, dan lain-lain) tidak berhalusinasi dalam arti tradisional - mereka mengalir. dan mengalir itu bukan bunyi; ia adalah cacat struktur yang dibakar dalam bagaimana model autoregresif meramalkan token: satu langkah pada satu masa, berdasarkan hanya pada masa lalu yang segera. Satu eksperimen yang saya lalui, dan anda boleh lakukan sendiri, adalah mengambil ayat acak, contohnya, 'Predictive AI epsilon, kucing diabetes, staple radio sederhana kepada a, jadi kamus' Dan mempunyai AI yang diberikan ulangi output, dan membawanya ke LLM alternatif untuk lulus kedua, dan lihat berapa banyak ia selaras dengan asal. Dalam teori, LLM harus mampu menyalin kalimat dengan sempurna. Dalam amalan, anda mendapat drift—pergerakan titik, perubahan kata-kata, dan pergeseran kapitalisasi.Dan sebaik sahaja kesilapan kecil itu memasuki output, model seterusnya meramalkan daripada versi yang rosak, menyempurnakan kesilapan dan memperkuat halusinasi. Memperkenalkan lapisan yang dipertaruhkan, memeriksa penyimpangan terhadap input asal, akan membolehkan ramalan yang sedar konteks unsur/token seterusnya. Pada asasnya, kerana ramalan LLM dikunci kepada apa-apa token yang datang sebelum ini, ia boleh Seperti ada sejenis garda di tempat, tetapi sebenarnya model ini beroperasi tanpa konteks sebenar - lebih seperti orak yang menebak peristiwa seterusnya tanpa mengetahui masa kini atau masa lalu. ia boleh menghalang kesilapan yang jelas berikutnya, tetapi mengalir masih merentasi. Lihat Moderasi luaran, RLHF (Pengajaran Pembaharuan Daripada Ulasan Manusia), dan penyesuaian keselamatan mengurangkan pergerakan berbahaya atau di luar topik - dan itu berharga. Mereka tidak memberikan memori model titik permulaan - input pengguna asal - pada setiap langkah token. memindahkan pemeriksaan kesetiaan ke dalam model, sebagai sekatan asli semasa pengeluaran, akan menjadikan LLM menyedari konteks oleh reka bentuk, bukan sahaja mematuhi selepas pemprosesan. Perilaku ini menunjukkan keperluan yang agak dramatis: audit luaran—bukan hanya perhatian kepada token terakhir, tetapi perbandingan aktif terhadap input asal dari dalam model.Ini di mana penyempurnaan yang terhad kepada kesetiaan datang ke dalam. alih-alih membiarkan output berjalan, kami memberlakukan loop penyesuaian: bandingkan setiap rancangan baru bukan sahaja dengan yang terdahulu, tetapi kembali kepada sumber asal.Perlakukan output terdahulu sebagai hipotesis terdahulu, menimbang penyesuaian mereka, dan menarik semula sistem ke arah kebenaran tanah yang stabil. Ujian awal menunjukkan bahawa lapisan sedemikian mengehadkannya kembali ke konteks input asal. Zeno’s Paradox & Tokens Zeno berpendapat bahawa pergerakan menjadi mustahil jika anda memecahkannya kepada siri yang tidak terhingga langkah-langkah kausal yang lebih kecil - setiap langkah hanya merujuk kepada yang tepat sebelum itu. Model bahasa autoregressive jatuh ke dalam perangkap yang sama: setiap token dihasilkan sebagai "langkah kecil seterusnya," bergantung hanya kepada fragmen teks yang mendahului.Ini diselesaikan dalam pemprosesan imej dengan mengubahkan tensor sambil mengekalkan, katakanlah, 10 imej atau keseluruhan set imej atau bingkai untuk mengelakkan masalah berkedip yang mengganggu pemprosesan imej AI dalam tahun-tahun terdahulu. Model ini tidak pernah kembali ke titik permulaan, tidak pernah menubuhkan diri dalam input asal, dan oleh itu tidak pernah mengancam semula laluan. Seperti pelari Zeno yang maju separuh dan tidak pernah mencapai garis akhir, model ini maju token demi token tanpa pernah menubuhkan semula di mana permulaan sebenarnya adalah. Ia akan seperti pelari yang menjalankan marathon tanpa mengetahui laluan penuh atau peta marathon. Myopia struktural ini adalah apa yang membolehkan drift untuk mengumpul, kerana setiap ramalan baru dikondisikan pada keadaan yang sedikit berubah, bukan asal sebenar. Ini menjadikan LLM drift bukan sahaja masalah linguistik, tetapi masalah kausal: masa depan model bergantung kepada masa kini yang terurai, yang dibentuk oleh masa lalu yang tidak sempurna. Sebaik sahaja rantaian mula tergelincir, setiap langkah seterusnya menyatukan kesilapan – tepatnya corak kaskad yang anda lihat apabila anda memindahkan teks dari satu LLM ke yang lain. Tanpa mekanisme untuk secara berkala menghancurkan rantaian pendekatan kembali ke titik rujukan asal, sistem bertindak seperti proses kausal tanpa bingkai mutlak. Penambahbaikan yang dibatasi oleh kesetiaan pada asasnya adalah penyelesaian kepada paradoks ini: dengan terus mengukur setiap hipotesis baru terhadap input asal, anda mengembalikan kebenaran tanah tetap yang memecahkan regresi yang tidak terhingga. Anda mengembalikan konteks yang hilang bahawa proses autoregressive tidak boleh mengakses Image Processing Walaupun drift ini merupakan sifat asas model teks autoregressive, anda tidak melihat tingkah laku yang sama dalam sistem peningkatan imej - dan sebabnya adalah struktural. model pemprosesan imej tidak menghasilkan piksel satu pada satu masa berdasarkan perkiraan terdahulu mereka sendiri; setiap peringkat melihat keseluruhan bingkai pada masa yang sama dan mengubahnya sebagai isyarat lengkap. Denoisers, upscalers, dan unblockers beroperasi dalam konteks spasial penuh, menghasilkan representasi segar, yang mengandungi diri pada setiap lulus.Tidak ada setara dengan "prediksi token seterusnya", tiada ketergantungan kepada rantaian yang rapuh daripada output terdahulu, dan oleh itu tiada komposisi kesilapan kecil ke dalam yang lebih besar.Untuk mencapai kebolehpercayaan yang sebanding, model bahasa memerlukan mekanisme yang berfungsi untuk mengembalikan landasan konteks penuh: langkah penambahbaikan yang terus-menerus membandingkan setiap hipotesis baru kembali kepada input asal, daripada bergantung kepada aliran token terdahulu sebagai satu-satunya sumber kebenaran. Asas pergerakan LLM bukan halusinasi atau kebetulan - ia adalah akibat struktural daripada merawat pengeluaran bahasa sebagai rantaian langkah-langkah kausal mikroskopik. seperti paradoks Zeno, di mana pergerakan menjadi tidak konsisten apabila dikurangkan kepada peningkatan yang lebih kecil tanpa henti, model autoregresif maju token demi token tanpa pernah kembali kepada titik rujukan asal. Setiap langkah bergantung kepada output yang sedikit terurai daripada yang terdahulu, dan tanpa bingkai global, sistem tidak dapat dielakkan daripada sumber. model pemprosesan imej mengelakkan mod kegagalan ini kerana setiap lulus mengevaluasi keseluruhan isyarat pada satu masa, menubuhkan semula output dalam konteks penuh. Mencapai kestabilan yang sama dalam model bahasa mungkin memerlukan pemulihan rujukan global yang setara. Gap-Driven Self-Refinement atau Fidelity-restricted refinement yang disenaraikan melakukannya persis seperti itu: ia terus mengukur setiap hipotesis baru terhadap input asal dan menggunakan rancangan terdahulu sebagai anchors berimbang, menghalang kesilapan kecil daripada kompaun. Dengan mekanisme sedemikian, LLM boleh mengekalkan koherensi di seluruh iterasi dan mengelakkan pergerakan kaskad yang melekat pada ramalan purata tempatan, langkah demi langkah. Further Reading 
 
 
 GIER: Gap-Driven Self-Refinement untuk Model Bahasa Besar Fisik Multi-Fidelity membatasi rangkaian saraf untuk sistem dinamik

The is an opinion piece based on the author’s POV and does not necessarily reflect the views of HackerNoon.

This story contains AI-generated text. The author has used AI either for research, to generate outlines, or write the text itself. 

Read My Stories

Audio ini dihasilkan dalam bahasa asal cerita!

Paradoks Zeno dan Masalah Tokenization AI

About Author

KOMEN

GANTUNG TANDA

ARTIKEL INI DIBENTANGKAN DALAM

Related Stories

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps