Veliki jezični modeli (LLM) vrlo su popularni u softverskom svijetu ovih dana.Uvode nove članke, blogove, tečajeve i modele od vodećih tvrtki u našoj industriji, kao što su Meta, Huggingface, Microsoft, itd., što zahtijeva da pažljivo pratimo nove tehnologije. Odlučili smo napisati neke kratke, informativne članke kako bismo predstavili ove teme i bili ažurni o najnovijoj tehnologiji.Prva tema koju ćemo pokriti bit će RAG (Retrieval-Augmented Generation). Stvorit ćemo seriju članaka na temu koju smo odredili, s tri različita članka koji su korisni i međusobno se dopunjuju. Veliki jezični modeli ušli su u svaki aspekt našeg života. Mogli bismo reći da su revolucionarizirali područje. Međutim, oni nisu tako besprijekorno alat kao što ih volimo nazvati. Također ima veliki nedostatak: vjeran je svojoj obuci. Ostaje vjeran podacima na kojima je obučena. Ne mogu odstupiti od toga. Model koji je završio obuku u studenom 2022. neće moći savladati vijesti, zakone, tehnološki razvoj itd., koji su se pojavili u siječnju 2023. To je zato što je njegov razvoj bio dovršen prije tog datuma. Naravno, ovaj problem nije ostao neriješen, a predstavljen je novi proizvod, novi sustav. Sistem RAG (Retrieval-Augmented Generation) pojavio se kako bi vam pružio ažurirane informacije kad god vam je to potrebno. U ostatku našeg članka, pogledajmo bliže i sustav koji je stvoren s modelom LLM i sustavom RAG, jedan po jedan, kako bismo ih upoznali. Pristup informacijama u LLM modelima Načelo rada velikih jezičnih modela temelji se na podacima podučavanim tijekom obuke, drugim riječima, statičko znanje. Oni nemaju sposobnost da izvuku vanjske podatke bilo kojim sredstvima. Da biste dali primjer, razmotrite dijete. Ako uklonimo vanjsku komunikaciju ovog djeteta i naučimo ih samo engleski, nećemo moći čuti nijednu kinesku riječ od njih. To je zato što smo odgojili dijete koje je tekuće na engleskom, a ne na kineskom. Odrezanjem njihove povezanosti s vanjskim svijetom, također smo ograničili njihovu sposobnost učenja iz vanjskih izvora. Još jedna značajka LLM modela je da su crne kutije. Ovi modeli nisu u potpunosti svjesni zašto obavljaju operacije koje obavljaju. Oni temelje svoje izračune isključivo na matematičkim operacijama. Pitanje bilo kojeg LLM modela, "Zašto ste dali taj odgovor?" Vjerojatno ga gurate previše. Oni ne odgovaraju na pitanja kroz razmatranje ili istraživanje. Ključna riječ ovdje je "zašto?" Također možemo smatrati da je to bug u LLM modelima. Da bismo bolje razumjeli ovu strukturu, razmotrimo primjer iz područja zdravstvene skrbi. Kada korisnik pita: "Imam bol u licu i očima i uporni postnasalni kap. Što bih trebao učiniti?", LLM model može odgovoriti: "Bol u licu i očima, a postnasalni kapi mogu biti znakovi sinusitisa. Molimo posavjetujte se s liječnikom. Akutni sinusitis tretira se antibioticima. Osim lijekova, možete koristiti nosne sprejeve kao što su morska voda ili salina za smirivanje sinusa." Sve izgleda normalno do ove točke. Ali ako pitamo model, "Zašto ste dali taj odgovor?" nakon ovog odgovora, stvari postaju komplicirane. Razlog zašto je model dao ovaj odgovor je zato što su riječi "boja lica" i "nosa kap" često pojavljivali zajedno sa riječju "sinusitis" u podacima o obuci. Ovi modeli preferiraju pohranjivati informacije u svojoj memoriji kao statistički uzorak. Budući da ne voli pohranjivati informacije u svom pamćenju na temelju izvora, on odgovara na pitanje i odmah zadovoljava većinu ljudi, ali kada ljudi s više istraživačke prirode pitaju model, "Zašto ste dali ovaj odgovor?", model ne proizvodi nikakav objašnjavajući odgovor. RAG: Kombinacija LLM-ova s sustavima povrata RAG sustavi nude inovacije u usporedbi sa sustavima izgrađenima na čistim LLM modelima. Jedan od njih je da rade s dinamičkim informacijama, a ne statičkim informacijama poput LLM modela. Drugim riječima, oni također skeniraju vanjske izvore bez ograničavanja na podatke na koje su obučeni. Prvo "r" u RAG-u znači preuzimanje. Uloga komponente za preuzimanje je izvršavanje operacija pretraživanja. Generator je druga glavna komponenta, a njegova uloga je generirati ispravan odgovor na temelju povrataka preuzimanja podataka.U ovom članku ćemo se kratko dotaknuti načela rada RAG-a: preuzimanje skenira informacije iz vanjskih izvora i preuzima dokumente relevantne za upit korisnika tako što će ih razbiti na male komadiće nazvane "chunks". To vektorizira ove komadiće i korisničko pitanje, a zatim generira najučinkovitiji odgovor ispitivanjem odgovara između njih. Ovaj zadatak generiranja odgovora obavlja "Generation." Detaljno ćemo ga raspravljati u sljedećem članku u ovoj seriji. Te osnovne komponente koje čine RAG sustave čine ga jačom strukturom. Oni ih sprečavaju da budu zaglavljeni u statičke informacije kao što su čisti LLM modeli. RAG sustavi nude značajne prednosti, posebno u mnogim područjima koja zahtijevaju ažurirane informacije. Na primjer, možda ćete željeti stvoriti model liječnika u medicinskom polju. Budući da će vaš model služiti važnom području, neće imati zastarjele ili nepotpune informacije. Medicinski svijet, baš kao i IT sektor, razvija se svaki dan, a nove studije se postavljaju. Stoga se očekuje da će vaš model savladati čak i najnovije studije. U suprotnom riskirate ugroziti ljudski život zavaravajućim modelom. U takvim slučajevima, sustavi koje podržava RAG uklanjaju problem zastarjelih informacija povezivanjem s vanjskim bazama podataka. Temeljna razlika između RAG sustava i LLM modela je osnovna filozofija RAG-a: "Ne pohranjujte informacije, pristupite im kada vam trebaju!" Dok čisti veliki jezični modeli pohranjuju informacije u svojim sjećanjima i proizvode odgovore nakon obuke, RAG sustavi pristupaju informacijama pretraživanjem i skeniranjem izvana kad god im je potrebno, u skladu s njihovom filozofijom. Baš kao što čovjek pretražuje internet, to prevladava jedan od najznačajnijih nedostataka čistih LLM modela: njihovu ovisnost o memoriji. 
 
 
 
 
 
 Scenarij : Korisnik: "Koja je stopa inflacije u SAD-u u prosincu 2024?" LLM: "Prema podacima iz prosinca 2022. godine, to je bilo 6.5%." (Nije ažuriran odgovor) Riječi : 
 
 
 Retrieves December 2024 data from a reliable source or database (World Bank, Trading Economics, etc.). LLM uses this data and responds, "According to Trading Economics, inflation in the United States for December 2024 is announced as 2.9%." Scenario: User: "What is the United States' December 2024 inflation rate?" LLM: "According to December 2022 data, it was 6.5%." (Not an up-to-date answer) RAG: 
 
 
 Preuzima podatke o prosincu 2019. iz pouzdanog izvora ili baze podataka (Svjetska banka, Trgovinska ekonomija itd.). LLM koristi ove podatke i odgovara: "Prema trgovinskoj ekonomiji, inflacija u Sjedinjenim Državama za prosinac 2024. godine najavljena je na 2,9%." Uskoro ćemo usporediti ono što smo do sada razgovarali i predstaviti ga u donjoj tablici. 
 
 
 
 
 
 
 
 
 
 Features 
 LLM (static model) 
 RAG (retrieval-augmented generation) 
 
 
 
 
 Information 
 Limited to training data 
 Can pull real-time information from external sources 
 
 
 
 
 Current Level 
 Low 
 High 
 
 
 
 
 Transparency 
 The source of the decision cannot be disclosed (black box) 
 The source can be cited Informacije Ograničeno na podatke o osposobljavanju Može izvlačiti informacije u realnom vremenu iz vanjskih izvora Trenutačna razina nizak Visoka Transparentnost Izvor odluke se ne može otkriti (crna kutija) Izvor se može citirati U zaključku, ukratko, dok su LLM modeli ograničeni na podatke na koje su obučeni, RAG sustavi nisu samo izgrađeni na određenom LLM modelu i imaju osnovno znanje, već imaju i sposobnost da izvuku informacije u stvarnom vremenu iz vanjskih izvora. Ova prednost osigurava da je uvijek ažurirana. Ovo zaključuje prvi članak u našoj seriji. U sljedećem članku ćemo se udijeliti u više tehničkih aspekata. Za prijatelje koji žele pristupiti ili ispitati praksu ovog rada, mogu pronaći linkove na relevantni repos koji sam stvorio pomoću Pythona i povezanih knjižnica u mom GitHub računu na kraju članka. Vidimo se u sljedećem članku serije. Sljedeći članakJurduševen. daljnje čitanje "Također bismo željeli priznati temeljni doprinos Facebook AI 2020 RAG papira, koji je značajno informirao perspektivu ovog članka." Sljedeći članakGitHub Multimodeli RAG Chatbot projekta PDF RAG Chatbot projekt

Part of HackerNoon's growing list of open-source research papers, promoting free access to academic material.

This story contains new, firsthand information uncovered by the writer.

Read My Stories

Ovaj zvuk je proizveden na izvornom jeziku priče!

RAG sustavi razbijaju barijere jezičnih modela: Evo kako

About Author

KOMENTARI

VIJESI OZNAKE

OVAJ ČLANAK JE PREDSTAVLJEN U

Related Stories

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps