Duże modele językowe (LLM) są bardzo popularne w dzisiejszym świecie oprogramowania. wprowadzają nowe artykuły, posty na blogu, kursy i modele od wiodących firm w naszej branży, takich jak Meta, Huggingface, Microsoft itp., Co wymaga od nas ścisłego śledzenia nowych technologii. Postanowiliśmy napisać kilka krótkich, pouczających artykułów, aby wprowadzić te tematy i być na bieżąco z najnowszymi technologiami. Stworzymy serię artykułów na określony przez nas temat, z trzema różnymi artykułami, które są przydatne i wzajemnie się uzupełniają. Wielkie modele językowe weszły w każdy aspekt naszego życia. Moglibyśmy powiedzieć, że zrewolucjonizowały pole. Jednak nie są tak bezproblemowym narzędziem, jak chcielibyśmy je nazwać. Ma również główną wadę: jest wierny swoim szkoleniom. Pozostaje wierny danym, na których został przeszkolony. Nie mogą od tego odstąpić. Model, który ukończył szkolenie w listopadzie 2022 roku, nie będzie w stanie opanować wiadomości, przepisów, rozwoju technologicznego itp., które pojawiły się w styczniu 2023 roku. Na przykład model LLM, który ukończył szkolenie i wszedł do służby w 2021 roku, nie może odpowiedzieć na pytanie o wojnę Rosja-Ukraina, która rozpoczęła się 24 lutego 2022 roku. To dlatego, że jego rozwój został zakończony przed tą datą. Oczywiście, ten problem nie pozostał nierozwiązany, a nowy produkt, nowy system, został wprowadzony. System RAG (Retrieval-Augmented Generation) pojawił się, aby dostarczyć Ci aktualnych informacji, gdy go potrzebujesz. W pozostałej części naszego artykułu, przyjrzyjmy się bliżej zarówno systemowi stworzonemu z modelem LLM, jak i systemowi RAG, jeden po drugim, aby je poznać. Dostęp do informacji w modelach LLM Zasada działania dużych modeli językowych opiera się na danych nauczanych podczas szkolenia, innymi słowy, statycznej wiedzy. Nie mają one zdolności do wyodrębniania danych zewnętrznych za pomocą jakichkolwiek środków. Aby dać przykład, rozważ dziecko. To dlatego, że wychowaliśmy dziecko, które jest płynne w języku angielskim, a nie chińskim. Odcinając ich połączenie ze światem zewnętrznym, ograniczyliśmy również ich zdolność uczenia się od zewnętrznych źródeł. Inną cechą modeli LLM jest to, że są to czarne skrzynki. Modele te nie są w pełni świadome tego, dlaczego wykonują operacje, które wykonują. Opierają swoje obliczenia wyłącznie na operacjach matematycznych. Pytanie dowolnego modelu LLM, "Dlaczego dałeś tę odpowiedź?" Prawdopodobnie naciskasz go zbyt mocno. Nie odpowiadają na pytania poprzez rozumowanie lub badania. Słowo kluczowe tutaj jest "dlaczego?" Możemy również uznać to za błąd w modelach LLM. Aby lepiej zrozumieć tę strukturę, przyjrzyjmy się przykładowi z dziedziny opieki zdrowotnej. Kiedy użytkownik pyta: „Mam ból w twarzy i oczach i uporczywe krople po nosie. Co powinienem zrobić?”, model LLM może odpowiedzieć: „Ból w twarzy i oczach, a krople po nosie mogą być oznakami zapalenia zatok. Proszę skonsultować się z lekarzem. Ostre zapalenie zatok leczy się antybiotykami. Oprócz leków, można użyć aerozoli do nosa, takich jak woda morska lub sól do uspokojenia zatok”. Wszystko wydaje się normalne do tego momentu. Ale jeśli zapytamy modelu, "Dlaczego dałeś tę odpowiedź?" po tej odpowiedzi, sprawy stają się skomplikowane. Powodem, dla którego model udzielił tej odpowiedzi jest to, że słowa "ból twarzy" i "kropla nosa" często pojawiały się wraz ze słowem "zapalenie zatok" w danych szkoleniowych. Modele te wolą przechowywać informacje w swojej pamięci jako wzór statystyczny. Ponieważ nie wolą przechowywać informacji w pamięci na podstawie źródeł, odpowiada na pytanie i zaspokaja większość ludzi natychmiast, ale kiedy ludzie o charakterze bardziej badawczym pytają model: "Dlaczego dałeś tę odpowiedź?", model nie daje żadnej odpowiedzi wyjaśniającej. RAG: Łącząc LLM z systemami odbioru Systemy RAG oferują innowacje w porównaniu do systemów zbudowanych na czystych modelach LLM. Jednym z nich jest to, że pracują z informacjami dynamicznymi, a nie statycznymi informacjami, takimi jak modele LLM. Innymi słowy, skanują również zewnętrzne źródła bez ograniczenia się do danych, na których zostały przeszkolone. Pierwsze "r" w RAG oznacza odzyskiwanie. Rola komponentu odzyskiwania polega na wykonywaniu operacji wyszukiwania. Generator jest drugim głównym składnikiem, a jego rolą jest generowanie poprawnej odpowiedzi w oparciu o zwroty odzyskiwania danych.W tym artykule krótko poruszymy zasadę działania RAG: odzyskiwanie skanuje informacje z zewnętrznych źródeł i pobiera dokumenty istotne dla pytania użytkownika, dzieląc je na małe kawałki zwane "chunks". Wektoryzuje te kawałki i pytanie użytkownika, a następnie generuje najskuteczniejszą odpowiedź poprzez zbadanie dopasowania między nimi. To zadanie generowania odpowiedzi jest wykonywane przez „pokolenie”. Omówimy to szczegółowo w następnym artykule w tej serii. Te podstawowe składniki, które tworzą systemy RAG, czynią je silniejszą strukturą. Zapobiegają one uwięzieniu się w statycznych informacjach, takich jak czyste modele LLM. Systemy RAG oferują znaczące zalety, zwłaszcza w wielu dziedzinach, które wymagają aktualnych informacji. Na przykład możesz chcieć stworzyć model lekarza w dziedzinie medycznej. Ponieważ twój model będzie służył ważnemu obszarowi, nie będzie miał przestarzałych lub niekompletnych informacji. Świat medyczny, podobnie jak sektor IT, rozwija się każdego dnia, a nowe badania są prezentowane. Dlatego spodziewa się, że twój model opanuje nawet najnowsze badania. W przeciwnym razie ryzykujesz zagrożenie życia ludzkiego za pomocą wprowadzającego w błąd modelu. W takich przypadkach systemy wspierane przez RAG eliminują problem przestarzałych informacji, łącząc się z zewnętrznymi bazami danych. Podstawową różnicą między systemami RAG a modelami LLM jest główna filozofia RAG: "Nie przechowuj informacji, uzyskuj do nich dostęp, gdy ich potrzebujesz!" Podczas gdy czyste duże modele językowe przechowują informacje w swoich wspomnieniach i produkują odpowiedzi po przeszkoleniu, systemy RAG uzyskują dostęp do informacji poprzez wyszukiwanie i skanowanie na zewnątrz, gdy tego potrzebują, zgodnie z ich filozofią. Podobnie jak człowiek szuka w Internecie, to przezwycięża jedną z najbardziej znaczących wad czystych modeli LLM: ich zależność od pamięci. 
 
 
 
 
 
 Scenariusz : Użytkownik: "Jaka jest stopa inflacji w Stanach Zjednoczonych w grudniu 2024?" LLM: "Według danych z grudnia 2022 roku było to 6,5%." (Nie ma aktualnej odpowiedzi) w RAG: 
 
 
 Otrzymuje dane z grudnia 2017 r. z wiarygodnego źródła lub bazy danych (Bank Światowy, Ekonomia Handlowa itp.). LLM wykorzystuje te dane i odpowiada: "Zgodnie z Trading Economics, inflacja w Stanach Zjednoczonych na grudzień 2024 roku jest ogłaszana jako 2,9%". Scenario: User: "What is the United States' December 2024 inflation rate?" LLM: "According to December 2022 data, it was 6.5%." (Not an up-to-date answer) RAG: 
 
 
 Otrzymuje dane z grudnia 2017 r. z wiarygodnego źródła lub bazy danych (Bank Światowy, Ekonomia Handlowa itp.). LLM wykorzystuje te dane i odpowiada: "Zgodnie z Trading Economics, inflacja w Stanach Zjednoczonych na grudzień 2024 roku jest ogłaszana jako 2,9%". Porównajmy krótko to, o czym dyskutowaliśmy do tej pory i przedstawmy to w poniższej tabeli. 
 
 
 
 
 
 
 
 
 
 Features 
 LLM (static model) 
 RAG (retrieval-augmented generation) 
 
 
 
 
 Information 
 Limited to training data 
 Can pull real-time information from external sources 
 
 
 
 
 Current Level 
 Low 
 High 
 
 
 
 
 Transparency 
 The source of the decision cannot be disclosed (black box) 
 The source can be cited Informacje Ograniczone do danych szkoleniowych Możliwość pobierania informacji w czasie rzeczywistym z zewnętrznych źródeł Obecny poziom niskiej Wysokie przejrzystości Źródła decyzji nie mogą być ujawnione (czarna skrzynka) Źródło można cytować Podsumowując, aby podsumować krótko, podczas gdy modele LLM są ograniczone do danych, na których są szkoleni, systemy RAG nie tylko są zbudowane na konkretnym modelu LLM i mają podstawową wiedzę, ale mają również możliwość wyciągania informacji w czasie rzeczywistym z zewnętrznych źródeł. Ta zaleta zapewnia, że jest zawsze na bieżąco. To kończy pierwszy artykuł w naszej serii. W następnym artykule pogłębimy się w bardziej techniczne aspekty. Dla przyjaciół, którzy chcą uzyskać dostęp lub zbadać praktykę tej pracy, mogą znaleźć linki do odpowiedniego repos, który stworzyłem za pomocą Pythona i powiązanych bibliotek w moim koncie GitHub na końcu artykułu. Mamy nadzieję, że spotkamy się w kolejnym artykule z serii. Miejmy na uwadze YURDUSEVEN. Dalsze czytanie "Chcielibyśmy również uznać podstawowy wkład dokumentu RAG 2020 AI Facebooka, który znacząco informował perspektywę tego artykułu." Szybkość github Wielofunkcyjny projekt RAG Chatbot Pliki PDF RAG Chatbot Project

Part of HackerNoon's growing list of open-source research papers, promoting free access to academic material.

This story contains new, firsthand information uncovered by the writer.

Read My Stories

Ten dźwięk jest produkowany w oryginalnym języku historii!

Systemy RAG łamią bariery modeli językowych: oto jak

About Author

UWAGI

ZAWIEŚĆ TAGI

ARTYKUŁ TEN ZOSTAŁ PREZENTOWANY W

Related Stories

From Desk to HackerNoon: Your Ultimate Guide on How to Publish a Story

Pleasures of the telescope by Garrett Putman Serviss - Table of Links

The Noonies 2022 Award Goes to Madalin Muraretiu - Contributor of The Year - Cryptocurrency Edition

Reach More Readers! BOOST Your Story on HackerNoon

From Desk to HackerNoon: Your Ultimate Guide on How to Publish a Story

Pleasures of the telescope by Garrett Putman Serviss - Table of Links

The Noonies 2022 Award Goes to Madalin Muraretiu - Contributor of The Year - Cryptocurrency Edition

Reach More Readers! BOOST Your Story on HackerNoon

Light-Mode

Classic

Newspaper

Minty

Dark-Mode

Neon Noir

Minty

HN StartUps