Každý deň, umelá inteligencia chatboty hrajú úlohu v našich interakciách, zákazníckej podpory, nástroje produktivity, a ďalšie, pôsobí ako digitálne asistentov pre typické konverzácie. Teraz premýšľajte o dialógu s niekým, kto si nič nepamätá zo včera; to by vás vyžadovalo, aby ste si celý rozhovor zopakovali.Takto by sa cítil chatbot bez kontextu alebo pamäte.Kontextuálna pamäť robí dialóg oveľa plynulejším, ľudsky podobným a užitočným jednoduchým zapamätaním si toho, čo sa v minulosti diskutovalo. Čo je kontextová pamäť v chatbotoch? Kontextová pamäť sa vzťahuje na schopnosť chatbotu mať informácie z minulých interakcií a odkazovať na tieto informácie v budúcich konverzáciách.Namiesto toho, aby chatbot zaobchádzal s každým novým vstupom ako s nezávislou správou, chatbot vytvára spojenia medzi minulými správami a budúcimi správami; to je úzko spojené s konceptom konverzačného stavu. Napríklad : Ak ste minulý týždeň požiadali chatbota, aby vám pripomenul svoj rozvrh cvičenia a dnes poviete: "O koľkej je zajtra moje zasadnutie?" bot by mal pochopiť, že ide o dotaz o rozvrhu pre fitness plánovača. V scenári nákupného chatbotu uvádzate „potrebujem čierne topánky“ a potom hovoríte „Ukáž mi podobné v iných farbách“ a bot sa vás už nebude pýtať, ktorý produkt ste si pozreli. Tento prechod z reaktívnych reakcií na prebiehajúce konverzácie je spôsobený tým, ako je pamäť spracovaná v systémoch chatbotov. Základné vlastnosti Chatbot pamäte Pamäť nie je rovnako vybavená v chatbote. Vývojári sledujú rôzne stratégie v závislosti od konkrétnych cieľov a obmedzení ich príslušných systémov. Krátkodobá pamäť: Sleduje konverzácie, ktoré sa vyskytujú v rámci jednej relácie.Ak poviete „áno“ alebo „nie“, bot presne vie, na čo reagujete. Dlhodobá pamäť: uchováva informácie medzi interakciami.Informácie môžu zahŕňať identifikovateľné fakty, ako je vaše meno, možnosti, pre ktoré ste predtým zobrazili preferencie, alebo možno vyhlásenia, ktoré ste urobili v minulosti. Epizodická pamäť: Sofistikovanejšie systémy si teraz pamätajú konkrétne interakcie z minulosti, takmer ako si pamätajú príbeh. „Pamätáte si, že som minulý mesiac požiadal o odporúčania pre notebooky?“ Kombinácia týchto vrstiev informuje, ako chatbot môže pokračovať v stave konverzácie a pomôcť interakcii cítiť sa viac ako hovoríte s konverzačným partnerom oproti transakčnému zariadeniu. Výzvy v kontexte retencie Samozrejme, dávanie pamäte nie je ako otočenie prepínača. Vývojári čelia rôznym výzvam, pokiaľ ide o budovanie systémov založených na kontexte: Úložisko dát: Pamäť by mohla vytvoriť veľmi veľkú databázu histórie chatu, ktorá môže zaberať veľa zdrojov, aby ušetrila pre koncového používateľa. Obavy o súkromie: Uloženie identifikovateľných informácií bude vyžadovať výslovný súhlas používateľa a dodržiavanie predpisov, ako je GDPR. Filtrácia relevantnosti: Nie každý kontext môže byť užitočný. Problémom je, ako naučiť robota, čo má byť uložené a čo má byť ignorované. Napríklad, môže byť užitočné zapamätať si svoju obľúbenú značku kávy, zatiaľ čo prázdne malé rozhovory nemusia byť uložené. Error Compounding: Jediná nesprávna interpretácia môže potom nasledovať v následných konverzáciách, čo spôsobuje opakujúce sa nedorozumenia, ak sa bot spomína na „nesprávny kontext“. Tieto problémy nám teda dávajú veľmi silný náznak toho, že zachovanie kontextu ide nad rámec jednoduchého inžinierskeho problému a je v skutočnosti aj otázkou dizajnu a etiky. Technológie pre pamäť vo vývoji AI Chatbot Dnes vývojári používajú prístupy založené na dizajne a strojovom učení v hybridnej metóde na implementáciu konverzačnej pamäte. ID relácie a tokeny: Najzákladnejšia forma pamäte, ktorá jednoducho označuje reláciu, čo umožňuje kontextu existovať tak dlho, ako relácia pokračuje. Databázové prepojené profily: Inteligentný krok-up proces, v ktorom roboty vytvárajú užívateľské profily prepojené s ich ID na viacerých platformách, čím sa rozvíjajú dlhodobé pamäte. Vkladanie a vyhľadávanie vektorov: techniky založené na umelej inteligencii, ktoré umožňujú chatbotom „zapamätať si“ detaily nie ako statické záznamy, ale skôr ako pripojenia uložené ako vysoko dimenzionálne vektory. Fine-tuned LLMs s pamäťovými vrstvami: Niektoré veľké jazykové modely teraz majú pamäťové vrstvy obsiahnuté v neurálnych sieťach, čím poskytujú menej mechanickú formu zapamätania si toho, čo bot predtým získal a trénoval vedomosti. Všetky prístupy budú mať efektívnosť, náklady, aspekty ochrany súkromia a kompromisy presnosti.Ale na konci dňa je ten istý cieľ: udržiavať primeraný stav konverzácie v priebehu času. Reálny vplyv zachovania kontextu Potreba strojovej pamäte nie je teoretická; vidíme jej dôsledky, keď ľudia prijímajú alebo neprijímajú platformy založené na chate. Zákaznícky servis: Podporný bot, ktorý si pamätá vaše najnovšie číslo lístka a môže uskutočniť a vyzdvihnúť z konverzácie, sa cíti oveľa viac zameraný na zákazníka ako iný bot, ktorý spotrebiteľ začne z nuly zakaždým. Zdravotná starostlivosť: Virtuálni asistenti, ktorí si časom pamätajú predchádzajúce rozvrhy liekov, môžu znížiť zaťaženie pacientov. E-commerce: Boty, ktoré navrhujú nové produkty na zobrazenie na základe predtým zobrazených produktov, môžu viesť k konverzii. Vzdelávanie: Vzdelávacie roboty, ktoré sú schopné sledovať pokrok študentov v priebehu času, môžu vytvoriť prispôsobené plány lekcií namiesto všeobecných návrhov na splnenie cieľov učenia. Tieto kontexty nám ukazujú, ako zachovanie kontextu transformuje chatboty zo statických otázok a otázok na dynamických asistentov, ktorí sa cítia kalibrovaní podľa potrieb používateľa. Budúcnosť konverzačného štátu Budúcnosť je vyrovnávací akt: používanie pamäte na poskytnutie väčšieho výkonu a schopností, pričom sa zabezpečí, že používateľ je stále v kontrole.Keď sa pamäť v chatbotoch stáva realitou, s najväčšou pravdepodobnosťou uvidíme, že vývojári poskytujú zelenšiu vrstvu inteligentnosti a sily zahrnutím dlhodobého kontextu pri spravovaní užívateľského zážitku okolo vymazania súkromia. Môžeme očakávať: Adaptívne zabudnutie: Systémy, ktoré filtrujú informácie, ktoré sú časom menej relevantné, pričom si zachovávajú relevantné informácie. Napríklad, keď sa spojíte so svojím chatbotom na notebooku, zachytí spomienky z konverzácie a keď prepnete na telefón, pokračuje v konverzácii. Transparentné ovládacie prvky pamäte: Systémy, ktoré používateľovi umožňujú prístup, úpravu alebo odstránenie spomienok z chatbotov. Koniec koncov, kontextová pamäť nie je vlastnosťou budúcnosti konverzačnej AI; je to nevyhnutná súčasť budovania zmysluplného AI chatbotu. Bez pamäte existujú chatboty ako transakčné nástroje. Konečné myšlienky Chatboty, ktoré nemajú pamäť, budú mať rozhovor, ktorý nemá históriu: môžu reagovať, ale nemá to zmysel.Správy, ktoré posielame dnes, budú informovať a umožňovať správy, ktoré posielame zajtra. Takže, keďže chatboty sú všade v pracovnom a osobnom živote, výzvou je užitočne zapojiť sa do pamäte svojich činov. Čo stojí za to udržať? Čo stojí za to stratiť? Ako konverzácie získavajú zmysel v priebehu času? Pretože v konečnom dôsledku pre AI a pre nás je kontext všetko.