Stalas kairėje 
 
 
 
 
 
 Abstract and Introduction 
 
 
 
 
 
 
 
 
 
 System Architecture 2.1  Access via UI or HTTP 2.1.1  GUI 2.2  Input 2.3  Natural Language Processing Pipeline — The Llettuce API 2.3.1  Vector search 2.3.2  LLM 2.3.3  Concept Matches 2.4  Output 
 
 
 
 
 
 
 
 
 Case Study: Medication Dataset 3.1  Data Description 3.2  Experimental Design 3.3  Results 3.3.1  Comparison between vector search and Usagi 3.3.2  Comparison with GPT-3 3.4  Conclusions & Acknowledgement 3.5  References 2.Sistemos architektūra "Llettuce" buvo parašyta naudojant "Python" tiek užpakalinėje, tiek vartotojo sąsajoje. "Back-end" apima semantinės paieškos vektorių saugyklą, vietinį LLM, skirtą pasiūlyti žemėlapius, ir užklausas į susietą OMOP CDM duomenų bazę, kad vartotojas galėtų gauti siūlomų žemėlapių detales. 2.1 Prieiga per UI arba HTTP Visos sąveikos su Llettuce atliekamos per HTTP užklausas į Llettuce API. POST užklausa pateikiama į Llettuce serverį, kuriame yra JSON tokiu formatu: Dujotiekio parinktys yra neprivalomos, todėl užklausa gali būti tik neoficialių pavadinimų sąrašas. 2.1.1 GUI Naudotojams, kurie yra mažiau patenkinti komandine eilute, pateikiama grafinė vartotojo sąsaja (GUI). Tai yra pastatyta naudojant Streamlit (Streamlit, 2024) Python sistemą ir pateikia vartotojui dvi parinktis. Pirmasis rodo teksto langelį, kuriame vartotojas gali įvesti komos atskirtą neoficialių pavadinimų sąrašą, kad galėtų paleisti per vamzdį. Antrasis leidžia vartotojui įkelti .csv failą ir pasirinkti stulpelį, kuriame yra pavadinimai, kad būtų paleisti per vamzdį. 2.2 Įvadas Llettuce naudoja FastAPI (Ramírez, 2024) API galinių taškų aptarnavimui. Šie galiniai taškai leidžia naudoti skirtingus Llettuce modulių derinius, kad būtų galima rasti koncepcinių pavadinimų. Natūralių kalbų apdorojimo vamzdynas - Llettuce API 2.3.1 Vector search LLM yra geri tekstų kūrimo generatoriai. Tačiau OMOP CDM turi specializuotą žodyną. Norėdami peržengti šį atotrūkį, Llettuce naudoja OMOP koncepcijų įterpimus semantinei paieškai. Buvo įrodyta, kad tik kodavimo transformatoriai gamina kalbos atstovavimus, kad semantiškai susijusios sąvokos yra arti jų įterpimo erdvės (Bengio et al., 2003; Devlin et al., 2019). Llettuce naudoja sakinio įterpimus (Reimers & Gurevych, 2019) kuriant koncepcijų įterpimus. Šie yra saugomi vietoje vektoriaus duomenų bazėje. FastEmbed (‘Qdrant/Fembasted’, 2023, 14 liepos / Įterptoji sąvoka yra lyginama su saugomais vek Aukščiausios klasės įterpimai naudojami atkūrimo padidėjusiam generavimui (RAG) (Lewis et.al., 2021). RAG režimu vamzdynas pirmiausia užklauso vektoriaus duomenų bazę. Įterpimų panašumo riba buvo nustatyta taip, kad įterpimai aukščiau yra tikslūs. Jei yra įterpimas, kurio balas yra didesnis už šį slenkstį, jie pateikiami vartotojui. Jei nėra labai artimo atitikimo, įterpimai įterpiami į užklausą, kuri tarnauja kaip įvesties į LLM, kaip aptariama toliau. Priežastis yra ta, kad įterpimai gali turėti atsakymą, kurį LLM gali pasirinkti, arba užuomina, kas gali būti arti tinkamo atsakymo. 2.3.2 LLM Llettuce naudoja Llama.cpp (Gerganov et al., 2024) paleisti naujausią Llama LLM iš Meta (Dubey et al., 2024). Llama.cpp suteikia API paleisti transformatorių išvadą. Jis aptinka turimą techninę įrangą ir naudoja optimizavimą efektyviai išvadą veikia centrinių procesorių (CPU). Mūsų atvejo tyrime išbandyta Llama versija turi 8 milijardus parametrų (Llama 3.1 8B). Modeliams mokoma naudoti kiekvieną parametrą kaip 32 bitų plūduriuojančio taško numerį. Kvantizacija buvo naudojama modelio dydžiui sumažinti, mažai prarandant tikslumą (Dettmers & Zettlemoyer, 2023; Jacob et al., 2017). Visiško tikslumo Llama 3.1 8B reikia daugiau nei 32 GB RAM, o 4 bitų kiekybiniam modeliui reikia mažiau nei 5 GB. Todėl dauguma vartotojų nešiojamų kompiuterių gali išlaikyti modelį atmintyje Llettuce naudoja Haystack (deepset GmbH, 2024) savo LLM vamzdynams organizuoti. LLM tik vamzdynams yra vienas komponentas, kuris naudoja neformalų pavadinimą ir įterpia jį į užklausos šabloną, o kitas, kuris pristato šį užklausą LLM. Šiais atvejais naudojamas užklausas naudoja Llama modeliams rekomenduojamus metodus („Meta-Llama/Llama-Recipes“, 2023, liepos 17/2024). Pavyzdžiui, RAG žingsnis apima išsamias, aiškias instrukcijas You are an assistant that suggests formal RxNorm names for a medication. You will be given the name of a medication, along with some possibly related RxNorm terms. If you do not think these terms are related, ignore them when making your suggestion. Respond only with the formal name of the medication, without any extra explanation. Ši raginimo dalis taip pat suteikia LLM vaidmenį, kuris, kaip įrodyta, pagerina atsakymų nuoseklumą(Kong et al., 2024). Svarbu, kad raginimas apima neformalaus vardo / oficialių vardų porų pavyzdžių pateikimą, veiksmingą LLM raginimo taktiką (Brown et al., 2020): Kai LLM padarė išvadą formalaus pavadinimo neformalaus pavadinimo, šis formalus pavadinimas yra naudojamas kaip koncepcijos pavadinimas parametrizuotoje OMOP CDM užklausą. 2.3.3 Concept Matches Norint gauti bet kokios koncepcijos detales per „Llettuce“ vamzdyną, užklausoma OMOP CDM duomenų bazė. OMOP CDM užklausos generuojamos naudojant objektinio ryšio žemėlapį per SQLAlchemy (Bayer, 2012). Koncepcijos vardo lauke naudojama eilutė pirmiausia iš anksto apdorojama pašalinant punktavimą ir sustabdant žodžius ir suskaidant žodžius su vamzdžio simboliu suderinamumui su „PostgreSQL“ duomenų bazės teksto paieška. Pavyzdžiui, eilutėje „paracetamolis ir kofeinas“ pašalinamas sustabdytas žodis „ir“, o likę 196 žodžiai naudojami norint sukurti eilutę „paracetamolis ir kofeinas“. Šio paieškos termino žodžiai naudojami teksto paieškos 2.4 Išėjimai Llettuce vamzdynai išleidžia JSON, kuriame yra vamzdynų rezultatai. Pavyzdžiui, vamzdynui, kuriame veikia LLM ir OMOP užklausa, įvesties užklausa pateikiama taip: {"pavadinimai": ["Betnovate skalpų taikymas"] grąžina JSON išvestį „įvykiams“ llm_output ir omop_output už kiekvieną į Llettuce siunčiamą vardą. llm_output yra atsakymas į LLM atsakymą, neformalus_vardas, pateiktas prašyme, ir meta apibūdinantys metaduomenys apie LLM vykdymą. Omop_output įvykis apima paieškos terminą, išsiųstą į OMOP-CDM, tada CONCEPT diapazoną, kur kiekvienas elementas atitinka slenkstį, nustatytą neaiškios eilutės atitikties atveju. Kiekvienas elementas apibūdina concept_name, concept_id, vocabulary_id ir concept_code iš OMOP-CDM koncepcijos lentelės, po kurio seka concept_name_similarity_score, apskaičiuotas Llettuce. Llettuce taip pat turi galimybę gauti papildomos informacijos iš OMOP-CDM, kuri nėra įgalinta numatytoje konfigūracijoje, kuri yra įtraukta į kiekvienos koncepcijos įrašą. GUI analizuoja tai ir rodo jį labiau patogiu formatu. 
 
 
 
 
 
 
 
 
 
 
 
 
 Autorių : (1) James Mitchell-White, Sveikatos informatikos centras, Medicinos mokykla, Notingemo universitetas, skaitmeninių tyrimų tarnyba, Notingemo universitetas ir NIHR Notingemo biomedicinos tyrimų centras; (2) Reza Omdivar, skaitmeninių tyrimų tarnyba, Notingemo universitetas ir NIHR Notingemo biomedicinos tyrimų centras; (3) Esmond Urwin, Sveikatos informatikos centras, Medicinos mokykla, Notingemo universitetas ir NIHR Notingemo biomedicinos tyrimų centras; (4) Karthikeyan Sivakumar, skaitmeninių tyrimų tarnyba, Notingemo universitetas; (5) Ruizhe Li, NIHR Notingemo biomedicinos tyrimų centras ir Kompiuterių mokslo mokykla, Notingemo universitetas; (6) Andy Rae, Sveikatos informatikos centras, Medicinos mokykla, Notingemo universitetas; (7) Xiaoyan Wang, Lee Kong Chian medicinos mokykla, Nanyang technologijos universitetas, Singapūras; (8) Theresia Mina, Lee Kong Chian medicinos mokykla, Nanyang technologijos universitetas, Singapūras; (9) John Chambers, Lee Kong Chian medicinos mokykla, Nanyang technologijos universitetas, Singapūras ir Epidemiologijos ir biostatistikos katedra, Visuomenės sveikatos mokykla, Imperial College London, Jungtinė Karalystė; (10) Grazziela Figueredo, Sveikatos informatikos centras, Medicinos mokykla, Notingemo universitetas ir NIHR Notingemo biomedicinos tyrimų centras; (11) Philip R Quinlan, Sveikatos informatikos centras, Medicinos mokykla, Notingemo universitetas. Authors: (1) James Mitchell-White, Sveikatos informatikos centras, Medicinos mokykla, Notingemo universitetas, skaitmeninių tyrimų tarnyba, Notingemo universitetas ir NIHR Notingemo biomedicinos tyrimų centras; (2) Reza Omdivar, skaitmeninių tyrimų tarnyba, Notingemo universitetas ir NIHR Notingemo biomedicinos tyrimų centras; (3) Esmond Urwin, Sveikatos informatikos centras, Medicinos mokykla, Notingemo universitetas ir NIHR Notingemo biomedicinos tyrimų centras; (4) Karthikeyan Sivakumar, skaitmeninių tyrimų tarnyba, Notingemo universitetas; (5) Ruizhe Li, NIHR Notingemo biomedicinos tyrimų centras ir Kompiuterių mokslo mokykla, Notingemo universitetas; (6) Andy Rae, Sveikatos informatikos centras, Medicinos mokykla, Notingemo universitetas; (7) Xiaoyan Wang, Lee Kong Chian medicinos mokykla, Nanyang technologijos universitetas, Singapūras; (8) Theresia Mina, Lee Kong Chian medicinos mokykla, Nanyang technologijos universitetas, Singapūras; (9) John Chambers, Lee Kong Chian medicinos mokykla, Nanyang technologijos universitetas, Singapūras ir Epidemiologijos ir biostatistikos katedra, Visuomenės sveikatos mokykla, Imperial College London, Jungtinė Karalystė; (10) Grazziela Figueredo, Sveikatos informatikos centras, Medicinos mokykla, Notingemo universitetas ir NIHR Notingemo biomedicinos tyrimų centras; (11) Philip R Quinlan, Sveikatos informatikos centras, Medicinos mokykla, Notingemo universitetas. 
 
 Šis dokumentas yra prieinamas archive pagal CC BY 4.0 licenciją. Šis popierius yra Pagal CC BY 4.0 licenciją. Prieinama archyve

Part of HackerNoon's growing list of open-source research papers, promoting free access to academic material.

EScholar Technologies

EScholar

Šis garso įrašas sukurtas originalia istorijos kalba!

„Llettuce“: AI įrankis, kuris perkelia „Messi“ medicinos įrašus į standartinį kodą

About Author

KOMENTARAI

PABAIGTI ŽYMES

ŠIS STRAIPSNIS BUVO PRISTATYMAS

Related Stories

Light-Mode

Classic

Newspaper

Minty

Dark-Mode

Neon Noir

Minty

HN StartUps