Baloldali asztal 
 
 
 
 
 
 Abstract and Introduction 
 
 
 
 
 
 
 
 
 
 System Architecture 2.1  Access via UI or HTTP 2.1.1  GUI 2.2  Input 2.3  Natural Language Processing Pipeline — The Llettuce API 2.3.1  Vector search 2.3.2  LLM 2.3.3  Concept Matches 2.4  Output 
 
 
 
 
 
 
 
 
 Case Study: Medication Dataset 3.1  Data Description 3.2  Experimental Design 3.3  Results 3.3.1  Comparison between vector search and Usagi 3.3.2  Comparison with GPT-3 3.4  Conclusions & Acknowledgement 3.5  References 2. Rendszerarchitektúra A back-end magában foglal egy vektortárat a szemantikus kereséshez, egy helyi LLM-t a térképek javaslatára, és lekérdezéseket egy kapcsolódó OMOP CDM adatbázishoz, hogy a felhasználó számára a javasolt térképek részleteit biztosítsák. 2.1 Hozzáférés UI vagy HTTP útján Minden interakció a Llettuce-val a Llettuce API-hoz intézett HTTP-kérelmek útján történik. egy POST-kérelmet a következő formátumú JSON-t tartalmazó Llettuce-kiszolgálóra küldünk: A csővezeték-beállítások opcionálisak, így a kérés csak az informális nevek listája lehet. 2.1.1 GUI A felhasználók számára, akik kevésbé kényelmesek a parancssorral, grafikus felhasználói felületet (GUI) biztosítanak. Ez a Streamlit (Streamlit, 2024) Python keretrendszer használatával épül fel, és két lehetőséget kínál a felhasználónak. Az első egy szöveges mezőt jelenít meg, ahol a felhasználó beírhatja az informális nevek listáját a csővezetéken keresztül. A második lehetővé teszi a felhasználó számára, hogy .csv fájlt töltsön fel, és válasszon ki egy oszlopot, amely neveket tartalmaz a csővezetéken keresztül. Mindkét lehetőség esetében a csővezeték eredményei a bemenet alatt jelennek meg. 2.2 Belépő A Llettuce a FastAPI-t (Ramírez, 2024) használja API-végpontok kiszolgálására. Ezek a végpontok lehetővé teszik a Llettuce modulok különböző kombinációinak használatát a koncepciónevek megtalálásához. Természetes nyelvi feldolgozási csővezeték – Llettuce API 2.3.1 Vector search Az LLM-ek jó általánosítók a szövegtermeléshez. Az OMOP CDM-nek azonban speciális szókincsje van. E szakadék áthidalására a Llettuce az OMOP-konceptek beágyazásait használja a szemantikus kereséshez. Kimutatták, hogy a csak kódolóval működő transzformátorok olyan nyelvi képviseleteket hoznak létre, amelyek szemantikusan kapcsolódó fogalmakhoz közel állnak a beágyazások térében (Bengio et al., 2003; Devlin et al., 2019). A Llettuce mondatbeágazásokat (Reimers & Gurevych, 2019) használ a fogalmak beágyazásainak generálásához. Ezek helyileg tárolódnak egy vektor adatbázisban. FastEmbed (‘Qdrant/Fembasted A legfelső k beágyazásokat a RAG (Retryval Augmented Generation) (Lewis et.al., 2021) esetében használják. A RAG módban a csővezeték először lekérdezi a vektor adatbázist. A beágyazások hasonlóságára vonatkozó küszöbértéket úgy állították be, hogy a fenti beágyazások pontos egyeztetések legyenek. Ha van egy beágyazás, amelynek pontszáma meghaladja ezt a küszöbértéket, ezeket a felhasználó rendelkezésére bocsátják. Ha nincs nagyon szoros egyeztetés, a beágyazásokat beágyazzák egy utasításba, amely az LLM-be való belépésként szolgál, amint azt a következőkben tárgyaljuk. Az érvelés az, hogy a szoros 2.3.2 LLM Llettuce használ Llama.cpp (Gerganov és társai, 2024) futtatni a legújabb Llama LLM a Meta (Dubey és társai, 2024). Llama.cpp egy API futtatására transzformátor következtetés. Ez észleli a rendelkezésre álló hardver és használ optimalizálások hatékony következtetés fut a központi feldolgozóegységek (CPU-k). A Llama esettanulmányunkban tesztelt változata 8 milliárd paramétert tartalmaz (Llama 3.1 8B). A modelleket minden paramétert 32 bites úszópontszámként tanítják. A mennyiséget a modell méretének csökkentésére használták, kis pontossági veszteséggel (Dettmers & Zettlemoyer, 2023; Jacob et al., 2017). A teljes pontosságú Llama 3.1 8B több mint 32 GB RAM-ot igényel a futáshoz, míg a 4 bites mennyiségi modell kevesebb mint 5 GB-ot igényel. A Llettuce a Haystack-ot (deepset GmbH, 2024) használja LLM csővezetékek szervezésére. Az LLM-only csővezetékek esetében van egy olyan komponens, amely informális nevet vesz fel és beilleszt egy prompt sablonba, és egy másik, amely ezt a promptet az LLM-nek szállítja. Például a RAG utasítás részletes, egyértelmű utasításokat tartalmaz You are an assistant that suggests formal RxNorm names for a medication. You will be given the name of a medication, along with some possibly related RxNorm terms. If you do not think these terms are related, ignore them when making your suggestion. Respond only with the formal name of the medication, without any extra explanation. A felhívás ezen része szerepet játszik az LLM-ben is, amely bizonyítottan javítja a válaszok következetességét(Kong et al., 2024). Fontos, hogy a felhívás magában foglalja az informális név / hivatalos névpár példáinak biztosítását, amely hatékony taktika az LLM felhívására (Brown et al., 2020): Miután az LLM a rendelkezésre álló informális név hivatalos nevét levonták, ezt a hivatalos nevet fogalmi névként használják egy paraméterezett OMOP CDM lekérdezésben. 2.3.3 Concept Matches Az OMOP CDM lekérdezéseket objektum-relációs térképezéssel generálják az SQLAlchemy (Bayer, 2012) segítségével. A koncepciónevek mezőjére használt szál elsődleges feldolgozása azáltal történik, hogy eltávolítja a pontszámot és megállítja a szavakat, és felosztja a szavakat a csőkarakterrel a PostgreSQL-szel való kompatibilitás érdekében az adatbázisban. Például a „paracetamol és a koffein” szál a „és” szót eltávolítja, és a maradék 196 szót használják a „paracetamol-caffeine” szál létrehozására. Ennek a keresési kifejezésnek a szavait a kiválasztott OMOP szókincsek koncepciós neveivel szembeni szöveges kereséshez használják. 2.4 Kiadás A Llettuce csővezetékek olyan JSON-t bocsátanak ki, amely a csővezeték eredményeit tartalmazza. Például egy csővezeték esetében, amely az LLM és az OMOP lekérdezést futtatja, a következő beviteli kérelem: {"nevek": ["Betnovate Scalp Alkalmazás" ] Visszaadja a JSON kimenet a „események” llm_output és omop_output minden egyes név küldött Llettuce. A llm_output tartalmazza az LLM válaszát, a kérésben megadott informális nevet és az LLM futásával kapcsolatos meta metaadatokat. Az omop_output esemény tartalmazza az OMOP-CDM-nek küldött search_term-et, majd egy CONCEPT-sorozatot, ahol minden egyes elem egyezik meg a homályos vonalmegfelelésre beállított küszöbértékkel. Minden egyes elem leírja a concept_name, concept_id, vocabulary_id és concept_code-t az OMOP-CDM koncepciós táblájából, majd a concept_name_similarity_score-t, amelyet Llettuce-ban számítanak ki. A GUI elemzi ezt, és felhasználóbarátabb formátumban jeleníti meg. 
 
 
 
 
 
 
 
 
 
 
 
 
 A szerzők: (1) James Mitchell-White, Center for Health Informatics, School of Medicine, The University of Nottingham, Digital Research Service, The University of Nottingham, és NIHR Nottingham Biomedical Research Center; (2) Reza Omdivar, a Digitális Kutatási Szolgálat, a Nottingham Egyetem és a NIHR Nottingham Biomedical Research Center; (3) Esmond Urwin, Egészségügyi Informatikai Központ, Orvostudományi Iskola, Nottingham Egyetem és NIHR Nottingham Biomedical Research Center; (4) Karthikeyan Sivakumar, Digitális Kutatási Szolgálat, Nottingham Egyetem; (5) Ruizhe Li, NIHR Nottingham Biomedical Research Center és a School of Computer Science, a University of Nottingham; (6) Andy Rae, Egészségügyi Informatikai Központ, Orvostudományi Iskola, Nottingham Egyetem; (7) Xiaoyan Wang, Lee Kong Chian Orvosi Iskola, Nanyang Műszaki Egyetem, Szingapúr; (8) Theresia Mina, Lee Kong Chian Orvosi Iskola, Nanyang Műszaki Egyetem, Szingapúr; (9) John Chambers, Lee Kong Chian Orvostudományi Iskola, Nanyang Műszaki Egyetem, Szingapúr és Epidemiológiai és Biostatisztikai Tanszék, Közegészségügyi Iskola, Imperial College London, Egyesült Királyság; (10) Grazziela Figueredo, Egészségügyi Informatikai Központ, Orvostudományi Iskola, Nottingham Egyetem és NIHR Nottingham Biomedical Research Center; (11) Philip R Quinlan, Center for Health Informatics, School of Medicine, The University of Nottingham. Authors: (1) James Mitchell-White, Center for Health Informatics, School of Medicine, The University of Nottingham, Digital Research Service, The University of Nottingham, és NIHR Nottingham Biomedical Research Center; (2) Reza Omdivar, a Digitális Kutatási Szolgálat, a Nottingham Egyetem és a NIHR Nottingham Biomedical Research Center; (3) Esmond Urwin, Egészségügyi Informatikai Központ, Orvostudományi Iskola, Nottingham Egyetem és NIHR Nottingham Biomedical Research Center; (4) Karthikeyan Sivakumar, Digitális Kutatási Szolgálat, Nottingham Egyetem; (5) Ruizhe Li, NIHR Nottingham Biomedical Research Center és a School of Computer Science, a University of Nottingham; (6) Andy Rae, Egészségügyi Informatikai Központ, Orvostudományi Iskola, Nottingham Egyetem; (7) Xiaoyan Wang, Lee Kong Chian Orvosi Iskola, Nanyang Műszaki Egyetem, Szingapúr; (8) Theresia Mina, Lee Kong Chian Orvosi Iskola, Nanyang Műszaki Egyetem, Szingapúr; (9) John Chambers, Lee Kong Chian Orvostudományi Iskola, Nanyang Műszaki Egyetem, Szingapúr és Epidemiológiai és Biostatisztikai Tanszék, Közegészségügyi Iskola, Imperial College London, Egyesült Királyság; (10) Grazziela Figueredo, Egészségügyi Informatikai Központ, Orvostudományi Iskola, Nottingham Egyetem és NIHR Nottingham Biomedical Research Center; (11) Philip R Quinlan, Center for Health Informatics, School of Medicine, The University of Nottingham. 
 
 Ez a dokumentum a CC BY 4.0 licenc alatt érhető el. Ez a dokumentum a CC BY 4.0 licenc alatt érhető el.

Part of HackerNoon's growing list of open-source research papers, promoting free access to academic material.

EScholar Technologies

EScholar

Ez a hanganyag a történet eredeti nyelvén készült!

Llettuce: Az AI eszköz, amely a Messy orvosi nyilvántartásait szabványos kódba helyezi

About Author

HOZZÁSZÓLÁSOK

HANG TAGOK

EZT A CIKKET BEMUTATTA

Related Stories

Találkozz Hubstaff: HackerNoon a hét társasága

HackerNoon Contributor Denisa Ganea on HackerNoon, Human Existence, and Everything in Between

How Emoji Credibility Indicators Add Context to HackerNoon Stories

THE HABITS OF INSECTS IN RELATION TO THE FERTILISATION OF FLOWERS

Találkozz Hubstaff: HackerNoon a hét társasága

HackerNoon Contributor Denisa Ganea on HackerNoon, Human Existence, and Everything in Between

How Emoji Credibility Indicators Add Context to HackerNoon Stories

THE HABITS OF INSECTS IN RELATION TO THE FERTILISATION OF FLOWERS

Light-Mode

Classic

Newspaper

Minty

Dark-Mode

Neon Noir

Minty

HN StartUps