Tabelul din stânga 
 
 
 
 
 
 Abstract and Introduction 
 
 
 
 
 
 
 
 
 
 System Architecture 2.1  Access via UI or HTTP 2.1.1  GUI 2.2  Input 2.3  Natural Language Processing Pipeline — The Llettuce API 2.3.1  Vector search 2.3.2  LLM 2.3.3  Concept Matches 2.4  Output 
 
 
 
 
 
 
 
 
 Case Study: Medication Dataset 3.1  Data Description 3.2  Experimental Design 3.3  Results 3.3.1  Comparison between vector search and Usagi 3.3.2  Comparison with GPT-3 3.4  Conclusions & Acknowledgement 3.5  References 2 Arhitectura sistemului Llettuce a fost scris folosind Python atât pentru un back-end, cât și pentru o interfață de utilizator. Back-end-ul cuprinde un depozit vectorial pentru căutarea semantică, un LLM local pentru a sugera cartografii și interogări către o bază de date OMOP CDM conectată pentru a oferi detaliile unei cartografii sugerate utilizatorului. 2.1 Acces prin UI sau HTTP Toate interacțiunile cu Llettuce sunt efectuate prin solicitări HTTP către API-ul Llettuce. O cerere POST este făcută serverului Llettuce care conține JSON cu următorul format: Opțiunile de conducte sunt opționale, astfel încât o solicitare poate fi doar o listă de nume informale. 2.1.1 GUI Pentru utilizatorii mai puțin confortabili cu linia de comandă, este furnizată o interfață grafică a utilizatorului (GUI). Aceasta este construită folosind framework-ul Streamlit (Streamlit, 2024) Python și prezintă utilizatorului două opțiuni. Prima afișează o casetă de text în care un utilizator poate tasta o listă separată de comă de nume informale pentru a rula prin conducte. Al doilea permite utilizatorului să încarce un fișier .csv și să aleagă o coloană care conține nume pentru a rula prin conducte. Pentru fiecare opțiune, rezultatele conductei sunt afișate sub intrare. 2.2 Intrări Llettuce utilizează FastAPI (Ramírez, 2024) pentru a servi punctele terminale API. Aceste puncte terminale permit utilizarea diferitelor combinații de module Llettuce pentru a găsi nume de concept. Pipeline de procesare a limbajului natural – Llettuce API 2.3.1 Vector search LLM-urile sunt generaliști buni pentru generarea de text. Cu toate acestea, OMOP CDM are un vocabular specializat. Pentru a depăși acest decalaj, Llettuce utilizează embeddings de concepte OMOP pentru căutare semantică. S-a demonstrat că transformatorii numai pentru codificare produc reprezentări ale limbii astfel încât conceptele legate semantic sunt apropiate în spațiul încorporărilor lor (Bengio et al., 2003; Devlin et al., 2019). Llettuce utilizează embeddings de propoziție (Reimers & Gurevych, 2019) pentru a genera embeddings pentru concepte. Acestea sunt stocate local într-o bază de date vectorială. FastEmbed (‘Qdrant/Fembasted’, 2023, 14 iulie/Conceptul încorporat este compar În mod RAG, conducta solicită mai întâi baza de date vectorială. Un prag pentru similitudinea embeddings-urilor a fost stabilit astfel încât embeddings-urile de mai sus sunt potrivite exact. Dacă există un embedding cu un scor deasupra acestui prag, acestea sunt furnizate utilizatorului. Dacă nu există o potrivire foarte apropiată, embeddings-urile sunt introduse într-un prompt, care servește ca intrare în LLM, după cum se discută mai jos. Raționamentul este că embeddings-urile închise pot conține fie răspunsul, pe care LLM îl poate selecta, fie sugestii cu privire la ceea ce ar putea fi aproape de răspunsul corect. 2.3.2 LLM Llettuce utilizează Llama.cpp (Gerganov et al., 2024) pentru a rula cel mai recent LLM Llama de la Meta (Dubey et al., 2024). Llama.cpp oferă un API pentru executarea inferenței transformatorului. Detectează hardware-ul disponibil și utilizează optimizări pentru inferență eficientă care rulează pe unitățile centrale de procesare (CPU). Versiunea Llama testată în studiul nostru de caz are 8 miliarde de parametri (Llama 3.1 8B). Modelele sunt instruite cu fiecare parametru ca număr de punct plutitor pe 32 de biți. Quantizarea a fost utilizată pentru a reduce dimensiunea modelului, cu puțină pierdere de precizie (Dettmers & Zettlemoyer, 2023; Jacob et al., 2017). Precizia completă Llama 3.1 8B necesită peste 32 GB RAM pentru a rula, în timp ce modelul cuantificat pe 4 biți necesită mai puțin de 5 GB. Llettuce folosește Haystack (deepset GmbH, 2024) pentru a-și orchestra conductele LLM. Pentru conductele LLM-only există o componentă care ia un nume informal și îl inserează într-un șablon prompt, iar alta care livrează acest prompt LLM. Promptul utilizat în aceste cazuri utilizează tehnici recomandate pentru modelele Llama (‘Meta-Llama/Llama-Recipes’, 2023, 17 iulie/2024). De exemplu, promptul pentru RAG conține instrucțiuni detaliate și explicite You are an assistant that suggests formal RxNorm names for a medication. You will be given the name of a medication, along with some possibly related RxNorm terms. If you do not think these terms are related, ignore them when making your suggestion. Respond only with the formal name of the medication, without any extra explanation. Această parte a solicitării oferă, de asemenea, LLM un rol, care sa dovedit a îmbunătăți coerența în răspunsuri(Kong et al., 2024). Important, solicitarea include furnizarea de exemple de nume informale / perechi de nume formale, o tactică eficientă pentru solicitarea LLM (Brown et al., 2020): Odată ce LLM a dedus un nume formal pentru numele informal furnizat, acest nume formal este folosit ca un nume de concept într-o interogare OMOP CDM parametrizată. 2.3.3 Concept Matches Pentru a recupera detaliile oricărui concept printr-o conductă Llettuce, se solicită o bază de date OMOP CDM. Întrebările OMOP CDM sunt generate folosind o cartografiere obiect-relatională prin SQLAlchemy (Bayer, 2012). Șirul utilizat pentru câmpul de nume de concept este preprocesat mai întâi prin eliminarea punctuației și a cuvintelor de oprire și prin împărțirea cuvintelor cu caracterul de țeavă pentru compatibilitate cu PostgreSQL în căutarea textului din baza de date. De exemplu, șirul „paracetamol și cafeina” are cuvântul de oprire „și” eliminat, iar restul de 196 de cuvinte utilizate pentru a construi șirul „paracetamol, cafeină”. Cuvintele acestui termen de căutare 2.4 Rezultatele De exemplu, pentru o conductă care rulează interogarea LLM și OMOP, o cerere de intrare după cum urmează: {"numele": ["Aplicația Betnovate Scalp"] returnează ieșirea JSON pentru „evenimentele” llm_output și omop_output pentru fiecare nume trimis la Llettuce. llm_output conține un răspuns la răspunsul LLM, numele informal furnizat în cerere și metadatele descrise despre desfășurarea LLM. Evenimentul omop_output conține termenul de căutare trimis la OMOP-CDM, apoi o arie CONCEPT, în care fiecare element este o potrivire care îndeplinește pragul stabilit pentru potrivirea cu șiruri neclare. Fiecare element descrie concept_name, concept_id, vocabulary_id și concept_code din tabelul concept OMOP-CDM, urmat de concept_name_similarity_score calculat în Llettuce. Llettuce are, de asemenea, opțiunea de a obține informații suplimentare din OMOP-CDM, care nu sunt activate în configurația implicită, care este inclusă în intrarea pentru fiecare concept. GUI analizează acest lucru și îl afișează într-un format mai ușor de utilizat. 
 
 
 
 
 
 
 
 
 
 
 
 
 Autorii : (1) James Mitchell-White, Centrul de Informatică în Sănătate, Școala de Medicină, Universitatea din Nottingham, Serviciul de Cercetare Digitală, Universitatea din Nottingham și NIHR Nottingham Biomedical Research Centre; (2) Reza Omdivar, Serviciul de Cercetare Digitală, Universitatea din Nottingham și NIHR Nottingham Biomedical Research Centre; (3) Esmond Urwin, Centrul de Informatică în Sănătate, Școala de Medicină, Universitatea din Nottingham și NIHR Nottingham Biomedical Research Centre; (4) Karthikeyan Sivakumar, Serviciul de Cercetare Digitală, Universitatea din Nottingham; (5) Ruizhe Li, NIHR Nottingham Biomedical Research Centre și Școala de Informatică, Universitatea din Nottingham; (6) Andy Rae, Centrul de Informatică în Sănătate, Școala de Medicină, Universitatea din Nottingham; (7) Xiaoyan Wang, Lee Kong Chian School of Medicine, Universitatea Tehnologică Nanyang, Singapore; (8) Theresia Mina, Lee Kong Chian School of Medicine, Universitatea Tehnologică Nanyang, Singapore; (9) John Chambers, Lee Kong Chian School of Medicine, Universitatea Tehnologică Nanyang, Singapore și Departamentul de Epidemiologie și Biostatistică, Școala de Sănătate Publică, Imperial College London, Regatul Unit; (10) Grazziela Figueredo, Centrul de Informatică în Sănătate, Școala de Medicină, Universitatea din Nottingham și NIHR Nottingham Biomedical Research Centre; (11) Philip R Quinlan, Centrul de Informatică în Sănătate, Școala de Medicină, Universitatea din Nottingham. Authors: (1) James Mitchell-White, Centrul de Informatică în Sănătate, Școala de Medicină, Universitatea din Nottingham, Serviciul de Cercetare Digitală, Universitatea din Nottingham și NIHR Nottingham Biomedical Research Centre; (2) Reza Omdivar, Serviciul de Cercetare Digitală, Universitatea din Nottingham și NIHR Nottingham Biomedical Research Centre; (3) Esmond Urwin, Centrul de Informatică în Sănătate, Școala de Medicină, Universitatea din Nottingham și NIHR Nottingham Biomedical Research Centre; (4) Karthikeyan Sivakumar, Serviciul de Cercetare Digitală, Universitatea din Nottingham; (5) Ruizhe Li, NIHR Nottingham Biomedical Research Centre și Școala de Informatică, Universitatea din Nottingham; (6) Andy Rae, Centrul de Informatică în Sănătate, Școala de Medicină, Universitatea din Nottingham; (7) Xiaoyan Wang, Lee Kong Chian School of Medicine, Universitatea Tehnologică Nanyang, Singapore; (8) Theresia Mina, Lee Kong Chian School of Medicine, Universitatea Tehnologică Nanyang, Singapore; (9) John Chambers, Lee Kong Chian School of Medicine, Universitatea Tehnologică Nanyang, Singapore și Departamentul de Epidemiologie și Biostatistică, Școala de Sănătate Publică, Imperial College London, Regatul Unit; (10) Grazziela Figueredo, Centrul de Informatică în Sănătate, Școala de Medicină, Universitatea din Nottingham și NIHR Nottingham Biomedical Research Centre; (11) Philip R Quinlan, Centrul de Informatică în Sănătate, Școala de Medicină, Universitatea din Nottingham. 
 
 Acest document este disponibil în arhivă sub licența CC BY 4.0. Acest document este sub licența CC BY 4.0. Disponibil în arhivă

Part of HackerNoon's growing list of open-source research papers, promoting free access to academic material.

EScholar Technologies

EScholar

Acest audio este produs în limba originală a poveștii!

Llettuce: Instrumentul AI care cartografiază înregistrările medicale ale lui Messy în cod standard

About Author

COMENTARII

Etichete suspendate

ACEST ARTICOL A FOST PREZENTAT IN

Related Stories

The Spacecoin Writing Contest by Spacecoin and HackerNoon: Round 1 Results 🎉

Holy 🎅 HackerNoon's Web 2.5 Documentary is Out! 😮

Can Bitcoin Hit 1 Million Dollars?

The #bitcoin Writing Contest by Rootstock and HackerNoon: Round 2 Results 🎉

The Spacecoin Writing Contest by Spacecoin and HackerNoon: Round 1 Results 🎉

Holy 🎅 HackerNoon's Web 2.5 Documentary is Out! 😮

Can Bitcoin Hit 1 Million Dollars?

The #bitcoin Writing Contest by Rootstock and HackerNoon: Round 2 Results 🎉

Light-Mode

Classic

Newspaper

Minty

Dark-Mode

Neon Noir

Minty

HN StartUps