Stalas kairėje 
 
 
 
 
 
 Abstract and Introduction 
 
 
 
 
 
 
 
 
 
 System Architecture 2.1  Access via UI or HTTP 2.1.1  GUI 2.2  Input 2.3  Natural Language Processing Pipeline — The Llettuce API 2.3.1  Vector search 2.3.2  LLM 2.3.3  Concept Matches 2.4  Output 
 
 
 
 
 
 
 
 
 Case Study: Medication Dataset 3.1  Data Description 3.2  Experimental Design 3.3  Results 3.3.1  Comparison between vector search and Usagi 3.3.2  Comparison with GPT-3 3.4  Conclusions & Acknowledgement 3.5  References Atvejų tyrimas: vaistų duomenų rinkinys Vaistų duomenys buvo gauti iš Singapūro sveikatos už gyvybę (HELIOS) tyrimo (Nanyang technologijos universiteto IRB patvirtinimas: IRB-2016-11-030), fenotipinio išilginio gyventojų kohortos tyrimo, kurį sudarė 10 004 daugiatautės Singapūro Azijos gyventojai 30-85 metų amžiaus (Wang et al., 2024). HELIOS tyrimo dalyviai buvo įdarbinti iš Singapūro bendrojo gyventojų skaičiaus nuo 2018 iki 2022 m. Ir patyrė išsamią klinikinę, elgesio, molekulinę ir genetinę apibūdinimą. Su turtingais baziniais duomenimis ir ilgalaikiu tolesniu tyrimu, susijusiu su nacionaliniais sveikatos duomenimis, HELIOS tyrimas suteikia unikalų ir pasaulinės klasės išteklių biomedic Siekiant palengvinti išsamius ir bendradarbiaujančius mokslinius tyrimus, HELIOS tyrimas įgyvendina OMOP-CDM. Tačiau vaistų duomenų kartografavimas į OMOP sąvokas kelia didelių iššūkių, visų pirma dėl sudėtingumo, susijusio su vaistų pavadinimų standartizavimu. HELIOS tyrime vaistų duomenys buvo savarankiškai pranešami ir rankiniu būdu įvedami per slaugytojų administruojamus klausimynus, todėl vaistai su prekės ženklu, sutrumpinimais, tipografinėmis klaidomis ar fonetinėmis klaidomis arba kartu vartojami vaistai gali būti registruojami. 3.1 Duomenų aprašymas Pirmieji 400 pavyzdžių iš vaistų duomenų rinkinio buvo atrinkti mūsų eksperimentams ir palyginimui.Kiekvienam pavyzdžiui, geriausia OMOP koncepcija, taip pat platesnis sąvokų rinkinys, kuris galėtų atitikti neoficialią pavadinimą, buvo surinktas žmogaus anotacija. Pavyzdžiui, „Memantine HCl“ atveju geriausia OMOP koncepcija yra „memantino hidrochloridas“, nors „memantinas“ yra kitas priimtinas atsakymas. Prekės ženklo vaistui prekės ženklo produkto koncepcija yra tinkamiausia OMOP koncepcija. Bendrieji ingredientų pavadinimai gali būti įtraukti į platesnį priimtinų sąvokų rinkinį, jei visos sudedamosios dalys yra išvardytos koncepcijoje. Pavyzdžiui, „Kokodamolio kapsulė“, „Acetaminophen / Codeine Oral Capsule [Co-codamol]“ būtų geriausias derinys, tačiau „acetaminophen / codeine“ būtų priimtas kaip platesnė apibrėžtis. Tai taip pat toliau 297 iliustruoja iššūkius, susijusius su Iš 400 pavyzdžių 25 buvo klasifikuojami kaip „neparsable“.Tai buvo arba formulės, kurių sudėtyje yra keletas sudedamųjų dalių, kuriose formulė neturi sąvokos OMOP CDM, pvz., „lipesco“, kuriame yra lipoidų rūgšties ir keturių vitaminų ir nėra OMOP CDM; arba kur pavadinimas negalėjo būti išspręstas, pvz., „Hollister (dangtis)“. 3.2 Eksperimentinis dizainas Duomenų egzemplioriai buvo paleisti per vektorinę paiešką ir LLM vamzdynų dalis ir palyginti su žmogaus anotacijomis. Naudojami 5 geriausi rezultatai iš vektorinės paieškos. 
 
 
 
 
 
 
 Whether the input is an exact match to an OMOP concept 
 
 Whether the correct OMOP concept is in the result of the vector search 
 
 Whether the LLM provides the correct answer 
 
 If the answer was incorrect, whether it is a relevant OMOP concept Kiekvienam pavyzdžiui ir abiem metodams buvo paimti 5 geriausi rezultatai, o kiekvienas atsakymas buvo klasifikuojamas pagal tai, ar buvo rastas teisingas kartografavimas, ar atitinkamas kartografavimas. 3.3 Rezultatai 1 lentelėje aprašomi rezultatai, palyginti Usagi su „Llettuce“ vektorinės paieškos rezultatais. Rezultatų su bent viena atitinkama koncepcija penkiuose aukščiausiuose sąrašuose skaičius buvo labai panašus tarp metodų (68% abiem). 3.3.1 Comparison between vector search and Usagi Usagi gerai veikia, kai naudojama ieškant sąvokų, kuriose įvadas turi tipografinę klaidą. Jo trūkumus galima iliustruoti tuo, kaip jis reaguoja į įvairius mometasono furoato nosies purškimo aprašymus, „nasonex“. Pavyzdžiui, dozavimo informacija, pvz., „Nasonex (kiekvienam nosies riešui)“ gamina 2 lentelėje pateiktą išvestį penkiems geriausiems rezultatams. 3.3.2 Comparison with GPT-3 Iš 336 pavyzdžių, kai įvestis buvo įskaitoma į OMOP koncepciją, o įvestis nebuvo tiksliai suderinta su OMOP koncepcija, Llettuce galėjo teisingai identifikuoti 193, arba 48,25%. GPT-3 galėjo teisingai identifikuoti 57,75%. Abu pateikė netikslias, bet atitinkančias sąvokas, 44 (11%) Llettuce ir 67 (16,75%) GPT-3. 5 geriausių vektorių atitikmenys 329 atgavo teisingą sąvoką 21 iš 99 įvesties, kurias neteisingai atsakė Llettuce. Iš likusių koncepcijų 78 neturėjo nei teisingos koncepcijos nei atitinkamos OMOP koncepcijos. „Llettuce“ vamzdynas neveikia taip pat, kaip ir GPT-3, kuris yra visiškai neteisingas tik 38 pavadinimuose. Laikas, reikalingas Llettuce vamzdynui paleisti 400 koncepcijų, buvo 55 minutės, 15 sekundžių, naudojant 2,8 GHz keturių branduolių Intel i7 procesorių, 16 GB RAM. 4.4 Išvados Llettuce demonstruoja galimybes naudoti giliausio mokymosi metodus, kad duomenys būtų supažindinti su OMOP koncepcijomis.Vektoriaus paieškos derinimas su dideliu kalbos modeliu lemia panašią našumą su didesniu GPT-3 modeliu.Tai rodo, kad natūralios kalbos apdorojimo, pagrįsto neuroniniu tinklu, privalumai gali būti panaudoti medicininio 344 kodavimo gamybai, netgi aplinkoje, kurioje konfidencialumas yra būtinas. Palyginimas su eilutės suderinimo metodais taip pat yra informatyvus. eilutės suderinimas negali išmokti skirtingų eilutės dalių iškyšulio. Aukščiau pateiktame pavyzdyje eilutės dalis „(kiekvienai nosies šnervei)“, nes ji yra ilgesnė, yra laikoma svarbesne; algoritmas nežino, kaip ignoruoti tą dalį. Priešingai, Llettuce vektoriaus paieška teisingai apima Nasonex beveik visose jo įvestyse ir teisingai identifikuoja veikliąją sudedamąją dalį. Reikėtų pažymėti, kad šioje Llettuce versijoje tik RxNorm žodynas buvo vektorizualizuotas, kur Usagi taip pat naudojo RxNorm išplėtimą. Šis duomenų rinkinys taip pat yra tas, kuriame Optimizavimas bus įmanomas vėlesnėse versijose. Modelių, naudojamų tiek įterpimui, tiek tekstų gamybai, yra bendrojo tikslo modeliai (t. y. mažas-en-v1.5 ir Llama-3.1-8B). Esami specializuoti modeliai bus išbandyti ir biomedicinos literatūroje (Gu et al., 2020) bus išbandyti Llettuce užduotims atlikti. Tolesnė plėtra bus pagaminta iš išsamiai pritaikytų modelių, sukurtų namuose. Mūsų vietinis Llettuce diegimas įgyvendins duomenų rinkimo ir įrašymo užklausas bei atsakymus, kartu su galutiniu kartografavimu. Šie duomenys bus naudojami naudojami modeliams patikslinti. Svarbu pabrėžti, kad šis duomenų rinkimas bus griežtai ap Finansavimas Tyrimą finansavo Nottinghamo NIHR biomedicinos tyrimų centras. Duomenų prieinamumas Duomenų prieigos prašymus galima pateikti HELIOS Duomenų prieigos komitetui el. paštu helios_science@ntu.edu.sg dėl išsamių duomenų. Pripažinimai Autoriai dėkoja tiems žmonėms ar institucijoms, kurie padėjo jums rengiant rankraštį. 3.5 Nuorodos Appleby, P., Masood, E., Milligan, G., Macdonald, C., Quinlan, P., & Cole, C. Carrot-cdm: Atviro kodo įrankis transformuoti duomenis federacijos atradimų sveikatos mokslinių tyrimų [Research Software Engineering Conference 2023, RSECON23 ; Konferencijos data: 04-09-2023 per 07-09-2023]. Anglų. In: Carrot-cdm: Atviro kodo įrankis transformuoti duomenis federacijos atradimų sveikatos mokslinių tyrimų. Research Software Engineering Conference 2023, RSECON23 ; Konferencijos data: 04-09-2023 per 07-09-2023. 2023, rugsėjis. https://doi.org/10.5281/70zenodo.1025 Bayer, M. (2012). Sqlalchemy (A. Brown ir G. Wilson, Eds.). http://aosabook.org/en/sqlalchemy.html Bengio, Y., Ducharme, R., Vincent, P., ir Jauvin, C. (2003). Neurologinis tikėtinos kalbos modelis. Brown, T. B., Mann, B., Ryder, N., Subbiah, M., Kaplan, J., Dhariwal, P., Neelakantan, A., Shyam, P., Sastry, G., Askell, A., Agarwal, S., Herbert-Voss, A., Krueger, G., Henighan, T., Vaikas, R., Ramesh, A., Ziegler, D. M., Wu, J., Winter, C., . . . Amodei, D. (2020, liepos 22 d.). Kalbų modeliai yra keli mokiniai. arXiv: 2005.14165 [cs]. https://doi.org/10.48550/arXiv.2005.145165. Cholan, R. A., Pappas, G., Rehwoldt, G., Sills, A. K., Korte, E. D., Appleton, I. K., Scott, N. M., Rubinstein, W. S., Brenner, S. A., Merrick, R., Hadden, W. C., Campbell, K. E., & Waters, M. S. (2022). Laboratorinių bandymų duomenų kodavimas: nacionalinio hhs reikalavimų įgyvendinimo ir susijusių standartų tyrimai penkiose laboratorijose. Amerikos medicinos informatikos asociacijos žurnalas, 29(8), 1372–1380. https://doi.org/10.1093/jamia/ocac072 Cox, S., Masood, E., Panagi, V., Macdonald, C., Milligan, G., Horban, S., Santos, R., Hall, C., Lea, D., Tarr, S., Mumtaz, S., Akashili, E., Rae, A., Cole, C., Sheikh, A., Jefferson, E., & Quinlan, P. R. (2024). Pagerinti gydymo duomenų kokybę, greitį ir skaidrumą į stebėjimo medicinos rezultatų partnerystės (OMOP) bendrą duomenų modelį naudojant morkų įrankį. JMIR iš anksto. https://doi.org/10.2196/preprints.60917 Deepset GmbH. (2024). Haystack: Neurologinis klausimas, atsakantis į skalę [Atsiliepta: 16-08-2024]. Deng, H., Zhou, Q., Zhang, Z., Zhou, T., Lin, X., Xia, Y., Fan, L., & Liu, S. (2024). Dabartinė būklė ir perspektyvos didelių kalbų modelius medicinos taikymo ir mokslinių tyrimų. Kinijos žurnalas akademinės radiologijos. https://doi.org/10.1007/s42058- 024-00164-x Dettmers, T., & Zettlemoyer, L. (2023, vasario 27). 4 bitų tikslumo atvejis: K-bit Inference skalavimo įstatymai. arXiv: 2212.09720 [cs]. https://doi.org/10.48550/arXiv.2212.09720 Devlin, J., Chang, M.-W., Lee, K., & Toutanova, K. (2019, gegužės 24). BERT: Gilių abipusių transformatorių išankstinis mokymas kalbų supratimui. arXiv: 1810.04805 [cs]. https://doi.org/10.48550/arXiv.1810.04805 Dubėjus, A., Jauhri, A., Pandey, A., Kadian, A., Al-Dahle, A., Letman, A., Mathur, A., Schelten, A., Yang, A., Fan, A., Goyal, A., Hartshorn, A., Yang, A., Mitra, A., Sravankumar, A., Korenev, A., Hinsvark, A., Rao, A., Zhang, A., . . . Zhao, Z. (2024, rugpjūčio 15). The Llama 3 Herd of Models. arXiv: 2407.21783 [cs]. https://doi.org/10.48550/arXiv.2407.21783 F., H., J., H., K., T., A., H., M.J., M., T.W.R., B., J., Y., J., D., A., W., S., E.-J., & W.K., G. (2022). Duomenų nuoseklumas anglų ligoninės epizodų statistikos duomenų bazėje. BMJ Sveikatos priežiūros informacija, 29(1), e100633. https://doi.org/10.1136/bmjhci-2022-100633 Gerganov, G., et al. (2024). Llama.cpp [Atsilankyta: 19-08-2024]. https://github.com/ggerganov/llama.cpp Gu, Y., Tinn, R., Cheng, H., Lucas, M., Usuyama, N., Liu, X., Naumann, T., Gao, J., & Poon, H. (2020). Domeno specifinis kalbos modelis, skirtas biomedicinos natūralios kalbos apdorojimui. Jacob, B., Kligys, S., Chen, B., Zhu, M., Tang, M., Howard, A., Adam, H., & Kalenichenko, D. (2017, gruodžio 15). Neuroninių tinklų kiekybė ir mokymas efektyviam vientisam aritmetiniam tik apibūdinimui. arXiv: 1712 . 05877 [cs, stat]. https://doi.org/10.48550/arXiv.1712.05877 Kong, A., Zhao, S., Chen, H., Li, Q., Qin, Y., Sun, R., Zhou, X., Wang, E., & Dong, X. (2024 m. kovo mėn.). Geriau nulinio šūvio motyvacija su vaidmenų žaidimo skatinimu. Lewis, P., Perez, E., Piktus, A., Petroni, F., Karpukhin, V., Goyal, N., Küttler, H., Lewis, M., Yih, W.-t., Rocktäschel, T., Riedel, S., & Kiela, D. (2021, balandžio 12). Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks. arXiv: 2005. 11401 [cs]. https://doi.org/10.48550/arXiv.2005.11401 Meta-llama/llama-recipes. (2024, rugpjūčio 19). Peržiūrėta rugpjūčio 19, 2024, iš https://github.com/meta-llama/llama-recipes Nazi, Z. A., & Peng, W. (2024). Dideli kalbos modeliai sveikatos priežiūros ir medicinos srityje: apžvalga. Informatikos, 11(3), 57. https://doi.org/10.3390/informatics11030057 OHDSI. (2021). (observatyvinės sveikatos duomenų mokslai ir informatika), Usagi dokumentacija [Prieinama: 13-08-2024]. https://ohdsi.github.io/Usagi/ OHDSI. (2024a). Atėnai: Standartizuoti žodynai [Atsilankyta: 16-08-2024]. https://athena.ohdsi.org/search-terms/start OHDSI. (2024b). Duomenų standartizavimas [Atsižvelgta: 2024 m. rugsėjis]. https://www.ohdsi.org/data-standardization/ Chatgpt: Kalbos modelis [Atsilankė: 2024-08-16]. https://chat.openai.com/ Qdrant/fastembed. (2024, rugpjūčio 19). Peržiūrėta rugpjūčio 19, 2024, iš https://github.com/qdrant/fastembed Ramírez, S. (2024). Fastapi [Atsilankyta: 19-08-2024]. https://fastapi.tiangolo.com Reimers, N., & Gurevych, I. (2019, rugpjūčio 27). Nuomonė-BERT: Nuomonės įterpimai naudojant Siamiečių BERT-Tinklai. arXiv: 1908. 10084 [cs]. https://doi.org/10.48550/arXiv.1908.10084 Streamlit. (2024). Streamlit: Greičiausias būdas kurti ir bendrinti duomenų programas [Prieinama: 16-08-2024]. https://streamlit.io Wang, X., Mina, T., Sadhu, N., Jain, P. R., Ng, H. K., Low, D. Y., Tay, D., Tong, T. Y. Y., Choo, W.-L., Kerk, S. K., Low, G. L., Team, T. H. S., Lam, B. C. C., Dalan, R., Wanseicheong, G., Yew, Y. W., Leow, E.-J., Brage, S., Michelotti, G. A., . . Chambers, J. C. (2024, gegužės 24). Sveikata gyvenimui Singapūre (HELIOS) Tyrimas: Tiksliosios medicinos tyrimai Azijos gyventojams. https://doi.org/11010.1/2024.05.14.24307259 Wilkinson, M., Dumontier, M., Aalbersberg, I., et al. (2016). Teisingi vadovaujantys mokslo duomenų valdymo ir valdymo principai. Moksliniai duomenys, 3, 160018. https://doi.org/10.1038/sdata.2016.18 
 
 
 
 
 
 
 
 
 
 
 
 
 Autorių : (1) James Mitchell-White, Sveikatos informatikos centras, Medicinos mokykla, Notingemo universitetas, skaitmeninių tyrimų tarnyba, Notingemo universitetas ir NIHR Notingemo biomedicinos tyrimų centras; (2) Reza Omdivar, skaitmeninių tyrimų tarnyba, Notingemo universitetas ir NIHR Notingemo biomedicinos tyrimų centras; (3) Esmond Urwin, Sveikatos informatikos centras, Medicinos mokykla, Notingemo universitetas ir NIHR Notingemo biomedicinos tyrimų centras; (4) Karthikeyan Sivakumar, skaitmeninių tyrimų tarnyba, Notingemo universitetas; (5) Ruizhe Li, NIHR Notingemo biomedicinos tyrimų centras ir Kompiuterių mokslo mokykla, Notingemo universitetas; (6) Andy Rae, Sveikatos informatikos centras, Medicinos mokykla, Notingemo universitetas; (7) Xiaoyan Wang, Lee Kong Chian medicinos mokykla, Nanyang technologijos universitetas, Singapūras; (8) Theresia Mina, Lee Kong Chian medicinos mokykla, Nanyang technologijos universitetas, Singapūras; (9) John Chambers, Lee Kong Chian medicinos mokykla, Nanyang technologijos universitetas, Singapūras ir Epidemiologijos ir biostatistikos katedra, Visuomenės sveikatos mokykla, Imperial College London, Jungtinė Karalystė; (10) Grazziela Figueredo, Sveikatos informatikos centras, Medicinos mokykla, Notingemo universitetas ir NIHR Notingemo biomedicinos tyrimų centras; (11) Philip R Quinlan, Sveikatos informatikos centras, Medicinos mokykla, Notingemo universitetas. Authors: (1) James Mitchell-White, Sveikatos informatikos centras, Medicinos mokykla, Notingemo universitetas, skaitmeninių tyrimų tarnyba, Notingemo universitetas ir NIHR Notingemo biomedicinos tyrimų centras; (2) Reza Omdivar, skaitmeninių tyrimų tarnyba, Notingemo universitetas ir NIHR Notingemo biomedicinos tyrimų centras; (3) Esmond Urwin, Sveikatos informatikos centras, Medicinos mokykla, Notingemo universitetas ir NIHR Notingemo biomedicinos tyrimų centras; (4) Karthikeyan Sivakumar, skaitmeninių tyrimų tarnyba, Notingemo universitetas; (5) Ruizhe Li, NIHR Notingemo biomedicinos tyrimų centras ir Kompiuterių mokslo mokykla, Notingemo universitetas; (6) Andy Rae, Sveikatos informatikos centras, Medicinos mokykla, Notingemo universitetas; (7) Xiaoyan Wang, Lee Kong Chian medicinos mokykla, Nanyang technologijos universitetas, Singapūras; (8) Theresia Mina, Lee Kong Chian medicinos mokykla, Nanyang technologijos universitetas, Singapūras; (9) John Chambers, Lee Kong Chian medicinos mokykla, Nanyang technologijos universitetas, Singapūras ir Epidemiologijos ir biostatistikos katedra, Visuomenės sveikatos mokykla, Imperial College London, Jungtinė Karalystė; (10) Grazziela Figueredo, Sveikatos informatikos centras, Medicinos mokykla, Notingemo universitetas ir NIHR Notingemo biomedicinos tyrimų centras; (11) Philip R Quinlan, Sveikatos informatikos centras, Medicinos mokykla, Notingemo universitetas. 
 
 Šis dokumentas yra prieinamas archive pagal CC BY 4.0 licenciją. Šis dokumentas yra prieinamas archive pagal CC BY 4.0 licenciją.

Part of HackerNoon's growing list of open-source research papers, promoting free access to academic material.

Natural Language Processing

undefined's blog

Šis garso įrašas sukurtas originalia istorijos kalba!

Šis AI įrankis paverčia 400 neformalių vardų į tikslų OMOP kodą

About Author

KOMENTARAI

PABAIGTI ŽYMES

ŠIS STRAIPSNIS BUVO PRISTATYMAS

Related Stories

Light-Mode

Classic

Newspaper

Minty

Dark-Mode

Neon Noir

Minty

HN StartUps