左のテーブル 
 
 
 
 
 
 Abstract and Introduction 
 
 
 
 
 
 
 
 
 
 System Architecture 2.1  Access via UI or HTTP 2.1.1  GUI 2.2  Input 2.3  Natural Language Processing Pipeline — The Llettuce API 2.3.1  Vector search 2.3.2  LLM 2.3.3  Concept Matches 2.4  Output 
 
 
 
 
 
 
 
 
 Case Study: Medication Dataset 3.1  Data Description 3.2  Experimental Design 3.3  Results 3.3.1  Comparison between vector search and Usagi 3.3.2  Comparison with GPT-3 3.4  Conclusions & Acknowledgement 3.5  References ケーススタディ:医薬品データセット 医薬品のデータは、シンガポールの30～85歳の多民族アジア人(Wang et al., 2024)を含む10004人を対象とした長距離人口コホート研究(Nanyang Technological University: IRB-2016-11-030)から得られた(Nanyang Technological University: IRBのIRB承認)。HELIOS研究の参加者は、2018年から2022年の間にシンガポールの一般人口から採用され、広範な臨床的、行動的、分子的、遺伝的特性化を受けました。豊富な基準データと、国家保健データとのリンクを通じて長期的なフォローアップにより、HELIOS研究は、アジアのさまざまな病気の結果の倫理学と病原理を理解するための幅広い分野の生物医学研究 スケーラブルで協力的な研究を促進するために、HELIOS研究はOMOP-CDMを実施しています。しかし、OMOPコンセプトに薬物データをマッピングすることは、主に薬物名の標準化に関連する複雑さのために重大な課題を引き起こします。HELIOS研究では、薬物データは自ら報告され、看護師が管理するアンケートを通じて手動で入力され、したがって、ブランド名、略称、印刷誤りやフォネティックエラー、または組み合わせた薬物が記録される可能性があります。 3.1 データの説明 薬物データセットの最初の400例は、私たちの実験と比較のために選ばれました. それぞれの例では、最良のOMOPコンセプト、および非公式な名称に匹敵することができるより広いコンセプトセットは、ヒトの注釈によって編集されました。 例えば、「Memantine HCl」の場合、最良のOMOPコンセプトは「memantine hydrochloride」であるが、「memantine」はもう一つの受け入れられる答えである。ブランド製薬の場合、ブランド製薬を代表するコンセプトは最も適切なOMOPコンセプトである。一般的な成分名は、すべての成分がコンセプト内に記載されている限り、より広範な概念に含まれることができる。例えば、「コココダモールカプセル」の場合、「アセタミノフェン/コデインオーラルカプセル(Co-codamol)」は最適な合併症だが、「アセタミノフェン/コデイン」はより広範な定義として受け入れられる。この297はまた、マッピングの課題と問題 400例のうち、25例は「非腐食性」と評価された。これらは複数の成分を含む製剤であり、製剤はOMOP CDMに概念がない場合、例えば「lipesco」は、リポ酸と4つのビタミンを含んでおり、OMOP CDMに含まれていない場合、または名前が解決できない場合、例えば「Hollister (gout)」です。 3.2 実験設計 データインスタンスは、パイプラインのベクトル検索およびLLM部分を経て実行され、ヒトの注釈と比較されました。ベクトル検索のトップ5の結果が使用されました。 
 
 
 
 
 
 
 Whether the input is an exact match to an OMOP concept 
 
 Whether the correct OMOP concept is in the result of the vector search 
 
 Whether the LLM provides the correct answer 
 
 If the answer was incorrect, whether it is a relevant OMOP concept それぞれの例と両方の方法では、トップ5の結果が取られ、それぞれの回答は正しいマッピングまたは関連するマッピングが見つかったかどうかによって分類されました。 3.3 結果 表 1 では、Usagi を Llettuce のベクター検索と比較した結果を示しています. トップ 5 に少なくとも 1 つの関連コンセプトを含む結果の数は、両方の方法間で非常に類似していました(68%)。 3.3.1 Comparison between vector search and Usagi Usagiは、入力に印刷エラーがあるコンセプトを見つけるために使用されるときにうまく機能します。その欠点は、それが mometasone furoate ナススプレー「nasonex」のさまざまな記述にどのように反応するかによって示すことができます。例では、「Nasonex (各ナスプリル)」のような投与情報は、トップ5の結果のために表2に示された出力を生成します。 3.3.2 Comparison with GPT-3 入力がOMOPコンセプトに解読可能で、入力がOMOPコンセプトに正確に匹敵しない33例のうち、Llettuceは193、または48.25%を正確に識別することができた。GPT-3は57.75%を正確に識別することができた。両方とも不正確だが一致するコンセプトを提供し、44(11%)はLlettuce、67(16.75%)はGPT-3のための。 正確なマッチが含まれている)。残りのコンセプトのうち、78は正しいコンセプトも含まれず、関連するOMOPコンセプトも生成していない出力を持っていませんでした。LlettuceのパイプラインはGPT-3と同様に機能しません、これは38の名前でのみ絶対的に間違っています。 400 つのコンセプトで Llettuce パイプラインを実行するのにかかる時間は、2.8 GHz 四核 Intel i7 CPU、16 GB の RAM を使用して 55 分、15 秒でした。 4.結論 Llettuce は、深層学習のアプローチを使用してデータを OMOP コンセプトにマッピングする可能性を示しています. ベクター検索と大きな言語モデルを組み合わせると、より大きな GPT-3 モデルと同様のパフォーマンスが得られます. これは、神経ネットワークベースの自然言語処理の利点が、機密性が不可欠な環境でさえ、医療 344 エンコーディングを生成するために利用できることを示しています. 弦の匹敵する方法との比較はまた情報的である。弦の匹敵は、弦の異なる部分の突出性を学ぶことができない。上記の例では、弦の部分「(各ナスリル)」がより長いので、より重要とみなされ、アルゴリズムはその部分を無視することを知らない。対照的に、Llettuceのベクター検索は、ほぼすべての入力にNasonexを正しく含み、有効成分を正しく識別する。このバージョンのLlettuceでは、RxNormの辞書だけがベクター化され、UsagiはRxNormの拡張を使用していません。このデータセットはまた、Usagiが比較的優れているもので、ほとんどの場合、単一の単語を抽出したり、典型的なエラー 後期バージョンでは最適化が可能になります。インベーディングとテキスト生成の両方に使用されるモデルは一般的な用途モデル(bge-small-en-v1.5およびLlama-3.1-8Bそれぞれ)です。既存の専門モデルは、生物医学文献についてフィナンテッドまたはトレーニングされたab initio (Gu et al., 2020) でテストされます。Llettuceのタスクでのパフォーマンスのために、さらなる開発は、内部開発のフィナンテッドモデルから来ます。Llettuceの当社のローカル展開では、最終的なマッピングとともにデータ収集およびレコードリクエストを実装します。このデータは、使用されたモデルをフィナンテッドするために使用されます。このデータ収集 資金 この研究はノッティンガム生物医学研究センター(Nottingham Biomedical Research Centre)によって資金調達されました。 データ可用性 データアクセスの要請は、詳細については helios_science@ntu.edu.sg にメールで HELIOS Data Access Committee に提出することができます。 認定 著者は、手書きの準備に協力してくださった人や機関に感謝します。 3.5 参照 Appleby, P., Masood, E., Milligan, G., Macdonald, C., Quinlan, P., & Cole, C. Carrot-cdm: 健康研究における連合発見のためのデータを変換するためのオープンソースツール [Research Software Engineering Conference 2023, RSECON23 ; 会議日: 04-09-2023 を通じて 07-09-2023]. 英語. で: カーロット-cdm: 健康研究における連合発見のためのデータを変換するためのオープンソースツール. 研究ソフトウェアエンジニアリング会議2023、 RSECON23 ; 会議日: 04-09-2023 を通じて 07-09-2023. 2023, 九月. https://doi.org/10.5281/70zenodo.1025 バイヤー(Bayer, M. (2012) Sqlalchemy(A. Brown & G. Wilson, Eds.). http://aosabook.org/en/sqlalchemy.html Bengio, Y., Ducharme, R., Vincent, P., & Jauvin, C. (2003) A Neural Probabilistic Language Model. Journal of Machine Learning Research, 3. トップページ > イギリス > イギリス > イギリス > イギリス > イギリス > イギリス > イギリス > イギリス > イギリス > イギリス > イギリス > イギリス Cholan, R. A., Pappas, G., Rehwoldt, G., Sills, A. K., Korte, E. D., Appleton, I. K., Scott, N. M., Rubinstein, W. S., Brenner, S. A., Merrick, R., Hadden, W. C., Campbell, K. E., & Waters, M. S. (2022). ラボテストデータの暗号化: 5つのラボでHHS要件と関連基準の国家実施のケース研究。アメリカ医学情報学会ジャーナル、29(8)、1372−1380. https://doi.org/10.1093/jamia/ocac072 Cox, S., Masood, E., Panagi, V., Macdonald, C., Milligan, G., Horban, S., Santos, R., Hall, C., Lea, D., Tarr, S., Mumtaz, S., Akashili, E., Rae, A., Cole, C., Sheikh, A., Jefferson, E., & Quinlan, P. R. (2024). シェイク, A.,ジェファーソン, E., & Quinlan, P. R.を使用して観察医療結果パートナーシップ(OMOP)のデータモデルへの治療データの品質、速度と透明性を向上させる。 JMIRプレプリント. https://doi.org/10.2196/preprints.60917 ハイスタック:スケールで神経の質問に答える [アクセス: 16-08-2024] Deng, H., Zhou, Q., Zhang, Z., Zhou, T., Lin, X., Xia, Y., Fan, L., & Liu, S. (2024) 医学アプリケーションと研究における大規模な言語モデルの現在の状態と見通し。中国学術放射線学ジャーナル。 https://doi.org/10.1007/s42058- 024-00164-x Dettmers, T., & Zettlemoyer, L. (2023, 2月27日)。 4 ビット精度のためのケース: K-bit Inference Scaling Laws. arXiv: 2212.09720 [cs]. https://doi.org/10.48550/arXiv.2212.09720 デヴリン、J、チャング、M.-W、リー、K、およびトゥタノワ、K(2019年5月24日) BERT:言語理解のための深い双方向変換器の事前トレーニング. arXiv: 1810.04805 [cs]. https://doi.org/10.48550/arXiv.1810.04805 F、H、J、H、K、T、A、H、MJ、M、TWR、B、J、Y、J、D、A、W、S、E.-J、およびWK、G (2022)。 英語の病院エピソードの統計データベースのデータの一貫性。 BMJ Health Care Inform, 29(1), e100633. https://doi.org/10.1136/bmjhci-2022-100633 トップページ > トップページ > トップページ > トップページ > トップページ > トップページ > トップページ > トップページ Gu, Y., Tinn, R., Cheng, H., Lucas, M., Usuyama, N., Liu, X., Naumann, T., Gao, J., & Poon, H. (2020) 生物医学的自然言語処理のためのドメイン特有の言語モデルプレトレーニング。 ヤコブ、B、Kligys、S、Chen、B、Zhu、M、Tang、M、ハワード、A、アダム、H、およびカレーニチェンコ、D. (2017年12月15日) 効率的な整数算法のみの推定のための神経ネットワークの定量化とトレーニング. arXiv: 1712 . 05877 [cs, stat]. https://doi.org/10.48550/arXiv.1712.05877 A、Kong、A、Zhao、S、Chen、H、Li、Q、Qin、Y、Sun、R、Zhou、X、Wang、E、およびDong、X(2024年3月)より良いゼロショット推理とRole-Play Prompting。 ルイス、P、ペレス、E、ピクトス、A、ペトロニ、F、Karpukhin、V、ゴヤル、N、Küttler、H、ルイス、M、Yih、W.-t、Rocktäschel、T、Riedel、S、およびキエラ、D(2021年4月12日)。知識密集したNLPタスクのためのリトリバル拡大世代. arXiv: 2005. 11401 [cs]. https://doi.org/10.48550/arXiv.2005.11401 メタ・ラマ・レシピ(2024年8月19日) より: https://github.com/meta-llama/llama-recipes Nazi, Z. A., & Peng, W. (2024). 医療と医療の分野における大規模な言語モデル: レビュー. Informatics, 11(3), 57. https://doi.org/10.3390/informatics11030057 OHDSI. (2021). (観察健康データ科学とコンピュータサイエンス), Usagi文書化 [アクセス: 13-08-2024]. https://ohdsi.github.io/Usagi/ トップ > トップ > トップ > トップ > トップ > トップ > トップ > トップ > トップ > トップ > トップ > トップ > トップ > トップ > OHDSI. (2024b) データ標準化 [アクセス: 2024年9月]. https://www.ohdsi.org/data-standardization/ オープンAI. (2024). Chatgpt: 言語モデル [アクセス: 2024-08-16]. https://chat.openai.com/ Qdrant/fastembed. (2024年8月19日) リリース 2024年8月19日 https://github.com/qdrant/fastembed イスラエル(イスラエル) イスラエル(イスラエル) シアム・ベルト・ネットワークを用いた文の埋め込み. arXiv: 1908. 10084 [cs]. https://doi.org/10.48550/arXiv.1908.10084 Streamlit. (2024) Streamlit: データアプリを構築し、共有する最速の方法 [アクセス: 16-08-2024]. https://streamlit.io ワン、X、Mina、T、Sadhu、N、Jain、P.R、Ng、H.K、Low、D.Y、Tay、D、Tong、T.Y.Y、Choo、W.-L、Kerk、S.K、Low、G.L、Team、T.H.S、Lam、B.C.C、Dalan、R、Wanseicheong、G、Yew、Y.W、Leow、E.-J、Brage、S.,Michelotti、G.A., . . . Chambers、J.C.(2024年5月24日) シンガポールでの生活のための健康(HELIOS)研究:アジアの人口のための精密医学研究を提供します。 https://doi.org/11010.1/2024.05. ウィルキンソン、M、ダモンティエ、M、Aalbersberg、I、et al. (2016). 科学データ管理と管理のための公正なガイドライン原則. 科学データ, 3, 160018. https://doi.org/10.1038/sdata.2016.18 
 
 
 
 
 
 
 
 
 
 
 
 
 著者: (1) James Mitchell-White, Centre for Health Informatics, School of Medicine, The University of Nottingham, Digital Research Service, The University of Nottingham, and NIHR Nottingham Biomedical Research Centre; (2)Reza Omdivar、デジタル研究サービス、ノッティンガム大学およびNIHRノッティンガム生物医学研究センター (3) Esmond Urwin, Centre for Health Informatics, School of Medicine, The University of Nottingham and NIHR Nottingham Biomedical Research Centre (4)Karthikeyan Sivakumar、デジタル研究サービス、ノッティンガム大学 (5) Ruizhe Li, NIHRノッティンガム生物医学研究センターとコンピュータサイエンススクール、ノッティンガム大学; (6) Andy Rae, Centre for Health Informatics, School of Medicine, The University of Nottingham; (7) Xiaoyan Wang, Lee Kong Chian School of Medicine, Nanyang Technological University, シンガポール (8) Theresia Mina, Lee Kong Chian School of Medicine, Nanyang Technological University, シンガポール (9)John Chambers, Lee Kong Chian School of Medicine, Nanyang Technological University, Singapore and Department of Epidemiology and Biostatistics, School of Public Health, Imperial College London, United Kingdom; (10)Grazziela Figueredo、健康情報学センター、医学部、ノッティンガム大学およびNIHRノッティンガム生物医学研究センター (11) Philip R Quinlan, Centre for Health Informatics, School of Medicine, The University of Nottingham。 Authors: (1) James Mitchell-White, Centre for Health Informatics, School of Medicine, The University of Nottingham, Digital Research Service, The University of Nottingham, and NIHR Nottingham Biomedical Research Centre; (2)Reza Omdivar、デジタル研究サービス、ノッティンガム大学およびNIHRノッティンガム生物医学研究センター (3) Esmond Urwin, Centre for Health Informatics, School of Medicine, The University of Nottingham and NIHR Nottingham Biomedical Research Centre (4)Karthikeyan Sivakumar、デジタル研究サービス、ノッティンガム大学 (5) Ruizhe Li, NIHRノッティンガム生物医学研究センターとコンピュータサイエンススクール、ノッティンガム大学; (6) Andy Rae, Centre for Health Informatics, School of Medicine, The University of Nottingham; (7) Xiaoyan Wang, Lee Kong Chian School of Medicine, Nanyang Technological University, シンガポール (8) Theresia Mina, Lee Kong Chian School of Medicine, Nanyang Technological University, シンガポール (9)John Chambers, Lee Kong Chian School of Medicine, Nanyang Technological University, Singapore and Department of Epidemiology and Biostatistics, School of Public Health, Imperial College London, United Kingdom; (10)Grazziela Figueredo、健康情報学センター、医学部、ノッティンガム大学およびNIHRノッティンガム生物医学研究センター (11) Philip R Quinlan, Centre for Health Informatics, School of Medicine, The University of Nottingham。 
 
 この論文は、CC BY 4.0 ライセンスの下で archiv で提供されています。 この論文は、CC BY 4.0 ライセンスの下で archiv で提供されています。

Part of HackerNoon's growing list of open-source research papers, promoting free access to academic material.

Natural Language Processing

undefined's blog

このオーディオは、ストーリーの元の言語で制作されています。

このAIツールは400の非公式な名前を正確なOMOPコードに変える

About Author

コメント

ラベル

この記事は

Related Stories

タップして稼ぐ：テレグラムはソラナより先に次の100億人の暗号通貨ユーザーを獲得する可能性がある

18 種類の開発者ツールで生産性を向上しましょう 🚀🔥

ワークフローを10倍に向上させる方法: 必須アプリ17選

HackerNoon Coded: HackerNoonが最も活発に活動している上位10カ国

タップして稼ぐ：テレグラムはソラナより先に次の100億人の暗号通貨ユーザーを獲得する可能性がある

18 種類の開発者ツールで生産性を向上しましょう 🚀🔥

ワークフローを10倍に向上させる方法: 必須アプリ17選

HackerNoon Coded: HackerNoonが最も活発に活動している上位10カ国

Light-Mode

Classic

Newspaper

Minty

Dark-Mode

Neon Noir

Minty

HN StartUps