左のテーブル 
 
 
 
 
 
 Abstract and Introduction 
 
 
 
 
 
 
 
 
 
 System Architecture 2.1  Access via UI or HTTP 2.1.1  GUI 2.2  Input 2.3  Natural Language Processing Pipeline — The Llettuce API 2.3.1  Vector search 2.3.2  LLM 2.3.3  Concept Matches 2.4  Output 
 
 
 
 
 
 
 
 
 Case Study: Medication Dataset 3.1  Data Description 3.2  Experimental Design 3.3  Results 3.3.1  Comparison between vector search and Usagi 3.3.2  Comparison with GPT-3 3.4  Conclusions & Acknowledgement 3.5  References 2.システム建築 Llettuce は、バックエンドとユーザインターフェイスの両方のために Python を使用して書かれたもので、バックエンドには、セマンティック検索のためのベクトルストア、地元の LLM がマッピングを提案し、接続された OMOP CDM データベースへのクエリがユーザに提案されたマッピングの詳細を提供します。 2.1 UI または HTTP によるアクセス Llettuce とのすべてのインタラクションは、Llettuce API への HTTP リクエストを介して行われます。 パイプラインオプションはオプションなので、リクエストは非公式な名前のリストに過ぎません。 2.1.1 GUI コマンドラインに不快なユーザーのために、グラフィカルユーザーインターフェイス(GUI)が提供されています。これはStreamlit(Streamlit, 2024)Pythonフレームワークを使用して構築され、ユーザーに2つのオプションを提供します。最初のテキストボックスは、ユーザがパイプラインを通じて実行するための非公式な名前のコマ分離リストを入力できる場所を表示します。第二は、ユーザが .csv ファイルをアップロードし、パイプラインを通して実行するための名前を含む列を選択することができます。 2.2 入力 Llettuce では、FastAPI (Ramírez, 2024) を使用して API エンドポイントをサービスします。これらのエンドポイントは、Llettuce モジュールの異なる組み合わせを使用してコンセプト名を検索できます。 2.3 Natural Language Processing Pipeline - The Llettuce API 2.3.1 Vector search LLMsはテキスト生成のための良い一般主義者です。しかし、OMOP CDMには専門用語があります。このギャップをブリッジするために、Llettuceはセマンティック検索のためのOMOPコンセプトの埋め込みを使用しています。エンコーダーだけのトランスフォーマーは、言語の表現を生成することを示しています。セマンティックに関連する概念は、その埋め込みのスペースに近い(Bengio et al., 2003; Devlin et al., 2019)。Llettuceは、文句の埋め込み(Reimers & Gurevych, 2019)を使用して概念のための埋め込みを生成しています。これらはベクトルデータベースにローカルに保存されています。FastEmbed(‘Qdrant/Fembasted’, 2023, トップ k インベーディングは、リサーチ増加生成(RAG)に使用されます(Lewis et.al., 2021)。 RAG モードでは、パイプラインが最初にベクトルデータベースに問い合わせます。インベーディングの類似性のための値段は、上記のインベーディングが正確な合致であるように設定されています。この値段を上回る点数を持つインベーディングがある場合、これらはユーザーに提供されます。非常に近い合致がない場合、インベーディングは、LLMへの入力として機能するプロンプトに挿入されます。次に議論されたように、理由は、近いインベーディングには、LLMが選択できる答えが含まれているか、または何が正しい答えに近いのかについてのヒント 2.3.2 LLM Llettuce は Llama.cpp (Gerganov et al., 2024) を使用して、Meta (Dubey et al., 2024) の最新の Llama LLM を実行します。 Llama.cpp は、トランスフォーマー推定を実行するための API を提供します。 私たちのケーススタディでテストされたLlamaのバージョンは8億パラメータ(Llama 3.1 8B)を持っています。 モデルは、それぞれのパラメータを32ビットの浮動ポイント番号として訓練されています。 量子化は、モデルのサイズを減らすために使用されており、正確性の損失はほとんどありません(Dettmers & Zettlemoyer、2023; Jacob et al., 2017)。 完全精度のLlama 3.1 8Bは、4ビットの量子化モデルは5 Gb未満を必要とします。 Llettuce は Haystack (deepset GmbH, 2024) を使用して LLM パイプラインをオーケストラリングします。 LLM のみのパイプラインには、非公式な名前を採用し、プロンプト テンプレートに挿入するコンポーネントがあり、このプロンプトを LLM に送信するコンポーネントがあります。 たとえば、RAG のプロンプトには、詳細で明確な指示が含まれています。 You are an assistant that suggests formal RxNorm names for a medication. You will be given the name of a medication, along with some possibly related RxNorm terms. If you do not think these terms are related, ignore them when making your suggestion. Respond only with the formal name of the medication, without any extra explanation. プロンプトのこの部分はまた、LLMに役割を与え、応答の一貫性を改善することを示している(Kong et al., 2024)。 LLM が提供した非公式名の正式名称を推定した後、この正式名称は、パラメータ化された OMOP CDM クエリのコンセプト名として使用されます。 2.3.3 Concept Matches OMOP CDM クエリは、SQLAlchemy (Bayer, 2012) を通じてオブジェクト関係マッピングを使用して生成されます。コンセプトネームフィールドに使用される文字列は、まず、点数と停止単語を削除し、パイプ文字で単語を割り分け、データベース内の PostgreSQL テキスト検索との互換性を確保します。たとえば、「パラセタモールとカフェイン」の文字列には、停止単語「および」が削除され、残りの 196 文字が「パラセタモールカフェイン」の文字列を作成するために使用されます。この検索用語の単語は、選択された OMOP 辞書の概念名に対するテキスト検索クエリに使用されます。オプションとして、概念同 2.4 出力 Llettuce パイプラインは、パイプラインの結果を含む JSON を送信します. For example, for a pipeline running the LLM and OMOP query, an input request as follows: タイトルは「BETNOVATE SCALP APPLICATION」。 「イベント」 llm_output と omop_output の JSON 出力を Llettuce に送信する各名前に返します。 llm_outputには、LLMの回答、リクエストで提供された非公式_name、およびLLMの実行に関するメタデータが含まれています。 omop_output イベントには、OMOP-CDM に送信された search_term が含まれており、次に CONCEPT マレージが含まれており、各項目は、Fuzzy string matching で設定された値段を満たすマッチである。各項目は、OMOP-CDM のコンセプト テーブルから concept_name、concept_id、vocabulary_id、concept_code を記述し、その後、Llettuce で計算された concept_name_similarity_score を示します。 GUIはこれを解析し、よりユーザーフレンドリーな形式で表示します。 
 
 
 
 
 
 
 
 
 
 
 
 
 著者: (1) James Mitchell-White, Centre for Health Informatics, School of Medicine, The University of Nottingham, Digital Research Service, The University of Nottingham, and NIHR Nottingham Biomedical Research Centre; (2)Reza Omdivar、デジタル研究サービス、ノッティンガム大学およびNIHRノッティンガム生物医学研究センター (3) Esmond Urwin, Centre for Health Informatics, School of Medicine, The University of Nottingham and NIHR Nottingham Biomedical Research Centre (4)Karthikeyan Sivakumar、デジタル研究サービス、ノッティンガム大学 (5) Ruizhe Li, NIHRノッティンガム生物医学研究センターとコンピュータサイエンススクール、ノッティンガム大学; (6) Andy Rae, Centre for Health Informatics, School of Medicine, The University of Nottingham; (7) Xiaoyan Wang, Lee Kong Chian School of Medicine, Nanyang Technological University, シンガポール (8) Theresia Mina, Lee Kong Chian School of Medicine, Nanyang Technological University, シンガポール (9)John Chambers, Lee Kong Chian School of Medicine, Nanyang Technological University, Singapore and Department of Epidemiology and Biostatistics, School of Public Health, Imperial College London, United Kingdom; (10)Grazziela Figueredo、健康情報学センター、医学部、ノッティンガム大学およびNIHRノッティンガム生物医学研究センター (11) Philip R Quinlan, Centre for Health Informatics, School of Medicine, The University of Nottingham。 Authors: (1) James Mitchell-White, Centre for Health Informatics, School of Medicine, The University of Nottingham, Digital Research Service, The University of Nottingham, and NIHR Nottingham Biomedical Research Centre; (2)Reza Omdivar、デジタル研究サービス、ノッティンガム大学およびNIHRノッティンガム生物医学研究センター (3) Esmond Urwin, Centre for Health Informatics, School of Medicine, The University of Nottingham and NIHR Nottingham Biomedical Research Centre (4)Karthikeyan Sivakumar、デジタル研究サービス、ノッティンガム大学 (5) Ruizhe Li, NIHRノッティンガム生物医学研究センターとコンピュータサイエンススクール、ノッティンガム大学; (6) Andy Rae, Centre for Health Informatics, School of Medicine, The University of Nottingham; (7) Xiaoyan Wang, Lee Kong Chian School of Medicine, Nanyang Technological University, シンガポール (8) Theresia Mina, Lee Kong Chian School of Medicine, Nanyang Technological University, シンガポール (9)John Chambers, Lee Kong Chian School of Medicine, Nanyang Technological University, Singapore and Department of Epidemiology and Biostatistics, School of Public Health, Imperial College London, United Kingdom; (10)Grazziela Figueredo、健康情報学センター、医学部、ノッティンガム大学およびNIHRノッティンガム生物医学研究センター (11) Philip R Quinlan, Centre for Health Informatics, School of Medicine, The University of Nottingham。 
 
 この論文は、CC BY 4.0 ライセンスの下で archiv で提供されています。 この論文は、CC BY 4.0 ライセンスの下で archiv で提供されています。

Part of HackerNoon's growing list of open-source research papers, promoting free access to academic material.

EScholar Technologies

EScholar

このオーディオは、ストーリーの元の言語で制作されています。

「Llettuce: The AI Tool Mapping Messy Medical Records to Standard Code」

About Author

コメント

ラベル

この記事は

Related Stories

AI の力を解き放つ。最先端技術の体系的レビュー: 概要と序論

目に見えない層: ユーザーインタビューがかけがえのない資産である理由

暗号通貨の成長: 効果的なユーザーペルソナの作成

Telegram: クリプト島と本土を結ぶ橋

AI の力を解き放つ。最先端技術の体系的レビュー: 概要と序論

目に見えない層: ユーザーインタビューがかけがえのない資産である理由

暗号通貨の成長: 効果的なユーザーペルソナの作成

Telegram: クリプト島と本土を結ぶ橋

Light-Mode

Classic

Newspaper

Minty

Dark-Mode

Neon Noir

Minty

HN StartUps