Bàn trái 
 
 
 
 
 
 Abstract and Introduction 
 
 
 
 
 
 
 
 
 
 System Architecture 2.1  Access via UI or HTTP 2.1.1  GUI 2.2  Input 2.3  Natural Language Processing Pipeline — The Llettuce API 2.3.1  Vector search 2.3.2  LLM 2.3.3  Concept Matches 2.4  Output 
 
 
 
 
 
 
 
 
 Case Study: Medication Dataset 3.1  Data Description 3.2  Experimental Design 3.3  Results 3.3.1  Comparison between vector search and Usagi 3.3.2  Comparison with GPT-3 3.4  Conclusions & Acknowledgement 3.5  References 2. kiến trúc hệ thống Llettuce được viết bằng Python cho cả một back-end và một giao diện người dùng. back-end bao gồm một kho vector cho tìm kiếm ngữ nghĩa, một LLM địa phương để đề xuất bản đồ, và truy vấn đến một cơ sở dữ liệu OMOP CDM được kết nối để cung cấp các chi tiết của một bản đồ được đề xuất cho người dùng. 2.1 Truy cập qua UI hoặc HTTP Tất cả các tương tác với Llettuce được thực hiện thông qua các yêu cầu HTTP đến API Llettuce. Một yêu cầu POST được thực hiện đến máy chủ Llettuce chứa JSON với định dạng sau: Các tùy chọn đường ống là tùy chọn, vì vậy một yêu cầu có thể chỉ là một danh sách tên không chính thức. 2.1.1 GUI Đối với người dùng ít thoải mái hơn với dòng lệnh, giao diện người dùng đồ họa (GUI) được cung cấp. Điều này được xây dựng bằng cách sử dụng khuôn khổ Streamlit (Streamlit, 2024) Python, và trình bày cho người dùng hai tùy chọn. Đầu tiên hiển thị một hộp văn bản nơi người dùng có thể gõ một danh sách tên không chính thức tách rời để chạy qua đường ống. Thứ hai cho phép người dùng tải lên một tệp .csv và chọn một cột có chứa tên để chạy qua đường ống. Đối với cả hai tùy chọn, kết quả của đường ống được hiển thị bên dưới đầu vào. 2.2 Đầu vào Llettuce sử dụng FastAPI (Ramírez, 2024) để phục vụ các điểm cuối API. Những điểm cuối này cho phép các kết hợp khác nhau của các mô-đun Llettuce được sử dụng để tìm tên khái niệm. 2.3 Đường ống xử lý ngôn ngữ tự nhiên – Llettuce API 2.3.1 Vector search LLMs là tổng quát tốt cho việc tạo văn bản. Tuy nhiên, OMOP CDM có một từ vựng chuyên gia. Để thu hẹp khoảng cách này, Llettuce sử dụng nhúng các khái niệm OMOP để tìm kiếm ngữ nghĩa. Nó đã được chứng minh rằng các bộ chuyển đổi chỉ mã hóa tạo ra các đại diện của ngôn ngữ như vậy mà các khái niệm có liên quan đến ngữ nghĩa gần gũi trong không gian của nhúng của họ (Bengio et al., 2003; Devlin et al., 2019). Llettuce sử dụng nhúng câu (Reimers & Gurevych, 2019) để tạo nhúng cho các khái niệm. Chúng được lưu trữ cục bộ trong cơ sở dữ liệu vector. FastEmbed (‘Qdrant/Fembasted’, 2023, 14 tháng 7 / Khái niệm nhúng được so sánh với các vector Các nhúng k hàng đầu được sử dụng cho việc thu thập tăng cường sản xuất (RAG) (Lewis et.al., 2021). Trong chế độ RAG, đường ống đầu tiên truy vấn cơ sở dữ liệu vector. Một ngưỡng về sự tương đồng của nhúng đã được thiết lập để nhúng trên đây là phù hợp chính xác. Nếu có một nhúng với điểm trên ngưỡng này, chúng được cung cấp cho người dùng. Nếu không có sự phù hợp rất gần, các nhúng được chèn vào một lời nhắc, phục vụ như là đầu vào cho LLM, như được thảo luận tiếp theo. Lý do là nhúng gần có thể chứa câu trả lời, mà LLM có thể chọn, hoặc gợi ý về những gì có thể gần với câu trả lời đúng. 2.3.2 LLM Llettuce sử dụng Llama.cpp (Gerganov et al., 2024) để chạy LLM Llama mới nhất từ Meta (Dubey et al., 2024). Llama.cpp cung cấp một API để chạy kết luận chuyển đổi. Nó phát hiện phần cứng có sẵn và sử dụng tối ưu hóa để kết luận hiệu quả chạy trên các đơn vị xử lý trung tâm (CPU). Phiên bản Llama được thử nghiệm trong nghiên cứu trường hợp của chúng tôi có 8 tỷ tham số (Llama 3.1 8B). Các mô hình được đào tạo với mỗi tham số như là một số điểm nổi 32-bit. Quantisation được sử dụng để giảm kích thước của mô hình, với ít mất độ chính xác (Dettmers & Zettlemoyer, 2023; Jacob et al., 2017). Llama 3.1 8B chính xác đầy đủ đòi hỏi hơn 32 Gb RAM để chạy, trong khi mô hình định lượng 4 bit đòi hỏi ít hơn 5 Gb. Do đó hầu hết các máy tính xách tay tiêu dùng có thể giữ mô hình trong bộ nhớ Llettuce sử dụng Haystack (deepset GmbH, 2024) để tổ chức các đường ống LLM của mình. Đối với các đường ống chỉ có LLM, có một thành phần lấy một tên không chính thức và chèn nó vào một mẫu thư mời, và một thành phần khác cung cấp thư mời này cho LLM. thư mời được sử dụng trong những trường hợp này sử dụng các kỹ thuật được đề nghị cho các mô hình Llama (‘Meta-Llama/Llama-Recipes’, 2023, 17/2024). Ví dụ, lời nhắc cho RAG chứa các hướng dẫn chi tiết, rõ ràng You are an assistant that suggests formal RxNorm names for a medication. You will be given the name of a medication, along with some possibly related RxNorm terms. If you do not think these terms are related, ignore them when making your suggestion. Respond only with the formal name of the medication, without any extra explanation. Phần này của lời nhắc cũng cung cấp cho LLM một vai trò, đã được chứng minh là cải thiện sự nhất quán trong các câu trả lời(Kong et al., 2024). quan trọng là lời nhắc bao gồm việc cung cấp ví dụ về các cặp tên không chính thức / tên chính thức, một chiến thuật hiệu quả cho lời nhắc LLM (Brown et al., 2020): Một khi LLM đã kết luận một tên chính thức cho tên không chính thức được cung cấp, tên chính thức này được sử dụng như một tên khái niệm trong một truy vấn OMOP CDM được tham số hóa. 2.3.3 Concept Matches Để thu thập chi tiết của bất kỳ khái niệm nào thông qua đường ống Llettuce, một cơ sở dữ liệu OMOP CDM được truy vấn. Các truy vấn OMOP CDM được tạo ra bằng cách sử dụng bản đồ đối tượng liên quan thông qua SQLAlchemy (Bayer, 2012). Chuỗi được sử dụng cho trường tên khái niệm trước tiên được xử lý bằng cách loại bỏ điểm và từ dừng và chia các từ với ký tự đường ống để tương thích với PostgreSQL trong tìm kiếm văn bản cơ sở dữ liệu. Ví dụ, chuỗi "paracetamol và caffeine" có từ dừng "và" bị loại bỏ, và 196 từ còn lại được sử dụng để xây dựng chuỗi "paracetamol, caffeine". Các từ của thuật ngữ tìm kiếm này được sử dụng cho một truy vấn văn bản chống lại các tên khái niệm của từ vựng 2.4 Sản xuất Các đường ống Llettuce phát ra JSON chứa kết quả của đường ống. Ví dụ, đối với một đường ống chạy truy vấn LLM và OMOP, một yêu cầu đầu vào như sau: {"names": ["Betnovate Scalp Ứng dụng"] Trả về đầu ra JSON cho "sự kiện" llm_output và omop_output cho mỗi tên được gửi đến Llettuce. Các llm_output chứa một câu trả lời của câu trả lời của LLM, tên không chính thức cung cấp trong yêu cầu, và meta mô tả siêu dữ liệu về việc chạy của LLM. Sự kiện omop_output chứa search_term được gửi đến OMOP-CDM, sau đó là mảng CONCEPT, nơi mỗi mục là một trận đấu đáp ứng ngưỡng được thiết lập trên khớp nối chuỗi mơ hồ. Mỗi mục mô tả concept_name, concept_id, vocabulary_id, và concept_code từ bảng khái niệm của OMOP-CDM, tiếp theo là concept_name_similarity_score được tính toán trong Llettuce. Llettuce cũng có tùy chọn lấy thêm thông tin từ OMOP-CDM, không được kích hoạt trong cấu hình mặc định, được bao gồm trong mục nhập cho mỗi khái niệm. GUI phân tích điều này và hiển thị nó trong một định dạng thân thiện hơn với người dùng. 
 
 
 
 
 
 
 
 
 
 
 
 
 Tác giả : (1) James Mitchell-White, Trung tâm Thông tin Y tế, Trường Y học, Đại học Nottingham, Dịch vụ Nghiên cứu Kỹ thuật số, Đại học Nottingham, và Trung tâm Nghiên cứu y sinh NIHR Nottingham; (2) Reza Omdivar, Dịch vụ nghiên cứu kỹ thuật số, Đại học Nottingham, và Trung tâm nghiên cứu y sinh NIHR Nottingham; (3) Esmond Urwin, Trung tâm Thông tin Y tế, Trường Y học, Đại học Nottingham và Trung tâm Nghiên cứu Y sinh Nottingham của NIHR; (4) Karthikeyan Sivakumar, Dịch vụ nghiên cứu kỹ thuật số, Đại học Nottingham; (5) Ruizhe Li, NIHR Trung tâm nghiên cứu y sinh Nottingham và Trường Khoa học Máy tính, Đại học Nottingham; (6) Andy Rae, Trung tâm Thông tin Y tế, Trường Y học, Đại học Nottingham; (7) Xiaoyan Wang, Trường Y khoa Lee Kong Chian, Đại học Công nghệ Nanyang, Singapore; (8) Theresia Mina, Trường Y khoa Lee Kong Chian, Đại học Công nghệ Nanyang, Singapore; (9) John Chambers, Trường Y khoa Lee Kong Chian, Đại học Công nghệ Nanyang, Singapore và Khoa dịch tễ học và thống kê sinh học, Trường Y tế Công cộng, Imperial College London, Vương quốc Anh; (10) Grazziela Figueredo, Trung tâm Thông tin Y tế, Trường Y học, Đại học Nottingham và Trung tâm Nghiên cứu Y sinh Nottingham của NIHR; (11) Philip R Quinlan, Trung tâm Thông tin Y tế, Trường Y học, Đại học Nottingham. Authors: (1) James Mitchell-White, Trung tâm Thông tin Y tế, Trường Y học, Đại học Nottingham, Dịch vụ Nghiên cứu Kỹ thuật số, Đại học Nottingham, và Trung tâm Nghiên cứu y sinh NIHR Nottingham; (2) Reza Omdivar, Dịch vụ nghiên cứu kỹ thuật số, Đại học Nottingham, và Trung tâm nghiên cứu y sinh NIHR Nottingham; (3) Esmond Urwin, Trung tâm Thông tin Y tế, Trường Y học, Đại học Nottingham và Trung tâm Nghiên cứu Y sinh Nottingham của NIHR; (4) Karthikeyan Sivakumar, Dịch vụ nghiên cứu kỹ thuật số, Đại học Nottingham; (5) Ruizhe Li, NIHR Trung tâm nghiên cứu y sinh Nottingham và Trường Khoa học Máy tính, Đại học Nottingham; (6) Andy Rae, Trung tâm Thông tin Y tế, Trường Y học, Đại học Nottingham; (7) Xiaoyan Wang, Trường Y khoa Lee Kong Chian, Đại học Công nghệ Nanyang, Singapore; (8) Theresia Mina, Trường Y khoa Lee Kong Chian, Đại học Công nghệ Nanyang, Singapore; (9) John Chambers, Trường Y khoa Lee Kong Chian, Đại học Công nghệ Nanyang, Singapore và Khoa dịch tễ học và thống kê sinh học, Trường Y tế Công cộng, Imperial College London, Vương quốc Anh; (10) Grazziela Figueredo, Trung tâm Thông tin Y tế, Trường Y học, Đại học Nottingham và Trung tâm Nghiên cứu Y sinh Nottingham của NIHR; (11) Philip R Quinlan, Trung tâm Thông tin Y tế, Trường Y học, Đại học Nottingham. 
 
 Tài liệu này có sẵn trên archiv dưới giấy phép CC BY 4.0. Tài liệu này có sẵn trên archiv dưới giấy phép CC BY 4.0.

Part of HackerNoon's growing list of open-source research papers, promoting free access to academic material.

EScholar Technologies

EScholar

Nghe bài viết này bằng Tiếng Anh, đọc bởi robot thông minh của HackerNoon

Llettuce: Công cụ AI lập bản đồ hồ sơ y tế Messy thành mã tiêu chuẩn

About Author

BÌNH LUẬN

chuyên mục

BÀI VIẾT NÀY CŨNG CÓ MẶT TẠI

Related Stories

287 Stories To Learn About Blockchain Development

223 Stories To Learn About Science

85 Stories To Learn About Travel

145 Stories To Learn About Book

287 Stories To Learn About Blockchain Development

223 Stories To Learn About Science

85 Stories To Learn About Travel

145 Stories To Learn About Book

Light-Mode

Classic

Newspaper

Minty

Dark-Mode

Neon Noir

Minty

HN StartUps