Стол слева 
 
 
 
 
 
 Abstract and Introduction 
 
 
 
 
 
 
 
 
 
 System Architecture 2.1  Access via UI or HTTP 2.1.1  GUI 2.2  Input 2.3  Natural Language Processing Pipeline — The Llettuce API 2.3.1  Vector search 2.3.2  LLM 2.3.3  Concept Matches 2.4  Output 
 
 
 
 
 
 
 
 
 Case Study: Medication Dataset 3.1  Data Description 3.2  Experimental Design 3.3  Results 3.3.1  Comparison between vector search and Usagi 3.3.2  Comparison with GPT-3 3.4  Conclusions & Acknowledgement 3.5  References 2 Архитектура системы Llettuce был написан с использованием Python как для back-end, так и для пользовательского интерфейса. Back-end включает в себя векторный магазин для семантического поиска, локальный LLM, чтобы предложить картографирование, и запросы в подключенную базу данных OMOP CDM, чтобы предоставить пользователю детали предполагаемого картографирования. 2.1 Доступ через UI или HTTP Все взаимодействия с Llettuce происходят через HTTP-запросы в Llettuce API. POST-запрос делается на сервер Llettuce, содержащий JSON в следующем формате: Опции трубопровода являются дополнительными, поэтому запрос может быть просто списком неформальных имен. 2.1.1 GUI Для пользователей, менее комфортных с командной строкой, предоставляется графический пользовательский интерфейс (GUI). Это построено с использованием фреймворка Streamlit (Streamlit, 2024) Python, и представляет пользователю два варианта. Первый показывает текстовое поле, где пользователь может ввести ком-секретный список неформальных имен, чтобы запустить через трубопровод. Второй позволяет пользователю загрузить .csv файл и выбрать колонну, содержащую имена, чтобы запустить через трубопровод. Для обоих вариантов результаты трубопровода отображаются ниже ввода. 2.2 Вход Llettuce использует FastAPI (Ramírez, 2024) для обслуживания конечных точек API. Эти конечные точки позволяют использовать различные комбинации модулей Llettuce для поиска названий концепций. Natural Language Processing Pipeline — Llettuce API 2.3.1 Vector search LLM являются хорошими генералистами для создания текста. Тем не менее, OMOP CDM имеет специализированную лексику. Чтобы преодолеть этот пробел, Llettuce использует встраивания концепций OMOP для семантического поиска. Было показано, что трансформаторы только с кодировкой производят представления языка таким образом, что семантически связанные концепции находятся близко в пространстве их встраиваний (Bengio et al., 2003; Devlin et al., 2019). Llettuce использует встраивания предложений (Reimers & Gurevych, 2019) для создания встраиваний для концепций. Эти трансформаторы хранятся локально в векторной базе данных. FastEmbed (‘Qdrant/Fembasted’, 2023, 14 июля/Встраиваемая концепция сравнивается с Лучшие k-встраивания используются для восстановления увеличенного поколения (RAG) (Lewis et.al., 2021). В режиме RAG трубопровод сначала запрашивает векторную базу данных. Установлен порог на сходство встраиваний таким образом, что встраивания выше этого являются точными совпадениями. Если существует встраивание с баллом выше этого порога, это предоставляется пользователю. Если нет очень близкого совпадения, встраивания встраиваются в запрос, который служит входом в LLM, как обсуждается далее. Рациональность заключается в том, что встраивания могут либо содержать ответ, который LLM может выбрать, либо намекает на то, что может быть близко к правильному ответу. 2.3.2 LLM Llettuce использует Llama.cpp (Gerganov et al., 2024) для запуска последней Llama LLM от Meta (Dubey et al., 2024). Llama.cpp предоставляет API для запуска трансформаторного вывода. Он обнаруживает доступное оборудование и использует оптимизации для эффективного вывода, работающего на центральных процессорах (CPU). Версия Llama, протестированная в нашем случае, имеет 8 миллиардов параметров (Llama 3.1 8B). Модели обучаются с каждым параметром как 32-битным номером плавающей точки. Квантизация была использована для уменьшения размера модели, с небольшой потерей точности (Dettmers & Zettlemoyer, 2023; Jacob et al., 2017). Полная точность Llama 3.1 8B требует более 32 ГБ оперативной памяти, в то время как 4-битная квантизированная модель требует менее 5 ГБ. Поэтому большинство потребительских ноутбуков способны держать модель в памяти Llettuce использует Haystack (deepset GmbH, 2024) для оркестрации своих трубопроводов LLM. Для трубопроводов только LLM существует компонент, который принимает неформальное название и вставляет его в шаблон проспекта, а другой, который доставляет этот проспект в LLM. Проспект, используемый в этих случаях, использует методы, рекомендованные для моделей Llama (‘Meta-Llama/Llama-Recipes’, 2023, 17/2024). Например, запрос для RAG содержит подробные, явные инструкции. You are an assistant that suggests formal RxNorm names for a medication. You will be given the name of a medication, along with some possibly related RxNorm terms. If you do not think these terms are related, ignore them when making your suggestion. Respond only with the formal name of the medication, without any extra explanation. Эта часть просьбы также дает LLM роль, которая, как было показано, улучшает последовательность в ответах(Kong et al., 2024).Важно отметить, что просьба включает в себя предоставление примеров неформальных имен / формальных именных пар, эффективной тактики поощрения LLM (Brown et al., 2020): Как только LLM выводит формальное название для предоставленного неформального имени, это формальное название используется в качестве концептуального имени в параметризированном запросе OMOP CDM. 2.3.3 Concept Matches Чтобы получить детали любой концепции через трубопровод Llettuce, запрашивается база данных OMOP CDM. Запросы OMOP CDM генерируются с помощью объектно-реляционного картографирования через SQLAlchemy (Bayer, 2012). Стрижка, используемая для поля концептуального имени, сначала предварительно обрабатывается, удаляя пунктуацию и останавливая слова и разделяя слова с символом трубы для совместимости с PostgreSQL в текстовом поисках базы данных. Например, строка «парацетамол и кофеин» удаляется слово «и», а остальные 196 слов используются для построения строки «парацетамол, кофеин». Слова этого поискового термина используются для текстового запроса против названий понятий выбранных словарных слов OMOP. Опционально 2.4 Выход Например, для трубопровода, выполняющего запросы LLM и OMOP, ввод запроса выглядит следующим образом: {«имена»: [«Аппликация Betnovate Scalp»] возвращает вывод JSON для «событий» llm_output и omop_output для каждого имени, отправленного в Llettuce. llm_output содержит ответ на ответ LLM, неформальное_имя, предоставленное в запросе, и мета-описывающие метаданные о проведении LLM. Событие omop_output содержит поисковый термин, отправленный в OMOP-CDM, а затем на массив CONCEPT, где каждый элемент соответствует порогу, установленному на нечетком сопоставлении строк. Каждый элемент описывает concept_name, concept_id, vocabulary_id и concept_code из концептуальной таблицы OMOP-CDM, за которым следует concept_name_similarity_score, рассчитанный в Llettuce. Llettuce также имеет возможность получать дополнительную информацию из OMOP-CDM, которая не включена в конфигурацию по умолчанию, которая включена в вход для каждой концепции. GUI анализирует это и отображает его в более удобном для пользователя формате. 
 
 
 
 
 
 
 
 
 
 
 
 
 Авторы : (1) Джеймс Митчелл-Уайт, Центр информатики в области здравоохранения, Медицинская школа, Университет Ноттингема, Служба цифровых исследований, Университет Ноттингема и Центр биомедицинских исследований NIHR Ноттингема; (2) Реза Омдивар, Служба цифровых исследований, Университет Ноттингема и Центр биомедицинских исследований Ноттингема NIHR; (3) Эсмонд Урвин, Центр информатики в области здравоохранения, Медицинская школа, Университет Ноттингема и Центр биомедицинских исследований Ноттингема NIHR; (4) Картикеян Сивакумар, Служба цифровых исследований, Университет Ноттингема; Ruizhe Li, NIHR Нотингемский биомедицинский исследовательский центр и школа компьютерных наук, Университет Нотингема; (6) Энди Рай, Центр информатики в области здравоохранения, Школа медицины, Университет Ноттингема; (7) Xiaoyan Wang, Lee Kong Chian School of Medicine, Nanyang Technological University, Сингапур; (8) Терезия Мина, Lee Kong Chian School of Medicine, Nanyang Technological University, Сингапур; (9) Джон Чэмберс, Lee Kong Chian School of Medicine, Nanyang Technological University, Сингапур и Департамент эпидемиологии и биостатистики, Школа общественного здравоохранения, Imperial College London, Великобритания; (10) Grazziela Figueredo, Центр информатики в области здравоохранения, Медицинская школа, Университет Ноттингема и Центр биомедицинских исследований NIHR Nottingham; (11) Филип Р. Куинлан, Центр информатики в области здравоохранения, Школа медицины, Университет Ноттингема. Authors: (1) Джеймс Митчелл-Уайт, Центр информатики в области здравоохранения, Медицинская школа, Университет Ноттингема, Служба цифровых исследований, Университет Ноттингема и Центр биомедицинских исследований NIHR Ноттингема; (2) Реза Омдивар, Служба цифровых исследований, Университет Ноттингема и Центр биомедицинских исследований Ноттингема NIHR; (3) Эсмонд Урвин, Центр информатики в области здравоохранения, Медицинская школа, Университет Ноттингема и Центр биомедицинских исследований Ноттингема NIHR; (4) Картикеян Сивакумар, Служба цифровых исследований, Университет Ноттингема; Ruizhe Li, NIHR Нотингемский биомедицинский исследовательский центр и школа компьютерных наук, Университет Нотингема; (6) Энди Рай, Центр информатики в области здравоохранения, Школа медицины, Университет Ноттингема; (7) Xiaoyan Wang, Lee Kong Chian School of Medicine, Nanyang Technological University, Сингапур; (8) Терезия Мина, Lee Kong Chian School of Medicine, Nanyang Technological University, Сингапур; (9) Джон Чэмберс, Lee Kong Chian School of Medicine, Nanyang Technological University, Сингапур и Департамент эпидемиологии и биостатистики, Школа общественного здравоохранения, Imperial College London, Великобритания; (10) Grazziela Figueredo, Центр информатики в области здравоохранения, Медицинская школа, Университет Ноттингема и Центр биомедицинских исследований NIHR Nottingham; (11) Филип Р. Куинлан, Центр информатики в области здравоохранения, Школа медицины, Университет Ноттингема. 
 
 Данная статья доступна в архиве под лицензией CC BY 4.0. Эта бумага является Под лицензией CC BY 4.0. Доступно в архиве

Part of HackerNoon's growing list of open-source research papers, promoting free access to academic material.

EScholar Technologies

EScholar

Этот звук создан на языке оригинала истории!

Llettuce: Инструмент ИИ для переноса медицинских записей Messy в стандартный код

About Author

КОММЕНТАРИИ

БИРКИ

ЭТА СТАТЬЯ БЫЛА ПРЕДСТАВЛЕНА В

Related Stories

Рост криптовалют: создание эффективных образов пользователей

Хотите выиграть конкурс HackerNoon? Вот что рекомендуют победители конкурса #crypto-api

Нажмите, чтобы заработать: Telegram может привлечь следующие 10 миллиардов пользователей криптовалюты до Соланы

Руководство архитектора по созданию эталонной архитектуры для озера данных AI/ML

Рост криптовалют: создание эффективных образов пользователей

Хотите выиграть конкурс HackerNoon? Вот что рекомендуют победители конкурса #crypto-api

Нажмите, чтобы заработать: Telegram может привлечь следующие 10 миллиардов пользователей криптовалюты до Соланы

Руководство архитектора по созданию эталонной архитектуры для озера данных AI/ML

Light-Mode

Classic

Newspaper

Minty

Dark-Mode

Neon Noir

Minty

HN StartUps