Mesa da Esquerda 
 
 
 
 
 
 Abstract and Introduction 
 
 
 
 
 
 
 
 
 
 System Architecture 2.1  Access via UI or HTTP 2.1.1  GUI 2.2  Input 2.3  Natural Language Processing Pipeline — The Llettuce API 2.3.1  Vector search 2.3.2  LLM 2.3.3  Concept Matches 2.4  Output 
 
 
 
 
 
 
 
 
 Case Study: Medication Dataset 3.1  Data Description 3.2  Experimental Design 3.3  Results 3.3.1  Comparison between vector search and Usagi 3.3.2  Comparison with GPT-3 3.4  Conclusions & Acknowledgement 3.5  References 2 - Arquitetura do sistema Llettuce foi escrito usando Python para um back-end e uma interface de usuário. O back-end inclui uma loja de vetores para pesquisa semântica, um LLM local para sugerir mappings e consultas para um banco de dados OMOP CDM conectado para fornecer os detalhes de um mapping sugerido ao usuário. 2.1 Acesso via UI ou HTTP Todas as interações com o Llettuce são feitas através de solicitações HTTP para a API do Llettuce. Uma solicitação POST é feita para o servidor do Llettuce que contém JSON com o seguinte formato: As opções de pipeline são opcionais, então um pedido pode ser apenas uma lista de nomes informais. 2.1.1 GUI Para usuários menos confortáveis com a linha de comando, uma interface de usuário gráfica (GUI) é fornecida. Este é construído usando o framework Streamlit (Streamlit, 2024) Python, e apresenta o usuário com duas opções. A primeira mostra uma caixa de texto onde um usuário pode digitar uma lista separada de nomes informais para executar através do pipeline. O segundo permite que um usuário carregue um arquivo .csv e escolha uma coluna contendo nomes para executar através do pipeline. Para qualquer opção, os resultados do pipeline são mostrados abaixo da entrada. 2.2 Introdução O Llettuce usa o FastAPI (Ramírez, 2024) para servir os endpoints da API. Estes endpoints permitem que diferentes combinações de módulos Llettuce sejam usadas para encontrar nomes de conceitos. 2.3 Natural Language Processing Pipeline – A API Llettuce 2.3.1 Vector search Os LLMs são bons generalistas para a geração de texto. No entanto, o OMOP CDM tem um vocabulário especializado. Para combinar essa lacuna, Llettuce usa embeddings de conceitos OMOP para pesquisa semântica. Foi demonstrado que os transformadores apenas codificadores produzem representações de linguagem de tal forma que conceitos semânticamente relacionados estão próximos no espaço de suas embeddings (Bengio et al., 2003; Devlin et al., 2019). Llettuce usa embeddings de sentença (Reimers & Gurevych, 2019) para gerar embeddings para conceitos. Estes são armazenados localmente em um banco de dados vetorial. FastEmbed (‘Qdrant/Fembasted’, 2023, 14 de julho/O conceito embedded é comparado com os vetores armazenados e os emb Os principais k-embeddings são usados para a geração aumentada por recuperação (RAG) (Lewis et.al., 2021). No modo RAG, o pipeline primeiro consulta o banco de dados vetorial. Um limiar para a semelhança dos embeddings foi definido de tal forma que os embeddings acima disso são correspondências exatas. Se houver um embedding com uma pontuação acima deste limiar, estes são fornecidos ao usuário. Se não houver uma correspondência muito próxima, os embeddings são inseridos em um prompt, que serve como entrada para o LLM, como discutido a seguir. A razão é que os embeddings próximos podem conter a resposta, que o LLM pode selecionar, ou sugestões sobre o que pode estar próximo da resposta certa. 2.3.2 LLM Llettuce usa Llama.cpp (Gerganov et al., 2024) para executar o mais recente Llama LLM de Meta (Dubey et al., 2024). Llama.cpp fornece uma API para executar a inferência de transformador. Detecta o hardware disponível e usa otimizações para inferência eficiente em execução em unidades de processamento central (CPUs). A versão de Llama testada em nosso estudo de caso tem 8 bilhões de parâmetros (Llama 3.1 8B). Os modelos são treinados com cada parâmetro como um número de ponto flutuante de 32 bits. A quantificação foi empregada para reduzir o tamanho do modelo, com pouca perda de precisão (Dettmers & Zettlemoyer, 2023; Jacob et al., 2017). A precisão completa Llama 3.1 8B requer mais de 32 Gb de RAM para ser executada, enquanto o modelo quantificado de 4 bits requer menos de 5 Gb. A Llettuce utiliza a Haystack (deepset GmbH, 2024) para orquestrar os seus gasodutos LLM. Para os gasodutos LLM-only, há um componente que toma um nome informal e insere-o em um modelo de prompt, e outro que entrega este prompt ao LLM. O prompt usado nestes casos usa técnicas recomendadas para modelos Llama (‘Meta-Llama/Llama-Recipes’, 2023, 17 de julho de 2024). Por exemplo, o prompt para RAG contém instruções detalhadas e explícitas You are an assistant that suggests formal RxNorm names for a medication. You will be given the name of a medication, along with some possibly related RxNorm terms. If you do not think these terms are related, ignore them when making your suggestion. Respond only with the formal name of the medication, without any extra explanation. Esta parte do convite também dá ao LLM um papel, que tem sido mostrado para melhorar a consistência nas respostas(Kong et al., 2024). Uma vez que o LLM tenha inferido um nome formal para o nome informal fornecido, esse nome formal é usado como um nome conceitual em uma consulta OMOP CDM parametrizada. 2.3.3 Concept Matches Para obter os detalhes de qualquer conceito através de um pipeline Llettuce, um banco de dados OMOP CDM é consultado. As consultas OMOP CDM são geradas usando um mapeamento objeto-relacional através do SQLAlchemy (Bayer, 2012). A cadeia usada para o campo de nome do conceito é primeiro pré-processada removendo a pontuação e palavras de parada e dividindo as palavras com o caráter do tubo para compatibilidade com o PostgreSQL na pesquisa de texto da base de dados. Por exemplo, a cadeia “paracetamol e cafeína” tem a palavra de parada “e” removida, e as 196 palavras restantes usadas para construir a cadeia “paracetamol, cafeína”. As palavras deste termo de pesquisa são usadas para uma pesquisa de texto contra os nomes de conceito dos vocabulários OM 2.4 Produção Os pipelines Llettuce emitem JSON contendo os resultados do pipeline. Por exemplo, para um pipeline executando a consulta LLM e OMOP, uma solicitação de entrada é a seguinte: {"nomes": ["Aplicação Betnovate Scalp"] Retorna a saída JSON para os “eventos” llm_output e omop_output para cada nome enviado para Llettuce. O llm_output contém uma resposta da resposta do LLM, o nome informal fornecido na solicitação e metadados descritivos sobre a execução do LLM. O evento omop_output contém o search_term enviado para o OMOP-CDM, em seguida, uma matriz CONCEPT, onde cada item é uma correspondência que atende ao limiar definido na correspondência de cadeia fuzzy. Cada item descreve o concept_name, concept_id, vocabulary_id, e concept_code da tabela de conceito do OMOP-CDM, seguido pelo concept_name_similarity_score calculado em Llettuce. Llettuce também tem a opção de obter informações adicionais do OMOP-CDM, não habilitado na configuração padrão, que é incluído na entrada para cada conceito. A GUI analisa isso e exibe-o em um formato mais fácil de usar. 
 
 
 
 
 
 
 
 
 
 
 
 
 Os autores: (1) James Mitchell-White, Centro de Informática da Saúde, Escola de Medicina, Universidade de Nottingham, Serviço de Pesquisa Digital, Universidade de Nottingham, e NIHR Nottingham Centro de Pesquisa Biomédica; (2) Reza Omdivar, Serviço de Pesquisa Digital, Universidade de Nottingham e NIHR Nottingham Centro de Pesquisa Biomédica; (3) Esmond Urwin, Centro de Informática da Saúde, Escola de Medicina, Universidade de Nottingham e NIHR Nottingham Centro de Pesquisa Biomédica; (4) Karthikeyan Sivakumar, Serviço de Pesquisa Digital, Universidade de Nottingham; (5) Ruizhe Li, NIHR Nottingham Centro de Pesquisa Biomédica e Escola de Ciência da Computação, Universidade de Nottingham; (6) Andy Rae, Centro de Informática da Saúde, Escola de Medicina, Universidade de Nottingham; (7) Xiaoyan Wang, Lee Kong Chian School of Medicine, Universidade Tecnológica de Nanyang, Singapura; (8) Theresia Mina, Lee Kong Chian School of Medicine, Universidade Tecnológica de Nanyang, Singapura; (9) John Chambers, Lee Kong Chian School of Medicine, Nanyang Technological University, Singapura e Departamento de Epidemiologia e Biostatística, Escola de Saúde Pública, Imperial College London, Reino Unido; (10) Grazziela Figueredo, Centro de Informática da Saúde, Escola de Medicina, Universidade de Nottingham e NIHR Nottingham Centro de Pesquisa Biomédica; (11) Philip R Quinlan, Centro de Informática da Saúde, Escola de Medicina, Universidade de Nottingham. Authors: (1) James Mitchell-White, Centro de Informática da Saúde, Escola de Medicina, Universidade de Nottingham, Serviço de Pesquisa Digital, Universidade de Nottingham, e NIHR Nottingham Centro de Pesquisa Biomédica; (2) Reza Omdivar, Serviço de Pesquisa Digital, Universidade de Nottingham e NIHR Nottingham Centro de Pesquisa Biomédica; (3) Esmond Urwin, Centro de Informática da Saúde, Escola de Medicina, Universidade de Nottingham e NIHR Nottingham Centro de Pesquisa Biomédica; (4) Karthikeyan Sivakumar, Serviço de Pesquisa Digital, Universidade de Nottingham; (5) Ruizhe Li, NIHR Nottingham Centro de Pesquisa Biomédica e Escola de Ciência da Computação, Universidade de Nottingham; (6) Andy Rae, Centro de Informática da Saúde, Escola de Medicina, Universidade de Nottingham; (7) Xiaoyan Wang, Lee Kong Chian School of Medicine, Universidade Tecnológica de Nanyang, Singapura; (8) Theresia Mina, Lee Kong Chian School of Medicine, Universidade Tecnológica de Nanyang, Singapura; (9) John Chambers, Lee Kong Chian School of Medicine, Nanyang Technological University, Singapura e Departamento de Epidemiologia e Biostatística, Escola de Saúde Pública, Imperial College London, Reino Unido; (10) Grazziela Figueredo, Centro de Informática da Saúde, Escola de Medicina, Universidade de Nottingham e NIHR Nottingham Centro de Pesquisa Biomédica; (11) Philip R Quinlan, Centro de Informática da Saúde, Escola de Medicina, Universidade de Nottingham. 
 
 Este artigo está disponível em arquivo sob a licença CC BY 4.0. Este artigo está disponível em arquivo sob a licença CC BY 4.0.

Part of HackerNoon's growing list of open-source research papers, promoting free access to academic material.

EScholar Technologies

EScholar

Este áudio é produzido no idioma original da história!

Llettuce: A ferramenta de IA mapeando registros médicos de Messy para código padrão

About Author

COMENTARIOS

Rótulos

ESTE ARTIGO FOI APRESENTADO EM

Related Stories

Guia do arquiteto para construir arquitetura de referência para um Datalake de IA/ML

Uma breve introdução à teoria do cérebro de Boltzmann

Navegando pelas águas: desenvolvendo aplicações RAG de nível de produção com data lakes

Liberando o poder da IA. Uma revisão sistemática de técnicas de ponta: resumo e introdução

Guia do arquiteto para construir arquitetura de referência para um Datalake de IA/ML

Uma breve introdução à teoria do cérebro de Boltzmann

Navegando pelas águas: desenvolvendo aplicações RAG de nível de produção com data lakes

Liberando o poder da IA. Uma revisão sistemática de técnicas de ponta: resumo e introdução

Light-Mode

Classic

Newspaper

Minty

Dark-Mode

Neon Noir

Minty

HN StartUps