Esta publicación de blog detalla como construír un axente GraphRAG usando a base de datos de gráficos Neo4j e a base de datos de vectores   . Este axente combina o poder das   e   para proporcionar respostas precisas e relevantes ás consultas dos usuarios. Neste exemplo, utilizaremos LangGraph, Llama 3.1 8B con Ollama e GPT-4o. Milvus bases de datos de gráficos a busca vectorial  Os sistemas tradicionais de xeración aumentada de recuperación (   ) dependen unicamente dos sistemas  para recuperar documentos relevantes. O noso enfoque vai máis aló incorporando   para captar relacións entre entidades e conceptos, ofrecendo unha comprensión máis matizada da información. Queremos crear un sistema RAG máis robusto e informativo combinando estas dúas técnicas. RAG   bases de datos vectoriales Neo4j  Construíndo o Axente da RAG  O noso axente segue tres conceptos clave: enrutamento, mecanismos de reserva e autocorrección. Estes principios impléntanse mediante unha serie de compoñentes de LangGraph:    : un mecanismo de enrutamento dedicado decide se usar a base de datos vectorial, o gráfico de coñecemento ou unha combinación de ambos en función da consulta. Enrutamento    : nas situacións nas que a recuperación inicial é insuficiente, o axente volve a buscar na web mediante Tavily. Fallback    : o axente avalía as súas propias respostas e tenta corrixir as alucinacións ou inexactitudes. Autocorrección  Despois temos outros compoñentes, como:    : usamos Milvus, unha base de datos vectorial de código aberto e de alto rendemento, para almacenar e recuperar fragmentos de documentos en función da   coa consulta do usuario. Recuperación semellanza semántica    : Neo4j úsase para construír un gráfico de coñecemento a partir dos documentos recuperados, enriquecendo o contexto con relacións e entidades. Mellora de gráficos    : Llama 3.1 8B, un LLM local, úsase para xerar respostas e avaliar a relevancia e precisión da información recuperada, mentres que GPT-4o úsase para xerar Cypher, a linguaxe de consulta utilizada por Neo4j. Integración de LLMs  Arquitectura GraphRAG  A arquitectura do noso axente GraphRAG pódese visualizar como un fluxo de traballo con varios nodos interconectados:    : o axente analiza primeiro a pregunta para determinar a mellor estratexia de recuperación (busca vectorial, busca gráfica ou ambas). Enrutamento de preguntas    : en función da decisión de encamiñamento, os documentos relevantes son recuperados de Milvus ou a información extraída do gráfico Neo4j. Recuperación    : o LLM xera unha resposta utilizando o contexto recuperado. Xeración    : o axente avalía a resposta xerada para a súa relevancia, precisión e potenciais alucinacións. Avaliación    (se é necesario): se a resposta non se considera satisfactoria, o axente pode refinar a súa busca ou tentar corrixir erros. Refinación  Exemplos de axentes  Para mostrar as capacidades dos nosos axentes de LLM, vexamos dous compoñentes diferentes:   e   . Graph Generation Composite Agent  Aínda que o código completo está dispoñible na parte inferior desta publicación, estes fragmentos proporcionarán unha mellor comprensión de como funcionan estes axentes no marco de LangChain.  Xeración de gráficos  Este compoñente está deseñado para mellorar o proceso de preguntas e respostas utilizando as capacidades dun Neo4j. Responde preguntas aproveitando o coñecemento incorporado na base de datos de gráficos Neo4j. Así é como funciona:    : permite que o LLM interactúe coa base de datos de gráficos Neo4j. Usa o LLM de dúas formas: GraphCypherQAChain    : esta instancia do LLM é responsable de xerar consultas de Cypher para extraer información relevante do gráfico en función da pregunta do usuario. cypher_llm    : asegúrese de que as consultas de Cypher están validadas para garantir que son sintácticamente correctas. Validación    : as consultas validadas execútanse no gráfico Neo4j para recuperar o contexto necesario. Recuperación de contexto    : o modelo de linguaxe utiliza o contexto recuperado para xerar unha resposta á pregunta do usuario. Xeración de respostas   ### Generate Cypher Query llm = ChatOllama(model=local_llm, temperature=0) # Chain graph_rag_chain = GraphCypherQAChain.from_llm( cypher_llm=llm, qa_llm=llm, validate_cypher=True, graph=graph, verbose=True, return_intermediate_steps=True, return_direct=True, ) # Run question = "agent memory" generation = graph_rag_chain.invoke({"query": question})  Este compoñente permite que o sistema RAG toque Neo4j, o que pode axudar a proporcionar respostas máis completas e precisas.  Axente composto, gráfico e vector 🪄  Aquí é onde sucede a maxia: o noso axente pode combinar os resultados de Milvus e Neo4j, o que permite comprender mellor a información e dar respostas máis precisas e matizadas. Así é como funciona:    definimos unha indicación que lle indica ao LLM que use o contexto de Milvus e Neo4j para responder á pregunta. Indicacións:    o axente recupera información relevante de Milvus (usando a busca vectorial) e Neo4j (usando a xeración de gráficos). Recuperación:    Llama 3.1 8B procesa a solicitude e xera unha resposta concisa, aproveitando o coñecemento combinado das bases de datos vectoriais e gráficas coa cadea composta. Xeración de respostas:   ### Composite Vector + Graph Generations cypher_prompt = PromptTemplate( template="""You are an expert at generating Cypher queries for Neo4j. Use the following schema to generate a Cypher query that answers the given question. Make the query flexible by using case-insensitive matching and partial string matching where appropriate. Focus on searching paper titles as they contain the most relevant information. Schema: {schema} Question: {question} Cypher Query:""", input_variables=["schema", "question"], )   # QA prompt qa_prompt = PromptTemplate( template="""You are an assistant for question-answering tasks. Use the following Cypher query results to answer the question. If you don't know the answer, just say that you don't know. Use three sentences maximum and keep the answer concise. If topic information is not available, focus on the paper titles. Question: {question} Cypher Query: {query} Query Results: {context} Answer:""", input_variables=["question", "query", "context"], ) llm = ChatOpenAI(model="gpt-4o", temperature=0)   # Chain graph_rag_chain = GraphCypherQAChain.from_llm( cypher_llm=llm, qa_llm=llm, validate_cypher=True, graph=graph, verbose=True, return_intermediate_steps=True, return_direct=True, cypher_prompt=cypher_prompt, qa_prompt=qa_prompt, )  Vexamos os resultados da nosa busca, combinando os puntos fortes das bases de datos de gráficos e vectores para mellorar o descubrimento do noso traballo de investigación.  Comezamos coa nosa busca de gráficos usando Neo4j:   # Example input data question = "What paper talks about Multi-Agent?" generation = graph_rag_chain.invoke({"query": question}) print(generation)   > Entering new GraphCypherQAChain chain... Generated Cypher: cypher MATCH (p:Paper) WHERE toLower(p.title) CONTAINS toLower("Multi-Agent") RETURN p.title AS PaperTitle, p.summary AS Summary, p.url AS URL   > Finished chain. {'query': 'What paper talks about Multi-Agent?', 'result': [{'PaperTitle': 'Collaborative Multi-Agent, Multi-Reasoning-Path (CoMM) Prompting Framework', 'Summary': 'In this work, we aim to push the upper bound of the reasoning capability of LLMs by proposing a collaborative multi-agent, multi-reasoning-path (CoMM) prompting framework. Specifically, we prompt LLMs to play different roles in a problem-solving team, and encourage different role-play agents to collaboratively solve the target task. In particular, we discover that applying different reasoning paths for different roles is an effective strategy to implement few-shot prompting approaches in the multi-agent scenarios. Empirical results demonstrate the effectiveness of the proposed methods on two college-level science problems over competitive baselines. Our further analysis shows the necessity of prompting LLMs to play different roles or experts independently.', 'URL': 'https://github.com/amazon-science/comm-prompt'}]  A busca de gráficos destaca por atopar relacións e metadatos. Pode identificar rapidamente artigos baseados en títulos, autores ou categorías predefinidas, proporcionando unha vista estruturada dos datos.  A continuación, pasamos á nosa busca vectorial para buscar unha perspectiva diferente:   # Example input data question = "What paper talks about Multi-Agent?" # Get vector + graph answers docs = retriever.invoke(question) vector_context = rag_chain.invoke({"context": docs, "question": question})   > The paper discusses "Adaptive In-conversation Team Building for Language Model Agents" and talks about Multi-Agent. It presents a new adaptive team-building paradigm that offers a flexible solution for building teams of LLM agents to solve complex tasks effectively. The approach, called Captain Agent, dynamically forms and manages teams for each step of the task-solving process, utilizing nested group conversations and reflection to ensure diverse expertise and prevent stereotypical outputs.  A busca vectorial é moi boa para comprender o contexto e a semellanza semántica. Pode descubrir artigos que están conceptualmente relacionados coa consulta, aínda que non conteñan explícitamente os termos da busca.  Finalmente, combinamos os dous métodos de busca:  Esta é unha parte crucial do noso axente RAG, que permite utilizar bases de datos vectoriais e gráficas.   composite_chain = prompt | llm | StrOutputParser() answer = composite_chain.invoke({"question": question, "context": vector_context, "graph_context": graph_context}) print(answer)   > The paper "Collaborative Multi-Agent, Multi-Reasoning-Path (CoMM) Prompting Framework" talks about Multi-Agent. It proposes a framework that prompts LLMs to play different roles in a problem-solving team and encourages different role-play agents to collaboratively solve the target task. The paper presents empirical results demonstrating the effectiveness of the proposed methods on two college-level science problems.  Ao integrar buscas de gráficos e vectores, aproveitamos os puntos fortes de ambos enfoques. A busca de gráficos proporciona precisión e navega por relacións estruturadas, mentres que a busca vectorial engade profundidade a través da comprensión semántica.  Este método combinado ofrece varias vantaxes:    : atopa documentos relevantes que poden perderse por calquera dos métodos. Memoria mellorada    : ofrece unha comprensión máis matizada de como se relacionan os traballos entre si. Contexto mellorado    : pode adaptarse a diferentes tipos de consultas, desde buscas de palabras clave específicas ata exploracións conceptuais máis amplas. Flexibilidade  Resumindo  Nesta publicación do blog, mostramos como construír un axente GraphRAG usando Neo4j e Milvus. Ao combinar os puntos fortes das bases de datos de gráficos e   , este axente ofrece respostas precisas e relevantes ás consultas dos usuarios. da busca vectorial  A arquitectura do noso axente RAG, co seu enrutamento dedicado, mecanismos de reserva e capacidades de autocorrección, faino robusto e fiable. Os exemplos dos compoñentes de xeración de gráficos e axente composto demostran como este axente pode aproveitar bases de datos vectoriais e gráficas para ofrecer respostas completas e matizadas.  Agardamos que esta guía sexa útil e che inspire a comprobar as posibilidades de combinar bases de datos de gráficos e busca vectorial nos teus propios proxectos.  O código actual está dispoñible en   . GitHub  Para obter máis información sobre este tema, únete a nós en NODES 2024 o 7 de novembro, a nosa conferencia virtual gratuíta para desenvolvedores sobre aplicacións intelixentes, gráficos de coñecemento e IA.  Rexístrate agora!

This story contains new, firsthand information uncovered by the writer.

The code in this story is for educational purposes. The readers are solely responsible for whatever they build with it.

Este audio está producido na lingua orixinal da historia!

Construíndo un axente RAG híbrido con Neo4j Graphs e Milvus Vector Search

About Author

COMENTARIOS

Etiquetas colgantes

ESTE ARTIGO FOI PRESENTADO EN

Related Stories

HackerNoon Decoded 2024: Celebrating Our Startups Community!

HackerNoon Decoded 2024: Celebrating Our Tech Companies Community!

R Systems BlogBook—Chapter 1: Round 2 is Now Open for Submissions🎉

HackerNoon Decoded 2024: Celebrating Our Tech Stories Community!

HackerNoon Decoded 2024: Celebrating Our Startups Community!

HackerNoon Decoded 2024: Celebrating Our Tech Companies Community!

R Systems BlogBook—Chapter 1: Round 2 is Now Open for Submissions🎉

HackerNoon Decoded 2024: Celebrating Our Tech Stories Community!

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps