Koyeba malamu ba graphiques ya boyebi ya LLM: Kotonga pe kosalela GraphRAG na Minutes 5 Kaka

Motongi ya graphique ya boyebi ya LLM ezali moko ya Bisaleli ya Ecosystème ya GraphRAG ya Neo4j oyo epesaka yo nguya ya kobongola ba données oyo ebongisami te na ba graphiques ya boyebi ya dynamique. Ezali kosangisama na chatbot ya Retrieval-Augmented Generation (RAG), oyo epesaka nzela na kotuna minoko ya bozalisi mpe bososoli oyo ekoki kolimbolama na ba données na yo.

Kobanda Na GraphRAG: Bisaleli ya Ecosystème ya Neo4j

Motongi ya graphique ya boyebi ya Neo4j LLM ezali nini?

Neo4j LLM Knowledge Graph Builder ezali application ya sika na internet mpo na kobongola makomi oyo ebongisami te na graphique ya boyebi oyo ezali na code te mpe na Cypher te, kopesaka expérience ya magie ya texte na graphique. Esalelaka ba modèles ML (LLMs: OpenAI, Gemini, Diffbot) mpo na kobongola ba PDF, ba pages web, mpe ba vidéos ya YouTube na graphique ya boyebi ya ba entités mpe ba relation na yango.

Nsuka ya liboso ezali application React oyo esalemi na Needle Starter Kit na biso , mpe nsuka ya sima ezali application Python FastAPI. Esalelaka module llm-graph-transformer oyo Neo4j a contribuaki na LangChain.

Application epesaka expérience sans soudure, kolanda ba étapes minei ya pete:

1. Bomeli ba données — Esungaka ba sources ya ba données ndenge na ndenge, na kati na yango mikanda ya PDF, ba pages ya Wikipedia, ba vidéos ya YouTube, pe ebele.
2. Bondimi ya biloko — Esalelaka ba LLM mpo na koyeba mpe kobimisa biloko mpe boyokani na makomi oyo ebongisami te.
3. Botongi ya graphique — Ebongoli ba entités mpe ba relation oyo eyebani na format ya graphique, na kosalelaka makoki ya graphique Neo4j.
4. Interface ya mosaleli — Epesaka interface web intuitive mpo na basaleli mpo na kosala interaction na application, ko faciliter upload ya ba sources ya ba données, visualisation ya graphique oyo esalemi, mpe interaction na agent RAG. Likoki oyo ezali mingimingi kosepelisa lokola epesaka nzela na boyokani ya mayele na ba données, ekokani na kozala na masolo na graphique ya boyebi yango moko — boyebi ya tekiniki esengeli te.

Tomeka Yango

Tozali kopesa application na environnement na biso oyo eyambami na Neo4j na ba cartes de crédit oyo esengeli te mpe ba clés LLM te — friction-free.

Na lolenge mosusu, mpo na kotambwisa yango na esika to na kati ya esika na yo, kota na repo ya GitHub ya bato banso mpe landa malako ya litambe na litambe oyo tokotalela na post oyo.

Yambo tofungola pe tosalela LLM Knowledge Graph Builder, tosala base de données ya sika ya Neo4j. Mpo na yango, tokoki kosalela base de données ya ofele ya AuraDB na kolanda ba étapes oyo:

• Kota to sala compte na https://console.neo4j.io .
• Na nse ya Instances, sala Base ya Ba données ya sika ya ofele ya AuraDB.
• Télécharger fichier ya ba credentiels.
• Zela tii tango instance ekotambola.

Sikoyo lokola tozali na base de données na biso ya Neo4j oyo ezali kosala mpe ba credentiels na biso, tokoki kofungola LLM Knowledge Graph Builder, mpe kofina Connectez-vous na Neo4j na coin ya likolo na droite.

Bwaka fichier ya ba credentiels oyo o téléchargé liboso na dialogue ya connexion. Esengeli kotondisa ba informations nionso automatiquement. Na lolenge mosusu, okoki kokotisa makambo nyonso na mabɔkɔ.

Kosala Graphique ya Boyebi

Processus ebandi na ingestion ya ba données na yo non structurées, oyo sima elekisami na LLM pona koyeba ba entités clés pe ba relation na yango.

Okoki kobenda mpe kobwaka ba PDF mpe ba fichiers mosusu na zone ya entrée ya liboso na gauche. Entrée ya mibale eko permettre yo o copier/coller lien na vidéo ya YouTube oyo olingi osalela, alors que entrée ya misato ekozua lien ya page Wikipedia.

Mpo na ndakisa oyo, nakotia mwa ba PDF oyo nazali na yango oyo elobeli société ya chaîne d’approvisionnement oyo babengi GraphACME, lisolo ya bapanzi-nsango oyo euti na Forbes , mpe video ya YouTube oyo elobeli Directive du diligence du durablement des entreprises (CSDDD), mpe nkasa mibale oyo euti na Wikipedia: Directive ya Due Diligence ya Durabilité ya entreprise mpe Bangladesh .

Tango ya ko uploader ba fichiers, application eko bomba ba sources oyo e uploader lokola ba noeuds ya document na graphique na nzela ya LangChain Document Loaders na ba parseurs ya YouTube. Soki ba fichiers nionso esili ko uploader, esengeli omona eloko ya ndenge moko na oyo:

Nyonso tosengeli kosala sikoyo ezali kopona modèle oyo tosengeli kosalela, kofina Generer graphique , mpe kotika magie esala oyo etikali mpo na yo!

Soki olingi kaka kobimisa boponi ya fisyé, okoki kopona liboso ba fisyé (na esika ya kotiya elembo na colonne ya liboso ya tableau) mpe kofina Generer graphique .

Tango ezali ko traité ba fichiers na yo pe ko créer Graphique ya Connaissance na yo, tika na résumer oyo ezali koleka na se ya capote:

1. Makambo oyo ezali na kati ekabolami na biteni.
2. Ba chunks ebombami na graphique mpe ekangami na noeud ya mokanda mpe moko na mosusu mpo na ba modèles ya RAG ya liboso.
3. Ba chunks oyo ekokani mingi ekangami na relation SIMILAR pona kosala graphique ya K-Nearest Neighbors.
4. Ba embeddings e calculer pe ebombamaka na ba chunks na index ya vecteur.
5. Na kosalelaka llm-graph-transformer to diffbot-graph-transformer, ba entités na ba relation ezuami na texte.
6. Ba entités ebombamaka na graphique mpe ekangami na ba chunks oyo ebandi.

Talá Graphique ya Boyebi na Yo

Ba informations oyo ezuami na mokanda na yo ebongisami na format ya graphique, esika ba entités ekomi ba noeuds, mpe ba relation ebongwanaka na ba bords oyo ekangisaka ba noeuds wana. Kitoko ya kosalela Neo4j ezali na makoki na yango ya kobomba malamu mpe kotuna mituna na ba réseaux wana ya ba données complexes, kosala ete graphique ya boyebi oyo esalemi ezala mbala moko na ntina mpo na ba applications ndenge na ndenge.

Yambo ya kosalela agent RAG mpo na kotuna mituna na ntina ya ba données na biso, tokoki kopona mokanda moko (to mingi) na esika ya kotiya elembo mpe kofina Lakisa graphique . Yango eko lakisa ba entités oyo esalemi pona (ba) mokanda oyo oponi; okoki pe kolakisa mokanda pe node ya ba chunks na vue wana:

Bouton Fungola Graphique na Bloom ekofungola Neo4j Bloom mpo na kosalisa yo omona na makanisi mpe okende na graphique ya boyebi na yo ya sika oyo osali. Action oyo elandi — Kolongola ba fichiers — elongolaka mikanda mpe biteni oyo oponi na graphique (mpe ba entités soki oponi yango na ba options).

Solola na Boyebi na Yo

Sikoyo eyei eteni ya suka: agent ya RAG oyo okoki komona na panneau ya droite.

Nzela ya kozwa — Ndenge nini esalaka?

Elilingi oyo ezali awa na nse ezali kolakisa botali ya pete ya mosala ya GraphRAG.

Tango mosaleli atuni motuna, tosalelaka index vecteur Neo4j na requête ya récupération mpo na koluka ba chunks oyo ezali na tina mingi mpo na motuna mpe ba entités na bango oyo ekangami kino na bozindo ya 2 sauts. Tozali mpe kosala na mokuse lisolo ya masolo mpe tosalelaka yango lokola élément mpo na ko enrichir contexte.

Ba entrées pe ba sources ndenge na ndenge (motuna, ba résultats vectoriels, histoire ya chat) nionso etindami na modèle ya LLM oyo eponami na prompt personnalisé, kosenga kopesa pe ko formater eyano na motuna oyo etunami na kotalaka ba éléments pe contexte oyo epesami. Ya solo, prompt ezali na magie mingi, lokola formatage, kosenga ko citer ba sources, ko spéculer te soki réponse eyebani te, etc. Prompt mobimba mpe ba instructions ekoki kozwama lokola FINAL_PROMPT na QA_integration.py .

Tuna Mituna oyo etali ba Données na Yo

Na ndakisa oyo, na chargeaki mikanda ya kati oyo elobeli société moko ya lokuta na kombo ya GraphACME (oyo ezali na Europe), kobimisa mpe kokoma stratégie mpe biloko na bango mobimba ya chaîne d’approvisionnement. Na chargeaki mpe article ya presse mpe video ya YouTube kolimbola CSDDD ya sika, impact na yango, mpe réglementation. Tokoki sikoyo kotuna chatbot mituna na ntina ya boyebi na biso ya kati (ya lokuta) ya kompanyi — mituna na ntina ya mobeko ya CSDDD, to kutu mituna na kati ya nyonso mibale, lokola kotuna liste ya biloko oyo GraphACME ebimisaka, soki ekozala na bopusi na mobeko ya CSDDD, mpe soki ezali bongo, ndenge nini ekozala na bopusi likoló na kompanyi yango.

Makambo ya kosolola

Na ngambo ya mobali ya écran d’accueil, okomona ba boutons misato oyo ekangami na fenêtre ya chat:

• Bokanga ekokanga interface ya chatbot.
• Effacer histoire ya chat ekolongola histoire ya chat ya session oyo ezali lelo.
• Fenêtre ya Maximiser ekofungola interface ya chatbot na mode ya écran mobimba.

Na biyano ya agent ya RAG, okokuta makambo misato sima ya eyano:

• Ba détails ekofungola pop-up ya information ya bozui oyo ekolakisa ndenge nini agent ya RAG asangisi pe asalelaki ba sources (mikanda), ba chunks, pe ba entités. Ba informations oyo etali modèle oyo esalelami pe consommation ya jeton ekotisami pe.
• Copie ekosala copie ya contenus ya réponse na clipboard.
• Text-to-Speech ekotanga na mongongo makasi makambo oyo ezali na eyano.

Kozinga makambo

Mpo na kozinda na mozindo na LLM Knowledge Graph Builder, GitHub Repository epesaka bomengo ya sango, bakisa mpe code source mpe mikanda. Lisusu, Mikanda na biso epesi bokambi ya sikisiki mpo na kobanda, mpe GenAI Ecosystem epesi mayele mosusu na ntina ya bisaleli mpe bosaleli ya monene oyo ezali.

Oyo ekolanda — Makoki ya kopesa maboko mpe ya bopanzi

Expérience na yo na LLM Knowledge Graph Builder ezali na motuya mingi. Soki okutani na ba bugs, ozali na makanisi mpo na makambo ya sika, olingi kopesa maboko, to olingi komona mwa kobongisama, plateforme ya lisanga ezali esika ya malamu mpenza mpo na kokabola makanisi na yo. Mpo na baye bayebi malamu kosala codage, kopesa maboko mbala moko na GitHub ekoki kozala lolenge ya mbano mpo na kosalisa na kotombola mosala. Maloba mpe makoki na yo esalisaka kaka te kobongisa esaleli kasi mpe kolendisa lisanga ya boyokani mpe ya sika:

• Neo4j Communauté en ligne
• Bokota na Serveur ya Discord ya Neo4j!

Biloko

Yekola makambo mingi na ntina ya bisaleli ya sika mpo na ba applications ya GenAI: Neo4j GraphRAG Bisaleli ya écosystème . Bisaleli oyo ya source ouverte esalaka ete ezala pete mpo na kobanda na ba applications ya GenAI oyo esalemi na mabele na ba graphiques ya boyebi, oyo esalisaka kobongisa qualité ya réponse mpe kolimbola mpe kosala ete développement mpe adoption ya ba apps ezala mbangu.

Video

Ba liens

• Kobanda Na GraphRAG: Bisaleli ya Ecosystème ya Neo4j
• GitHub – neo4j-labs/llm-graph-builder: Botongi ya graphique ya Neo4j uta na ba données oyo ebongisami te
• Neo4j LLM Motongi ya graphique ya boyebi – Kobimisa ba noeuds mpe ba relations na texte non structuré (PDF, YouTube, pages web) – Neo4j Labs
• Écosystème GenAI – Ba laboratoires ya Neo4j
• Needle StarterKit 2.0: Ba modèles, Chatbot, mpe mingi mosusu!