IA Générative et Graphes Neo4j : RAG time !

IA Générative et
Graphes Neo4j :
RAG time !

Selon les prévisions, l'IA devrait stimuler
le PIB mondial de 7 % tout en doublant la productivité
au cours de la prochaine décennie.1
Le moteur de croissance des entreprises
1. Goldman Sachs
3 Neo4j Inc. All rights reserved 2024

4
Percées de
l’IA
Personnalisation à
Grande Échelle
Optimiser la Prise de Décision
Efﬁcacité Maximale
des Procédés
Stimuler la Créativité
Analyse Prédictive
Faciliter l’Extraction des
Données et L’Automatisation
Générer du Contenu
& du Code
Améliorer
les Expériences Client
Neo4j Inc. All rights reserved 2024

5
94%des dirigeants
reconnaissent que l'IA
est cruciale pour la
croissance au cours des
cinq prochaines années.
1. Deloitte’s State of AI in the Enterprise

6
Gérer les
risques liés à l'IA
est le principal
obstacle
à l'expansion des
initiatives IA1
Hésitation généralisée : >50% des CEOs
découragent actuellement l'adoption de l'IAGen.1
Manque d’explicabilité : >80 % des dirigeants
craignent que la non-transparence de l'IAGen
n'entraîne des décisions médiocres ou illégales.2
Risque d’inexactitude : L'imprécision et
l'hallucination sont les risques les + cités
d'adoption de l'IAGen à tous les niveaux d'une
organisation.3
1. Deloitte’s State of AI in the Enterprise
2. BCG’s Digital Acceleration Index Study 2023 3. McKinsey: The state of AI in 2023

Les déﬁs de l’IAGen
● Manque de connaissance métier
● Impossibilité de vériﬁer les réponses
● Hallucinations
● Problèmes d'éthique et de biais

Comment les organisations
peuvent-elles utiliser des
connaissances métier
spéciﬁques pour créer
rapidement des applications
IAGen ﬁables, contextuelles
et explicables ?
La
Question
n°1

Le “Retrieval-Augmented Generation” devient la norme
Le RAG augmente les LLMs en récupérant
des données externes actualisées et
contextualisées aﬁn de guider les réponses :
● Réduire les hallucinations grâce à des
données contrôlées
●
Fournir des réponses pertinentes et
spéciﬁques au domaine métier
●
Permettre la traçabilité des sources
Retrieval Augmented Generation
Database of Truth

Pourquoi le RAG avec BD vectorielles n'est pas à la hauteur
1
3
2
4
La similarité n'est pas suffisante pour des raisonnements poussés sur des données d’entreprise
Les BD vectorielles
n’exploitent qu'une fraction de
vos données : Au-delà des
simples "métadonnées", les
bases de données vectorielles
ne parviennent pas à elles
seules à capturer les relations
entre les données structurées.
Ignorance du contexte critique :
Difficulté à saisir les liens entre des
faits nuancés, ce qui rend difficile
la réponse à des questions
spécifiques à un domaine métier et
comportant plusieurs étapes.
Similarité vectorielle ≠ Pertinence :
La recherche vectorielle utilise une
mesure incomplète de la similarité. En
s'appuyant uniquement sur cette mesure,
on peut obtenir des résultats non
pertinents et redondants.
Absence d'explicabilité :
La nature "boîte noire" des
vecteurs empêche la
transparence et l'explicabilité

Le ‘R’ de
‘RAG’,
c’est le
graphe…

12
RAG avec Neo4j -Really About Graphs
Trouver des documents et
des contenus similaires
Identifier les entités
associées aux contenus
et aux motifs (“patterns”)
dans les données
connectées
Inférences et connaissances
issues de l'IAGen améliorées.
Découverte de nouvelles
relations et entités
Unifier les capacités de recherche vectorielle,
de graphe de connaissances et de data science
pour améliorer la qualité et l'efficacité du RAG
Vector Search Data Science
Knowledge
Graph

Augmenter la pertinence avec le
contexte et les inférences
Accélérer le développement
des applications GenAI
Réalisez votre
prochaine révolution
GenAI grâce au
contexte et à
l’explicabilité
approfondie.
Expliquer et améliorer
les applications GenAI
Neo4j facilite l’IA Générative

Augmenter la pertinence avec le contexte
et les inférences
Améliorer le contexte à l'aide de faits tirés d'un KG
Renforcer la personnalisation et la qualité
à l'aide du graph pattern matching
Élargir les connaissances et les déductions
via la graph data science
et le machine learning orienté graphes

Résultat
Knowledge
Graph
Réponse
Requête
GenAI
Application
Prompt
Interface
Utilisateur
Améliorer le contexte
à l'aide de faits tirés
d'un KG
Un KG Neo4j augmente la pertinence
et la précision des réponses de
l’IAGen en offrant une extraction
complète et précise de l'information.

d'un KG
Combiner la recherche vectorielle
native avec des parcours de graphe à
plusieurs sauts pour ajouter un
contexte métier spéciﬁque à partir
d'un KG
Inclure la recherche hybride,
notamment la recherche textuelle et les
recherches basées sur des indexes de
dates, numériques et géographiques

3. Le Cypher
généré est
utilisé pour
requêter Neo4j
LLM
Application
Utilisateur
Neo4j Database
5. Réponse
1. Question
2. Question traduite en
requête Cypher
4. Le résultat issu de la base de données
est restitué en langage naturel
d'un KG
Combiner la recherche vectorielle
native avec des parcours de graphe à
plusieurs sauts pour ajouter un
contexte métier spéciﬁque à partir
d'un KG
Convertir les questions des
utilisateurs en requêtes Cypher pour
effectuer du RAG avec une stratégie
de requêtes explicites
Inclure la recherche hybride,
notamment la recherche textuelle et les
recherches basées sur des indexes de
dates, numériques et géographiques

Utiliser des motifs de parcours
de graphe pour classer et
noter les résultats de la
recherche vectorielle en
fonction de la connaissance du
domaine métier
Extraire des résultats plus précis
aﬁn d'obtenir des réponses LLM
plus personnalisées
from langchain.vectorstores.neo4j_vector import
Neo4jVector
kg_personalized_search =
Neo4jVector.from_existing_index(
embedding=embedding_model,
url=NEO4J_URI,username=NEO4J_USERNAME,password=NEO4J_PA
SSWORD,
index_name='product-text-embeddings',
retrieval_query=f"""
WITH node AS product, score AS vectorSearchScore
OPTIONAL MATCH
(product) [:VARIANT_OF]-(:Article) [:PURCHASED]-
(:Customer)-[:PURCHASED] (a:Article) [:PURCHASED]-
(:Customer {{customerId: '{CUSTOMER_ID}'}})
WITH count(a) AS purchaseScore,
RETURN
""")
Renforcer la
personnalisation
et la qualité

Élargir les connaissances
et les déductions via la
Graph Data Science
et le ML orienté graphes
19
Incorporer rapidement le contexte des
données structurées dans la recherche
vectorielle RAG en utilisant les graph
embeddings de Neo4j avec un index
vectoriel natif
Des connaissances + approfondies par
l'IA en enrichissant votre KG avec la
prédiction de liens, la détection de
communautés et la classiﬁcation à
l'aide d'algorithmes de graphe
et de l'apprentissage automatique
orienté graphe
Le + vaste catalogue
d'algorithmes de graphes
Espace de travail
analytique
nativement graphe
Graph Embeddings pour
une recherche avancée

Réalisez votre
GenAI grâce au
contexte et à
l’explicabilité
approfondie.

21
Expliquer et améliorer les applications IAGen
Tracer facilement les sources et expliquer la stratégie de recherche
Comprendre et expliquer les modèles de “grounding” de l'IA
Perfectionner à grande échelle les données de
“grounding” de l’IAGen

Tracer facilement
les sources
22
Ajouter des métadonnées de
référence (citations)
aux nœuds et aux relations
dans le KG
Permettre la mention des
sources dans les réponses
LLM en intégrant des
frameworks tels que
LangChain et LlamaIndex

Expliquer
la Logique
d’Extraction
23
Inspecter et expliquer la
logique d'extraction en
convertissant les questions
des utilisateurs en requêtes
Cypher explicites, lisibles
(par les humains) et
traçables.

Comprendre et expliquer les
mécanismes de Grounding de l'IA
Comprendre les données d'ancrage
en les représentant dans un KG Neo4j-un
format à la fois convivial pour l'homme et
lisible par la machine et l’IAGen
Explorer et visualiser les connexions
entre les données à l'aide de requêtes
Cypher et d'interfaces
low-code/no-code (Neo4j Bloom)
Analyser les modèles dans les données
d'ancrage à l'aide d'algorithmes de
graphes tels que KNN, la détection de
communautés et la centralité pour
comprendre les similitudes sémantiques
et les connexions entre les sources

Perfectionner à l’échelle
les données de “grounding”
de l’IAGen
Permettre aux experts métier
d'inspecter le KG avec Neo4j Bloom,
Cypher et Neo4j Browser
Améliorer la qualité des données en
utilisant Cypher et des algorithmes de
graphes pour l'identiﬁcation des doublons,
la détection des valeurs aberrantes et la
révélation des tendances et des biais.

Perfectionner à l’échelle
les données de “grounding”
de l’IAGen
Permettre aux experts métier
d'inspecter le KG avec Neo4j Bloom,
Cypher et Neo4j Browser
Améliorer la qualité des données en
utilisant Cypher et des algorithmes de
graphes pour l'identification des doublons,
la détection des valeurs aberrantes et la
révélation des tendances et des biais.
Évaluer les performances du LLM et les
habitudes d'utilisation afin d'identifier les
points d'amélioration-Analyser les liens
entre les prompts, les réponses et les
données de grounding à l'aide de Cypher
et d’algorithmes de graphes.

Réalisez votre
GenAI grâce au
contexte et à
l’explicabilité
approfondie.

28
Dynamisez vos applications IA avec une représentation ﬁable et
dynamique des données (RAG)
Construire rapidement un graphe de connaissances
pour les cas d’usage IA (et pour les autres)
S’intégrer avec l’écosystème GenAI
Accélérer le Développement des Application IAGen

Dynamisez vos applications IA
avec une représentation ﬁable
et dynamique des données
29
Exploitez toutes vos données en un seul
endroit grâce à un modèle de données de
graphe de propriétés, incluant le stockage
vectoriel et les capacités de recherche
profonde
Evolutif avec un schéma adaptable et
convivial pour intégrer de nouvelles sources
de données, tout en préservant la qualité
Permettre l'ingestion de données en temps
réel dans Neo4j pour une utilisation immédiate
dans les applications GenAI, avec la prise en
charge du streaming via le connecteur Kafka
●
Car
●
Person
Person
Name: “Andre”
Born: May 29, 1970
Twitter: “@dan”
Name: “Mica”
Born: Dec 5, 1975
Car
Brand “Volvo”
Model: “V70”
Description: “An executive car manufactured and…”
DescEmbedding: [0.1, -0.3, 0.4, …, -0.7]
DescSource:”https://en.wikipedia.org/wiki/Volvo_V70”
Since:
Jan 10, 2011
LOVES
KNOWS
KNOWS
LIVES WITH
O
W
N
S
D
R
I
V
E
S

Construire rapidement
un KG pour les cas
d’usage IA
30
Car
Car
La reconnaissance des entités
nommées (NER) permet
d'accélérer la création de KGs
à partir de données non
structurées
Modéliser rapidement des
données structurées sous
forme de nœuds et de relations
dans un KG
Ingérer du texte, de l'audio et
d'autres contenus en tant que
propriétés vectorielles de
nœuds et les indexer en vue de
leur utilisation RAG
Embedding (Unstructured)
Structured
Unstructured
Data Sources
Named Entity Recognition
Structured Data
Generative AI Models
Embedding Models
Knowledge Graph

Intégration dans l’
écosystème IAGen
31
GenAI Stack
Application
Generative AI & Embedding Models
Orchestration
Grounding Knowledge Graph
Neo4jGraph
Neo4jVector
GraphCypherQAChain
Neo4jGraphStore
Neo4jVectorStore
KnowledgeGraphIndex
APOC
Text | Chat | Embedding
NL Query | Image Gen
Neo4j Drivers
Java
Python JavaScript
Appeler les APIs LLM de
façon native via Cypher en
utilisant la bibliothèque
open-source Neo4j APOC
Intégrer Neo4j avec les principaux
frameworks LLM open-source tels
que LangChain et LlamaIndex
Orchestration LLM agnostique
connectant les graphes à OpenAI,
AWS Bedrock, GCP Vertex AI,
Azure, Anthropic, Hugging Face,
et d'autres modèles
fondationnels propriétaires et
open source

Focus sur l'application GenAI,
pas sur l'infrastructure
32
Mises à jour automatiques,
0% de maintenance
Extensibilité & Élasticité à la demande
Sécurité niveau Entreprise
Haute Disponibilité

Modèles Flexibles de Déploiement Cloud
SaaS infogéré
Prix en fonction de la
consommation
Pour les clouds
privés/hybrides,
ou sur site
Service professionnel
géré par des experts
Neo4j
Self-Hosted
Cloud Managed Services
Graph-as-a-Service
Cloud-native
Déploiement en self-service
Pas d'accès à l'infrastructure
sous-jacente
Modèle de déploiement et de
niveaux de service entièrement
personnalisables
Exploitation dans vos propres
datacenters / VPC
BYOL
Contrôle total de votre environnement
Exécution dans n'importe quel cloud,
depuis votre compte

Avancées de l’IAGen dans le monde réel
basées sur Neo4j
Intégrer l'IA avec les KG
pour une gestion
maîtrisée de la chaîne
d'approvisionnement
Fusionner des données
structurées et non
structurées pour une
meilleure efﬁcacité
opérationnelle
Convertir de vastes
quantités de données non
structurées en
connaissances applicables
Tirer parti de l'IA
pour un contenu
personnalisé à
grande échelle

Un géant pharmaceutique démocratise
l'accès à l'analyse des risques
de sa chaîne d'approvisionnement
35
Déﬁ : Le KG de l'analyse des risques de la supply
chain n'était accessible qu'à 300 experts
familiarisés avec l'analyse des graphes => rendre
ces informations accessibles à ~10000 employés
Solution : Solution d'IA conversationnelle pour
permettre un accès en langage naturel au KG.
Tout employé peut poser une question en anglais
simple, convertie en requête Cypher extrayant de
Neo4j des données pertinentes sur l'évaluation
des risques. Les résultats de la requête sont
traduits en langage naturel
Impact : Accès démocratisé à l'analyse des
risques de la chaîne d'approvisionnement

Un géant pharmaceutique démocratise
l'accès à l'analyse des risques
de sa chaîne d'approvisionnement
36
Déﬁ : Le KG de l'analyse des risques de la supply
chain n'était accessible qu'à 300 experts
familiarisés avec l'analyse des graphes => rendre
ces informations accessibles à ~10000 employés
Solution : Solution d'IA conversationnelle pour
permettre un accès en langage naturel au KG.
Tout employé peut poser une question en anglais
simple, convertie en requête Cypher extrayant de
Neo4j des données pertinentes sur l'évaluation
des risques. Les résultats de la requête sont
traduits en langage naturel
Impact : Accès démocratisé à l'analyse des
risques de la chaîne d'approvisionnement
KG
Supply Chain
Prompt (Description
des Produits Désirés)
Requête Cypher
Résultats pertinents
Employé
LLM API
LLM API
Réponse

Une banque d'investissement synthétise les
rapports trimestriels sur les bénéfices de
toutes ses sociétés des portfolios
37
Défi : Les banquiers d'affaires ont besoin de
comprendre rapidement le détail des rapports
trimestriels de toutes les entreprises de leurs
portefeuilles, mais les données sont stockées dans
des formats et des emplacements multiples
Solution : Utiliser les vector embeddings pour
rechercher les informations les plus pertinentes,
tandis que le KG Neo4j ajoute la correspondance
exacte pour les bilans financiers
Impact : Examen accéléré des rapports
trimestriels de toutes les entreprises

Une banque d'investissement synthétise les
rapports trimestriels sur les bénéfices de
toutes ses sociétés des portfolios
38
Défi : Les banquiers d'affaires ont besoin de
comprendre rapidement le détail des rapports
trimestriels de toutes les entreprises de leurs
portefeuilles, mais les données sont stockées
dans des formats et des emplacements multiples
Solution : Utiliser les vector embeddings pour
rechercher les informations les plus pertinentes,
tandis que le KG Neo4j ajoute la correspondance
exacte pour les bilans financiers
Impact : Examen accéléré des rapports
trimestriels de toutes les entreprises
Banquier d’affaires
Prompt
LLM
Embeddings API
Vector Search
(Neo4j
Vector Index)
Embedding
Résultats /
Documents
pertinents
KG
Rapports financiers
LLM
Chat API
Réponse

39
FinServ Technologies Télécommunications Energie
E-Commerce Santé/Pharma
>1,700 organisations utilisent Neo4j

40
Solution homologuée
Named a Visionary in
2023 Gartner Magic Quadrant
Recognized as a Leader in
Q4 2020 Forrester Wave
By 2025, 50% of genAI
initiatives will have improved
reliability and transparency
by combining deep learning
foundation models with
knowledge graphs.
Gartner, Technological Implications of
Generative AI (August 2023)

41
Pour commencer…
Bundles
GenAI
Offres de
Formation
Cloud
Partners
Fully-Managed Bundles*:
Starter: 24 vCPU, 128GB
Regular: 48 vCPU, 256GB
Large: 82 vCPU, 384GB
Tous les bundles incluent :
● Base de données Neo4j Enterprise
● > 65 Algorithmes IA & ML
● 5 licenses Bloom pour la visualisation
● Connecteurs (DWH, BI, Spark, etc.)
● Ateliers Cloud Partner
● Labos pratiques
● Paiement avec ses crédits cloud
● Clouds privés virtuels
disponibles (VPC)
● AWS Bedrock
[15 % de crédit AWS ARR]
● GCP Vertex AI
● Microsoft OpenAI
*Negotiated and Self-Managed bundles also available

42
Synthèse
Augmenter la pertinence
avec le contexte et les inférences

IA Générative et Graphes Neo4j : RAG time !

Recommandé

Recommandé

Contenu connexe

Tendances

Tendances (20)

Similaire à IA Générative et Graphes Neo4j : RAG time !

Similaire à IA Générative et Graphes Neo4j : RAG time ! (20)

Plus de Neo4j

Plus de Neo4j (20)

IA Générative et Graphes Neo4j : RAG time !