RAG against the Machine
đŸ€– crĂ©ez votre propre bot IAGen sans Internet 😎
Pierre therrode Benjamin BERNARD
Julien Buret François nollen
Pourquoi ce Codelab
Nous sommes en 2030. L’heure est sombre

L’IA GĂ©nĂ©rative est partout.
Domination par les méga-corporations
Les anciens racontent que les premiĂšres IA
étaient contrÎlées par des humains
Que signiïŹe la prophĂ©tie #opensource ?
La Résistance existe-t-elle vraiment ?
PrĂȘt(e) Ă  suivre le lapin blanc ?

🐇
https://unsplash.com/fr/photos/un-groupe-de-personnes-debout-devant-une-enseigne-au-neon-3InMDrsuYrk
Agenda du Codelab
« There is a diïŹ€erence between knowing the path
and walking the path
 » đŸ„‹
1) Installer un environnement #opensource
(Docker, Tock, Ollama, LangFuse
)
2) Créer un bot basique / Machine Learning
(Tock, OpenNLP, Duckling)
○ AccĂ©lĂ©rer l’apprentissage avec de
l’ IA GĂ©nĂ©rative / LLM (Ollama, LangFuse)
○ Alimenter le bot avec des documents / RAG
3) Activer le mode IA Générative / Prompt
4) Perdre
 et reprendre le contrîle !
5) Intégrer le bot sur un site perso
https://unsplash.com/fr/photos/femme-en-chemise-blanche-a-manches-longues-portant-un-casque-Wxq7U4jaPfM
Instructions du Codelab
> git clone
https://github.com/pi-2r/devfest2024-tock-studio-IA-Gen
raglab
> cd raglab
Alternative :
retrouvez aussi le lien
vers le dépÎt GitHub
sur le site Tock :
👉 https://doc.tock.ai
Step 1 : Install party
Docker, Tock, Ollama
1°) Installer un
environnement
#opensource en local
Instructions : suivre step_1.md
● Installer Ollama en local
○ (alternative : clef OpenAI)
● Installer Tock et LangFuse
avec Docker-Compose
○ (alternative : dĂ©pĂŽt Docker local)
https://unsplash.com/fr/photos/femme-en-chemise-blanche-a-manches-longues-portant-un-casque-Wxq7U4jaPfM
Le
réseau
du
Codelab
đŸ‘čđŸ‘ŸđŸ§Ÿ 👉
Step 2.0 : training
EntraĂźnement du bot « Ă  l’ancienne »
Step 2.1 : Plus vite
avec un peu d’IA GĂ©n.
Découverte du LLM (+ observabilité)
Step 2.2 : RAG avec
une base documentaire
Le bot mange nos documents ! 🧟
Step 3 : un vrai bot
Ă  l’IA GĂ©n.
Il « bot » en touche intelligement đŸ€–
Step 4.0 : đŸ’„
Qu’avons-nous fait ?! đŸ˜±
Step 5.0 : reprenons
le contrĂŽle !
Exclusions & prompt tuning
Step 6.0 : la boutique
des pirates 🏮☠
VOTRE bot sur VOTRE site
Récap. du Codelab
● Environnement autonome en local
(Tock, OpenNLP, Duckling, Ollama, LangFuse
)
● Bot sur-mesure sans dĂ©pendances fortes
● L’IA GĂ©nĂ©rative comme accĂ©lĂ©rateur,
ou prenant entiĂšrement le relai
● DĂ©rapages et contre-mesures
● IntĂ©gration sur un site autonome en local
« Ever have that feeling where you’re not sure
if you’re awake or dreaming ? »
https://unsplash.com/fr/photos/femme-en-lunettes-a-monture-noire-et-manteau-de-fourrure-marron-Lme2Ye2jVo8
A vous de jouer
« I can only show you the door,
you’re the one that has to
walk through it »
@pi-2r @benvii @jburet @francoisn0
#DevFestNantes #GenAI #opensource
https://unsplash.com/fr/photos/homme-vetu-dun-gilet-noir-debout-a-cote-dune-moustiquaire-a-lexterieur-du-batiment-lx9RWIg1Rdg

RAG against the Machine đŸ˜ŽđŸ€– (@DevFestNantes 2024)

  • 1.
    RAG against theMachine đŸ€– crĂ©ez votre propre bot IAGen sans Internet 😎 Pierre therrode Benjamin BERNARD Julien Buret François nollen
  • 2.
    Pourquoi ce Codelab Noussommes en 2030. L’heure est sombre
 L’IA GĂ©nĂ©rative est partout. Domination par les mĂ©ga-corporations Les anciens racontent que les premiĂšres IA Ă©taient contrĂŽlĂ©es par des humains Que signiïŹe la prophĂ©tie #opensource ? La RĂ©sistance existe-t-elle vraiment ? PrĂȘt(e) Ă  suivre le lapin blanc ?
 🐇 https://unsplash.com/fr/photos/un-groupe-de-personnes-debout-devant-une-enseigne-au-neon-3InMDrsuYrk
  • 3.
    Agenda du Codelab «There is a diïŹ€erence between knowing the path and walking the path
 » đŸ„‹ 1) Installer un environnement #opensource (Docker, Tock, Ollama, LangFuse
) 2) CrĂ©er un bot basique / Machine Learning (Tock, OpenNLP, Duckling) ○ AccĂ©lĂ©rer l’apprentissage avec de l’ IA GĂ©nĂ©rative / LLM (Ollama, LangFuse) ○ Alimenter le bot avec des documents / RAG 3) Activer le mode IA GĂ©nĂ©rative / Prompt 4) Perdre
 et reprendre le contrĂŽle ! 5) IntĂ©grer le bot sur un site perso https://unsplash.com/fr/photos/femme-en-chemise-blanche-a-manches-longues-portant-un-casque-Wxq7U4jaPfM
  • 4.
    Instructions du Codelab >git clone https://github.com/pi-2r/devfest2024-tock-studio-IA-Gen raglab > cd raglab Alternative : retrouvez aussi le lien vers le dĂ©pĂŽt GitHub sur le site Tock : 👉 https://doc.tock.ai
  • 6.
    Step 1 :Install party Docker, Tock, Ollama
  • 7.
    1°) Installer un environnement #opensourceen local Instructions : suivre step_1.md ● Installer Ollama en local ○ (alternative : clef OpenAI) ● Installer Tock et LangFuse avec Docker-Compose ○ (alternative : dĂ©pĂŽt Docker local) https://unsplash.com/fr/photos/femme-en-chemise-blanche-a-manches-longues-portant-un-casque-Wxq7U4jaPfM
  • 8.
  • 9.
    Step 2.0 :training EntraĂźnement du bot « Ă  l’ancienne »
  • 10.
    Step 2.1 :Plus vite avec un peu d’IA GĂ©n. DĂ©couverte du LLM (+ observabilitĂ©)
  • 11.
    Step 2.2 :RAG avec une base documentaire Le bot mange nos documents ! 🧟
  • 12.
    Step 3 :un vrai bot Ă  l’IA GĂ©n. Il « bot » en touche intelligement đŸ€–
  • 13.
    Step 4.0 :đŸ’„ Qu’avons-nous fait ?! đŸ˜±
  • 14.
    Step 5.0 :reprenons le contrĂŽle ! Exclusions & prompt tuning
  • 15.
    Step 6.0 :la boutique des pirates 🏮☠ VOTRE bot sur VOTRE site
  • 16.
    RĂ©cap. du Codelab ●Environnement autonome en local (Tock, OpenNLP, Duckling, Ollama, LangFuse
) ● Bot sur-mesure sans dĂ©pendances fortes ● L’IA GĂ©nĂ©rative comme accĂ©lĂ©rateur, ou prenant entiĂšrement le relai ● DĂ©rapages et contre-mesures ● IntĂ©gration sur un site autonome en local « Ever have that feeling where you’re not sure if you’re awake or dreaming ? » https://unsplash.com/fr/photos/femme-en-lunettes-a-monture-noire-et-manteau-de-fourrure-marron-Lme2Ye2jVo8
  • 17.
    A vous dejouer « I can only show you the door, you’re the one that has to walk through it » @pi-2r @benvii @jburet @francoisn0 #DevFestNantes #GenAI #opensource https://unsplash.com/fr/photos/homme-vetu-dun-gilet-noir-debout-a-cote-dune-moustiquaire-a-lexterieur-du-batiment-lx9RWIg1Rdg