RAG against the Machine 😎🤖: créez votre propre bot IAGen sans Internet. Un codelab de 2h qui a regroupé 100 participants le 17/10/2024 à l'occasion de DevFest Nantes. Ceci est le support écran du codelab. Les instructions sont également disponibles. Pour en savoir plus : https://doc.tock.ai/codelab_devfest24.html. Présenté par François Nollen Pierre Therrode Julien Buret (SNCF Connect & Tech) et Benjamin Bernard (Crédit Mutuel Arkéa). Lien programme : https://devfest2024.gdgnantes.com/sessions/rag_against_the_machine_______creez_votre_propre_bot_iagen_sans_internet/

1. RAG against the Machine
🤖 créez votre propre bot IAGen sans Internet 😎
Pierre therrode Benjamin BERNARD
Julien Buret François nollen

2. Pourquoi ce Codelab
Nous sommes en 2030. L’heure est sombre…
L’IA Générative est partout.
Domination par les méga-corporations
Les anciens racontent que les premières IA
étaient contrôlées par des humains
Que signifie la prophétie #opensource ?
La Résistance existe-t-elle vraiment ?
Prêt(e) à suivre le lapin blanc ?…
🐇
https://unsplash.com/fr/photos/un-groupe-de-personnes-debout-devant-une-enseigne-au-neon-3InMDrsuYrk

3. Agenda du Codelab
« There is a difference between knowing the path
and walking the path… » 🥋
1) Installer un environnement #opensource
(Docker, Tock, Ollama, LangFuse…)
2) Créer un bot basique / Machine Learning
(Tock, OpenNLP, Duckling)
○ Accélérer l’apprentissage avec de
l’ IA Générative / LLM (Ollama, LangFuse)
○ Alimenter le bot avec des documents / RAG
3) Activer le mode IA Générative / Prompt
4) Perdre… et reprendre le contrôle !
5) Intégrer le bot sur un site perso
https://unsplash.com/fr/photos/femme-en-chemise-blanche-a-manches-longues-portant-un-casque-Wxq7U4jaPfM

4. Instructions du Codelab
> git clone
https://github.com/pi-2r/devfest2024-tock-studio-IA-Gen
raglab
> cd raglab
Alternative :
retrouvez aussi le lien
vers le dépôt GitHub
sur le site Tock :
👉 https://doc.tock.ai

6. Step 1 : Install party
Docker, Tock, Ollama

7. 1°) Installer un
environnement
#opensource en local
Instructions : suivre step_1.md
● Installer Ollama en local
○ (alternative : clef OpenAI)
● Installer Tock et LangFuse
avec Docker-Compose
○ (alternative : dépôt Docker local)
https://unsplash.com/fr/photos/femme-en-chemise-blanche-a-manches-longues-portant-un-casque-Wxq7U4jaPfM

8. Le
réseau
du
Codelab
👹👾🧟 👉

9. Step 2.0 : training
Entraînement du bot « à l’ancienne »

10. Step 2.1 : Plus vite
avec un peu d’IA Gén.
Découverte du LLM (+ observabilité)

11. Step 2.2 : RAG avec
une base documentaire
Le bot mange nos documents ! 🧟

12. Step 3 : un vrai bot
à l’IA Gén.
Il « bot » en touche intelligement 🤖

13. Step 4.0 : 💥
Qu’avons-nous fait ?! 😱

14. Step 5.0 : reprenons
le contrôle !
Exclusions & prompt tuning

15. Step 6.0 : la boutique
des pirates 🏴☠
VOTRE bot sur VOTRE site

16. Récap. du Codelab
● Environnement autonome en local
(Tock, OpenNLP, Duckling, Ollama, LangFuse…)
● Bot sur-mesure sans dépendances fortes
● L’IA Générative comme accélérateur,
ou prenant entièrement le relai
● Dérapages et contre-mesures
● Intégration sur un site autonome en local
« Ever have that feeling where you’re not sure
if you’re awake or dreaming ? »
https://unsplash.com/fr/photos/femme-en-lunettes-a-monture-noire-et-manteau-de-fourrure-marron-Lme2Ye2jVo8

17. A vous de jouer
« I can only show you the door,
you’re the one that has to
walk through it »
@pi-2r @benvii @jburet @francoisn0
#DevFestNantes #GenAI #opensource
https://unsplash.com/fr/photos/homme-vetu-dun-gilet-noir-debout-a-cote-dune-moustiquaire-a-lexterieur-du-batiment-lx9RWIg1Rdg