Les gardiens du Prompt: menaces GenAI et recettes de sécurité pour une production zen

Les applications GenAI ne jouent pas selon les mêmes règles: non-déterminisme, surface d’attaque mouvante, pression réglementaire (EU AI Act, NIST, …). Bref, si vous ne pentestez pas votre LLM, ce sont vos nerfs qui le seront. Ce talk est un retour d’expérience sur la mise en production d’applications GenAI complexes (RAG et Agentic), avec exemples concrets, démos et leçons apprises. Il s’appuie sur plus de trois ans d’expertise terrain à concevoir, déployer et opérer des applications GenAI en production. On pose d’abord le cadre, puis on passe aux choses sérieuses, démos à l’appui. Parce que la sécurité, ce n’est pas qu’un poster dans l’open space !

D’abord, l’état de l’art pour ne pas piloter à vue: OWASP Top 10 for LLM Applications (et sa déclinaison Agentic), et les liens concrets avec la conformité (EU AI Act/DORA).


Puis, nous présenterons des démos interactives très pratico-pratiques sur une application GenAI:

Architecture défensive et observabilité d’abord (intégrations LangSmith, Langfuse).

AI Guards en I/O pour contrer prompt injections, contenus toxiques, fuites et exécutions hasardeuses; sécurisation de toute la chaîne, y compris les serveurs MCP.

Data residency et choix du modèle: région/rétention, chiffrement, hébergé vs self-hosted.

Prompt injection & output handling, filtrage sémantique; policy-as-code + sandbox pour les actions d’agents; quotas/rate limiting (les attaquants détestent).

QA sécurité en continu: jeux d’attaque Garak en CI/CD, et pentests externes pour valider le tout.

Vous repartirez avec un playbook pratique pour passer de “ça marche en démo” à “c’est solide en prod”, sans magie !




Public cible: devs/architectes, MLOps et SecOps.

Niveau: intermédiaire.