IA responsable et sécurité des LLM

Un assistant IA branché sur vos documents, vos outils et vos clients n'est pas « un chatbot de plus » : c'est une nouvelle surface d'attaque et un nouveau traitement de données personnelles. Cette formation vous donne une méthode pour passer de « on a un POC qui marche » à « on sait expliquer ses risques, ses parades et sa conformité ».

Pour qui ?

Objectifs mesurables

À la fin de la formation, vous serez capable de :

1. Classer une dizaine de scénarios d'incident dans les catégories de l'OWASP Top 10 pour les LLM.
2. Proposer au moins une parade technique par risque majeur d'un assistant (injection, fuite, agentivité excessive…).
3. Écrire un mini-plan de red teaming de 10 cas de test et en interpréter les résultats.
4. Déterminer la base légale, la nécessité d'une AIPD et la catégorie AI Act d'un cas d'usage, en citant l'article concerné.
5. Rédiger une fiche de registre de cas d'usage et une charte d'usage d'une page.
6. Produire une matrice de risques et un plan d'actions priorisé pour un assistant client.

Prérequis

• Savoir ce qu'est un LLM, un prompt, un RAG et un agent avec outils (niveau d'un premier projet ou d'un POC).
• Aucune compétence juridique n'est requise : les textes sont présentés de manière factuelle, avec renvoi aux sources officielles.

Programme

flowchart LR
  A["1. Risques (OWASP)"] --> B["2. Parades techniques"]
  B --> C["3. RGPD et AI Act"]
  C --> D["4. Gouvernance"]
  D --> E["5. Projet : matrice + plan d'actions"]

Ce que vous saurez faire

• Expliquer à un comité de direction pourquoi « on a mis un bon prompt système » n'est pas une mesure de sécurité suffisante.
• Revoir l'architecture d'un assistant (support client ou assistant interne) et pointer les privilèges en trop.
• Préparer le dossier conformité d'un cas d'usage : registre, base légale, AIPD si nécessaire, transparence.
• Animer une revue des risques et suivre un plan d'actions dans le temps.