Sécurisation des applications utilisant l’IA générative

À la fin de la formation, le participant sera capable de :

• comprendre la nature spécifique des vulnérabilités propres aux applications LLM;
• identifier les dix catégories de risques du référentiel OWASP LLM 2025 et leurs manifestations concrètes;
• reconnaître les vecteurs d’attaque adversariale contre les systèmes d’intelligence artificielle;
• sélectionner les contre-mesures techniques et organisationnelles appropriées à chaque vulnérabilité;
• évaluer la posture de sécurité d’une application LLM existante.

Module 1 - Surface d’attaque des applications LLM (3 h)

• Pourquoi les LLM créent une nouvelle classe de vulnérabilités : non-déterminisme,absence de séparation native entre instructions et données, contexte stochastique;
• Comparaison avec les vulnérabilités applicatives traditionnelles;
• Présentation du cadre OWASP Top 10 LLM 2025 et de sa généalogie;
• Ouverture sur MITRE ATLAS (Adversarial Threat Landscape for Artificial-Intelligence Systems).

Module 2 - Vulnérabilités d’entrée et d’interaction (3 h)

• Prompt injection directe, indirecte et multimodale (LLM01);
• Sensitive information disclosure (LLM02);
• System prompt leakage (LLM07);
• Étude de cas : CVE-2024-5184 (assistant courriel LLM compromis) et incidents documentés sur les assistants d’entreprise.

Module 3 - Vulnérabilités de sortie et de chaîne d’approvisionnement (3 h)

• Insecure output handling (LLM05);
• Supply chain (LLM03);
• Data and model poisoning (LLM04);
• Vector and embedding weaknesses dans les architectures RAG (LLM08);
• Implications spécifiques pour les bases techniques sensibles.

Module 4 - Vulnérabilités systémiques et agentiques (3 h)

• Excessive agency (LLM06);
• Misinformation et hallucinations (LLM09);
• Unbounded consumption (LLM10);
• Risques propres aux agents autonomes : tool calling, frameworks d’agents, protocole Model Context Protocol (MCP);
• Ouverture sur les nouveautés MITRE ATLAS 2025 dédiées aux agents.

Module 5 - Stratégies de mitigation et gouvernance (3 h)

• RAG triad : context relevance, groundedness, answer relevance;
• Séparation des contenus de confiance;
• Validation sémantique et filtrage des sorties;
• Principe du moindre privilège appliqué aux agents;
• Red teaming adversarial;
• Cartographie complète des contre-mesures par vulnérabilité;
• Articulation avec ISO/IEC 42001 et NIST AI 600-1.

La formation est dispensée sous forme d’exposés théoriques magistraux, appuyés par des études de cas documentées (CVE réelles, incidents publiés) et des analyses d’architectures et de scénarios d’attaque. L’évaluation des acquis est réalisée par un questionnaire de validation en fin de formation.

Hiver 2027 - groupe 22548

(P) Cours donné en présentiel
(D) Cours donné à distance

• Vous profitez d’un accès gratuit aux logiciels spécialisés requis pour 1 an (s'il y a lieu) ; 

• À la fin de la formation, une attestation de participation sera acheminée aux participants qui ont un taux de présence de 80% et plus ; 

• Dans la mesure où elles sont liées à l’exercice de vos fonctions professionnelles et qu’elles figurent dans les répertoires de formations reconnues, nos activités de formation peuvent être admissibles en vertu du Règlement sur la formation continue obligatoire.

  Nous vous invitons à vérifier auprès de votre ordre professionnel, de votre organisme réglementaire ou de votre corporation, ainsi qu’à consulter leurs répertoires de formations reconnues pour obtenir davantage d’information.