Sécuriser un système agentique

Sécuriser les systèmes qui agissent : permissions, cloisonnement, injection, contrôle humain.

Niveau 8 — Sécurité & gouvernance Sécurité & gouvernance 1 à 2 jours Distanciel ou présentiel

Objectifs pédagogiques

  • Identifier les menaces propres aux agents
  • Mettre en place permissions et cloisonnement
  • Défendre contre les injections de prompts

Compétences visées

  • Menaces agentiques
  • Cloisonnement
  • Contre-mesures

Programme détaillé

  1. Menaces sur les systèmes agentiques
  2. Injection de prompts et données adversariales
  3. Permissions et moindre privilège
  4. Cloisonnement et sandboxing
  5. Human-in-the-loop pour les actions sensibles
  6. Atelier : analyse de sécurité

Cas pratiques

  • Analyser la sécurité d'un agent et proposer des correctifs

Modalités pédagogiques

Ateliers de cas de sécurité, analyse d'erreurs, production, transfert

Exercices

Analyse de sécurité case par case.

Outils utilisés

Environnement technique fourni

Évaluation

Rapport d'analyse.

Supports

Supports de cours et ressources distribués aux participants.

Informations pratiques

PublicDéveloppeurs, architectes, RSSI, DPO
PrérequisNiveau 5 recommandé.
Durée indicative1 à 2 jours
FormatDistanciel ou présentiel
Participants6 à 10
SpécialitéSécurité & gouvernance
NiveauSécurité & gouvernance

Livrable

Plan de sécurisation / note de gouvernance.

Adaptation possible

Adaptation au secteur (public, santé, industrie, finance).

Formation suivante recommandée

Secret management pour agents IA

Articulation avec Fopacademy

Articulation possible avec Fopacademy (Qualiopi).

Les actions de formation peuvent être opérées avec Fopacademy, organisme de formation certifié Qualiopi, tandis qu'Esprit Artificiel apporte l'expertise spécialisée en intelligence artificielle.

Voir une réalisation associée