Vous avez déjà un compte client ORSYS
Se connecter
Vous êtes nouveau chez ORSYS
Créer un compte
Vous ne souhaitez pas créer de compte
Poursuivre sans me connecter

Formation : AI Security Professional (AISP), certification EXIN

Formation pratique - 2j - 14h00 - Réf. EXP

AI Security Professional (AISP), certification EXIN



Nouvelle formation

Cette formation vous permettra de comprendre les enjeux de sécurité liés aux systèmes d’intelligence artificielle et d’intégrer les bonnes pratiques de protection tout au long de leur cycle de vie. Vous apprendrez à identifier les risques spécifiques à l’IA, à mettre en place des contrôles adaptés et à prendre en compte les exigences réglementaires et normatives, notamment le RGPD, l’AI Act et les standards ISO/IEC. Elle prépare également au passage de la certification EXIN AI Security Professional.


INTER
INTRA
SUR MESURE

Formation pratique en présentiel ou à distance
Formation disponible en anglais, à la demande

Réf. EXP
  2j - 14h00
Nous contacter

Télécharger le programme

Partager cette formation




Cette formation vous permettra de comprendre les enjeux de sécurité liés aux systèmes d’intelligence artificielle et d’intégrer les bonnes pratiques de protection tout au long de leur cycle de vie. Vous apprendrez à identifier les risques spécifiques à l’IA, à mettre en place des contrôles adaptés et à prendre en compte les exigences réglementaires et normatives, notamment le RGPD, l’AI Act et les standards ISO/IEC. Elle prépare également au passage de la certification EXIN AI Security Professional.


Objectifs pédagogiques
À l’issue de la formation, le participant sera en mesure de :
Expliquer les enjeux de la sécurité de l’IA dans une organisation
Distinguer la sécurité de l’IA de la cybersécurité conventionnelle
Identifier les actifs spécifiques à l’IA et leurs principales menaces
Analyser les risques liés aux attaques sur les entrées, aux injections de prompt, à l’empoisonnement de données ou de modèles, à l’exfiltration et aux fuites de données sensibles
Appliquer des contrôles de gouvernance, de limitation des données sensibles et de réduction des comportements indésirables
Comprendre le rôle des tests de sécurité IA au-delà des tests de sécurité classiques
Appliquer les principes de confidentialité, de conformité et de gestion des risques dans des scénarios IA
Préparer efficacement l’examen EXIN AI Security Professional

Public concerné
Toute personne impliquée dans la conception, l’utilisation, la sécurisation, la gouvernance ou la conformité des systèmes d’IA.

Prérequis
Une connaissance préalable des concepts fondamentaux de l’intelligence artificielle est recommandée.
Une certification de type EXIN BCS Artificial Intelligence Essentials ou EXIN BCS Artificial Intelligence Foundation constitue une bonne base de préparation.

Certification
Le passage de l’examen s’effectue en différé avec surveillance individuelle en webcam par l’organisme de certification. Cela consiste en un QCM comportant 40 questions, en une heure trente (+ 15 minutes si l’examen est en anglais et que l’anglais n’est pas la langue native). Un score minimum de 65% est requis pour réussir l’examen.

Modalités d'évaluation
Le formateur évalue la progression pédagogique du participant tout au long de la formation au moyen de QCM, mises en situation, travaux pratiques…
Le participant complète également un test de positionnement en amont et en aval pour valider les compétences acquises.

Programme de la formation

1
Sécurité de l’IA dans l’organisation

  • Mise en œuvre des étapes G.U.A.R.D pour organiser la sécurité IA.
  • Usage responsable et digne de confiance de l’IA dans l’organisation.
  • Différences entre cybersécurité conventionnelle et sécurité IA.
  • Identification des actifs IA spécifiques et de leurs menaces clés.
  • Démarche de modélisation des menaces avec contrôles pour la sécurité IA.
  • Risques typiques liés à l’IA agentique.

2
Menaces de sécurité propres à l’IA

  • Types d’évasion selon l’accès de l’attaquant : zero-knowledge, partial-knowledge, perfect-knowledge, transfer attack, évasion après empoisonnement.
  • Injection de prompt directe et indirecte.
  • 7 couches de protection contre les prompts injections.
  • Divulgation de données sensibles dans les sorties de modèle.
  • Model inversion, membership inference et model exfiltration.
  • Risques d’épuisement de ressources piloté par les entrées.
  • Data poisoning et model poisoning pendant le développement.
  • Empoisonnement direct du modèle et via la chaîne d’approvisionnement (supply-chain).
  • Fuites de données sensibles en phase de développement : données, modèle, code source et configuration.
  • Impact des menaces de sécurité conventionnelles sur les composants IA en production.
  • Empoisonnement direct du modèle à l’exécution et fuites associées.
  • Injection intégrée dans les sorties IA et fuite de données en entrée.
  • Fuite et manipulation des données d’augmentation.

3
Contrôles de sécurité IA

  • Contrôles généraux de gouvernance pour la supervision de la sécurité IA.
  • Couverture des contrôles de gouvernance et leur portée.
  • Répartition des responsabilités entre le fournisseur de modèle tiers et l’organisation utilisatrice (modèle prêt à l’emploi).
  • Mise en œuvre de contrôles pour limiter les données sensibles et renforcer la confidentialité et l’intégrité.
  • Comprendre comment la limitation des données sensibles réduit les risques.
  • Contrôles pour limiter les effets.
  • Amélioration des performances et réduction des risque des comportements indésirables du modèle opérationnel.

4
Tests de sécurité IA

  • Importance et périmètre des tests de sécurité IA.
  • Différences avec les tests de sécurité conventionnels.
  • Menaces à tester spécifiquement pour les systèmes prédictifs et génératifs.
  • Stratégies générales de test appliquées à la sécurité IA.

5
Vie privée, conformité et réglementation

  • Principes de confidentialité appliqués aux systèmes IA.
  • Préoccupations liées à la vie privée dans les usages IA.
  • Contribution des normes ISO/IEC 23894, ISO/IEC 27005, ISO/IEC 42001 et ISO/IEC 5338 à la conformité réglementaire IA.
  • Enjeux de conformité liés à l’AI Act et au RGPD.
  • Risques de violation du droit d’auteur et stratégies de mitigation.
PARTICIPANTS
Toute personne impliquée dans la conception, l’utilisation, la sécurisation, la gouvernance ou la conformité des systèmes d’IA.

PRÉREQUIS
Une connaissance préalable des concepts fondamentaux de l’intelligence artificielle est recommandée.
Une certification de type EXIN BCS Artificial Intelligence Essentials ou EXIN BCS Artificial Intelligence Foundation constitue une bonne base de préparation.

COMPÉTENCES DU FORMATEUR
Les experts qui animent la formation sont des spécialistes des matières abordées. Ils ont été validés par nos équipes pédagogiques tant sur le plan des connaissances métiers que sur celui de la pédagogie, et ce pour chaque cours qu’ils enseignent. Ils ont au minimum cinq à dix années d’expérience dans leur domaine et occupent ou ont occupé des postes à responsabilité en entreprise.

MODALITÉS D’ÉVALUATION
Le formateur évalue la progression pédagogique du participant tout au long de la formation au moyen de QCM, mises en situation, travaux pratiques…
Le participant complète également un test de positionnement en amont et en aval pour valider les compétences acquises.

MOYENS PÉDAGOGIQUES ET TECHNIQUES
• Les moyens pédagogiques et les méthodes d’enseignement utilisés sont principalement : aides audiovisuelles, documentation et support de cours, exercices pratiques d’application et corrigés des exercices pour les formations pratiques, études de cas ou présentation de cas réels pour les séminaires de formation.
• À l’issue de chaque formation ou séminaire, ORSYS fournit aux participants un questionnaire d’évaluation du cours qui est ensuite analysé par nos équipes pédagogiques.
• Une feuille d’émargement par demi-journée de présence est fournie en fin de formation ainsi qu’une attestation de fin de formation si le participant a bien assisté à la totalité de la session.

MODALITÉS ET DÉLAIS D’ACCÈS
L’inscription doit être finalisée 24 heures avant le début de la formation.

ACCESSIBILITÉ AUX PERSONNES HANDICAPÉES
Pour toute question ou besoin relatif à l’accessibilité, vous pouvez joindre notre équipe PSH par e-mail à l’adresse psh-accueil@orsys.fr.