Aller au contenu principal

IA-16 · IA & Compétences Digitales

Cours-métier IA · Attestation · Niveau intermédiaire

Gouvernance & Risques de l'IA en entreprise

4 modules · 9 leçons · ~9 h d'étude · Attestation

Cours-métier IA · Attestation de compétence

Un cours de 4 modules · 9 leçons · ~9 h d’étude

Structuré en 4 modules, avec des cas suisses chiffrés et un exercice d’application. Se conclut par un quiz final (75% requis) et un livrable de portfolio, qui délivrent une attestation de compétence (validité à vie).

  1. Le métier et les risques · leçons 1–2
  2. Auditer et tester · leçons 3–5
  3. Superviser et encadrer · leçons 6–7
  4. Terrain et attestation · leçons 8–9
Évaluation
Quiz final · 75% requis
Exercice
Un livrable de portfolio auto-corrigé
Attestation
Validité à vie
Prêt·e ? Passez l'examen (correction serveur) pour décrocher votre attestation.Passer l'examen d'attestation →

Attestation de compétence délivrée par SFM Academy (formation privée). Distincte de la certification « niveau avancé » du cursus phare. Ne constitue pas un titre fédéral ni une certification reconnue par la Confédération suisse.

Programme détaillé

MODULE 1Le métier et les risques

Leçon 1 — Le métier de référent risques IA : rôle, semaine type, rattachement

45 min

  • Le référent risques IA gère le risque OPÉRATIONNEL — fiabilité, incidents, biais, supervision — et répond à « est-ce que ça marche sans nous mettre en danger ? », pas à « avons-nous le droit ? » (question de la conformité, cours IA-19).
  • Trois rôles à ne pas confondre : le DPO protège les données, le référent conformité (IA-19) protège la légalité, le référent risques protège la fiabilité opérationnelle des systèmes d'IA.
  • La semaine type ressemble à du contrôle qualité : recenser les usages qui décident, tester des cas limites, mesurer un taux d'erreur, détecter les biais, installer des supervisions, rapporter à la direction en gravité et probabilité.
  • En PME, le rôle est presque toujours à temps partiel (rattaché à la qualité, à l'IT ou à la direction) et sans autorité hiérarchique : il faut convaincre, pas ordonner, avec un mandat écrit de la direction.
  • Trois livrables de terrain forment un système : le registre des incidents, la grille d'audit d'un usage (une page), la politique d'usage écrite en verbes d'action — mesurer, consigner, corriger, encadrer.
  • On ne cherche pas zéro erreur mais l'absence d'erreur grave non rattrapée : on gère la gravité, on installe des filets humains, et on audite l'usage (outil + données + décision), jamais l'outil seul.
  • Se lancer : auditer un seul usage qui décide, de bout en bout, en une semaine, pour obtenir un chiffre et une crédibilité concrète ; en interne ou en prestataire externe (marché romand en ouverture).
  • Renvois : IA-19 pour la conformité juridique (droit à vérifier et dater) ; IA-14 (module 1, audit PME) pour la méthode d'audit d'ensemble dont ce cours est le complément côté risques.

Leçon 2 — Hallucinations, biais, dérives : la typologie des incidents réels

45 min

  • Sept familles de risques IA à connaître par cœur comme grille mentale : hallucination, biais, dérive, fuite de données, sur-confiance, injection de prompt, dépendance. Un risque nommé est un risque à moitié maîtrisé.
  • Deux colonnes plus une charnière : défauts du modèle (hallucination, biais, dérive) traités par contrôle de sortie et mise à jour ; défauts d'usage (fuite, sur-confiance, dépendance) traités par règles et organisation ; l'injection de prompt à cheval, traitée en séparant lire et agir.
  • Hallucination : le modèle invente du plausible, surtout sur les sujets de niche et avec une précision suspecte. Règle d'or : l'IA rédige, l'humain source. On intercepte l'invention avant qu'elle n'atteigne le client.
  • Biais et dérive sont invisibles au cas par cas : le biais se débusque en comptant les sorties par catégorie, la dérive se repère avec un jeu témoin rejoué à intervalles réguliers.
  • Fuite de données : elle vient des employés les plus impliqués, pas des négligents. La parade est une frontière écrite (ce qui ne sort jamais) et l'anonymisation avant de demander, jamais l'interdiction qui rend l'usage clandestin.
  • Sur-confiance : le risque monte avec la qualité de l'outil. La vigilance ne se décrète pas, elle s'organise — un point de contrôle obligatoire là où l'erreur coûte cher (chiffres qui engagent, décisions sur des personnes, sorties externes).
  • Dépendance : aucun incident visible jusqu'au jour où l'outil lâche ou double de prix. Poser la question « demain, s'il s'arrête, qu'est-ce qu'on fait ? » et garder une compétence humaine vivante sur les tâches critiques.
  • Ces risques sont normaux et gérables, pas une raison de ne rien faire. Le référent risques internes les rend rares, visibles et rattrapables. Pour le droit et la conformité, le relais est le cours IA-19.
MODULE 2Auditer et tester

Leçon 3 — Cas chiffré : quand le chatbot donne une information fausse

45 min

  • Un chatbot génératif non encadré ne SAIT pas ce qui est vrai : sur un sujet où on ne lui a pas donné la vérité maison, il comble le vide avec la statistique du secteur — et invente une réponse plausible mais fausse.
  • Les cinq sujets sensibles où une réponse fausse coûte immédiatement de l'argent : garantie, retour, prix, délai de livraison, disponibilité. Sur ces sujets, le chatbot doit être récitant ou muet, jamais créatif.
  • Un risque non surveillé n'est pas un risque faible, c'est un risque invisible : l'absence d'incident détecté ne prouve que l'absence de regard. Ici, six semaines de dérapage avant détection.
  • Traiter chaque réclamation comme un ÉCHANTILLON, pas comme un cas isolé : la première capture d'écran d'une fausse promesse doit déclencher l'ouverture des logs, pas juste le remboursement d'un client.
  • Chiffrer poste par poste transforme une inquiétude vague en décision : reprises à perte, frais offerts, temps de gestion, gestes commerciaux, juridique, clients perdus, réputation — repères illustratifs de l'ordre de 15'000 à 19'000 CHF ici.
  • Le calcul à quatre nombres, transposable à tout risque IA interne : coût d'un incident, probabilité sans contrôle, coût du contrôle, réduction de probabilité. Ici, contrôle d'environ 1'800 CHF contre incident d'environ 16'000 CHF, rapport voisin de 1 à 10.
  • Présenter à une direction : le mal d'abord (incident chiffré), le contraste ensuite (deux colonnes), l'honnêteté sur l'incertitude, une décision minuscule à valider, et le cadrage accélérateur (garder l'IA allumée sans risque).
  • La gouvernance IA interne n'est pas une affaire de technologie mais d'attention organisée : figer la vérité, poser un garde-fou, tester avant, relire chaque mois. Sous-estimer les chiffres plutôt que les gonfler préserve la crédibilité.

Leçon 4 — Construire une grille d'audit IA en une page (l'outil de terrain)

45 min

  • L'outil central de la gouvernance des risques IA internes est une grille d'audit qui tient sur une page — une ligne par usage — pas un rapport de quarante pages que personne ne rouvre.
  • La grille tient en sept colonnes : usage, données, criticité de la décision, supervision réelle, réversibilité, niveau de risque, action ; les six premières servent à déduire le niveau au lieu de le deviner.
  • On note l'usage, jamais l'outil : un même outil peut porter un usage anodin et un usage sensible, donc une ligne par usage recensé, pas par logiciel.
  • Le tri décisif est faible enjeu / fort enjeu ; le critère qui fait presque toujours basculer vers le fort enjeu est l'absence d'humain entre la sortie de l'IA et son effet sur une personne.
  • On trie selon l'enjeu de l'usage, jamais selon la sophistication de la technologie : un petit tri automatique de CV peut être plus à fort enjeu qu'une IA générative qui ne produit que des brouillons relus.
  • Chaque ligne se termine par une action concrète et datée (relire, restreindre, suspendre, réévaluer le tel jour) — une ligne sans action n'est pas gouvernée, elle est seulement constatée.
  • On note la supervision réelle, pas celle qu'on souhaite : écrire « relecture systématique » quand personne ne relit sous la charge fausse tous les niveaux de risque à la baisse.
  • Une grille est vivante ou morte : une révision trimestrielle d'une heure (usages nouveaux, échéances, incidents) protège mieux qu'une analyse fine faite une seule fois puis abandonnée.

Leçon 5 — Tester un système IA avant déploiement : scénarios de mise en défaut

45 min

  • Un système qui n'a jamais été mis en défaut n'a jamais été testé : la réussite d'une campagne se mesure au nombre de failles trouvées, pas au nombre de réponses justes.
  • Essayer et tester sont opposés — essayer cherche à être rassuré, tester cherche activement l'échec ; on teste avec les vraies questions des clients, pas avec les siennes.
  • Un jeu de tests complet couvre quatre familles : cas normaux, cas limites, cas pièges et tentatives d'injection ; l'absence d'une seule famille rend la campagne incomplète.
  • Le taux d'erreur acceptable se fixe avant de tester et par gravité, jamais globalement : zéro toléré sur les erreurs critiques, plus de marge sur les erreurs bénignes.
  • Le biais se détecte par le test des paires : le même cas deux fois, en ne changeant qu'un attribut (nom, genre, origine) ; toute différence de traitement est un échec critique.
  • La robustesse se teste avec les entrées bizarres — fautes, majuscules, messages vides, langues réelles de la clientèle ; un système robuste échoue proprement au lieu de répondre n'importe quoi avec assurance.
  • Les injections attaquent l'outil lui-même pour lui faire quitter son périmètre ; on les teste en insistant et en variant, y compris via des documents piégés si le système lit des contenus externes.
  • La décision go / no-go s'appuie sur un registre documenté et des seuils préalables ; elle est signée et datée par un responsable, et un seul échec critique impose le no-go.
MODULE 3Superviser et encadrer

Leçon 6 — Supervision humaine : où placer le point de contrôle

45 min

  • Le point de contrôle — où un humain valide avant qu'une sortie d'IA produise son effet — est le coeur de la gouvernance opérationnelle : sans lui, une charte IA reste du papier.
  • Deux erreurs symétriques et aussi coûteuses : trop de supervision annule le gain de productivité ; trop peu laisse passer l'erreur qui coûte cher. La bonne supervision est ciblée, ni maximale ni absente.
  • Trois modèles à assigner tâche par tâche : human-in-the-loop (l'IA attend votre feu vert), human-on-the-loop (l'IA agit, vous surveillez et pouvez reprendre la main), human-out-of-the-loop (l'IA fait seule).
  • Le critère de choix : criticité de la décision croisée avec sa réversibilité. Le vrai danger, c'est la combinaison grave ET irréversible — c'est là qu'il faut un humain dans la boucle avant l'action.
  • Le seuil de confiance et la file de revue permettent de ne faire valider que les cas douteux : on préserve l'essentiel du gain tout en concentrant l'attention là où le risque est réel.
  • Le sur-contrôle est un coût silencieux : si valider prend presque autant de temps que faire, le gain s'évapore ; et la validation systématique de masse mène au tamponnage machinal, qui dilue la vigilance jusqu'à la rendre inutile.
  • Trois techniques pour un point de contrôle efficace : échantillonnage aléatoire (thermomètre du système), ciblage des cas à risque (montant élevé, nouveau client, cas atypique), et contrôle en aval quand l'erreur est rattrapable.
  • Savoir-faire maître : superviser les décisions qui comptent, pas toutes. Le point de contrôle est un curseur qu'on ajuste dans le temps, pas un interrupteur figé — révisez-le à la lumière de l'expérience.

Leçon 7 — La politique d'usage interne : le document que toute PME devrait avoir

45 min

  • Ton équipe utilise déjà l'IA sans règles (shadow AI) : interdire ne fait que rendre l'usage clandestin. La seule stratégie qui marche est d'encadrer — dire oui à des usages clairs, non à d'autres, et donner un cap.
  • La politique d'usage interne gère le RISQUE QUOTIDIEN (le geste de l'employé devant son écran), pas la conformité réglementaire : pour le droit, la qualification des systèmes et les obligations légales, se référer au module IA-19.
  • Le cœur du document, ce sont deux listes opposées — usages permis / usages interdits — illustrées par des exemples du métier réel, pas par du vocabulaire juridique. On ouvre sur ce qui est permis, pas sur les interdits.
  • La règle des données prime sur tout : trois niveaux (vert/orange/rouge) expliqués par des exemples concrets, et une phrase-image mémorable (« si tu ne l'écrirais pas sur une carte postale, ne le colle pas »). Dans le doute, c'est non, et on demande.
  • Trois briques transforment un papier en filet de sécurité : relecture humaine obligatoire (« l'IA propose, tu signes »), un référent nommé avec un prénom, et une règle du doute libératrice où poser une question n'est jamais reproché.
  • Le ton protège l'équipe, il ne la flique pas : on explique le POURQUOI de chaque interdit, on écrit « on » et pas « vous », et on valorise le signalement d'une erreur — la peur ne supprime pas les incidents, elle supprime leur signalement.
  • La forme gagnante est UNE page, avec un modèle réutilisable ; sa valeur est inversement proportionnelle à sa longueur. On la présente en réunion (jamais par un simple mail), on la met à l'onboarding, et on obtient un « oui » collectif.
  • On la fait vivre par une date de revue, un propriétaire nommé et un déclencheur d'incident — en retranchant autant qu'on ajoute. Principe directeur : une règle COMPRISE vaut mieux qu'une règle exhaustive ; le vrai test, c'est le bon choix dans un cas non prévu.
MODULE 4Terrain et attestation

Leçon 8 — Les erreurs qui ruinent une démarche de gouvernance IA

45 min

  • La gouvernance des risques IA traite les risques OPÉRATIONNELS (fiabilité, savoir-faire, décisions) ; la conformité juridique (LPD, régulateur) est un autre métier, traité dans IA-19. Confondre les deux est un piège en soi.
  • Auditer l'outil ne protège pas : le risque est dans l'usage et son enjeu, pas dans le fournisseur. Cartographiez les usages réels et calibrez les règles sur la gravité d'une erreur, pas sur l'outil choisi.
  • Une charte n'est pas un document mais un comportement partagé. Une page de règles concrètes ancrée par la conversation et présente au moment du geste bat neuf pages juridiques signées et jamais lues.
  • La supervision doit être proportionnée à l'enjeu : ni tout valider (on tue le gain et on dilue la vraie vigilance), ni rien valider (on perd la qualité). Contrôlez ce qui fait mal si ça se trompe et reste irréversible.
  • Le risque IA est un processus, pas un projet : les outils, les équipes et les usages dérivent en continu. Un petit rituel trimestriel qui survit vaut mieux qu'un grand audit ponctuel jamais renouvelé.
  • La posture de police pousse les usages dans l'ombre et détruit le contrôle réel ; la posture de protecteur fait remonter les problèmes spontanément. Test : un collaborateur oserait-il vous signaler une bêtise faite avec l'IA ?
  • Le shadow AI tourne déjà chez vous, décidé ou pas. La première question n'est pas « quel outil adopter ? » mais « qu'est-ce qui tourne déjà sans que je le sache ? » — et on le révèle par une démarche ouverte, sans jugement.
  • Fil rouge des sept pièges : ne jamais confondre l'apparence de contrôle (outil validé, charte signée, audit passé) avec le contrôle réel, qui vit uniquement dans les usages quotidiens.

Leçon 9 — Atelier : audit IA d'un cas et grille remplie

45 min

  • On audite des usages, jamais des outils : chaque ligne de la grille est un trio données confiées / décision prise / personne affectée, pas une marque de logiciel.
  • La grille tient en cinq colonnes cotées faible / moyen / élevé : données en jeu, criticité de la décision, supervision humaine, réversibilité, niveau de risque global.
  • Le niveau de risque n'est pas une moyenne : un seul point rouge sérieux — décision critique, données sensibles hors contrat, irréversibilité — fait basculer l'usage en risque élevé.
  • Le recensement fait ou défait l'audit : sans passe terrain, on rate la shadow AI, souvent les usages les plus sensibles (données financières ou personnelles envoyées vers un tiers).
  • Trois familles d'incidents à raconter concrètement : hallucination (fait faux mais assuré), biais (discrimination invisible et chiffrée), dérive (dégradation dans le temps et désensibilisation).
  • Une correction se juge à sa proportionnalité, son responsable et son échéance : agir sur le canal quand le risque vient du canal, ramener l'humain sur la décision critique sans le noyer.
  • L'audit risque n'est pas un avis juridique : on pose un drapeau et on renvoie au volet conformité (IA-19) dès qu'il y a décision automatisée sur une personne, données personnelles ou marché européen.
  • Un bon audit assume ses risques faibles et justifie chaque cote ; le piège numéro un est de tout classer en élevé, ce qui rend l'audit illisible et inutile pour prioriser.

Accédez à ce cours et à toute l'Academy

CHF 0 aujourd'hui · Annulable en 1 clic avant le 1er débit

Démarrer mon essai

Aller plus loin