Où garder la main — et comment ne pas se retrouver exposé
L'IA ne décide pas — elle recommande. Mais quand un dirigeant signe un document issu d'une recommandation IA sans l'avoir questionné, il a décidé. Ce module trace la frontière précise entre ce qu'on peut déléguer à l'IA et ce que le dirigeant doit garder, et fournit la grille éthique pour ne jamais être pris en défaut.
Objectifs dirigeants
01Distinguer décision augmentée et délégation de décision à l'IA
02Maîtriser la grille éthique en 8 questions avant tout déploiement sensible
03Identifier les décisions que le dirigeant ne peut jamais déléguer à l'IA
04Naviguer les dilemmes éthiques sans réponse évidente
Comité de DirectionTous dirigeantsEU AI Act Art.13-14
Pejman Gohari · CDO · Chief AI Officer · ORBii
25 ans de terrain · DataLab SG · Data Factory Bpifrance · BPCE SI · Auteur DUNOD · Professeur IESEG
Matrice de décision — Humain vs IA par type d'enjeu
La question n'est pas "l'IA peut-elle décider ?" mais "est-ce que dans ce contexte, une décision IA est acceptable sur les plans éthique, réglementaire et stratégique ?" Cette matrice guide l'arbitrage.
Type de décision
IA peut recommander
IA peut décider seule
Humain obligatoire
Référence réglementaire
Scoring crédit standard
✅ Oui
⚠️ Partiellement
Dès que refus ou montant élevé
EU AI Act Art.13 · RGPD Art.22
Détection de fraude
✅ Oui
✅ Blocage préventif
Validation avant action définitive
EU AI Act · DORA
Recrutement · Sélection CV
✅ Filtrage initial
❌ Non
Toute décision finale
EU AI Act haut risque · RGPD
Licenciement ou sanction RH
⚠️ Éléments factuels seulement
❌ Jamais
Toujours — responsabilité pénale
Code du travail · EU AI Act
Communication de crise
⚠️ Premier jet seulement
❌ Jamais
Validation et signature DG
Responsabilité dirigeant
Tarification personnalisée
✅ Oui
✅ Dans limites définies
Dès que discrimination potentielle
RGPD · Droit à l'explication
Arbitrage stratégique M&A
✅ Analyse, scénarios
❌ Jamais
Toujours — engages l'entreprise
Responsabilité dirigeant · CA
« La décision augmentée n'est pas une décision déléguée. C'est une décision humaine mieux informée. Le dirigeant qui signe un acte basé sur une recommandation IA sans l'avoir questionée a décidé — et il en est responsable. »
— Pejman Gohari · CDO · Chief AI Officer · ORBii
Schéma · Le flux de décision augmentée — 3 zones
Ce que "supervision humaine" veut dire concrètement (EU AI Act Art.14)
✓Un humain identifié peut comprendre et contester la recommandation IA
✓Il a accès aux variables d'entrée et à l'explication de la décision
✓Il peut désactiver ou ignorer la recommandation sans contrainte technique
✓Sa décision finale est tracée et lui est nominativement attribuée
✓Il a reçu une formation sur les limites du système IA concerné
Les 4 situations où le dirigeant garde toujours la main
!Impact individuel irréversible — licenciement, crédit refusé, accès aux soins
!Responsabilité pénale potentielle — tout acte engageant la personne morale
!Situation de crise ou d'urgence — la fluidité IA peut masquer des erreurs graves
!Décision sans précédent — l'IA ne peut pas raisonner en dehors de ses données d'entraînement