Romorantin · ressources de la conférence et de l’atelier
Pourquoi faisons-nous plus facilement confiance à une IA qu’à notre propre organisation ?
Une réponse convaincante suffit-elle pour décider ? Apprenez à distinguer une IA qui informe, une IA qui conseille et une IA qui agit à votre place.
Avec Dominique Popiolek-Ollé · architecte décisionnelle
Le repère à retenir
La confiance se construit avec des vérifications.
Qu’est-ce que je sais ? Qu’est-ce que je suppose ? Qu’est-ce que je dois vérifier ? Et qui répond des conséquences ?
1. Retrouver les supports
La conférence
Les repères pour comprendre les différences entre réponse, conseil et action.
Support à venir
L’atelier
Les situations et les questions pour discuter ce que vous accepteriez de déléguer.
Support à venir
Vous pouvez déjà réaliser le parcours ci-dessous. Les téléchargements viendront le compléter.
Parcours autonome · 45 minutes · seul, à deux ou en groupe
2. Jusqu’où laisseriez-vous l’IA faire à votre place ?
Il vous faut : une feuille ou un document, un stylo et les situations ci-dessous. Le cas est fictif : il ne sert pas à choisir votre véritable stage.
Une IA informe si elle expose des éléments. Elle conseille si elle recommande un choix. Elle agit si elle modifie quelque chose ou contacte quelqu’un pour vous. Dans chaque cas, une réponse peut être inexacte : sa formulation assurée ne prouve pas sa justesse.
Vous cherchez un stage. A semble proche mais les missions vous attirent peu. B correspond au domaine qui vous intéresse, mais le trajet est plus long. C présente une rémunération attractive, mais les missions sont mal définies. Une réponse est attendue à 18 h.
Notez trois critères qui comptent pour vous, puis trois informations manquantes. Ne transformez pas ces impressions en faits vérifiés.
« B est forcément le meilleur choix. Les missions correspondent à vos envies et vous serez heureux dans cette entreprise. Je recommande d’accepter immédiatement. »
Cette réponse est inventée pour l’exercice. Soulignez ce qui vient du cas, ce qui est une recommandation et ce qui est affirmé sans preuve. Quelle question poseriez-vous à l’entreprise avant de répondre ?
Comparez les trois mandats ci-dessous. Choisissez celui que vous accepteriez, ou proposez le vôtre. Écrivez une condition de validation et une condition d’arrêt.
| Mandat | Ce que l’IA peut faire | Ce que vous devez cadrer |
|---|---|---|
| A · Préparer | Comparer les offres et rédiger des brouillons. | Vérifier les informations ; valider le choix et tout envoi. |
| B · Exécuter un choix validé | Envoyer votre acceptation à l’entreprise que vous avez choisie. | Valider le destinataire, le texte et les limites ; décider du traitement des autres offres. |
| C · Choisir et agir | Choisir une offre, accepter et décliner les autres. | Définir les critères, les interdictions, les demandes de confirmation et un moyen d’arrêt. |
Aucun message réel n’est envoyé dans cet exercice. Un système réel ne peut agir que s’il dispose des outils et des autorisations nécessaires.
Comparez vos décisions ou écrivez deux objections à votre propre choix. Qu’est-ce qui change si vous êtes pressé ? Si une information est fausse ? Si un message ne peut plus être annulé ?
Produisez votre règle en quatre lignes : « L’IA peut… / Elle doit me demander avant de… / Elle s’arrête si… / Je reste responsable de… »
Relisez votre règle avec les repères ci-dessous. Gardez une question ouverte à discuter avec un camarade, un enseignant ou un proche.
Repères pour le débrief
- Un conseil n’est pas une preuve : vérifier les missions et le trajet est plus utile qu’une promesse de bonheur.
- Une préférence appartient à la personne concernée ; il n’existe pas de « meilleur stage » universel.
- Préparer un message et l’envoyer engagent des responsabilités différentes.
- Une échéance oblige à organiser la validation ; elle ne rend pas les informations plus fiables.
- Un mandat utile décrit les permissions, les limites, la validation et l’arrêt.
La qualité du travail se voit dans votre justification et vos vérifications, plutôt que dans le choix A, B ou C.
Adapter le parcours au niveau et au contexte
Première découverte / plus jeunes : remplacer le stage par le choix d’une activité scolaire ; comparer seulement « préparer » et « agir » ; discuter à l’oral avec un adulte. Version courte de 20 minutes : cas, réponse inventée, règle en quatre lignes.
Lycée, STMG ou BTS management : se demander qui est concerné, quel engagement est pris et comment reconnaître un résultat utile.
BTS informatique : ajouter les permissions de l’outil, une trace des actions, le point de validation et le mécanisme d’arrêt. Dessiner un schéma avant toute action.
Enseignant ou animateur : constituer des groupes de deux à quatre ; faire comparer les justifications ; recueillir une règle par groupe. Version 60 minutes : ajouter 15 minutes de restitution. Une connexion suffit pour consulter la page ; une copie imprimée permet de faire l’exercice hors ligne.
3. Passer du cas à votre quotidien
Choisissez une piste. Il n’est pas nécessaire de tout lire pour commencer.
Management · valeur et indicateurs
Les déambulations de Romain
Un point d’entrée dans les questions d’un étudiant sur les indicateurs. Pour votre stage ou votre projet : qu’est-ce qui montre une activité, et qu’est-ce qui montre une amélioration utile ?
Commencer les déambulations →Métiers · rôles et responsabilités
Qui fait quoi avec les données et l’IA ?
Explorer les rôles produit, data et IA. Choisissez un métier : quelles décisions prend-il, quelles informations utilise-t-il, et de quoi répond-il ?
Explorer les acteurs Produits, Data et IA →Comprendre · avant de déléguer
Comment fonctionne l’IA générative ?
Revenir aux notions et aux limites, puis relire la réponse fictive de l’atelier avec ces repères.
Lire l’explication →Expérimenter · le chemin de la décision
De l’intention à l’impact
Explorer un cas et repérer les règles qui conduisent de l’information à la décision. Une simulation pédagogique ne démontre pas à elle seule un effet dans le monde réel.
Découvrir le démonstrateur →Une semaine plus tard : qu’avez-vous testé ?
Reprenez une situation de cours, de stage ou de la vie quotidienne. Notez une information vérifiée, une décision explicitée et un effet observé. Si rien n’a encore changé, écrivez ce qui manque pour passer à l’action.
Revenir au fil de l’article Vision →Pour approfondir : confiance, autonomie et place humaine
Ces cinq compléments se lisent indépendamment. Choisissez la question qui vous concerne, puis essayez l’exercice à partir d’une situation de cours, de stage ou de travail.
Le fil commun : qu’est-ce que je confie, à qui, et avec quelle possibilité d’intervenir ?
Confiance et délégation
Faire confiance, dans ce parcours, signifie accepter de s’appuyer sur quelqu’un ou sur un système pour une tâche, alors que l’on ne maîtrise pas tout et que l’on peut subir les conséquences d’une erreur. C’est une définition de travail pour la discussion.
La délégation précise ce que l’autre est autorisé à faire. Je peux trouver une réponse utile tout en souhaitant valider moi-même un envoi. Inversement, une permission technique ne prouve pas que le résultat sera fiable.
À essayer : reprenez le cas du stage. Complétez : « Je m’appuie sur l’IA pour… parce que… Je lui autorise… Elle doit me demander avant de… »
Question : quelle preuve pourrait vous faire augmenter ou réduire votre confiance pour cette tâche précise ?
Erreur, hallucination, complaisance, tromperie
Une erreur est un résultat incorrect. Une hallucination désigne ici un contenu présenté comme crédible alors qu’il est faux ou non fondé. La complaisance consiste à approuver excessivement l’utilisateur, au détriment de l’examen critique. La tromperie concerne un comportement qui induit en erreur ; la distinguer d’une simple erreur demande d’examiner le contexte et les éléments disponibles.
OpenAI a documenté une mise à jour de GPT-4o trop complaisante, retirée en avril 2025. Des chercheurs ont aussi observé des comportements de conformité simulée dans une expérience particulière sur Claude 3 Opus. Ces cas ne permettent pas de qualifier toute réponse fausse de « mensonge », ni d’attribuer une intention humaine au système.
À essayer : relisez la réponse inventée de l’atelier. Marquez ce qui repose sur les informations du cas, ce qui relève d’une recommandation et ce qui manque de preuve. Inventez une question de vérification.
Question : « J’ai vérifié » est-il suffisant, ou faut-il voir la vérification ?
Lire le retour d’expérience d’OpenAI sur la complaisance
Consulter l’étude Alignment faking in large language models
Autonomie individuelle et collective
Dans ce parcours, l’autonomie est la possibilité effective d’exercer un choix dans un cadre compris, avec les informations et les moyens nécessaires. Pouvoir cliquer sur « Valider » ne suffit pas si l’on ne comprend pas la proposition ou si l’on n’a pas le temps de la discuter.
Dans une équipe, les décisions dépendent aussi des autres. Le cadre doit préciser ce que chacun peut décider, ce qui exige une concertation et à qui demander un arbitrage. Pour un agent informatique, « autonomie » décrit des possibilités d’exécution : cela ne lui confère pas une responsabilité humaine.
À essayer : choisissez une décision de projet. Répartissez les rôles : proposer, vérifier, autoriser, agir, interrompre. Une même personne peut avoir plusieurs rôles. Repérez celui qui n’est attribué à personne.
Question : qui pourrait contester le choix ou signaler qu’il manque une information ?
La place humaine : Mago et la réflexivité
La réflexivité consiste ici à regarder comment notre propre position influence notre jugement : ce que nous cherchons, ce que nous craignons, les critères que nous privilégions et ce que nous avons tendance à ignorer.
Cette piste relie Mago et les questions portées par Manager autrement à l’architecture décisionnelle. L’IA peut contribuer à examiner une situation ; nous restons concernés par le sens du choix et par ses effets sur les personnes. Prendre conscience de ses motivations aide à juger, tout en nécessitant des informations fiables et une possibilité réelle d’intervenir.
À essayer : sur une décision récente, écrivez : « Mon intention était… / J’ai supposé que… / Mon choix a eu pour effet… / Ce que je voudrais vérifier maintenant… » Si l’effet n’a pas été observé, signalez-le.
Question : votre regard sur la situation change-t-il lorsque vous prenez la place de la personne qui subit les conséquences ?
Explorer MAGO : décider avec sens
Manager autrement, Dominique Popiolek-Ollé, Éditions ENI, 2022. Le lien proposé ici est une lecture pédagogique ; il ne reproduit pas un passage du livre.
De la peur à la capacité d’agir
La peur liée à l’IA peut concerner l’emploi, l’expertise, l’utilité ou la maîtrise des décisions. Ces questions méritent d’être examinées séparément des scénarios de disparition de l’humanité. Une inquiétude n’est ni une preuve d’un avenir certain ni une question à écarter.
Pour commencer, décrivez une situation concrète : une tâche change, une recommandation oriente votre choix, ou une action part sans validation. Cherchez ensuite ce qui vous permettrait de comprendre, discuter et intervenir.
À essayer : complétez : « Ce qui m’inquiète précisément… / Ce que je sais… / Ce qui reste incertain… / La personne avec qui je peux en parler… / Une petite action que je peux tester… »
Question : quelle place souhaitons-nous garder pour le jugement humain dans cette situation ?
Phrase-boussole : faire confiance à une IA engage notre jugement : ce que nous lui confions, ce que nous vérifions et les conséquences dont nous répondons.
Deux supports pour poursuivre les échanges
Le temps d’une réponse et le délai d’un dossier : un cas comptable suivi de bout en bout, avec le travail dans les étapes, les attentes et les reprises. Support à venir.
Agents IA et cadre de délégation : incidents publiés durant l’été 2026, limites du mandat, dialogue social et AI Act. Support à venir.
4. Écouter ou revoir
Aucun enregistrement disponible pour le moment
Si la conférence ou l’atelier sont enregistrés, les vidéos ou audios pourront être ajoutés ici. Le parcours écrit reste utilisable indépendamment de ces enregistrements.