Confiance dans l’IA et jugement humain : rester responsable d’une décision

Ce que la recherche sur la confiance peut nous dire

Une étude CHI 2025 réalisée par Microsoft Research et Carnegie Mellon a interrogé 319 travailleurs décrivant 936 utilisations de l'IA. Une plus grande confiance dans l’IA était associée à une moindre pensée critique autodéclarée. Ce sont des associations d'enquêtes, et non une preuve que l'IA provoque un déclin de l'intelligence. Lee et al., CHI 2025

Une méta-analyse de 2024 publiée dans Nature Human Behaviour couvre 106 expériences et 370 effets issus d’études de 2020–2023. Les combinaisons humain–IA ont obtenu, en moyenne, de moins bons résultats que le meilleur des deux pris séparément : g de Hedges = −0.23, IC à 95% de −0.39 à −0.07. Cet effet standardisé ne signifie pas une perte de précision de 23%. Vaccaro et al., Nature Human Behaviour, 2024

Notre recommandation est de confier à la surveillance humaine une tâche spécifique. Une personne doit définir l'objectif, choisir les critères, vérifier les preuves décisives et expliquer pourquoi la conclusion est acceptée. Relire simplement une réponse soignée et l’approuver est une procédure trop vague pour être évaluée. La présence d'une personne est moins informative que les contrôles qu'elle effectue réellement.

Écrivez vos critères avant de lire la réponse

Avant de demander une analyse, enregistrez ce que vous choisissez, quelles contraintes sont obligatoires et ce qui pourrait changer votre point de vue. Pour un choix de logiciel, cela peut signifier une intégration requise, une période d'apprentissage acceptable et la possibilité d'exporter vos données. Il n’est pas nécessaire que cette brève note contienne la bonne réponse. Son but est de préserver vos critères avant l'arrivée d'une présentation externe séduisante.

Après la discussion, comparez sa conclusion avec la note. Si un nouveau critère apparaît, identifiez d'où il vient : une exigence réelle, une limitation nouvellement découverte ou une description attrayante ? La révision des critères est raisonnable lorsque vous pouvez en expliquer la raison. Le dossier permet de distinguer l'apprentissage de l'adoption silencieuse de l'opinion confiante la plus récente.

Exemple concret : un tableau qui semble plus complet qu'il ne l'est

Imaginez une équipe fictive sélectionnant un logiciel pour les rapports hebdomadaires. Elle compare trois options à cinq critères. Une réponse IA attribue des scores et annonce un gagnant. Pourtant deux critères, le format d'export requis et une intégration spécifique, n'ont pas été vérifiés. Le tableau semble terminé même si les valeurs d'entrée décisives restent inconnues.

Marquez ces cellules comme inconnues au lieu d'attribuer un score neutre. Demandez aux participants de tester la décision sous des valeurs alternatives : que se passe-t-il si l'exportation n'est pas disponible ? Le gagnant changerait-il si l'installation prenait une semaine ? Ces questions produisent un court plan de vérification du produit. Les trois options et les cinq critères font partie de cet exemple pédagogique, et non des résultats sur les clients Colay.

Une personne teste ensuite l'export avec un fichier exemple et l'intégration avec un vrai flux de travail avant de mettre à jour la table. Si le choix change, la raison compte : de nouvelles observations sont arrivées. S'il reste le même, le contrôle crée toujours une explication défendable pour les collègues. L'objectif est d'améliorer la base du choix, et non de maximiser le nombre de fois où les humains contournent l'IA.

Une demande de Consensus qui laisse le jugement visible

Colay Consensus permet aux participants de discuter d'une demande et à un coordinateur de synthétiser le résultat. Essayez cette instruction : "Vérifiez d'abord les critères. Identifiez les entrées inconnues. Montrez quelle inconnue pourrait modifier le choix. Proposez la plus petite vérification utile. " Vous pouvez également demander la réponse finale pour préserver une alternative qui reste raisonnable sous différentes hypothèses. Il s'agit d'une pratique suggérée et non d'une garantie de produit mesurée.

Ne demandez pas au coordinateur de clore la question simplement parce que la plupart des réponses concordent. Demandez le lien entre les preuves et les conclusions et gardez l’incertitude importante visible. Expliquez ensuite la décision dans vos propres mots sans copier le résumé. Si cette explication dépend entièrement du fait que les modèles concordent, revenez aux éléments qui devraient la justifier.

Mesurez l'utilité de votre propre travail

Choisissez plusieurs tâches récurrentes et définissez une erreur avant de comparer les méthodes. Donnez à une exécution sur un modèle unique et à une discussion la même mission et le même matériel de support. Inspectez les défauts concrets tels qu'une affirmation non étayée sur une fonctionnalité, un calcul erroné ou une contrainte obligatoire manquée. Enregistrez également le temps d’examen et l’utilisation du crédit. Gardez ces observations séparées de l'impression que la réponse semble plus profonde.

Lorsque c’est possible, demandez à un collègue d’évaluer des résultats anonymisés sans connaître le mode qui les a produits. Un petit échantillon interne ne prouve pas la supériorité universelle d’un produit, mais peut montrer quand la discussion justifie son temps supplémentaire dans votre travail. Portez une attention particulière aux erreurs unanimes : elles révèlent des limites qu’une démonstration réussie pourrait masquer.

Conserver la possibilité d'arrêter sans gagnant

Permettez de conclure que les preuves sont insuffisantes. Si un format exige un gagnant dans toutes les conditions, il encourage à combler les lacunes. Pour une petite tâche réversible, vous pouvez accepter une hypothèse et vérifier plus tard. Pour un choix conséquent, enregistrez l’observation requise avant de continuer. La personne responsable de la tâche doit définir ce seuil plutôt que de le déduire du ton de la réponse.

Pour votre prochaine décision professionnelle, rédigez des critères, demandez une discussion, vérifiez un fait décisif et expliquez vous-même le résultat. Cela rend le rôle humain observable. Consensus peut fournir un espace organisé pour différents arguments, tandis que la personne qui prend la décision conserve la responsabilité des critères, des vérifications factuelles et des actions éventuelles.