C’est un dilemme crucial et questionnant: pouvons-nous encore faire confiance à notre jugement ou devons-nous nous soumettre aux décisions de l’intelligence artificielle (IA)? L’idée – ou la croyance répandue – selon laquelle « l’humain doit garder la main » est profondément ancrée dans notre conscient et inconscient collectif. Garder la main et faire confiance à l’intuition humaine nous protégerait des erreurs de la machine – qui “réfléchit” tel un couperet de manière bête et méchante, sans émotion. Toutefois, la réalité est moins nuancée et même implacable: pléthore d’études révèlent que corriger ou ignorer une décision algorithmique ne fait qu’aggraver la situation. Quand l’humain s’interpose, la qualité des décisions chute. Alors, qui est vraiment le plus fiable ? L’Humain, l’intelligence artificielle, l’équipe Humain+IA. Ci-dessous, la réponse d’Olivier Sibony, consultant, auteur, enseignant (HEC Paris, Oxford, London Business School) et spécialiste de l’étude des biais cognitifs et comportementaux qui affectent la prise décision.

C’est un fait: l’intelligence artificielle est de plus en plus utilisée dans des domaines tels que la médecine, le recrutement du personnel, la finance et la justice, etc. Et dans tous ces secteurs d’activités, nombre d’expériences, comme nous le partage Olivier Sibony, ont été mises en place. Leurs objectifs: évaluer qui prend les décisions les plus pertinentes et adéquates. Est-ce l’IA seule ? Est-ce l’Humain seul ? Est-ce la combinaison Humain + IA ?

Un Humain doit-il toujours vérifier ce que suggère un algorithme ?

Les résultats sont sans appel: l’algorithme – une fois validé et lancé dans le réel de la prise de décision – surpasse en qualité les choix des experts humains. Pourquoi ? Les décisions de l’IA ne sont pas parfaites, loin de là, mais elles ont l’avantage d’être cohérente, stable, statistiquement plus fiable et non parasitées par les heuristiques ou biais cognitifs. Rappelons-le: les choix rationnels de l’être humain sont constamment soumis aux biais cognitifs, qui nous influencent (de manière pas toujours logique, homogène et appropriée). Nous prenons nombre de choix rationnellement irrationnel – bienvenue dans la complexité et la beauté du fonctionnement de l’être humain.

Attention: l’intelligence artificielle reste efficace dans des domaines biens définies, où elle a été maintes fois entraînée sur des données solides. Dans des contextes nouveaux ou mal modélisés (si jamais l’algorithme est biaisé par les biais cognitifs de ses modélisateurs par exemple), elle peut se tromper. Comme l’explique Olivier Sibony: au lieu de rejeter ou suivre aveuglément l’IA, il faut apprendre à comprendre dans quelles situations son analyse est pertinente et où l’intervention humaine reste disponible ou indispensable.

L’IA peut nous remplacer et pas nous aider … dans certains cas. Déjà, si l’algorithme bénéficie de toutes les informations utiles

En résumé, ne pas faire confiance à l’IA par principe peut nuire à la qualité des décisions et l’IA peut surpasser les humains dans certaines décisions analytiques. Ici, le sujet attrait à la prise de décision, nullement à la créativité ou l’assistanat de l’IA peut-être différente…

Rappel: Les biais cognitifs nous induisent souvent en erreur sans que nous nous en rendions compte. Plus précisément, les biais cognitifs sont des erreurs de pensée qui nous font prendre des décisions ou juger une situation de façon irrationnelle. Ils viennent de raccourcis mentaux (heuristiques) que notre cerveau utilise pour aller plus vite, et qui peuvent nous induire en erreur. Parfois ou souvent le raccourci est utile, parfois non…
Exemples de biais :

  • Biais de confirmation : on ne voit que ce qui confirme ce qu’on croit déjà.
  • Biais d’ancrage : la première info qu’on reçoit influence tout le reste.
  • Biais de disponibilité : on juge en fonction de ce qui nous vient le plus facilement en tête.


Source: Que ferez-vous si l’analyse de l’IA vous contredit ?, Xerfi canal, Olivier Sibony: https://www.xerficanal.com/strategie-management/emission/Olivier-Sibony-Que-ferez-vous-si-l-analyse-de-l-IA-vous-contredit-_3753128.html