Earn money by answering our surveys

Register now!

On pardonne plus facilement les erreurs aux algorithmes qu’aux humains

Earn up to 50€ by participating in one of our paid market research.

Register now!

Les algorithmes ont pris le pouvoir. Ils sont chargés de prendre de plus en plus de décisions. Des décisions de plus en plus complexes qui affectent tous les pans de nos vies. Pourtant les algorithmes ne sont pas parfaits. Ils font aussi des erreurs. Alors une question se pose : pour une même erreur, pardonnons-nous plus facilement aux algorithmes qu’aux êtres humains ? Une étude de 2021 apporte un éclairage inédit sur la question et livre des enseignements importants sur les caractéristiques idéales des algorithmes et des chatbots.

Si vous n’avez que 30 secondes

Une étude publiée en 2021 montre que nous pardonnons plus facilement les fautes commises par des algorithmes que celles commises par des humains.

En appliquant la „theory of mind perception“, les auteurs de l’étude montrent en outre que le caractère „humain“ de l’algorithme fait varier notre jugement. Plus l’utilisateur perçoit l’algorithme comme „humain“, moins il lui pardonne ses erreurs.

Du point de vue du branding, les erreurs algorithmiques causent en général moins de dommages à la marque que celles de nature humaine.

Ces résultats devraient inciter les entreprises à ne pas „humaniser“ leurs algorithmes. Cette recommandation est d’ailleurs également émise dans un avis récent rendu en France par le comité d’éthique sur les défis posés par les chatbots.


2 exemples d’erreurs algorithmiques

Le propre des algorithmes est de commettre de nombreuses erreurs. Les algorithmes se basant sur des données historiques pour anticiper l’avenir, tout événement historique manquant provoquera immanquablement une erreur de prédiction.

La grande majorité des erreurs algorithmiques passent inaperçues. Certaines font toutefois les gros titres des journaux à cause des enjeux éthiques ou financiers qu’elles soulèvent.

Les résultats de recherche de Google

L’algorithme de Google a déjà fait parler de lui à de nombreuses reprises à cause de résultats pour le moins … curieux. Il a notamment été accusé de racisme après que Kabir Ali a découvert les images associées à la recherche „three black teenagers“ différaient largement de celles affichées pour „Three white teenagers“.

La carte de crédit Apple

Les critères d’attribution de la carte de crédit lancée par Apple en partenariat avec Goldman Sachs ont été accusés de suivre des règles discriminatoires envers les femmes. Bien que les accusations aient plus tard été infirmées par une enquête des autorités, le mal était fait. L’algorithme avait été accusé de sexisme.

chatboy domino's pizza

En donnant un nom à son chatbot („Dom“), Domino’s Pizza l’a humanisé.
Crédits : capture d’écran du site Domino’s Pizza


Pourquoi on pardonne aux algorithmes plus facilement qu’aux humains

Au travers de plus expériences basées sur des scénarios, l’étude montre de manière générale qu’une erreur humaine est jugée comme étant plus grave qu’une erreur commise par un algorithme. Le caractère non-humain de l’algorithme nous fait „passer l’éponge“ plus facilement. En termes de branding, une marque souffrira donc moins d’une erreur algorithmique que d’une erreur humaine.

Donner des caractéristiques humaines à une machine s’appelle l’anthropomorphisation. L’étude montre qu’en conférant des caractéristiques humaines à l’algorithme, la frontière s’efface et notre jugement est altéré. Plus l’algorithme a forme humaine, plus la responsabilité que nous lui attribuons en cas d’erreur augmente. Ces caractéristiques peuvent apparaître sous différentes formes :

  • un prénom
  • un nom
  • une voix
  • une image

Cet effet augmente encore lorsqu’il s’agit d’un algorithme de machine learning.


Conclusions

Les concepteurs d’algorithmes ont tout intérêt à ne pas donner de caractéristiques humaines à leurs créations. En cas d’erreur causée par l’algorithmique, la réputation de l’entreprise souffrira moins que si l’algorithme possède des caractéristiques humaines.

Schlagwörter: ,

Author: Pierre-Nicolas Schwab

Pierre-Nicolas est Docteur en Marketing et dirige l'agence d'études de marché IntoTheMinds. Ses domaines de prédilection sont le BigData l'e-commerce, le commerce de proximité, l'HoReCa et la logistique. Il est également chercheur en marketing à l'Université Libre de Bruxelles et sert de coach et formateur à plusieurs organisations et institutions publiques. Il peut être contacté par email, Linkedin ou par téléphone (+32 486 42 79 42)

Share This Post On

Kommentar absenden

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert.