Tarification dynamique en supermarché : potentiellement discriminatoire ?

Nous vous avons présenté dans un autre article une innovation intéressante qui avait été dévoilée lors du salon retail NRF 2018 de New York : des rayonnages intelligents ou « smart shelves » en anglais.
Ces rayonnages intelligents ont particulièrement attiré l’attention à cause de leurs caméras intégrées qui, grâce à des algorithmes de reconnaissance faciale (« face recognition« ), détectent les visages des clients et permettent de personnaliser l’interaction avec ces derniers. Comme l’explique le site web d’AWM, ces algorithmes sont capables d’identifier avec précision des critères démographiques tels que le sexe, l’origine ethnique et l’âge (voir par exemple l’image ci-dessous qui montre les critères en question ainsi que la « précision »  de la prédiction faite par l’algorithme. Source: site web d’AWM, consulté le 18 janvier 2018).

Les LED des rayonnages permettent également de « personnaliser » le message affiché vers le client. Considérant la tendance de fond qui va pousser les retailers à tester la tarification dynamique (voir notre article sur le sujet ici), il devient dès lors envisageable d’adapter les prix en fonction de ces critères démographiques.
L’éthique d’un tel système demeure toutefois hautement discutable. Cathy O’Neil a montré dans son livre « Weapons of Math Destruction » que la discrimination fondée sur des variables démographiques est plus largement plus répandue qu’on ne le pense. Un système comme celui proposé par AWM présente donc potentiellement le risque d’être mal utilisé et de conduite à des situations discriminatoires. Toutes les conditions sont en effet réunies pour que cela dérape. De tels systèmes, gérés au niveau du point de vente, multiplierait les intervenants humains. De plus, sans un contrôle centralisé, des tests ponctuels hors de toute supervision deviennent possibles : prix différents en fonction de l’âge ou de l’ethnicité, affichage de messages discriminatoires. Le risque est donc réel d’un dérapage.