Gagnez de l’argent en répondant à nos enquêtes

Inscrivez-vous dès maintenant !
Le blog de la société IntoTheMinds
Conseils en Data & IT

Le Big Data au service de la transparence et de l’égalité

Gagnez jusqu’à 50€ en participant à une de nos études de marché rémunérées.

Inscrivez-vous dès maintenant !

Sur ce blog j’ai souvent défendu une attitude pessimiste à l’égard du Big Data, en demandant notamment un changement radical dans la conception des algorithmes par les entreprises. J’ai plaidé par exemple pour l’ouverture des modèles algorithmiques (notamment ceux qui se cachent derrière les systèmes de recommandation) et me suis interrogé sur les dangers que représentent les algorithmes pour notre liberté.
L’article d’aujourd’hui sera certainement plus optimiste que les autres parce que j’ai rencontré la semaine dernière à la conférence CPDP 2017 deux personnes qui ont livré des présentations brillantes sur l’utilisation du Big Data à des fins positives : la promotion de la transparence d’une part et de l’équité d’autre part.

Le Big Data permet de faire la transparence sur les processus décisionnels

La première présentation a été donnée par Krishna Gummadi qui a développé son idée d ‘«algocracy» et a défendu sa vision de l’utilisation des algorithmes afin de révéler les discriminations dans les décisions prises par les humains.
Vous avez tous entendu parler de l’affaire Airbnb, où les clients noirs étaient discriminés lorsqu’ils souhaitaient louer un appartement sur Airbnb. Krishna Gummadi et ses co-auteurs se sont intéressés à des modes similaires de discriminations dans les pratiques de la police new-yorkaise. Ils ont étudié en particulier les statistiques relatives aux contrôles inopinés (« stop-and »frisk »). Ce que les séries chronologiques ont révélé c’est que des changements avaient eu lieu, connus ou secrets, qui avaient influencé les pratiques de la police et les décisions de pratiquer un contrôle ou pas.
Les deux graphiques ci-dessous parlent d’eux-mêmes. Vous pouvez voir clairement des baisses ou des augmentations soudaines., ce que les auteurs ont réussi à relier à des changements formels (communiqués au public) ou informels des pratiques imposées aux agents de terrain.
Ce cas est, je pense, une très bonne illustration de la transparence que les algorithmes peuvent apporter sur les pratiques humaines.

Le Big Data promeut l’équité

Un autre exemple très instructif a été donné par Javier Pimentel Calderon de Kreditech (Allemagne). La mission de Kreditech est de «donner accès au crédit aux personnes ayant peu ou pas d’historique de crédit» (et qui sont de facto discriminés par rapport aux autres en raison du manque de données permettant de juger le risque associé à leur capacité à rembourser). Kreditech développe à cet effet des algorithmes qui calculent le risque sur la base d’autres critères.
Javier a expliqué que lorsque les data scientists ont examiné les données relatives aux crédits approuvés, ils ont découvert que certaines des personnes ayant obtenu un crédit auraient certainement fait l’objet d’un refus si la décision avait été prise par un humain.
Dans ce cas très spécifique on peut dire que la prise de décision algorithmique apporte une objectivité faisant défaut à l’humain et permettant un traitement égal de tous les clients.

Conclusion

Le prochain règlement général sur la protection des données (GDPR, applicable en Mai 2018) inclue la notion d’équité (« fairness »). C’est à mon avis un changement radical qui pourrait (devrait) forcer les entreprises à réfléchir sur leurs pratiques Big Data et en particulier sur la conception de leurs algorithmes.
Car regardons la vérité en face. Les technologies Big Data sont aujourd’hui en grande partie utilisées pour enrichir les entreprises, parfois au détriment des intérêts des clients. Les deux exemples ci-dessus (et surtout le second) montrent que les algorithmes peuvent également être utilisés à des fins plus justes.
La situation mondiale est aujourd’hui assez explosive pour que la réduction des inégalités soient au cœur des préoccupations des entreprises. Les algorithmes peuvent contribuer à ce changement positif.

Image : Shutterstock

Étiquettes :

Author: Pierre-Nicolas Schwab

Pierre-Nicolas est Docteur en Marketing et dirige l'agence d'études de marché IntoTheMinds. Ses domaines de prédilection sont le BigData l'e-commerce, le commerce de proximité, l'HoReCa et la logistique. Il est également chercheur en marketing à l'Université Libre de Bruxelles et sert de coach et formateur à plusieurs organisations et institutions publiques. Il peut être contacté par email, Linkedin ou par téléphone (+32 486 42 79 42)

Share This Post On

Submit a Comment

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *