1 février 2017 668 mots, 3 min. de lecture

Le Big Data au service de la transparence et de l’égalité

Par Pierre-Nicolas Schwab Docteur en marketing, directeur de IntoTheMinds
Sur ce blog j’ai souvent défendu une attitude pessimiste à l’égard du Big Data, en demandant notamment un changement radical dans la conception des algorithmes par les entreprises. J’ai plaidé par exemple pour l’ouverture des modèles algorithmiques (notamment ceux qui […]

Sur ce blog j’ai souvent défendu une attitude pessimiste à l’égard du Big Data, en demandant notamment un changement radical dans la conception des algorithmes par les entreprises. J’ai plaidé par exemple pour l’ouverture des modèles algorithmiques (notamment ceux qui se cachent derrière les systèmes de recommandation) et me suis interrogé sur les dangers que représentent les algorithmes pour notre liberté.
L’article d’aujourd’hui sera certainement plus optimiste que les autres parce que j’ai rencontré la semaine dernière à la conférence CPDP 2017 deux personnes qui ont livré des présentations brillantes sur l’utilisation du Big Data à des fins positives : la promotion de la transparence d’une part et de l’équité d’autre part.

Le Big Data permet de faire la transparence sur les processus décisionnels

La première présentation a été donnée par Krishna Gummadi qui a développé son idée d ‘«algocracy» et a défendu sa vision de l’utilisation des algorithmes afin de révéler les discriminations dans les décisions prises par les humains.
Vous avez tous entendu parler de l’affaire Airbnb, où les clients noirs étaient discriminés lorsqu’ils souhaitaient louer un appartement sur Airbnb. Krishna Gummadi et ses co-auteurs se sont intéressés à des modes similaires de discriminations dans les pratiques de la police new-yorkaise. Ils ont étudié en particulier les statistiques relatives aux contrôles inopinés (« stop-and »frisk »). Ce que les séries chronologiques ont révélé c’est que des changements avaient eu lieu, connus ou secrets, qui avaient influencé les pratiques de la police et les décisions de pratiquer un contrôle ou pas.
Les deux graphiques ci-dessous parlent d’eux-mêmes. Vous pouvez voir clairement des baisses ou des augmentations soudaines., ce que les auteurs ont réussi à relier à des changements formels (communiqués au public) ou informels des pratiques imposées aux agents de terrain.
Ce cas est, je pense, une très bonne illustration de la transparence que les algorithmes peuvent apporter sur les pratiques humaines.

Le Big Data promeut l’équité

Un autre exemple très instructif a été donné par Javier Pimentel Calderon de Kreditech (Allemagne). La mission de Kreditech est de «donner accès au crédit aux personnes ayant peu ou pas d’historique de crédit» (et qui sont de facto discriminés par rapport aux autres en raison du manque de données permettant de juger le risque associé à leur capacité à rembourser). Kreditech développe à cet effet des algorithmes qui calculent le risque sur la base d’autres critères.
Javier a expliqué que lorsque les data scientists ont examiné les données relatives aux crédits approuvés, ils ont découvert que certaines des personnes ayant obtenu un crédit auraient certainement fait l’objet d’un refus si la décision avait été prise par un humain.
Dans ce cas très spécifique on peut dire que la prise de décision algorithmique apporte une objectivité faisant défaut à l’humain et permettant un traitement égal de tous les clients.

Conclusion

Le prochain règlement général sur la protection des données (GDPR, applicable en Mai 2018) inclue la notion d’équité (« fairness »). C’est à mon avis un changement radical qui pourrait (devrait) forcer les entreprises à réfléchir sur leurs pratiques Big Data et en particulier sur la conception de leurs algorithmes.
Car regardons la vérité en face. Les technologies Big Data sont aujourd’hui en grande partie utilisées pour enrichir les entreprises, parfois au détriment des intérêts des clients. Les deux exemples ci-dessus (et surtout le second) montrent que les algorithmes peuvent également être utilisés à des fins plus justes.
La situation mondiale est aujourd’hui assez explosive pour que la réduction des inégalités soient au cœur des préoccupations des entreprises. Les algorithmes peuvent contribuer à ce changement positif.

Image : Shutterstock



Publié dans Data et IT, Marketing, Recherche.

Donnez votre avis

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *