Ik ben op deze blog altijd al pessimistisch geweest over Big Data en was voorstander van radicale veranderingen in het ontwerp van algoritmes van bedrijven. Ik pleitte bijvoorbeeld voor het publiek maken van de algoritmemodellen (vooral van degene die verborgen zitten achter de aanbevelingssystemen (Frans)) en stelde me vragen bij de gevaren van algoritmes voor onze vrijheid. Het artikel van vandaag is alleszins optimistischer dan de vorige, want ik ontmoette vorige week op de CPDP-conferentie 2017 twee personen die schitterende presentaties gaven over het gebruik van Big Data voor positieve doeleinden: de promotie van transparantie enerzijds en gelijkheid anderzijds.
Big Data zorgt voor transparantie bij besluitprocessen
De eerste voorstelling werd gegeven door Krishna Gummadi, die zijn eigen idee van een «algocracy» vormde en zijn visie op het gebruik van algoritmes verdedigde om discriminaties te ontdekken in de beslissingen van mensen.
U hebt allemaal gehoord van de ‘Airbnb-affaire’ (Frans), waar zwarte klanten werden gediscrimineerd toen ze een appartement wilden huren via Airbnb. Krishna Gummadi en zijn coauteurs onderzochten gelijkaardige modellen van discriminatie bij praktijken van de politie in New York. Ze bestudeerden vooral de statistieken over onverwachte controles (“stop-and”frisk”). De chronologie toont aan dat er gekende of niet gekende wijzigingen plaatsvonden die invloed hadden op de praktijk van de politie en op de beslissing om al dan niet een controle uit te voeren. De twee onderstaande grafieken spreken voor zich. U ziet duidelijk plotselinge dalingen of stijgingen, die de auteurs hebben kunnen linken aan formele (gecommuniceerd aan het publiek) of informele veranderingen in de praktijk van agenten op het terrein. Dit illustreert, volgens mij, goed de transparantie die Big Data kunnen geven over menselijke praktijken.
Big Data promoot gelijkheid
Een ander voorbeeld is dat van Javier Pimentel Calderon de Kreditech (Duitsland). De missie van Kreditech is een «lening geven aan mensen met geen of weinig kredietgeschiedenis» (en die de facto worden gediscrimineerd tegenover anderen wegens het gebrek aan gegevens waarmee het risico van terugbetalingscapaciteit kan worden bepaald). Kreditech ontwikkelde algoritmes die het risico berekenen op basis van andere criteria. Javier verklaarde dat toen data scientists de gegevens met betrekking tot de goedgekeurde leningen onderzochten, ze ontdekten dat sommige mensen die een lening kregen zeker geweigerd zouden zijn geweest als de beslissing door een mens was genomen. In dit zeer specifieke geval kunnen we stellen dat de besluitvorming van het algoritme zorgt voor objectiviteit die de mens ontbeert en dat elke klant daardoor gelijk behandeld wordt.
Conclusie
De volgende algemene wetgeving op de bescherming van gegevens (GDPR, van kracht in mei 2018) bevat de notie van gelijkheid (“fairness”). Dat is volgens mij een radicale verandering die bedrijven kan (zou moeten) verplichten om na te denken over hun Big Data-praktijken en vooral over het ontwerp van hun algoritmes.
Want laten we een kat een kat noemen. De technologie van Big Data wordt vandaag grotendeels toegepast om bedrijven te verrijken, soms in het nadeel van de belangen van de klant. De twee bovenstaande voorbeelden (vooral het tweede) tonen aan dat algoritmes ook gebruikt kunnen worden voor meer rechtvaardige doeleinden. De toestand in de wereld is vandaag de dag explosief genoeg om te beseffen dat bestrijding van de ongelijkheid de kern moet zijn van de bedrijfspraktijk. Algoritmes kunnen op een positieve manier daaraan bijdragen.
Afbeelding:Â Shutterstock
Posted in big data, Marketing.
