Keynote over aanbevelingsalgoritmen en de noodzaak van ethiek

Op 4 mei 2018 gaf ik een keynote over het RTBF-project Big Data & personalisering in de Tarmac radiostudio’s (zie foto hieronder).
De keynote was voorbehouden aan de werknemers van de RTBF en haar dochterondernemingen en werd massaal bijgewoond. Het doel was om bekendheid te geven aan het project dat ik meer dan drie jaar geleden lanceerde en om complexe onderwerpen voor te stellen, zoals aanbevelingssystemen, cognitieve bubbels en de rol van de publieke media in de noodzakelijke verandering in het gebruik van technologie.

Mijn verhaal was deels gebaseerd op het recente Cambridge Analytica-schandaal en de nog recentere beslissing om het bedrijf te sluiten. Ik legde uit dat het creëren van meer respectvolle algoritmische tools niet de enige weg vooruit was. We moeten ook mensen opvoeden (en daarmee bedoel ik “alle mensen”, niet alleen de jongere generatie) over hoe gegevens door bedrijven worden gebruikt en hoe ze worden verzameld. Zoals ik in een ander artikel schreef, was wat Cambridge Analytica over miljoenen mensen wist niets vergeleken met wat datamakelaars over ons allemaal weten. Weinig bekende, bijna geheime bedrijven als Acxiom hebben tientallen jaren aan gegevens over honderden miljoenen mensen verzameld. Hoewel sommige gegevens uit openbare dossiers worden verkregen (faillissementsverklaringen, strafregisters, …), kunnen de meest recente gegevensbronnen die door Acxiom worden gebruikt nog indringender zijn. Gezondheidsgegevens (niet specifiek beschermd in de Verenigde Staten) kunnen worden opgevraagd en locatiegegevens kunnen worden verkregen via een netwerk van over de Verenigde Staten verspreide bakens waarop toepassingen met cookies zijn aangesloten.

Ik rondde mijn overzicht van slechte praktijken af door de beruchte affaire over de Samsung Smart TV te vermelden. Mijn publiek verbaasde zich erover dat de gebruiksvoorwaarden van Samsung (Engelse tekst) klanten waarschuwden voor het mogelijke gebruik en het delen met derden van informatie die in de buurt van de SmartTV wordt opgevangen door de microfoon (die ook fungeert als interface voor spraakopdrachten).

Ik ben er meer dan ooit van overtuigd dat het opleiden van internetgebruikers de oplossing is. Regelgeving is een verbetering, maar zal ontoereikend blijven omdat technologie en innovatie de wetgeving altijd een stap voor zijn (lees dit andere artikel dat ik tijdens de inaugurele FAT-conferentie in New York in februari 2018 aan de keynote van Latanya Sweeney heb gewijd).