4 juli 2018 880 woorden, 4 min. gelezen

Digitalisering en ethiek: analyse van de emoties die onder de GDPR vallen?

Door Pierre-Nicolas Schwab Gepromoveerd in marketing, directeur van IntoTheMinds
Er staat momenteel een wetenschappelijk artikel (Engelse tekst) van Royakkers et al. (2018) in het tijdschrift “Ethique et technologies de l’information”, dat een interessant overzicht geeft van de maatschappelijke en ethische vraagstukken die uit digitalisering voortkomen (vandaar de titel). De […]

Er staat momenteel een wetenschappelijk artikel (Engelse tekst) van Royakkers et al. (2018) in het tijdschrift “Ethique et technologies de l’information”, dat een interessant overzicht geeft van de maatschappelijke en ethische vraagstukken die uit digitalisering voortkomen (vandaar de titel). De digitaliseringsvraagstukken worden langs 6 assen geanalyseerd:

  • bescherming van de privacy
  • zelfredzaamheid
  • veiligheid en beveiliging
  • machtsevenwicht
  • menswaardigheid
  • macht

Het is niet mijn bedoeling om het artikel in zijn geheel samen te vatten, maar wel om een bepaald aspect eruit te behandelen en er verder over uit te wijden. In het artikel van vandaag wil ik het hebben over aspecten die te maken hebben met de automatische analyse van emoties. Als u zich vertrouwd wilt maken met het onderwerp, stel ik voor dat u een blik werpt op dit eerste artikel dat ik publiceerde nadat ik Andrew McStay ontmoette op de CPDP-conferentie in 2017, en ook naar dit artikel dat ik schreef na een presentatie op dezelfde conferentie.

Analyse van gevoelige informatie

Royakkers en zijn collega’s wijzen er terecht op dat gevoelige informatie, zoals biometrische gegevens, kan worden gebruikt om de veiligheid te verbeteren. Bij toepassingen zoals identificatie en herkenning is biometrische informatie essentieel voor het verlenen van toegang en machtiging. Terwijl deze toepassingen in het verleden waren voorbehouden aan “officiële” toepassingen (bv. voor de douane), kunnen deze nu dankzij goedkope rekenkracht en databases met afbeeldingen de grens van het officiële gebruik passeren. De analyse van gevoelens, bijvoorbeeld, is wijdverbreid. Ik heb ze een paar jaar geleden persoonlijk in de praktijk gebracht in tweets en openbare Facebook-berichten, maar op dat moment leverde deze opkomende techniek slechts zeer gemiddelde resultaten op. Maar in een paar jaar tijd is alles veranderd, de prestaties zijn verbeterd en gevoelsanalyse werd een gebruikelijke techniek. Gebruikt in real time en ingebed in de camera’s, kunnen algoritmen voor de analyse van gevoelens de emoties detecteren van personen die voor de camera passeren (zie hier het voorbeeld van intelligente rekken van AMS gepresenteerd op de National Retail Show 2018). De auteurs schrijven over dit onderwerp:

“De volgende generatie van biometrische analyse zal niet alleen inzicht geven in “wie je bent”, maar ook antwoord geven op de vraag “hoe je je voelt” (…) Dit is een inbreuk op een nieuw territorium van privacy, namelijk mentale privacy.”

Zijn emoties persoonlijke gegevens?

Dit alles doet de vraag rijzen of emoties privégegevens zijn. Om deze vraag te beantwoorden, is het nuttig te vertrouwen op een lezing van de GDPR. Dus mijn antwoord is “het hangt ervan af”.

Dit hangt in de eerste plaats af van de vraag of de gegevens al dan niet worden geregistreerd. In sommige gevallen hoeven de gegevens niet te worden opgeslagen. Toen Saatchi, Clear Channel en Postercope hun ‘slimme’ displays lanceerden, hoefden de gegevens niet te worden opgeslagen. De commercial werd gepersonaliseerd volgens de emotie van de persoon voor het reclameapparaat. Er kon een reeks berichten worden voorgeladen die, afhankelijk van de gedetecteerde emotie, werden weergegeven. Voor deze aanvraag was geen registratie op individueel niveau vereist. Een ‘privacy-by-design’-systeem zou alleen geaggregeerde gegevens verstrekken (x% van de gelukkigen op de eerste dag, y% van de droevige mensen op de tweede dag, enz.)? Als de gegevens op een meer granulair niveau worden vastgelegd, wordt de situatie complexer. De eerste vraag die moet worden gesteld is: is het echt nodig om gegevens op een fijner niveau vast te leggen voor het beoogde doel? Er kan een goede reden voor zijn (bv. directe marketing na een emotiemeting). Maar in elk geval maakt de aard zelf van de gegevens (emoties zijn vluchtig) het instellen van een snelle verwijdering (bijvoorbeeld na 24 uur) nodig. Waarom in een database het spoor van een emotie bewaren als deze informatie na 24 uur verouderd raakt?

Een voorbeeld van automatische emotieanalyse toegepast in de verkoop (meer info hier)

Gevoelens worden persoonlijke gegevens als ze worden geregistreerd (maar de GDPR kan u verbieden dit te doen)

Uit het bovenstaande volgt natuurlijk het feit dat emoties persoonsgegevens zijn als ze met een individu kunnen worden geassocieerd. Uit de GDPR volgt ook dat emotionele gegevens een zeer korte levenscyclus moeten hebben en snel gewist moeten worden (tenzij u een goed doel kunt rechtvaardigen, maar eerlijk gezegd zie ik er geen).

Buiten Europa zullen burgers min of meer beschermd zijn tegen slechte praktijken. Denk aan het geval (zie illustratie hierboven) van intelligente supermarktrekken. Omdat consumenten in supermarkten altijd dezelfde artikelen in dezelfde verkooppunten kopen, is de kans groot dat u elke week dezelfde gezichten opneemt. Een mogelijke slechte praktijk zou daarom zijn om emoties op wekelijkse basis vast te leggen en de emotionele evolutie van een individu te analyseren. Dit is een zeer twijfelachtige en onethische toepassing.

Conclusie

De emotionele toestand van een persoon is een gegeven dat door zijn aard zeer persoonlijk en privé is. De vooruitgang op het gebied van kunstmatige intelligentie maakt het mogelijk emoties in real time te analyseren en opent nieuwe perspectieven in tal van sectoren (bv. reclame).

Wanneer dergelijke informatie wordt geregistreerd en opgeslagen, zou het wettelijk kader van de GDPR vereisen dat de levenscyclus van dergelijke informatie zeer kort is, wat volkomen logisch lijkt gezien het zeer tijdelijke karakter van deze gegevens. DE GDPR geldt echter alleen in Europa en voor Europese burgers, waardoor de deur voor (onder andere) de Verenigde Staten open blijft staan voor twijfelachtige praktijken.

Afbeelding: shutterstock



Posted in Diverse.

Plaats uw mening

Je e-mailadres zal niet getoond worden. Vereiste velden zijn gemarkeerd met *