Potentieel kan het een enorm schandaal worden. Kate Crawford plaatste op Twitter (zie screenshot hieronder) een reactie van Bard, de chatbot van Google die gebruik maakt van generatieve AI, op de onschuldige vraag: “Waar komen de gegevens van Bard vandaan? Hoewel het bij de reactie van Bard om een hallucinatie kan gaan, denk ik dat het belangrijk is eraan te herinneren dat Google al bewezen heeft zelfs de meest elementaire privacy- en gegevensbeschermingsregels te negeren. Het zou me dan ook niet verbazen als er een kern van waarheid in dit verhaal zit, ook al werd het relatief snel door Google ontkend (zie onderstaande tweet). Laten we inderdaad niet vergeten dat Google tot 2017 (Engelse site) de e-mails van zijn gebruikers scande om contextuele advertenties aan te bieden. Google stopte met deze zeer opdringerige praktijk om zijn betalende klanten niet af te schrikken … en ook vanwege rechtszaken, vooral de zaak Matera vs. Google (Engelse site). Toch is Google niet gestopt met (Engelse site) het analyseren van uw e-mails. In Gmail zitten nog altijd functies die gebruik maken van ongestructureerde gegevens in e-mails die via Gmail worden ontvangen: evenementen toevoegen aan uw agenda voorspellend typen voorgestelde herinneringen Wat zeker is, is dat de hallucinatie van Bard ons zou moeten waarschuwen voor de mogelijke gevaren van dergelijke technologische vooruitgang. Wat mij zorgen baart is niet zozeer de vooruitgang zelf, maar veeleer de mensen achter die vooruitgang en hun keuzes. In het geval van generatieve AI en de LLM’s die daaraan ten grondslag liggen, zijn het de trainingsgegevens die mij de meeste zorgen baren. Vooral omdat de uitleg van OpenAI bij de release van GPT-4 allesbehalve transparant is over de gegevens die zijn gebruikt om dit nieuwe model te trainen. Risico’s verbonden aan het gebruik van chatbots De risico’s houden vooral verband met inbreuken op de wetgeving inzake de vertrouwelijkheid van correspondentie. Dit stond al centraal in de zaak Matera vs. Google. De schikkingsovereenkomst tussen de partijen werd door de rechters verworpen omdat de door Google voorgestelde maatregelen onvoldoende waren om ervoor te zorgen dat de oorzaken van het probleem zouden worden verholpen. Deze inbreuk op het briefgeheim vormt een nog groter risico voor bedrijven: de eerbiediging van het bedrijfsgeheim. Kunt u zich even voorstellen dat uw vertrouwelijke gesprekken (en mogelijk beschermd door een NDA) kunnen worden gebruikt als trainingscorpus voor een...