Verdien geld door onze enquêtes te beantwoorden

Schrijf u nu in !
De blog van het marketing agentschap IntoTheMinds
Marktonderzoek en ondernemers coaching

Fouten van algoritmen vlugger vergeven dan die van mensen

Verdien tot 50€ door deel te nemen aan een van onze betaalde marktonderzoeken.

Schrijf u nu in !

Algoritmes hebben de macht overgenomen. Ze zijn verantwoordelijk voor het nemen van steeds meer beslissingen. Steeds complexere beslissingen die elk aspect van ons leven beïnvloeden. Maar algoritmen zijn niet perfect. Ze maken ook fouten. Dus rijst de vraag: vergeven we algoritmen voor dezelfde fout gemakkelijker dan mensen? Een studie (Engelse site) uit 2021 werpt een nieuw licht op deze vraag en biedt belangrijke inzichten in de ideale kenmerken van algoritmen en chatbots.

Als u maar 30 seconden heeft

Uit een in 2021 gepubliceerde studie blijkt dat we algoritmische fouten eerder vergeven dan menselijke fouten.

Door de “theory of mind perception” toe te passen, tonen de auteurs van de studie ook aan dat het “menselijke” karakter van het algoritme ons oordeel beïnvloedt. Hoe meer de gebruiker het algoritme als “menselijk” ervaart, hoe minder hij de fouten ervan vergeeft.

Vanuit het oogpunt van branding zijn algoritmische fouten over het algemeen minder schadelijk voor het merk dan menselijke fouten.

Deze resultaten zouden bedrijven ertoe moeten aanzetten hun algoritmen niet te “vermenselijken”. Deze aanbeveling wordt ook gedaan in een recent advies (Franse site) dat in Frankrijk werd  uitgebracht door het ethisch comité over de uitdagingen die chatbots met zich meebrengen.


2 voorbeelden van algoritmische fouten

Het ligt in de aard van algoritmen om veel fouten te maken. Aangezien algoritmen zich baseren op historische gegevens om de toekomst te voorspellen, zal elke ontbrekende historische gebeurtenis onvermijdelijk een voorspellingsfout veroorzaken.

De overgrote meerderheid van de algoritmische fouten blijft onopgemerkt. Sommige halen echter de krantenkoppen vanwege de ethische of financiële kwesties die zij opwerpen.

Google zoekresultaten

Het algoritme van Google is al een aantal keren in het nieuws geweest vanwege op zijn zachtst (Engelse site) gezegd vreemde resultaten. Het werd met name beschuldigd van racisme nadat Kabir Ali had ontdekt dat de beelden die werden getoond bij de zoekopdracht “drie zwarte tieners” sterk verschilden van die bij “drie blanke tieners”.

De Apple kredietkaart

De criteria voor de kredietkaart die Apple in samenwerking met Goldman Sachs lanceerde, werden beschuldigd van het hanteren van regels te die discriminerend zijn (Engelse site) tegenover vrouwen. Hoewel de beschuldigingen later door een onderzoek van de autoriteiten ongedaan werden gemaakt (Engelse site), was het kwaad geschied. Het algoritme werd beschuldigd van seksisme.

chatboy domino's pizza

Door zijn chatbot een naam te geven (“Dom”), heeft Domino’s Pizza hem vermenselijkt.
Credits: screenshot van de website van Domino’s Pizza


Waarom we algoritmes vlugger vergeven dan mensen

Uit meer op scenario’s gebaseerde experimenten blijkt in het algemeen dat een menselijke fout als ernstiger wordt beoordeeld dan een fout van een algoritme. De niet-menselijke aard van het algoritme maakt het ons gemakkelijker om de verantwoordelijkheid door te schuiven. In termen van branding zal een merk dus minder te lijden hebben van een algoritmische fout dan van een menselijke fout.

Menselijke eigenschappen geven aan een machine wordt antropomorfisering genoemd. De studie toont aan dat door menselijke kenmerken aan het algoritme toe te kennen, de grens vervaagt en ons oordeel wordt veranderd. Hoe menselijker het algoritme is, hoe meer verantwoordelijkheid we het geven in geval van fouten. Deze kenmerken kunnen in verschillende vormen voorkomen:

  • een voornaam
  • een naam
  • een stem
  • een beeld

Dit effect neemt nog toe wanneer het een machine-learning algoritme is.


Conclusies

Het is in het belang van algoritmeontwerpers om hun creaties geen menselijke kenmerken te geven. In geval van een door het algoritme veroorzaakte fout zal de reputatie van het bedrijf er minder onder lijden dan wanneer het algoritme menselijke kenmerken heeft.

Tags: ,

Author: Pierre-Nicolas Schwab

Pierre-Nicolas is de directeur van de marketing agentschap IntoTheMinds. Hij heeft speciaal interesse voor e-commerce, retail, HoReCa en supply-chain projecten. Hij is ook een onderzoeker aan de Vrije Universiteit Brussel en werkt ook als coach voor meerde publieke organisaties. Hij verwelkomt Linkedin uitnodigingen : gelieve gewoon een paar woorden toe te voegen en uit te leggen waarom U wilt connecteren.

Share This Post On

Submit a Comment

Het e-mailadres wordt niet gepubliceerd. Vereiste velden zijn gemarkeerd met *