Algoritmes hebben de macht overgenomen. Ze zijn verantwoordelijk voor het nemen van steeds meer beslissingen. Steeds complexere beslissingen die elk aspect van ons leven beïnvloeden. Maar algoritmen zijn niet perfect. Ze maken ook fouten. Dus rijst de vraag: vergeven we algoritmen voor dezelfde fout gemakkelijker dan mensen? Een studie (Engelse site) uit 2021 werpt een nieuw licht op deze vraag en biedt belangrijke inzichten in de ideale kenmerken van algoritmen en chatbots.
Als u maar 30 seconden heeft
Uit een in 2021 gepubliceerde studie blijkt dat we algoritmische fouten eerder vergeven dan menselijke fouten.
Door de “theory of mind perception” toe te passen, tonen de auteurs van de studie ook aan dat het “menselijke” karakter van het algoritme ons oordeel beïnvloedt. Hoe meer de gebruiker het algoritme als “menselijk” ervaart, hoe minder hij de fouten ervan vergeeft.
Vanuit het oogpunt van branding zijn algoritmische fouten over het algemeen minder schadelijk voor het merk dan menselijke fouten.
Deze resultaten zouden bedrijven ertoe moeten aanzetten hun algoritmen niet te “vermenselijken”. Deze aanbeveling wordt ook gedaan in een recent advies dat in Frankrijk werd  uitgebracht door het ethisch comité over de uitdagingen die chatbots met zich meebrengen.
2 voorbeelden van algoritmische fouten
Het ligt in de aard van algoritmen om veel fouten te maken. Aangezien algoritmen zich baseren op historische gegevens om de toekomst te voorspellen, zal elke ontbrekende historische gebeurtenis onvermijdelijk een voorspellingsfout veroorzaken.
De overgrote meerderheid van de algoritmische fouten blijft onopgemerkt. Sommige halen echter de krantenkoppen vanwege de ethische of financiële kwesties die zij opwerpen.
Google zoekresultaten
Het algoritme van Google is al een aantal keren in het nieuws geweest vanwege op zijn zachtst (Engelse site) gezegd vreemde resultaten. Het werd met name beschuldigd van racisme nadat Kabir Ali had ontdekt dat de beelden die werden getoond bij de zoekopdracht “drie zwarte tieners” sterk verschilden van die bij “drie blanke tieners”.
De Apple kredietkaart
De criteria voor de kredietkaart die Apple in samenwerking met Goldman Sachs lanceerde, werden beschuldigd van het hanteren van regels te die discriminerend zijn (Engelse site) tegenover vrouwen. Hoewel de beschuldigingen later door een onderzoek van de autoriteiten ongedaan werden gemaakt (Engelse site), was het kwaad geschied. Het algoritme werd beschuldigd van seksisme.
Credits: screenshot van de website van Domino’s Pizza
Waarom we algoritmes vlugger vergeven dan mensen
Uit meer op scenario’s gebaseerde experimenten blijkt in het algemeen dat een menselijke fout als ernstiger wordt beoordeeld dan een fout van een algoritme. De niet-menselijke aard van het algoritme maakt het ons gemakkelijker om de verantwoordelijkheid door te schuiven. In termen van branding zal een merk dus minder te lijden hebben van een algoritmische fout dan van een menselijke fout.
Menselijke eigenschappen geven aan een machine wordt antropomorfisering genoemd. De studie toont aan dat door menselijke kenmerken aan het algoritme toe te kennen, de grens vervaagt en ons oordeel wordt veranderd. Hoe menselijker het algoritme is, hoe meer verantwoordelijkheid we het geven in geval van fouten. Deze kenmerken kunnen in verschillende vormen voorkomen:
- een voornaam
- een naam
- een stem
- een beeld
Dit effect neemt nog toe wanneer het een machine-learning algoritme is.
Conclusies
Het is in het belang van algoritmeontwerpers om hun creaties geen menselijke kenmerken te geven. In geval van een door het algoritme veroorzaakte fout zal de reputatie van het bedrijf er minder onder lijden dan wanneer het algoritme menselijke kenmerken heeft.
Posted in Data en IT.
