Earn money by answering our surveys

Register now!

Perdoniamo gli errori commessi dagli algoritmi più facilmente rispetto a quelli commessi dagli umani

Earn up to 50€ by participating in one of our paid market research.

Register now!

Gli algoritmi hanno preso il sopravvento. Hanno il compito di prendere sempre più decisioni. Decisioni sempre più complesse influenzano tutti gli aspetti della nostra vita. Ma gli algoritmi non sono perfetti. Fanno anche errori. Quindi sorge una domanda: perdoniamo gli algoritmi più facilmente degli esseri umani per lo stesso errore? La ricerca del 2021 getta nuova luce su questa domanda e fornisce approfondimenti essenziali sulle caratteristiche ideali di algoritmi e chatbot.

Se avete solo 30 secondi

Una ricerca pubblicata nel 2021 mostra che perdoniamo di più gli errori commessi dagli algoritmi rispetto a quelli commessi dagli esseri umani.

Applicando la “teoria della percezione mentale”, gli autori della ricerca mostrano anche che il carattere “umano” dell’algoritmo varia il nostro giudizio. Più l’utente percepisce l’algoritmo come “umano”, meno perdona i suoi errori.

Dal punto di vista del marchio, gli errori algoritmici generalmente causano meno danni al marchio rispetto a quelli umani.

Questi risultati dovrebbero incoraggiare le aziende a non “umanizzare” i loro algoritmi. Questa raccomandazione è contenuta anche in un recente parere emesso in Francia dal comitato etico sulle sfide poste dai chatbot.


2 esempi di errori algoritmici

La natura degli algoritmi è quella di commettere molti errori. Poiché gli algoritmi si basano su dati storici per prevedere il futuro, qualsiasi evento storico mancante causerà inevitabilmente un errore di previsione.

La stragrande maggioranza degli errori algoritmici passa inosservata. Tuttavia, alcuni fanno notizia a causa delle questioni etiche o finanziarie che sollevano.

I risultati di ricerca di Google

L’algoritmo di Google ha già fatto notizia in molte occasioni per via di risultati a dir poco curiosi. In particolare, è stato accusato di razzismo dopo che Kabir Ali ha scoperto che le immagini associate alla ricerca “tre adolescenti neri” differivano significativamente da quelle visualizzate per “Tre adolescenti bianchi”.

La carta di credito Apple

I criteri per la carta di credito lanciati da Apple in collaborazione con Goldman Sachs sono stati accusati di aver seguito regole che discriminavano le donne. Anche se un’indagine delle autorità ha poi ribaltato le accuse, il danno è stato fatto. L’algoritmo era stato accusato di sessismo.

chatboy domino's pizza

Dando un nome al suo chatbot (“Dom”), Domino’s Pizza lo ha umanizzato.
Crediti: uno screenshot del sito web di Domino’s Pizza


Perché perdoniamo gli algoritmi più facilmente degli umani

Attraverso più esperimenti basati su scenari, la ricerca mostra generalmente che un errore umano è giudicato più grave di un errore commesso da un algoritmo. La natura non umana dell’algoritmo ci fa “passare la mano” più facilmente. In termini di branding, un marchio soffrirà meno di un errore algoritmico che di un errore umano.

Dare caratteristiche umane a una macchina si chiama antropomorfizzazione. La ricerca mostra che il confine viene cancellato dando caratteristiche umane all’algoritmo e il nostro giudizio viene alterato. Più l’algoritmo è umano, maggiore è la responsabilità che gli attribuiamo in caso di errore. Queste caratteristiche possono apparire in diverse forme:

  • un nome
  • un cognome
  • una voce
  • un’immagine

Questo effetto aumenta ancora di più quando si tratta di un algoritmo di machine learning.


Conclusione

I designer di algoritmi hanno tutto l’interesse a non dare alle loro creazioni caratteristiche umane. In caso di errore causato dall’algoritmo, la reputazione dell’azienda ne risentirà meno che se l’algoritmo ha caratteristiche umane.

Tag:,

Submit a Comment

Il tuo indirizzo email non sarà pubblicato. I campi obbligatori sono contrassegnati *