Earn money by answering our surveys

Register now!

Perdonamos con más facilidad los errores de los algoritmos que los de los humanos

Earn up to 50€ by participating in one of our paid market research.

Register now!

Los algoritmos han tomado el control. Cada vez están a cargo de más y más decisiones, decisiones cada vez más complejas que afectan todos los aspectos de nuestras vidas. Pero los algoritmos no son perfectos; también cometen errores. Así que se presenta una pregunta: ¿perdonamos a los algoritmos con más facilidad de lo que perdonamos a los humanos por el mismo error? Un estudio de 2021 arroja una luz nueva sobre dicha pregunta y ofrece una reflexión esencial respecto a las características ideales de los algoritmos y chatbots.

Si solo tienes 30 segundos

Un estudio publicado en 2021 muestra que perdonamos más los errores cometidos por los algoritmos que aquellos cometidos por los humanos.

Al aplicar la «teoría de la percepción de mente», los autores del estudio también muestran que el carácter «humano» del algoritmo también afecta el modo en que lo juzgamos; cuanto más «humano» percibe el usuario al algoritmo, menos perdona sus errores.

Desde una perspectiva de marca, los errores de los algoritmos suelen causan menos daño a la marca que los errores humanos.

Estos resultados animan a las empresas a no «humanizar» sus algoritmos, y se trata de una recomendación que también se formuló en una opinión presentada hace poco en Francia de la mano del comité ético en relación con los retos que presentan los chatbots.


2 ejemplos de errores de algoritmos

La naturaleza de los algoritmos es cometer muchos errores. Puesto que se apoyan en datos históricos para predecir el futuro, cualquier evento histórico que falte causará de manera inevitable un error en la predicción.

La amplia mayoría de los errores algorítmicos pasan desapercibidos, pero algunos se convierten en titulares por los problemas éticos o financieros que presentan.

Los resultados de búsqueda de Google

El algoritmo de Google ya ha aparecido en las noticias en muchas ocasiones por resultados que son, como poco, curiosos. En concreto se le ha acusado de racismo después de que Kabir Ali descubriese que las imágenes asociadas con la búsqueda «tres adolescentes negros» diferían marcadamente de las que se mostraban con «tres adolescentes blancos».

La tarjeta de crédito de Apple

Se acusó al criterio para la tarjeta de crédito lanzada por Apple en asociación Goldman Sachs de seguir normas que discriminaban a las mujeres. Aunque más tarde una investigación llevada a cabo por las autoridades anuló las acusaciones, el daño ya estaba hecho; se había acusado al algoritmo de ser sexista.

chatboy domino's pizza

Al darle un nombre a su chatbot («Dom»), Domino’s Pizza lo ha humanizado.
Crédito: captura de pantalla de la página web de Domino’s Pizza


Por qué perdonamos a los algoritmos con más facilidad que a los humanos

A través de más experimentos basados en distintos escenarios, el estudio muestra de manera general que se juzga con más seriedad un error humano que el error cometido por un algoritmo. La naturaleza no humana del algoritmo nos hace «pasarlo por alto» con más facilidad. En términos de branding, una marca sufrirá menos por un error algorítmico que por un error humano.

Darle características humanas a una máquina se conoce como antropomorfizar. El estudio muestra que ese límite se desdibuja con facilidad si al algoritmo se le conceden características humanas, cosa que hace que nuestro juicio se vea alterado. Cuando más humano es un algoritmo, más responsabilidad le atribuimos en caso de error. Estas caracterizaciones pueden producirse de distintos modos:

  • Dándole un nombre
  • Dándole un apellido
  • Poniéndole voz
  • Poniéndole una imagen

Este efecto aumenta todavía más cuando se trata de un algoritmo de machine learning.


Conclusión

Los diseñadores de algoritmos tienen un gran interés en no darle a sus creaciones características humanas. En caso de que se produzca un error por parte de un algoritmo, la reputación de la empresa sufrirá menos que si el algoritmo tiene características humanas.

Etiquetas: ,

Submit a Comment

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *