Earn money by answering our surveys

Register now!

Algorithmen: wenn Unzufriedenheit zu Wut führt

Earn up to 50€ by participating in one of our paid market research.

Register now!

Algorithmen sind in unser Leben eingedrungen. Trotzdem provozieren sie manchmal negative Reaktionen der Nutzer. Ein im September 2022 veröffentlichter Artikel bietet einen sehr interessanten Analyserahmen für alle, die sich für dieses Phänomen interessieren. In diesem Artikel analysiere ich die 4 Gründe, die die negativen Reaktionen gegen Algorithmen erklären und illustriere sie mit vielen Beispielen.

Wenn Sie nur 30 Sekunden Zeit haben

  • Algorithmen erzeugen manchmal heftige Reaktionen der Wut von Nutzern
  • Es gibt 4 Gründe, warum Benutzerfrustration zu verbalem Missbrauch wird:
    • Mangel an Wissen über die Funktionsweise des Algorithmus und Missverständnis der Ergebnisse
    • algorithmischer Fehler
    • Interessen des Benutzers im Gegensatz zum Algorithmus
    • fehlende Kontrolle über den Algorithmus
  • Lösungen existieren
    • überdenken Sie das Design von Algorithmen, um die Benutzerzufriedenheit zu maximieren
    • die Algorithmen transparenter zu machen und zu erklären, wie sie funktionieren
    • die Möglichkeit geben, die Funktion des Algorithmus anzupassen

Das Phänomen der Wut gegen Algorithmen materialisiert sich auf unterschiedliche Weise. Die Autoren der Studie zitieren den Ausbruch des Hashtags # RIPtwitter, als die Plattform beschloss, einen Empfehlungsalgorithmus zu verwenden, anstatt Nachrichten in anthropologischer Reihenfolge anzuzeigen. Damals, wie Sie auf der Grafik unten sehen können, reagierten die Benutzer heftig (Quelle: Trendsmap). Wir können auch sehen, dass das Hashtag #RIPtwitter von Zeit zu Zeit während der Spitzen der Wut gegen die Plattform wieder auftaucht.

trends twitter #RIPtwitter

Beliebtheit des Hashtags # RIPtwitterim Laufe der Zeit

Aus dem gleichen Grund manifestierte sich das Phänomen 2017 auch auf Instagram mit dem Hashtag # RIPinstagram. Der Mechanismus algorithmischer Empfehlungen scheint also negative Gefühle zu kristallisieren.

Dennoch sind Empfehlungsalgorithmen die Basis für den Erfolg vieler Unternehmen (Netflix, Google, Tik Tok) und tragen zur Kunden Zufriedenheit bei. Es ist daher sehr interessant, sich über die Gründe zu wundern, die die Benutzer zu diesen negativen Reaktionen veranlassen.



Erklärung 1: Mangel an Wissen

Das Unverständnis darüber, wie Algorithmen funktionieren, ist eine Tatsache. In einer im Jahr 2018 veröffentlichten Studie wies das Pew Research Center darauf hin, dass 53 % der Facebook-Nutzer nicht verstanden, wie der Algorithmus, der ihren „Feed“ füttert, funktioniert. Dieser Prozentsatz erreichte 60 % bei den 50- bis 64-Jährigen und 61 % bei den über 65-Jährigen.

Survey on Facebook users showing that the majority doesn't understand the Fcacebook algorithm

Die Pew Research Center-Umfrage zeigt, dass die meisten Facebook-Nutzer nicht verstehen, wie der Algorithmus funktioniert.

Das Verständnis, wie ein Empfehlungsalgorithmus funktioniert, ist immer noch ein komplexes Thema, das einigen Insidern vorbehalten ist. Das bessere Verständnis der Benutzer für die Arbeit eines Algorithmus hat jedoch Vorteile. Wie dieses Experiment beweist, erhöht das Verständnis, wie der Algorithmus funktioniert, das Vertrauen und die Zufriedenheit des Benutzers erheblich.


Erklärung 2: Algorithmische Fehler und Verzerrungen

Algorithmen erzeugen manchmal Situationen extremer Gewalt gegen Nutzer. Algorithmische Fehler können schwerwiegende Folgen haben, wie im Fall des Mannes, der nach einer fehlerhaften algorithmischen Identifizierung in Michigan verhaftet wurde. Erwähnen wir auch das Beispiel von Mietern, die nach einer algorithmischen Überprüfung ihres Profils oder dem Ruin niederländischer Bürger nach dem Missbrauch eines Algorithmus durch die Steuerbehörden abgelehnt wurden.

Häufig wird auch auf die im Bildungssektor verwendeten Algorithmen hingewiesen. In Frankreich wurde der Auswahlalgorithmus für die Hochschulwahl manipuliert, wodurch Ungleichheiten zwischen den Kandidaten zum Zeitpunkt ihrer akademischen Ausrichtung geschaffen wurden.

Schließlich können einige Gemeinschaften algorithmische Diskriminierung empfinden, wenn sie das Gefühl haben, dass sie unfairerweise auf ihre Identität ausgerichtet sind. Dies geschah auf Tik Tok, wo LGBTQIA+ Schöpfer das Gefühl hatten, dass der Algorithmus ihren Inhalt unsichtbar machte. Eine Prüfung ergab, dass diese Kritik zutrifft. Umgekehrt kann ein Algorithmus auch Inhalte überbelichten und einem zu großen Publikum zugänglich machen. Dadurch können Content-Ersteller von einigen Nutzern unter Druck gesetzt werden.

Wie Sie sehen können, sind die Risiken, die mit der Verwendung von Empfehlungsalgorithmen verbunden sind, zahlreich. Die Balance zwischen Mehrwert für den Nutzer und Risiken ist schwer zu finden.


Erklärung 3: Die Interessen des Nutzers gegen die Interessen des Algorithmus

Das Beispiel von Twitter

Twitter-Algorithmus würde Überzeugungen zu verstärken, und de facto polarisieren Standpunkte. Benutzer einer Plattform fühlen sich manchmal durch den Algorithmus „manipuliert“. Eine Reihe von Tweets von Elon Musk gibt den vollen Maßstab dafür. In diesen drei Tweets, die am 15. Mai 2022 veröffentlicht wurden, wirft er dem Algorithmus vor, „[Benutzer] auf eine Weise zu manipulieren, die [sie] nicht erkennen“. In seinem zweiten Tweet erwähnt er die von Eli Pariser theoretisierte Filterblase.

tweet by elon musk on manipulation by twitter algorithm

In diesem Fall wären die Interessen des Algorithmus und der Benutzer nicht aufeinander abgestimmt. Diese These ist fragwürdig, weil, wie wir bereits gesehen haben, Filterblasen eine theoretische Möglichkeit bleiben.

Das Beispiel von Spotify

Spotify ist ein weiteres Beispiel für diesen Gegensatz zwischen den Interessen des Benutzers und dem Algorithmus. Lassen Sie uns zunächst daran erinnern, dass Spotify eine Plattform ist, die Nutzern Audioinhalte anbietet und Kreative basierend auf der Anzahl der Zuhörer vergütet. Benutzer möchten sich die Inhalte anhören, die ihnen gefallen. Letztere wollen so viel wie möglich gehört (und daher empfohlen) werden. Sie müssen daher ein subtiles Gleichgewicht zwischen Nutzerzufriedenheit und Kreativzufriedenheit finden.

Der Spotify-Algorithmus steht daher vor einem Dilemma. Sollte sie Inhalte mit der höchsten Wahrscheinlichkeit empfehlen, dass sie auf Kosten vertraulicherer Inhalte, die von unabhängigen Labels produziert werden, gemocht werden (in der Regel von großen Labels produziert)? Leider gibt es keine perfekte Lösung für dieses Problem. Da Benutzer privilegiert sind (sie sind diejenigen, die Zahlen), können unabhängige Kreative mit Spotify-Algorithmus frustriert sein.


Erklärung 4: Mangelnde Kontrolle

Das Problem der Algorithmus Kontrolle ist eine wiederkehrende Beschwerde unter den Nutzern und eine Hauptquelle der Unzufriedenheit. Einige der oben genannten Beispiele können damit verknüpft werden.

Jede Änderung der „algorithmischen Rezeptur“ führt zwangsläufig zu Unzufriedenheit. Wir haben es mit Elon Musks Tweets gesehen. In jüngerer Zeit wurde Instagram für seine Tendenz, TikTok zu ähneln, heftig kritisiert. Dies beinhaltete eine übermäßige Empfehlung von „Haspel“ Inhalt. Influencer starteten eine informelle Kampagne, um zu fordern, dass die Änderungen rückgängig gemacht werden.

Der Mangel an Kontrolle wird auch durch die Fähigkeit des Algorithmus gefühlt, auf Ihre Geheimnisse zu bohren, ohne dass Sie in der Lage zu widersprechen. Dies ist auf TikTok der Fall, wo die Genauigkeit des Algorithmus den Benutzern das Gefühl gibt, dass sie ausspioniert werden.


Wie können wir das Vertrauen in Algorithmen wiederherstellen?

Algorithmen bleiben naturgemäß Objekte, die für den Durchschnittsmenschen schwer verständlich sind. Einige von ihnen sind so komplex, dass sie Verständnisprobleme für ihre Designer darstellen. Unter diesen Bedingungen, wie die extremen Reaktionen zu vermeiden, die einige Benutzer haben können.

Es gibt drei Möglichkeiten, darüber nachzudenken:

1/Personen in den Mittelpunkt des Empfehlungssystemdesigns stellen

Die DSGVO führte die Idee des „privacy-by-design“ ein. Algorithmus-Designer sollten ihre Zufriedenheit durch Design tun.
Die meisten Algorithmen sind in der Tat auf die Interessen des Unternehmens ausgerichtet. Dies führt zu Verhaltensweisen, die dem Benutzer schaden können (siehe diese Reflexion am Ende der Empfehlungsalgorithmen).

2/ Die Algorithmen transparenter machen

Die Akzeptanz von algorithmischen Ergebnissen erfordert ein besseres Verständnis, wie sie produziert werden. Algorithmische Fehler werden besser akzeptiert, wenn die Benutzer wissen, warum sie auftreten. Die Zufriedenheit wird höher sein.

3/ Erhöhen Sie die Kontrolle des Benutzers über die Algorithmen

Die letzte Achse der Reflexion besteht darin, den Benutzern ein wenig Kontrolle zurückzugeben, um ihre Feeds zu personalisieren. Es gibt immer mehr Initiativen, wie Linkedins Initiative, bestimmte Inhalte oder Autoren aus dem Feed verschwinden zu lassen. Benutzer werden versuchen, den Algorithmus zu manipulieren , wenn Sie ihnen nicht ein wenig Kontrolle geben. So wird beispielsweise erforscht, wie der Linkedin-Algorithmus funktioniert.

Schlagwörter:

Author: Pierre-Nicolas Schwab

Pierre-Nicolas est Docteur en Marketing et dirige l'agence d'études de marché IntoTheMinds. Ses domaines de prédilection sont le BigData l'e-commerce, le commerce de proximité, l'HoReCa et la logistique. Il est également chercheur en marketing à l'Université Libre de Bruxelles et sert de coach et formateur à plusieurs organisations et institutions publiques. Il peut être contacté par email, Linkedin ou par téléphone (+32 486 42 79 42)

Share This Post On

Kommentar absenden

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert.