Unternehmen, die sich auf SEO verlassen, um Kunden zu finden, brauchen möglicherweise Hilfe bei der Lead-Generierung. Nachdem ich einige Wochen mit ChatGPT und der neuen Bing-Version gearbeitet habe, untersuche ich die Gefahren dieser Konversationsagenten für Unternehmen, die Inbound Marketing betreiben. Auf der Grundlage des Suchkontextes habe ich 4 Probleme identifiziert, die sich negativ auf die Nutzer auswirken können.
Kontaktieren Sie unsere Agentur für Ihre Inbound-Marketing-Projekte
Zusammenfassung
- Die Trübung der für das Training verwendeten Daten
- Falsche, aber sehr überzeugende Antworten
- Voreingenommenheit bei der Auswahl
- Risiko der Serendipität
- Schlussfolgerung
Die Trübung der für das Training verwendeten Daten
Die Antworten von Konversationsagenten können sich je nach den Daten, die sie während ihrer Interaktionen mit den Benutzern sammeln, weiterentwickeln. Wir erinnern uns an die unglückliche Episode des Nazi-Chatbots von Microsoft, der die möglichen Auswüchse dieser Art von künstlicher Intelligenz andeutete. Wir wissen, dass Open AI kenianische Arbeiter für einen Stundenlohn von 2 Dollar beschäftigt hat, um das Training von ChatGPT zu überwachen und dessen Fehlentwicklungen zu vermeiden. Nichtsdestotrotz werden die an ChatGPT übermittelten Korpora auch in dessen Datenbestand integriert. Namhafte Unternehmen wie JPMorgan oder Amazon waren darüber besorgt und untersagten ihren Mitarbeitern die Nutzung von ChatGPT aus Angst, dass vertrauliche Daten durchsickern könnten. Microsoft behauptete jedoch nach der Veröffentlichung von GPT-4, dass keine Kundendaten für das Training von Modellen verwendet wurden.
Ob Ihre Daten genutzt werden oder nicht, ist nicht das Problem. Das Problem ist, dass der Conversational Agent mit einem undurchsichtigen Datensatz trainiert wird. Sie werden mir jetzt entgegnen, dass der Algorithmus von Google transparenter sein könnte, und damit haben Sie Recht. Es gibt jedoch 2 Unterschiede:
- die wichtigen Faktoren, die von Googles Algorithmus berücksichtigt werden, sind mehr oder weniger bekannt (Backlinks, Aktualität und Umfang der Inhalte usw. …), und die Indexierung Ihrer Seiten kann angefordert werden
- die Informationen, die zur Formulierung der Antworten in ChatGPT & Co verwendet werden, scheinen ziemlich zufällig zu sein. Es ist unmöglich zu wissen, woher diese Informationen stammen; manchmal müssen sie korrigiert werden. Der Bing-Konversationsagent erklärte zum Beispiel, dass IntoTheMinds Marktforschung für Unternehmen betrieben hat, die nie unsere Kunden waren.
All dies führt zu den berühmten „Halluzinationen“, einem echten Informations-Gift. Dies ist nicht mehr und nicht weniger als Fake News, die unter dem Deckmantel der technologischen Beschränkungen geduldet werden.
Ich gebe hier ein anekdotisches, aber symptomatisches Beispiel wieder. Bing erklärt, dass ChatGPT in China entwickelt wurde.
Dies ist nicht mehr und nicht weniger als Fake News, die unter dem Deckmantel technologischer Beschränkungen toleriert werden.
Falsche, aber sehr überzeugende Antworten
LLMs (Large Language Models) können selbstbewusst und sehr überzeugend falsche Antworten formulieren. Ich habe die neue Bing-Version in verschiedenen Kontexten eingesetzt und dem Tool Aufgaben unterschiedlicher Komplexität gestellt. Meine Anfragen waren auf Englisch und Französisch formuliert, und jedes Mal wurde ich durch die Strukturierung der Antwort und die vorgebrachten Argumente hinters Licht geführt. Außer bei den Themen, die ich gut beherrschte, wurde mir schnell klar, dass die Informationen korrigiert werden mussten. Wenn Sie sich auf Inbound Marketing verlassen, um Kunden zu finden, können diese falschen Antworten negative Folgen haben.
Hier zum Beispiel die Antwort von Bing auf meine Frage „Warum IntoTheMinds wählen?“. Da es sich um mein eigenes Unternehmen handelt, denke ich, dass ich es relativ gut kenne?. Hier ist die Antwort von Bing.
Zu den ersten 3 Punkten habe ich objektiv nichts zu sagen, da sie direkt von unserer Website stammen. Allerdings gibt es ein Problem mit dem vierten Punkt. Wir sind (leider) noch nie von Orange, L’Oréal, Nespresso oder Ikea kontaktiert worden (siehe gelb markierter Teil).
In diesem Fall stört mich die Antwort von Bing nicht mehr als das. Diese Unternehmen sind renommiert, und mit ihnen in Verbindung gebracht zu werden, kann nur positiv sein. Aber stellen Sie sich vor, Bing erklärt, dass Sie mit einem Zigarettenhersteller, einem Waffenhändler oder einer rechtsextremen politischen Organisation zusammengearbeitet haben. Das Reputationsrisiko ist real, und es gibt keinerlei Möglichkeit, die Ergebnisse zu kontrollieren oder sich zu beschweren.
Es besteht also keine wirkliche Intelligenz bei der Auswahl von Informationen, sondern vielmehr eine große Anfälligkeit für falsche oder veraltete Ergebnisse.
Voreingenommenheit bei der Auswahl
Konversationsagenten wie ChatGPT oder Bing haben den Vorteil, dass sie Ihre Fragen sofort beantworten. Dabei fallen die Antworten in der Regel kurz aus. Das verleitet dazu, dass diese Tools manchmal Abkürzungen nehmen und der Kürze den Vorzug vor der Ausführlichkeit geben. Die von mir durchgeführten Tests zeigen, dass die Antworten selten vollständig sind, außer bei sehr spezifischen und geschlossenen Fragen. Sobald die Aufgabe, die GPT gestellt wird, komplexer ist und beispielsweise eine Analyse erfordert, können Sie mit Überraschungen rechnen. Vielleicht sind Sie mit einer klassischen Suche, die Ihnen Zugang zu verschiedenen Webseiten bietet, besser bedient.
Das Problem in Bezug auf die generative KI ist die Verzerrung der Auswahl. ChatGPT gibt nicht einmal die Quellen an, und Bing zitiert einige Quellen, ohne zu erklären, warum oder wie diese ausgewählt wurden. Wir wissen auch, dass die generative KI unter einer „ideologischen Verzerrung“ leidet, die sich aus den Trainingsdaten ergibt.
Hier ist ein Beispiel. Ich habe Bing um Ratschläge zu Marktforschungsunternehmen in Belgien gebeten. Für jemanden, der nicht in diesem Markt tätig ist, mag die Antwort überzeugend erscheinen. Aber für jemanden, der seit 20 Jahren in diesem Markt tätig ist (in diesem Fall ich), bringt die vorgeschlagene Antwort Sie zum Schmunzeln.
Zunächst werden Sie feststellen, dass sich das Tool auf eine einzige Quelle stützt (eine unbekannte Website namens GoodFirms). Bing schlägt dann 4 Unternehmen vor, von denen eines … in Bulgarien ansässig ist (gelb hervorgehoben), und ein anderes (das ich anonymisiert habe) ist nicht mehr aktiv.
Die Voreingenommenheit bei der Auswahl ist offensichtlich, und die festgestellten Fehler sind die Folge. Die große Schwäche der generativen KI ist in der Tat, sich auf andere Websites zu verlassen. Bei dieser Art von Anfrage tut Bing nichts weiter, als Ihre Anfrage in Schlüsselwörter zu „übersetzen“ und die Ergebnisse einer oder mehrerer Seiten zu liefern. Es gibt also keine wirkliche Intelligenz bei der Auswahl der Informationen, sondern eher eine große Anfälligkeit für falsche oder veraltete Ergebnisse
Risiko der Serendipität
Ich bin ein großer Befürworter des Konzepts der Serendipität im Internet. Unter Serendipität versteht man die Fähigkeit, interessante Informationen zu entdecken, die man nicht erwartet hat. Die Nutzung eines Konversationsagenten birgt das Risiko einer intellektuellen Verarmung des Benutzers.
Indem sie den Aufwand des Benutzers auf ein Minimum reduzieren und den Sucheprozess abkürzen, verringern Gesprächsagenten zweifelsohne die kognitive Belastung des Benutzers und dessen Fähigkeit, neue Informationen zu entdecken.
Im Rahmen einer B2B-Suche ist dieser Zufallsprinzip jedoch von entscheidender Bedeutung. Wenn der Nutzer im Internet nach einem Lieferanten sucht, muss er mehr über den Markt und die richtigen Ansprechpartner erfahren. Eine klassische Suchmaschine zeigt ihm verschiedene Ergebnisse an, die ihm dabei helfen, seine Anfrage zu verfeinern. Auf diese Weise trägt eine klassische Suchmaschine dazu bei, dass der Benutzer besser informiert ist. Er kann im Anschluss daran die Unterschiede und Gemeinsamkeiten zwischen konkurrierenden Anbietern verstehen und diejenigen kontaktieren, die seinem Bedarf am besten entsprechen. Das ist die Essenz des Inbound-Marketings.
Mit der generativen KI verschwinden diese Nuancen jedoch, was zu verzerrten und potenziell falschen Informationen führt (siehe Beispiele oben).
Schlussfolgerung
In diesem Artikel habe ich die 4 Probleme erörtert, die mit der generativer KI in Verbindung stehen. Diese Probleme werden sich auf Unternehmen auswirken, die Inbound Marketing nutzen, um ihre Kunden zu finden:
- Trainingsdaten führen zu „Halluzinationen“, die nichts anderes als „Fake News“ sind.
- Falsche Antworten, die in sehr überzeugender Form angeboten werden und den Benutzer in die Irre führen
- Es gibt Selektionsverzerrungen, die dazu führen, dass dem Nutzer voreingenommene Informationen präsentiert werden.
- Die Funktionsweise von Konversationsagenten beseitigt jede Möglichkeit von Serendipität
Auch wenn ich nicht der Meinung bin, dass sich das Online-Suchverhalten ändern wird, müssen wir uns mit ChatGPT und seinen Klonen auseinandersetzen. Es ist also besser, sich jetzt vorzubereiten, um die Auswirkungen auf Ihr Inbound-Marketing zu begrenzen. Mit diesem Thema werde ich mich in einem anderen Artikel befassen.
Posted in Data & IT.
