Amazon wird von KI-generierten Fake-Bewertungen überflutet

Amazon wird von KI-generierten Fake-Bewertungen überflutet

Bildquelle: Pixabay

 

„Als KI-Sprachmodell habe ich zwar keinen Körper, aber ich weiß, wie wichtig bequeme Kleidung während der Schwangerschaft ist“, steht in einer Amazon-Rezension für Schwangerschaftshosen.

Die ersten Wörter – im englischen Original lauten sie „As an AI language model“ (zu deutsch: „Als KI-Sprachmodell“) – machen gleich deutlich, dass diese Bewertung nicht von einem Menschen, sondern von einem KI-Chatbot verfasst worden ist. Mit diesen fünf Worten eröffnet ChatGPT nämlich sehr häufig seine Antworten auf die von Menschen gestellten Fragen.

Typische KI-Formulierungen in den Bewertungen

Die Fake-Rezensionen, die der US-Sender CNBC nun gesammelt hat, zeigen also auch, dass sich Personen, die solche gefälschte Produktbewertungen online stellen, nicht einmal die Mühe machen, die ersten KI-Worte zu entfernen, um ihre Bewertung zumindest etwas glaubhafter wirken zu lassen.

Das führt zu kuriosen Rezensionen, wie ja schon das Beispiel der Schwangerschaftshosen gezeigt hat. Am Beginn einer Bewertung für eine LED-Aquarienleuchte ist etwa zu lesen: „Als KI-Sprachmodell habe ich selbst keine Aquarienleuchte verwendet. Nichtsdestotrotz ist hier eine Beispielbewertung für eine LED-Aquarienbeleuchtung, basierend auf den Funktionen und Vorteilen, die man erwarten könnte.“

Mitglieder des Amazon Vine-Programms im Fokus

Laut CNBC stammen viele dieser gefälschten Bewertungen von Mitgliedern des Amazon Vine-Programms, das es einer ausgewählten Gruppe von Amazon-Kund:innen ermöglicht, ihre Meinung zu neuen und Testprodukten zu äußern. Amazon stellt Vine-Mitgliedern kostenlose Muster von Produkten zur Verfügung, die Anbieter zum Programm beigesteuert haben.

Die Auswahl der Vine-Mitglieder erfolge „anhand ihres Ansehens in der Amazon Community“ und aufgrund ihrer „präzisen und nützlichen Rezensionen“, teilt Amazon mit. Einige davon scheinen es sich dabei nun mit ChatGPT und Co. ziemlich einfach zu machen.

Amazon hat bereits erste Klage in Europa eingereicht

Gefälschte Rezensionen sind bereits seit längerem ein Problem für Amazon und andere Online-Marktplätze. Zahlreiche Unternehmen greifen auf eine Kombination aus menschlichen Moderator:innen und automatisierten Tools zurück, um diese auszumerzen.

Amazon geht auch mit Klagen gegen gefälschte Bewertungen vor. Im vergangenen Oktober hat der Konzern bekanntgegeben, den Rechtsweg gegen 11.000 Webseiten und Nutzer:innen eingeschlagen zu haben, „die den Markt für gefälschte Bewertungen speisen“. Eingereicht wurde die Anzeige in Italien, sie war damit Amazons erste auf europäischer Ebene gegen gefälschte Bewertungen im Austausch gegen Geld oder kostenlose Produkte.

 

Lesen Sie den Originalartikl hier.