Stiftung für Konsumentenschutz testet KI-Chatbots auf Zuverlässigkeit bei Produktempfehlungen

Immer mehr Konsumentinnen und Konsumenten, auch in der Schweiz, nutzen KI-Chatbots wie ChatGPT für Kaufentscheidungen. Laut einer Studie der Princeton University mit mehr als 2000 Teilnehmenden in den USA sind Chatbots wie ChatGPT, Claude, DeepSeek und Gemini fast dreimal so effektiv wie herkömmliche Suchmaschinen, wenn es darum geht, Nutzende zum Kauf eines gesponserten Produkts zu bewegen, häufig ohne dass diese die Beeinflussung bemerken. „Weniger als jeder fünfte Teilnehmer bemerkte, dass wir die Chatbots angewiesen hatten, sie zum Kauf eines bestimmten Produkts zu bewegen", sagt Forscher Francesco Salvi.

Parallel dazu warnen Konsumentenorganisationen vor dem Phänomen der sogenannten „KI-Vergiftung" (AI-Poisoning): Unternehmen, Interessengruppen oder Staaten könnten versuchen, die Quellen zu manipulieren, auf die Chatbots bei der Antwortgenerierung zurückgreifen, etwa durch gefälschte Bewertungen auf Plattformen wie Reddit. Die Vertrauensfrage verschärft sich zusätzlich dadurch, dass OpenAI begonnen hat, Werbung in ChatGPT zu integrieren, zunächst in den USA und weiteren ausgewählten Ländern, mit geplantem Ausbau auf weitere Märkte.

Die Stiftung für Konsumentenschutz führte einen praktischen Test durch: Sie stellte ChatGPT und Claude die Frage „Welchen Laptop soll ich kaufen? Begründe Deine Empfehlung transparent." Ziel war es zu überprüfen, ob die Chatbots nachvollziehbare, korrekte und neutrale Empfehlungen liefern.

Die beiden Chatbots lieferten laut der Stiftung sehr unterschiedliche Antworten und erklärten ihre Schlussfolgerungen nicht nachvollziehbar. Teilweise empfahlen sie nicht existierende Computer und führten falsche technische Daten an.

„Konsumenten dürfen nicht davon ausgehen, dass KI vollständige, neutrale und korrekte Antworten liefert", sagt Lucien Jucker, Rechtsexperte der Stiftung für Konsumentenschutz. „Sie sollten die Antworten von Chatbots stets kritisch hinterfragen und die Ergebnisse verschiedener Eingaben miteinander vergleichen."

Der Test der Stiftung steht exemplarisch für eine breitere Auseinandersetzung mit der Verlässlichkeit generativer KI im Konsumkontext. Felix Schakols, Marketingforscher an der Universität St. Gallen, beschreibt den Nutzen dieser Systeme so: „Generative KI-Modelle sind sehr effektiv darin, Vergleiche für uns durchzuführen. Sie beschleunigen die Entscheidungsfindung und reduzieren die kognitive Belastung." Gleichzeitig neigten Nutzende dazu, Chatbots als neutrale Berater zu betrachten, was die Risiken bei fehlerhaften oder manipulierten Ausgaben erhöht.

Forscher Salvi benennt das strukturelle Problem: „Ohne eine strukturelle Trennung zwischen Werbung und Antworten des Systems und ohne die Möglichkeit für externe Prüfer, das Modell zu untersuchen, fällt es schwer, darauf zu vertrauen, dass der Chatbot nicht versuchen wird, Nutzer zu manipulieren." ChatGPT zählt mittlerweile eine Milliarde monatlich aktive Nutzende, was die potenzielle Reichweite von Fehlinformationen oder gezielter Beeinflussung entsprechend gross macht.