Vorsicht bei Produktempfehlungen durch KI-Chatbots

KI-Chatbots werden immer öfter zur Recherche bei großen Anschaffungen eingesetzt. Ziff Davis CEO Vivek Shah warnt davor, dabei unkritisch auf die angezeigten Informationen zu vertrauen.

Neue Tendenzen bei KI-Chatbots

Vivek Shah, Geschäftsführer von Ziff Davis und damit Mutterkonzern von ZDNET, rät zur Vorsicht beim Einholen von Kaufempfehlungen durch KI-Systeme. Im Podcast Channels erklärt Shah, dass Chatbots zunehmend Quellen heranziehen, die nicht neutral sind. Nutzer:innen setzen bisher mehr auf unabhängige Berichterstattung statt auf werbliche Empfehlungen. Allerdings beobachtet Shah einen Wechsel – immer häufiger verweisen große Sprachmodelle wie Google Gemini, Perplexity, ChatGPT oder Claude auf marktorientierte, also werbende Quellen statt auf journalistisch geprüfte Artikel. Diese Entwicklung könnte langfristig die Qualität und Neutralität von Produktempfehlungen beeinflussen.

Zwar geben alle untersuchten KI-Plattformen -teils gut versteckt- Hinweise darauf, woher ihre Informationen stammen. Aber oft machen es die Systeme schwer, die angegebenen Quellen gleich zu erkennen und noch schwerer, sie direkt zu überprüfen. Besonders bei teuren Produkten kann diese Form von Intransparenz zu Fehlentscheidungen führen.

Marken statt unabhängiger Empfehlungen

Shah stellt klar, dass immer mehr Zitate in Chatbot-Antworten von Marken, also Produktanbietern,  anstatt von unabhängigen Verlagen und testenden Journalisten stammen. Das kann dazu führen, dass Produktbewertungen tendenziös ausfallen. Käufer:innen laufen Gefahr, bevorzugt Empfehlungen zu bekommen, die Herstellern zugutekommen – nicht ihnen selbst. Gerade die mangelnde Vielfalt der Quellen ist für viele ein Problem. Wer bislang bei der Recherche auf unabhängige Drittanbieter gesetzt hat, sollte deshalb auch künftig hinterfragen, durch wen die Antworten der KI beeinflusst werden. Shah empfiehlt, sich die im Kontext genannten Quellen genau anzuschauen und sie kritisch zu hinterfragen. Würdet ihr euch auch ohne die Hilfe von KI-Chatbots auf diese Quellen verlassen?

Ein Praxistest mit vier beliebten Chatbots – ChatGPT, Perplexity, Claude und Gemini – zeigt: Die Ergebnisse unterscheiden sich, sowohl in der Auswahl der Quellen als auch in deren Darstellung. Während Claude und Gemini eher Markenhersteller als Quelle angeben, setzen Perplexity und ChatGPT mehr auf unabhängige Publikationen. Positiv fiel bei Perplexity die besonders transparente Anzeige der Quellen auf. Allerdings variieren die Resultate auch abhängig von der jeweiligen Anfrage und können sich selbst bei derselben Frage mehrfach verändern.

Shahs Standpunkt zu KI

Shah distanziert sich trotz der laufenden Klage seines Unternehmens gegen OpenAI von einer generellen KI-Feindlichkeit. Im Gegenteil: Er sieht großes Potenzial in der Technologie, besonders im geschäftlichen Kontext. Für Shah ist das Problem kein generelles Misstrauen gegenüber KI, sondern ihre Auswirkung auf den Umgang mit geistigem Eigentum. Sein Unternehmen kann sich auch vorstellen, künftig eigene, verlässliche Daten gezielt für die Verwendung in KI-Modellen zu lizenzieren. Shah ist überzeugt, dass KI unser Leben und Arbeiten maßgeblich mitgestalten wird – zentral bleibe aber, genau zu prüfen, aus welchen Quellen KI-Systeme ihre Empfehlungen ziehen.

Zusammengefasst rät Vivek Shah: Verlasst euch nicht blind auf KI-Chatbots bei wichtigen Kaufentscheidungen. Prüft stets die Herkunft der präsentierten Informationen, um wirklich unabhängige und verlässliche Ratschläge zu bekommen.

Via: https://www.zdnet.com

Den Beitrag in unserem Forum kommentieren