Ein Münchner Gericht hat entschieden, dass Google für falsche Aussagen seiner Such-KI haftet. Das Urteil könnte den Umgang mit Suchmaschinen und KI-Chatbots weltweit verändern.
Google muss für KI-Überblicke einstehen
Das Landgericht München hat in einem einstweiligen Beschluss festgestellt, dass Google für eine Reihe falscher Aussagen haftet, die von der Funktion „KI-Überblicke“ in der Suche erzeugt wurden. Dem Unternehmen wird auferlegt, die Verbreitung fehlerhafter oder unzutreffender Behauptungen über seine Suchmaschine zu unterbinden.
Auslöser ist ein Fall, über den das Tech-Magazin Decoder zuerst berichtete. Zwei Verlage hatten entdeckt, dass KI-generierte Zusammenfassungen von Google sie bei bestimmten Suchanfragen mit fragwürdigen Geschäftspraktiken, Betrugsmaschen und Abo-Betrug in Verbindung brachten – ohne jede Grundlage.
Die betroffenen Firmen schickten Google Anfang des Jahres eine Unterlassungsaufforderung. Google wies jede Haftung zurück und argumentierte, die automatische Zusammenfassung weise Nutzer:innen darauf hin, dass Fehler möglich seien und Informationen eigenständig überprüft werden sollten.
Nach Analyse des Gerichts kombinierte die KI Informationen über andere Unternehmen, die wegen möglicher unlauterer Praktiken auffällig geworden waren, mit Daten der Kläger. So entstanden Verknüpfungen, die in keiner der von der Suche verlinkten Quellen zu finden waren.
Die Richter:innen stellten fest, dass sich Googles KI-Werkzeug damit von klassischen Suchmaschinen unterscheidet, die lediglich Linklisten mit Aussagen Dritter anzeigen. Stattdessen erzeugt die Funktion „eigenständige, neue und wesentliche Aussagen“, die auf einer Fehlinterpretation frei zugänglicher Informationen im Netz beruhen.
Nach Auffassung des Gerichts liegt die Verantwortung zur Korrektur solcher Falschinformationen nicht bei Dritten. Nur Google könne die zugrunde liegende Technologie seiner KI-Zusammenfassungen verändern und müsse daher „zur Rechenschaft gezogen werden“. Zudem sei die Verteidigungslinie des Unternehmens unbegründet, da die beanstandete Zusammenfassung „Aussagen enthält, die in den Suchergebnissen überhaupt nicht vorkommen“.
Neue rechtliche Sicht auf generative KI in der Suche
Die Auslegung der Rolle von KI bei der Darstellung von Suchergebnissen könnte diesem Fall Präzedenzcharakter verleihen. Sie macht einen großen Technologiekonzern für den Einfluss seiner fortschrittlichen Entwicklungen auf weit verbreiteten Plattformen verantwortlich.
Bislang galten Suchmaschinen in vielen Rechtssystemen als Werkzeuge, die lediglich den Zugang zu von Dritten erstellten und im Netz verfügbaren Inhalten erleichtern. Dadurch genossen sie einen gewissen Schutz, wenn veröffentlichte Informationen falsch, ungenau, irreführend oder rufschädigend waren.
Das deutsche Gericht kam nun zu dem Schluss, dass dieser Schutz entfällt, sobald Suchmaschinen generative KI-Systeme einbinden. Diese Technik könne aus mehreren Quellen bislang nicht existierende Behauptungen erzeugen, weshalb die betreibenden Unternehmen die Verantwortung für die entstehenden Inhalte übernehmen müssten.
Die Richter:innen betonten außerdem, dass der Hinweis auf mögliche „Halluzinationen“ von KI-Modellen Nutzer:innen zwar zur Überprüfung anregen solle, Google als Inhaltsverteiler dadurch aber nicht von der Haftung befreit werde. Andernfalls seien Betroffene falscher Aussagen praktisch schutzlos, da die ursprünglichen Quellen diese Aussagen nie getroffen hätten und rechtlich nicht belangt werden könnten.
Ebenso entschied das Gericht, dass KI-generierte Ergebnisse nicht unter die Prinzipien der freien Meinungsäußerung fallen. Es handele sich um das Produkt eines Algorithmus, der von einem Unternehmen entworfen, trainiert und betrieben werde, nicht um den Ausdruck einer individuellen Meinung.
Weitreichende Folgen für die KI-Branche
Als vorsorgliche Maßnahme ordnete das Gericht an, einen großen Teil der in diesem Fall als rufschädigend eingestuften Aussagen zu entfernen. Google muss zudem 80 Prozent der Verfahrenskosten tragen.
Ein Unternehmenssprecher, zitiert von Ars Technica, deutete an, dass gegen die Entscheidung Rechtsmittel eingelegt werden könnten. Man investiere stark in die Qualität der KI-Überblicke, damit die große Mehrheit der Antworten zutreffend sei und die Informationen im Netz korrekt widerspiegele, heißt es in der Stellungnahme. Google prüfe die Entscheidung sorgfältig, sie sei noch nicht rechtskräftig.
Die Münchner Entscheidung könnte weltweit Auswirkungen auf die KI-Industrie haben. Firmen wie OpenAI, Anthropic und Perplexity KI warnen ihre Nutzer:innen ebenfalls, dass Antworten fehlerhaft oder irreführend sein können, und empfehlen wie Google, Informationen vor der Nutzung zu prüfen. Dieser Hinweis findet sich meist in den Nutzungsbedingungen, denen Nutzer:innen bei der Kontoerstellung zustimmen.
Der vorliegende Fall stellt jedoch klar, dass solche Hinweise Entwickler nicht automatisch von der Haftung befreien. Das Urteil hält fest, dass Unternehmen die rechtliche Verantwortung für Schäden tragen müssen, wenn eine KI neue Aussagen generiert, die in den ursprünglichen Quellen nicht direkt enthalten sind und die Firma das System entwirft, trainiert, betreibt und verwaltet.
