OpenAI stoppt Erotik-Chatbot für Erwachsene auf unbestimmte Zeit

OpenAI hat seine Pläne für einen erotischen Chatbot für Erwachsene vorerst aufgegeben. Investor:innen und Mitarbeitende hatten intern zuvor deutliche Bedenken geäußert.

Erotik-Modus „Citron“ ohne Starttermin gestoppt

Wie OpenAI gegenüber der Financial Times bestätigt hat, sind die Arbeiten an einem Erotik-Chatbot für Erwachsene „auf unbestimmte Zeit“ ausgesetzt. Die Funktion war ursprünglich im Oktober 2025 angekündigt worden und sollte im Dezember desselben Jahres erscheinen. Schon damals verzögerte sich der Start, weil intern intensiv diskutiert wurde, ob der Dienst überhaupt veröffentlicht werden sollte.

Der erwachsenenorientierte Modus mit dem internen Namen „Citron-Modus“ liegt nun ohne neuen Zeitplan auf Eis. Laut Financial Times hatte OpenAI Schwierigkeiten, die bislang auf Vermeidung erotischer Inhalte trainierten Modelle gezielt für diesen Zweck anzupassen. Gleichzeitig sollten illegale Inhalte wie Bestialität oder Inzest zuverlässig herausgefiltert werden, was sich als problematisch erwies, wie zwei mit dem Projekt vertraute Personen berichten.

Es ist die zweite App innerhalb weniger Tage, die OpenAI stoppt. Bereits am Dienstag hatte das Unternehmen angekündigt, den Video-Generator Sora einzustellen. Beide Projekte ordnet OpenAI nun selbst als „Nebenquests“ ein, die zugunsten des Kerngeschäfts gestrichen werden.

Fokus auf Produktivität statt Nebenprojekten

OpenAI begründet den Schritt damit, dass man langfristige Forschung zu den Folgen erotischer Chats und der Bindung von Nutzer:innen an KI betreiben wolle. Es gebe derzeit noch nicht genügend „empirische Belege“ zu diesem Themenfeld. Deshalb wolle sich das Unternehmen zunächst stärker auf zentrale Produktivitätswerkzeuge wie Programmierassistenten konzentrieren, statt Ressourcen in Randprojekte wie Sora oder den Erotik-Chatbot zu stecken.

Die Idee für Erwachsenenfunktionen stand im Zusammenhang mit neuen Elternkontrollen und einer automatischen Altersprüfung für ChatGPT. OpenAI-Chef Sam Altman hatte bereits im Oktober betont, man sei bei diesen Fragen immer sehr vorsichtig gewesen, auch aus Sorge vor ungesunden Bindungen an KI-Systeme. Gleichzeitig erklärte er damals, man halte es nun für vertretbar, die Beschränkungen „in den meisten Fällen sicher zu lockern“.

Bedenken wegen Jugendschutz und Investor:innen-Druck

Der geplante Erwachsenenmodus löste jedoch gerade vor dem Hintergrund von Jugendschutz-Debatten erheblichen Druck aus. Laut Financial Times waren Investor:innen angesichts der Kontroversen rund um Grok, das KI-Modell des Konkurrenten xAI, besonders besorgt. Grok hatte Deepfake-Nacktbilder realer Menschen und von Kindern erzeugt und damit starke Kritik ausgelöst.

Auch innerhalb von OpenAI stieß das Projekt auf Widerstand. Mitarbeitende sorgten sich um potenzielle Folgen eines Erotik-Modus, ein leitender Angestellter verließ wegen des Themas sogar das Unternehmen. Gegenüber der Financial Times sagte er: „KI sollte nicht deine Freunde oder deine Familie ersetzen; ihr solltet menschliche Verbindungen haben.“

Hinzu kommen technische Hürden beim Jugendschutz. OpenAI hatte seine Altersprüfung nach Klagen von Familien eingeführt, die ChatGPT für Schäden bei ihren Kindern verantwortlich machten. Doch die Alterskontrolle weist laut Bericht derzeit eine Fehlerquote von mehr als zehn Prozent auf. Damit könnten weiterhin viele junge Nutzer:innen Zugang zu den Inhalten erhalten, selbst wenn sie eigentlich ausgeschlossen sein sollten.

OpenAI verweist darauf, dass diese Quote im branchenüblichen Rahmen liege und man kontinuierlich an der Verbesserung der Genauigkeit arbeite. Dennoch ist der Erotik-Chatbot vorerst vom Tisch – ohne Aussicht auf einen neuen Starttermin.

Via: https://www.engadget.com

Den Beitrag in unserem Forum kommentieren