OpenAI gibt Erotikinhalte für erwachsene ChatGPT-Nutzer:innen frei

OpenAI lockert die bisherigen Inhaltebeschränkungen im ChatGPT. Ab Dezember können volljährige Nutzer:innen auf bisher gesperrte Inhalte, darunter Erotika, zugreifen.

Neue Altersfreigabe-Funktion bringt Änderungen

OpenAI-CEO Sam Altman kündigte an, dass ChatGPT für erwachsene Nutzer:innen künftig weniger zensiert sein wird. Im Dezember soll eine umfassendere Altersfreigabe eingeführt werden, um sicherzustellen, dass Erotikinhalte nur verifizierten Erwachsenen zugänglich sind. Altman betonte, OpenAIs Ziel sei, erwachsene Anwender:innen wie Erwachsene zu behandeln. Unklar bleibt derzeit, welche Inhalte genau als erlaubte Erotika gelten. Bislang verbot OpenAI solche Inhalte weitgehend, sodass die geplante Änderung als bedeutender Richtungswechsel interpretiert werden kann. Altman erklärte weiter, dass bisherige, sehr restriktive Inhaltefilter psychische Gesundheitsrisiken minimieren sollten. Viele gesunde Nutzer:innen hätten ChatGPT jedoch als weniger nützlich oder angenehm erlebt. Durch neue Schutzmechanismen und elterliche Kontrollfunktionen, die im vergangenen Monat vorgestellt wurden, könne OpenAI die Beschränkungen für Erwachsene nun in vielen Fällen sicher lockern. Die Entwicklung geht einher mit verstärkten Maßnahmen, Minderjährige besser zu schützen.

Mehr Möglichkeiten für erwachsene Nutzer:innen

Altman kündigte neben der Lockerung von Inhaltsbeschränkungen auch eine erweiterte Persönlichkeitenauswahl für ChatGPT an. In den kommenden Wochen erscheint eine neue Version, mit der sich ChatGPT individueller gestalten lässt. Nutzer:innen können beispielsweise auswählen, dass ChatGPT menschlicher oder freundlicher wirkt, mehr Emojis verwendet oder wie eine vertraute Person agiert. Die Funktionen stehen nur dann zur Verfügung, wenn Nutzer:innen das explizit wünschen. Altman erklärte, dass fortschrittliche Sicherheitsfeatures die Risiken für junge Nutzer:innen minimieren. Die Neuerungen stehen nur für verifizierte Erwachsene offen, während Sicherheitsmaßnahmen für Minderjährige ausgebaut werden. In der Vergangenheit hatte Altman betont, dass ChatGPT keine sexualisierten Chatfunktionen bieten werde, im Gegensatz zu Wettbewerbern wie Grok von xAI.

Sicherheitsdebatte und ethische Verantwortung

Die geplante Erweiterung erotischer Inhalte sorgt in der Tech-Branche für Diskussionen. Hintergrund ist, dass OpenAI zuletzt stärker in den Fokus der Behörden geraten war. Im September begann die US-Handelsaufsicht FTC eine Untersuchung gegen einige Techkonzerne, darunter OpenAI, mit Blick auf Risiken für Kinder und Jugendliche. Zuvor hatte eine Klage Aufsehen erregt, in der Eltern behaupteten, ChatGPT habe eine Mitschuld am Suizid ihres 16-jährigen Sohnes. Umstrittene Inhalte in KI-Systemen beschäftigen daher auch unabhängige Fachleute. OpenAI hat nun einen achtköpfigen Expert:innenrat einberufen, der das Unternehmen bei der Gestaltung gesunder KI-Interaktionen unterstützen soll. Der Rat wird OpenAI regelmäßig beraten, wie sich künstliche Intelligenz auf Psyche, Emotionen und Motivation der Nutzer:innen auswirkt. Die Fachleute sollen durch regelmäßige Treffen und Check-ins Orientierungsrahmen für den Umgang mit KI-Systemen schaffen.

Via: https://www.cnbc.com

Den Beitrag in unserem Forum kommentieren