ChatGPT schränkt Inhalte für Minderjährige mit Alterserkennung ein

OpenAI führt bei ChatGPT eine neue Alterserkennung ein, um Minderjährige besser zu schützen. Das System soll den Zugang zu sensiblen Inhalten für jüngere Nutzer:innen gezielt begrenzen.

Wie ChatGPT das Alter von Nutzer:innen einschätzt

OpenAI hat ChatGPT um eine Funktion zur Alterserkennung ergänzt, die unterjährige Nutzer:innen identifizieren und besser schützen soll. Diese Pläne wurden im Dezember zusammen mit aktualisierten Richtlinien zum Umgang mit Teenagern angekündigt. Sie folgen ähnlichen Altersbeschränkungs-Maßnahmen anderer Online-Plattformen wie Instagram, YouTube, TikTok und Roblox.

Das Altersvorhersagemodell von ChatGPT analysiert Verhaltens- und Kontodaten, um eine Einschätzung zum Alter der Nutzer:innen zu treffen. Dazu gehören die angegebene Altersangabe im Konto, das Alter des Kontos, die Zeiten der Nutzung sowie Nutzungsmuster über einen längeren Zeitraum hinweg. Anhand dieser Signale versucht das System zu ermitteln, ob Personen wahrscheinlich unter 18 Jahre alt sind.

Zusätzliche Schutzmaßnahmen und Einschränkungen

Für Konten, die ChatGPT als potenziell minderjährig einstuft, werden zusätzliche Schutzebenen aktiviert. Diese sollen die Konfrontation mit sensiblen Inhalten einschränken. Dazu zählen Inhalte, die für jüngere Nutzer:innen als ungeeignet bewertet werden. Die neuen Vorgaben zielen darauf ab, besondere Risiken für minderjährige Personen zu reduzieren, ohne den Dienst vollständig zu sperren.

Erwachsene Nutzer:innen, die fälschlicherweise in diese unter-18-Erfahrung eingeordnet werden, können den uneingeschränkten Zugriff wiederherstellen. Dafür bietet OpenAI eine Altersverifizierung per Selfie an. Auf diese Weise soll die Zuordnung zum richtigen Erfahrungsmodus korrigiert werden, wenn das Modell danebenliegt.

Die Einführung der Alterserkennung startet weltweit, mit einer wichtigen Ausnahme: In der Europäischen Union ist die Funktion zunächst noch nicht aktiv. OpenAI kündigt an, dass die Altersvorhersage in den kommenden Wochen auch dort bereitgestellt werden soll. Das Unternehmen verweist dabei auf regionale Anforderungen, die noch berücksichtigt werden müssen.

Hintergrund: Kritik und rechtlicher Druck

Die neuen Funktionen zur Alterserkennung und die zusätzlichen Schutzmaßnahmen stehen im Zusammenhang mit wachsendem Druck auf Anbieter von KI-Diensten. ChatGPT geriet zuvor unter anderem durch eine Klage im Zusammenhang mit dem Suizid eines Teenagers in den Fokus. Zudem befasste sich ein Ausschuss des US-Senats mit möglichen Schäden, die Chatbots Minderjährigen zufügen können.

Mit den jetzt angekündigten Anpassungen reagiert OpenAI auf diese Entwicklungen. Das Unternehmen versucht, den Zugang zu sensiblen Inhalten für jüngere Nutzer:innen einzugrenzen und gleichzeitig die Nutzung für volljährige Personen aufrechtzuerhalten. Wie sich die Alterserkennung in der Praxis bewährt, wird sich nach dem globalen Start und dem späteren Rollout in der EU zeigen.

Via: https://www.theverge.com

Den Beitrag in unserem Forum kommentieren