Content-Moderation: GPT4 soll Verbesserungen bringen

[Jan Gruber]

Jan Gruber
Seit einigen Monaten ist GPT4 in aller Munde, doch wofür kann die AI wirklich verwendet werden? OpenAI, der Anbieter, sieht Einsatzmöglichkeiten bei der Content-Moderation.

Content-Moderation ist eine gewaltige Herausforderung in der digitalen Welt. Doch könnte die Lösung in der künstlichen Intelligenz liegen? OpenAI glaubt genau das.

OpenAIs Lösung für das Content-Moderations-Dilemma​

OpenAI ist überzeugt, dass seine Technologie das schwer greifbare Problem der Content-Moderation in großem Maßstab lösen kann. Sie behaupten, dass GPT-4 Zehntausende menschlicher Moderatoren:innen ersetzen könnte. Es könnte dabei genauso genau und sogar konsistenter sein. Stell Dir vor: Die geistig anstrengendsten Aufgaben im Tech-Bereich könnten an Maschinen ausgelagert werden.

In einem Blogbeitrag erläutert OpenAI, wie es bereits GPT-4 einsetzt, um eigene Inhaltsrichtlinien zu entwickeln und zu verfeinern. Lilian Weng, Leiterin der Sicherheitssysteme von OpenAI, sieht darin einen großen Fortschritt in der Nutzung von KI zur Lösung realer Probleme.

Drei zentrale Vorteile von GPT-4 für Content-Moderation​

OpenAI identifiziert drei Hauptvorteile seiner KI im Vergleich zu traditionellen Ansätzen:

1. Menschen interpretieren Richtlinien unterschiedlich, während Maschinen konsequent urteilen.
   
2. GPT-4 kann innerhalb von Stunden eine neue Richtlinie entwickeln – ein Prozess, der normalerweise Wochen oder Monate dauert.
   
3. OpenAI betont das Wohlbefinden der Moderator:innen, die ständig schädlichen Inhalten ausgesetzt sind. GPT-4 könnte hier eine Erleichterung bieten.
   

Das Problem, das OpenAI selbst verschärft hat​

Obwohl OpenAI seine Technologie als revolutionär anpreist, ist die Verwendung von KI für die Content-Moderation nicht neu. Große Unternehmen wie Meta, Google und TikTok nutzen bereits Algorithmen, während OpenAIs Technologie für kleinere Unternehmen attraktiver sein könnte, die nicht über die nötigen Ressourcen verfügen.

Die perfekte Content-Moderation im großen Stil bleibt eine Illusion. Sowohl Menschen als auch Maschinen machen Fehler. Es gibt immer wieder Inhalte, die durch das Raster fallen, und gleichzeitig werden viele harmlose Inhalte unsichtbar gemacht oder gelöscht.

Generative KI-Modelle wie ChatGPT erleichtern es, Fehlinformationen in großem Umfang zu erstellen und zu verbreiten. Obwohl OpenAI versprochen hat, ChatGPT wahrheitsgetreuer zu gestalten, produziert GPT-4 weiterhin bereitwillig nachrichtenbezogene Falschinformationen.

Via The Verge

Den Artikel im Magazin lesen.