Luigi Mangione: Reporter ohne Grenzen fordern Verbot für KI-Zusammenfassungen

[Apfeltalk Redaktion]

Geschrieben von: Jan Gruber

Die Organisation „Reporter ohne Grenzen“ (RSF) fordert Apple auf, die Zusammenfassungsfunktion seiner Apple-Intelligence-KI zu entfernen. Der Aufruf kommt nach einem Vorfall, bei dem die KI fälschlicherweise behauptete, Luigi Mangione, ein Manager habe Suizid begangen. Der Vorfall hat weltweit für Kritik und Debatten über die Zuverlässigkeit generativer KI gesorgt.

Luigi Mangione: Ein folgenschwerer Fehler​

Die Kontroverse begann, als die BBC eine Nachricht zu einem Mordfall veröffentlichte. Dabei behauptete Apple Intelligence in einer automatisch generierten Zusammenfassung, der Verdächtige habe sich selbst erschossen. Tatsächlich hatte der Verdächtige den CEO von United HealthGroup getötet. Die BBC beschwerte sich umgehend bei Apple und betonte, dass die Glaubwürdigkeit ihres Netzwerks durch solche Fehler gefährdet werde.

Ein Sprecher der BBC erklärte, es sei essenziell, dass ihre Berichterstattung Vertrauen genieße – und das gelte auch für die Verwendung ihrer Inhalte in Drittplattformen. Apple hat bisher keine Stellungnahme zu diesem Vorfall abgegeben.

RSF fordert radikale Maßnahmen​

„Reporter ohne Grenzen“ kritisiert die Zusammenfassungsfunktion scharf. In einer offiziellen Stellungnahme betont die Organisation, dass KI-gestützte Systeme aktuell noch nicht ausgereift genug seien, um verlässliche Informationen zu generieren. RSF warnt davor, dass der Einsatz solcher Funktionen die Glaubwürdigkeit der Medien gefährde und das Recht der Öffentlichkeit auf zuverlässige Informationen verletze.

Vincent Berthier, Technologie-Leiter von RSF, sagte dazu:

„KIs sind Wahrscheinlichkeitsmaschinen, und Fakten können nicht durch Würfeln entschieden werden. Wir fordern Apple auf, verantwortungsvoll zu handeln und diese Funktion zu entfernen. Die automatische Produktion von Falschinformationen, die einem Medienunternehmen zugeschrieben werden, ist ein Schlag für dessen Glaubwürdigkeit und gefährdet das Recht der Öffentlichkeit auf zuverlässige Nachrichten.“

Die Risiken generativer KI​

Der Vorfall verdeutlicht die Risiken beim Einsatz generativer KI in sensiblen Bereichen wie Nachrichten. Automatische Zusammenfassungen können zwar praktisch sein, bergen jedoch erhebliche Gefahren, wenn sie ungenaue oder irreführende Inhalte erstellen.

Während Apple seine KI-Technologien weiterhin ausbaut, zeigt dieser Fall, dass ein strengeres Monitoring und sorgfältigere Tests notwendig sind, um die Verbreitung von Fehlinformationen zu verhindern. Ob Apple auf die Forderungen von RSF reagiert und Änderungen einführt, bleibt abzuwarten.

Via 9to5Mac

Im Magazin lesen....

 

[access]

Dann sollte die BBC einfach nicht ungeprüft Meldungen raushauen, anstatt sich bei Apple zu beschweren. Aber es ist ja einfacher anderen die Schuld in die Schuhe zu schieben anstatt das eigene Versagen einzugestehen.

 

[saw]

Dann sollte die BBC einfach nicht ungeprüft Meldungen raushauen,

Okay, Du hast zwar keine Ahnung worum es geht?
Die BBC hat eben nicht (!) Falschinformationen veröffentlicht.

 

[SomeUser]

Dann sollte die BBC einfach nicht ungeprüft Meldungen raushauen, anstatt sich bei Apple zu beschweren. Aber es ist ja einfacher anderen die Schuld in die Schuhe zu schieben anstatt das eigene Versagen einzugestehen.

Kann es sein, dass du da etwas verwechselst? Die Meldung der BBC war doch korrekt, wenn ich es richtig in Erinnerung habe. Ausschließlich das, was Apples AI daraus gemacht hat, war schlicht eine falsche Zusammenfassung. Und *darüber* beschwert sich die BBC, da so der Eindruck entstehen könnte, dass die BBC Unsinn verbreiten würde.

 

[access]

Dann mal den Artikel von 9to5Mac lesen. Die BBC hat einen automatisierten Tweet gesendet, in dem es hieß Luigi Mangione habe Selbstmord begangen.

 

[saw]

Die BBC hat einen automatisierten Tweet gesendet, in dem es hieß Luigi Mangione habe Selbstmord begangen.

Es geht um die KI generierten Zusammenfassungen der News durch Apple.
Die News der BBC und der andren Zeitungen waren korrekt, Apple hat diese verzerrt und verfälscht.

BBC complains to Apple over misleading shooting headline

Apple's new artificial intelligence features falsely made it seem the BBC reported Luigi Mangione had shot himself.

www.bbc.com

 

[access]

Eek, mein Fehler. Das sah aus wie ein Tweet.