Die Realität verliert den Kampf gegen Deepfakes – Warum KI-Kennzeichnung scheitert

[Apfeltalk Redaktion]

In der digitalen Welt sind Fotos und Videos zunehmend schwer von echten Inhalten zu unterscheiden, da Systeme wie C2PA, die zur Kennzeichnung von Deepfakes entwickelt wurden, in der Praxis auf viele Hürden stoßen. Obwohl C2PA als Metadatenlösung konzipiert ist, die Bearbeitungsschritte nachvollziehbar macht, verlieren viele Plattformen diese Metadaten beim Upload oder unterstützen das System nicht umfassend. Dies führt dazu, dass Nutzer:innen weiterhin auf sich allein gestellt sind, um zwischen echten und manipulierten Inhalten zu unterscheiden.

Zudem gibt es neben C2PA auch andere Ansätze wie digitale Wasserzeichen, die jedoch ebenfalls keine zuverlässige Lösung bieten. Das Misstrauen in der Gesellschaft wächst, da Plattformen wie Instagram Nutzer:innen dazu raten, Bildern skeptisch zu begegnen. Solange keine einheitlichen Standards und umfassende Unterstützung durch alle Akteure erreicht wird, bleibt die Unterscheidung zwischen echten und gefälschten Inhalten eine Herausforderung für die Nutzer:innen selbst.

Was denkt ihr über die aktuellen Ansätze zur Bekämpfung von Deepfakes? Glaubt ihr, dass eine Lösung in naher Zukunft möglich ist? Diskutiert mit uns!

Klick hier, um den vollständigen Beitrag im Magazin zu lesen

Hinweis: Dieser Beitrag ist eine automatisch erstellte Zusammenfassung mithilfe von Künstlicher Intelligenz. Eine redaktionelle Prüfung fand nicht statt.

 

[Ealdorman]

Der Zug ist wohl schon längst abgefahren.

 

[au37x]

Um das zu ergründen, wird es sehr schnell in die Verschwörer und Schwurbler Ecke abdriften.

 

[Ealdorman]

Erzähl mal.

 

[au37x]

Ach solche Gedanken wie

die drei mächtigsten auf diesem Planeten wollen das doch eigentlich gar nicht. Sie können die KI auf ihre Version der Wirklichkeit interpretieren lassen.

Europa, der hauptamtliche Bedenkenträger ist immer dagegen.

 

[Ealdorman]

.

 

[Mure77]

Hat Facebook heute geschlossen?

 

[Ealdorman]

Nimm einfach den Ignore-Button.

 

[Mure77]

Wieso? Du kannst doch einfach mal über den Senf nachdenken, welchen du hier nicht selten schreibst.

 

[Ealdorman]

Ist in dem anderen ... nichts los?

 

[Mure77]

Ist in dem anderen ... nichts los?

Bist sauer und kommst dann wieder mit was nicht wertvollem um die Ecke. Beteilige dich doch sinnvoll, mehr ist doch gar nicht gewünscht.

 

[Andreas Vogel]

Bist sauer und kommst dann wieder mit was nicht wertvollem um die Ecke. Beteilige dich doch sinnvoll, mehr ist doch gar nicht gewünscht.

Hm... gibt halt Menschen die einen tief sitzenden Frust, eine tiefe Angst oder gar Depessionen haben, weil die Welt da draußen so komplex und individuell bedrohlich erscheint. Dann flüchtet man sich eben schnell randständiges und holt sich in der jeweiligen bubble Bestätigung...
Das ist sicherlich menschlich verständlich, aber auch bedauernswert

Aber: Wer ohne Sünde ist werfe den ersten Stein... und deshalb lass ich ihn auf dem Pflaster liegen...

 

[SORAR]

Bin jetzt etwas verwirrt warum hier Streit ausgebrochen ist, ich finde den Spruch "der Zug ist längst abgefahren" ziemlich zutreffend, das war auch mein Gedanke als ich den Titel dieses Artikel gesehen habe.

Das Netz wird von diesem AI-Zeug regelrecht geflutet und einige Fakes sind wirklich erstaunlich gut. Videos haben noch den typischen "Slop"-Look, aber wer weiß wo wir mit Sora 3, 4, 5... in ein paar Jahren sind. Und nein, jegliche "Wasserzeichen" werden am Ende wenig bringen, denn am Ende sind es auch nur irgendwie eingebettete Meta-Daten, wie beispielsweise EXIF oder ITPC, die man manipulieren oder entfernen kann. Und wer auf Nummer sicher gehen will, bearbeitet und exportiert das Zeug einfach in ein anderes Format.

Daher: Selbst mit wachsamem Auge und Verstand im Netz unterwegs sein, jetzt mehr denn je.

 

[Mure77]

Bin jetzt etwas verwirrt warum hier Streit ausgebrochen ist, ich finde den Spruch "der Zug ist längst abgefahren" ziemlich zutreffend, das war auch mein Gedanke als ich den Titel dieses Artikel gesehen habe.

Das Netz wird von diesem AI-Zeug regelrecht geflutet und einige Fakes sind wirklich erstaunlich gut. Videos haben noch den typischen "Slop"-Look, aber wer weiß wo wir mit Sora 3, 4, 5... in ein paar Jahren sind. Und nein, jegliche "Wasserzeichen" werden am Ende wenig bringen, denn am Ende sind es auch nur irgendwie eingebettete Meta-Daten, wie beispielsweise EXIF oder ITPC, die man manipulieren oder entfernen kann. Und wer auf Nummer sicher gehen will, bearbeitet und exportiert das Zeug einfach in ein anderes Format.

Daher: Selbst mit wachsamem Auge und Verstand im Netz unterwegs sein, jetzt mehr denn je.

Der Grund liegt in dem vor 40 Minuten bearbeitenden Beitrag, der jetzt nur noch einen . beinhaltet.
Das passt dann ganz gut in den Kontext.

 

[u0679]

[Mod-Info]

Wer nichts zum eigentlichen Thema beitragen kann, lässt es bitte ganz sein.

 

[LeoBerlin]

Für jeden Ansatz, KI-Bilder und Deepfakes kenntlich zu machen, wird es einen geben, der genau das verhindert bzw wieder rückgängig macht. Das sieht man heute schon daran, dass Plattformen wie Midjourney oder ChatGPT explizit sexuelle Inhalte unterbinden, andere Modelle das aber freizügig zulassen.
Auch jemand wie Elon Musk mit Grok hat kein Interesse daran, den Regeln der Kenntlichmachung zu folgen, denn das würde seiner politischen Agenda widersprechen.
Insofern bin ich skeptisch. Momentan kann ich vielleicht noch viele generierte Bilder oder Videos von echten unterscheiden, finde aber auch immer wieder solche, wo ich das nicht mehr kann, obwohl ich mich damit beschäftige. Zukünftig wird das wohl gar nicht mehr möglich sein.

 

[access]

Wenn ich so manche Videos aus der Air Force One von Trump sehe, frage ich mich auch ob das Deepfake ist, oder ob der tatsächlich seinen Schwachsinn glaubt den er da von sich lässt. Leider werde ich dann später von der Realität eingeholt, der ist wirklich so durchgeknallt.