KI-Stimmen und versteckte Bildbotschaften: Wie entsteht ein Vertrauensproblem?

KI kann menschlich klingen und Botschaften in Bildern verbergen, die andere Modelle erkennen. Gleichzeitig richten Großbritannien und Technologieunternehmen ein Labor für KI-Biosicherheit ein.

Die drei Entwicklungen zeigen unterschiedliche Herausforderungen: realistische synthetische Stimmen, Inhalte außerhalb menschlicher Wahrnehmung und mögliche Missbrauchsgefahren. Sie werfen die Frage auf, wie sich Menschen schützen können – und welche Schutzmaßnahmen bislang fehlen.

Wenn eine KI-Stimme menschlich klingt

Blocks neues Sprachmodell Dessa läuft lokal und soll laut Unternehmen ungewöhnlich menschlich klingen. Es wurde vollständig mit menschlicher Sprache und einer einzelnen Grafikkarte von Nvidia trainiert. Zum Klang gehören auch Ausdrucksformen wie Lachen, Pausen und Weinen.

Dessa arbeitet im Vollduplexbetrieb. Das bedeutet, dass das Modell gleichzeitig zuhören und sprechen kann. Damit ähnelt es dem Live-Sprachmodell GPT-Live von OpenAI, das zuvor vorgestellt wurde.

Eine realistisch klingende Stimme kann es schwieriger machen, synthetische Sprache zu erkennen. Die vorliegenden Angaben beschreiben jedoch nicht, wie Nutzer:innen eine solche Stimme zuverlässig von einer menschlichen unterscheiden können. Auch konkrete Schutzmaßnahmen gegen eine mögliche Täuschung werden darin nicht genannt.

Botschaften, die Menschen nicht sehen

Eine Untersuchung zur Bilderzeugung zeigt ein anderes Problem: Das KI-Modell Fable-5.1 von Anthropic kann einer Studie zufolge versteckte Botschaften in generierten Bildern platzieren. Andere KI-Modelle können diese Nachrichten erkennen und entschlüsseln.

Für Menschen sind solche Inhalte dem Themenvorschlag zufolge nicht unbedingt wahrnehmbar. Die Untersuchung macht damit deutlich, dass ein Bild neben dem sichtbaren Motiv auch Informationen enthalten kann, die speziell für andere Modelle lesbar sind. Das wirft Fragen dazu auf, wie sich solche Inhalte prüfen lassen.

Die Befunde belegen keine allgemeine Fähigkeit aller KI-Systeme und sagen für sich genommen nichts über konkrete Schäden aus. Sie zeigen aber, dass die menschliche Sichtprüfung möglicherweise nicht ausreicht, wenn KI-generierte Bilder auch maschinenlesbare Botschaften enthalten können.

Großbritannien richtet ein Labor für Biosicherheit ein

Die britische Regierung hat das KI-Biosicherheitslabor als Teil ihrer nationalen Initiative für KI-Biosicherheit eingerichtet. Sie stellt dafür 100 Millionen Pfund bereit, umgerechnet rund 134 Millionen US-Dollar. OpenAI, Anthropic und Google DeepSeek unterstützen das Vorhaben ebenfalls.

Das Labor gehört zu einem weiteren Themenfeld der KI-Sicherheit: möglichen Missbrauchsgefahren im Bereich der Biosicherheit. Die verfügbaren Informationen nennen allerdings keine konkreten Risiken, die das Labor untersuchen soll, und beschreiben auch keine geplanten Schutzmaßnahmen im Detail.

Die drei Entwicklungen betreffen somit verschiedene Bereiche und lassen sich nicht gleichsetzen. Zusammen zeigen sie jedoch, warum Vertrauen in KI mehr erfordert als einen überzeugenden ersten Eindruck: Stimmen können menschlich wirken, Bilder zusätzliche Informationen für Modelle tragen und neue Institutionen sollen Sicherheitsfragen adressieren. Woran synthetische Inhalte im Alltag verlässlich zu erkennen sind, bleibt nach den vorliegenden Angaben offen.

Via: www.engadget.com · techcrunch.com · gizmodo.com

Den Beitrag in unserem Forum kommentieren