Anthropic startet Projekt Glasswing: KI soll Sicherheitslücken in Apple-, Google- und Microsoft-Systemen finden

Anthropic hat mit Claude Mythos Preview ein neues KI-Modell vorgestellt und dazu das Branchenbündnis „Projekt Glasswing“ gestartet. Ziel ist es, schwerwiegende Sicherheitslücken in zentraler Software zu entdecken und abzusichern.

Claude Mythos Preview: KI findet tausende Sicherheitslücken

Anthropic beschreibt Claude Mythos Preview als ein Codemodell, das nebenbei besonders gut im Bereich Cybersicherheit ist. Laut dem Unternehmen hat das Modell bereits „tausende hochkritische Sicherheitslücken“ gefunden, darunter Schwachstellen in jedem großen Betriebssystem und in allen wichtigen Webbrowsern. In internen Tests übertraf Mythos Preview andere Claude-Modelle wie Opus 4.6 deutlich, etwa beim CyberGym-Test, der misst, wie gut KI-Agenten reale Software-Schwachstellen erkennen und reproduzieren.

Anthropic berichtet, dass Mythos nicht nur Schwachstellen identifiziert, sondern diese auch in funktionsfähige Angriffe übersetzen kann. Im JavaScript-Testfeld von Firefox gelang es der KI, 72,4 Prozent der gefundenen Lücken erfolgreich auszunutzen und in weiteren 11,6 Prozent der Fälle Registerkontrolle zu erreichen. In Benchmarks mit rund tausend Open-Source-Repositories aus dem OSS-Fuzz-Korpus erzeugten frühere Claude-Modelle nur vereinzelte schwerere Abstürze, während Mythos Preview mehrere Angriffe bis hin zur vollständigen Übernahme des Kontrollflusses auf zehn vollständig gepatchten Zielen erreichte.

Zu den realen Funden gehören eine 27 Jahre alte Schwachstelle im gehärteten Betriebssystem OpenBSD, mit der sich ein System allein durch Verbindungsaufbau zum Absturz bringen ließ, sowie eine 16 Jahre alte Lücke in der Multimedia-Bibliothek FFmpeg, die nach Angaben von Anthropic bereits fünf Millionen Mal von automatisierten Tests durchlaufen wurde, ohne entdeckt zu werden. Zudem identifizierte Mythos eine Kette von Schwachstellen im Linux-Kernel, mit der sich Root-Rechte erlangen lassen, und entwickelte einen Browser-Exploit mit komplexem JIT-Heap-Spray, der nacheinander mehrere Sandboxen umgeht.

Projekt Glasswing: Branchenbündnis für koordinierte Absicherung

Wegen der Tragweite dieser Fähigkeiten hält Anthropic Mythos Preview bewusst unter Verschluss und stellt das Modell nur ausgewählten Partnern im Rahmen von Projekt Glasswing zur Verfügung. Zu den Beteiligten gehören unter anderem Amazon Web Services, Apple, Google, Microsoft, Nvidia, Broadcom, Cisco, CrowdStrike, JPMorganChase, Palo Alto Networks sowie die Linux Foundation. Insgesamt sollen mehr als 40 Technologie-, Sicherheits-, Infrastruktur- und Finanzorganisationen Zugriff auf das Modell erhalten, zudem arbeitet Anthropic mit der US-Regierung zusammen und teilt Informationen zu offensiven und defensiven Einsatzmöglichkeiten.

Das Bündnis soll den Anbieter:innen großer Plattformen Zeit verschaffen, Mythos auf ihre eigenen Systeme loszulassen, Schwachstellen zu erkennen und Patches zu entwickeln, bevor ähnlich leistungsfähige Modelle ohne vergleichbare Schutzmaßnahmen breit verfügbar werden. Anthropic orientiert sich nach eigenen Angaben an Prinzipien der koordinierten Schwachstellenoffenlegung: Die Vielzahl gefundener Probleme führt jedoch dazu, dass bislang weniger als ein Prozent der potenziellen Sicherheitslücken vollständig behoben sind.

Anthropic betont, dass Mythos nicht speziell für Cybersicherheit trainiert wurde, sondern als Nebeneffekt seiner starken Code-Fähigkeiten in diesem Bereich überzeugt. Das Modell unterstützt neben der Schwachstellensuche auch Exploit-Entwicklung, Penetrationstests, Endpoint-Bewertungen, die Suche nach Fehlkonfigurationen und die Analyse von Binärdateien ohne Quellcodezugang. Projekt-Glasswing-Partner:innen wie Google und Microsoft heben die Chance hervor, KI kontrolliert zur Verbesserung der Sicherheit einzusetzen, warnen aber zugleich vor den Risiken, falls solche Modelle ungebremst Angreifer:innen in die Hände fallen.

Zwischen Schutz und Risiko: Anthropic begrenzt Zugang zu Mythos

Anthropic sieht in Modellen wie Mythos einen Wendepunkt für die IT-Sicherheit: Viele bisherige Grundannahmen könnten in den kommenden Monaten oder Jahren nicht mehr gelten. Gleichzeitig erkennt das Unternehmen das Risiko, dass dieselben Werkzeuge Angriffe automatisieren und bislang unrealistische Exploit-Ketten für weniger erfahrene Täter:innen erreichbar machen. Deshalb soll Claude Mythos Preview vorerst nicht allgemein verfügbar werden; stattdessen beschreibt Anthropic das Verhalten des Modells in einer ausführlichen Systemkarte und nutzt die Industriekooperation, um Rahmenbedingungen für den Umgang mit vergleichbaren KI-Systemen zu entwickeln.

Anthropic weist darauf hin, dass andere Unternehmen ähnliche Fähigkeiten entwickeln und leistungsstärkere Modelle absehbar sind. Projekt Glasswing versteht das Unternehmen daher als Auftakt für eine breitere, globale Zusammenarbeit, die über einige wenige Konzerne hinausgehen soll und Antworten auf noch offene Sicherheitsfragen rund um KI erarbeiten muss.

Via: www.engadget.com · gizmodo.com · www.tomshardware.com · www.wired.com
Titelbild: Screenshot

Den Beitrag in unserem Forum kommentieren