Viele deutsche Unternehmen sind auf KI-Angriffe kaum vorbereitet

Etwa jedes zweite Unternehmen in Deutschland nutzt inzwischen Anwendungen mit Künstlicher Intelligenz. Doch viele Firmen prüfen die Sicherheit dieser Systeme nicht ausreichend und haben kaum Abläufe für KI-bezogene Vorfälle.

KI-Einsatz wächst, Sicherheitsvorkehrungen fehlen

Das Bundesamt für Sicherheit in der Informationstechnik (BSI) und der TÜV-Verband haben rund 500 deutsche Unternehmen zu ihrem Umgang mit KI befragt. Die Ergebnisse der KI-Sicherheitsstudie 2026 zeigen: Etwa die Hälfte der Unternehmen setzt KI bereits in irgendeiner Form ein. Gleichzeitig hinkt ein großer Teil bei der Sicherheit hinterher.

Nur jedes zweite Unternehmen testet seine KI-Anwendungen vor der Nutzung auf Sicherheitsrisiken. Spezielle Prozesse für Vorfälle mit KI-Bezug haben lediglich elf Prozent eingerichtet. Dabei berichteten 17 Prozent der Befragten, in den vergangenen zwölf Monaten KI-gestützte Cyberangriffe oder Betrugsversuche erlebt oder vermutet zu haben.

Vier von zehn betroffenen Unternehmen sahen Hinweise auf automatisierte Angriffe. Dabei suchen Angreifer:innen nach Schwachstellen in IT-Systemen, um sich Zugang zu verschaffen. Neun von zehn Unternehmen vermuteten zudem besonders realistische Phishing-Nachrichten, mit denen sensible Informationen wie Passwörter erbeutet werden sollten.

BSI-Vizepräsident Thomas Caspers sieht die ohnehin angespannte Cybersicherheitslage durch KI verändert. Zugleich warnte er bei der Vorstellung der Studie vor überzogenen Befürchtungen: Die Welt stehe nicht kurz vor dem Untergang. KI verschärfe jedoch die Bedrohung von außen und bringe zusätzliche Risiken im Unternehmen mit sich, sagte TÜV-Verbandspräsident Dirk Stenkamp. Angreifer:innen könnten Attacken automatisieren und Menschen gezielter täuschen.

Schutzmaßnahmen kommen oft erst nach einem Vorfall

Stenkamp zufolge kümmern sich Firmen häufig erst intensiver um den Schutz ihrer KI-Systeme, wenn es bereits zu ernsthaften Vorfällen gekommen ist. Caspers beobachtet zugleich eine Experimentierphase: Unternehmen probierten viele Anwendungen aus. Das könne Innovation fördern, bringe aber auch erhebliche Probleme mit sich.

Derzeit nutzen Firmen KI häufig, um Texte oder Bilder zu erstellen, etwa mit ChatGPT, Microsoft Copilot oder Canva. Nur jedes vierte Unternehmen mit KI-Einsatz versucht, damit Abläufe zu automatisieren, beispielsweise im Rechnungswesen oder Kundenservice.

Mit wachsender Nutzung brauche es klare Vorgaben, sagte Caspers. Die Europäische Union führt schrittweise Anforderungen des Gesetzes über Künstliche Intelligenz ein. Sie betreffen unter anderem die Zertifizierung und Überwachung von Anwendungen in Hochrisikobereichen wie Energieversorgung, Personalwesen und Medizin.

Prüfungen sollen verlässliche KI unterstützen

Das Jenaer Softwareunternehmen Phnx Alpha unterstützt Firmen beim Einsatz und bei der Qualitätskontrolle von KI. Konstanze Olschewski nennt medizinische Hautscreenings als Beispiel: Für solche Anwendungen gebe es bereits Anforderungen an die Zuverlässigkeit. Ihr Unternehmen prüfe die Leistungsfähigkeit von KI-Modellen und untersuche Entscheidungen in einzelnen Fällen. Die Nachfrage nach dieser Unterstützung dürfte nach ihrer Einschätzung wachsen, auch wegen kommender EU-Vorgaben.

Stenkamp hält europäische Regeln für notwendig, um sichere KI-Systeme zu fördern. Dazu gehörten unabhängige Prüfungen und Checklisten. Das TÜV AI.Lab arbeite an Möglichkeiten, KI-Systeme zu zertifizieren.

Die Studie zeigt auch, dass 42 Prozent der befragten Unternehmen derzeit keine KI nutzen und dies nicht planen. Als Gründe nennen sie einen unklaren Nutzen, Datenschutz- und Sicherheitsbedenken, hohen Aufwand sowie rechtliche Unsicherheiten. Unternehmen wägen damit zwischen möglichen Innovationen und den Risiken des KI-Einsatzes ab.

Via: https://www.tagesschau.de

Den Beitrag in unserem Forum kommentieren