Viele Unternehmen setzen zunehmend auf Künstliche Intelligenz und KI-Agenten. Dabei unterschätzen sie die mit dieser Technologie verbundenen Sicherheitsrisiken und sind auf Bedrohungen kaum vorbereitet.
Steigende Risiken durch KI-Agenten
Unternehmen implementieren immer mehr KI-Agenten, um zum Beispiel Aufgaben wie Datenabfragen oder Automatisierungen zu übernehmen. Nikesh Arora, CEO des Cybersicherheitsunternehmens Palo Alto Networks, warnt davor, dass sich Führungskräfte der Risiken zwar bewusst sind, aber noch nicht ausreichend Maßnahmen treffen.
KI-Agenten erhalten dabei oft Zugriff auf sensible Daten und Systeme – ähnlich wie menschliche Mitarbeitende. Vielen fehlt der Überblick, welche Agenten mit welchen Zugriffsrechten im Unternehmen agieren. Diese Situation vergleicht Arora mit dem „Wilden Westen“ in IT-Infrastrukturen. KI-Agenten sind Programme, die auch außerhalb ihrer ursprünglichen Datenmodelle auf Ressourcen zugreifen. Sie können über Schnittstellen, wie zum Beispiel das Model Context Protocol, verschiedene Aufgaben in unterschiedlichen Programmen ausführen und orchestrieren. So automatisieren sie immer mehr Tätigkeiten, die zuvor Menschen erfüllten. Problematisch wird es, weil Unternehmen ihre nicht-menschlichen Identitäten, also alle genutzten KI-Agenten, weder zentral finden noch nachverfolgen können. Die Verwaltung und Absicherung dieser neuen Art von Zugängen hinkt der rasanten Fortschrittsgeschwindigkeit deutlich hinterher. Während Unternehmen sich oft sicher fühlen, sind sie laut Arora tatsächlich anfällig für Angriffe durch böswillige KI-Agenten.
Unzureichendes Identitätsmanagement
Das eigentliche Problem liegt im schwachen Identitätsmanagement. Zwar gibt es Systeme zur Verwaltung von privilegierten Zugängen (Privileged Access Management oder PAM), doch rund 90 Prozent der Benutzer:innen werden nicht regelmäßig überwacht. Die Kosten für eine umfassende Überwachung gelten in vielen Organisationen als zu hoch. KI-Agenten erweitern aber die Angriffsfläche. Sie übernehmen Aufgaben und erhalten Schritt für Schritt immer mehr Rechte – genauso wie Menschen. Dadurch besteht die Gefahr, dass sie auf die wichtigsten und sensibelsten Systeme zugreifen können. Die aktuellen Identitätssysteme bieten dafür keine effektiven Lösungen. Ein KI-Agent braucht Handlungsfreiheit, die wiederum bestimmte Zugriffsmöglichkeiten notwendig macht. Diese lassen sich heute jedoch in den wenigsten Unternehmen sicher und plattformübergreifend steuern. Gleichzeitig nehmen gezielte Angriffe durch Cyberkriminelle und staatliche Akteure zu. Sie setzen auf Methoden wie Phishing und Smishing – das sind gefälschte Nachrichten, mit denen persönliche Daten erbeutet werden sollen. Palo Alto Networks identifizierte etwa 194.000 Internetdomains, die für Smishing-Attacken missbraucht werden.
Lösungsansätze für mehr Sicherheit
Arora sieht die Lösung in einem neuen Ansatz beim Identitätsmanagement. Er setzt auf die Integration der durch den Zukauf von CyberArk erworbenen Security-Tools. Diese sollen helfen, nicht nur privilegierte Zugänge, sondern alle Identitäten in einem Unternehmen zentral zu verwalten. Ein zweiter Ansatz besteht darin, selbst verstärkt auf KI-gestützte Sicherheitssysteme zu setzen. Palo Alto Networks bringt mit Cortex AgentiX eine neue Automatisierungs-Lösung auf den Markt. Sie analysiert anhand von über 1,2 Milliarden echten Bedrohungsszenarien aktuelle Angriffstechniken, sucht nach Angriffsmustern und sammelt forensische Daten. So erhalten IT-Sicherheitsabteilungen wertvolle Informationen und können schneller auf Angriffe reagieren. Der Mensch steht dabei aber weiterhin im Mittelpunkt. Die Systeme schlagen Maßnahmen vor, die anschließend von IT-Spezialist:innen getestet und bestätigt werden müssen. Mit zunehmender Sicherheit könnten zukünftig auch automatisierte Reaktionen durch KI-Agenten ermöglicht werden, vorausgesetzt sie haben sich als zuverlässig bewiesen.
