Thomas Boele, Global Director, Solutions Engineering - AI Security bei Check Point Software

Die Bedrohungslage hat sich verändert. Längst dringen nicht mehr nur cyberkriminelle Banden in Websites und Dienste ein, um Daten zu stehlen. Es häufen sich Vorfälle, in denen KI-Agenten bei der Erledigung ihrer Aufgaben eigenmächtig Sicherheitssperren umgehen und sich Zugang zu fremden Systemen verschaffen. Im aktuellen Fall in Australien waren nach bisherigem Kenntnisstand keine personenbezogenen Daten betroffen. Allerdings hat der Agent nicht nur Daten gelesen, sondern auch Dateien auf einen internen Server geschrieben. Träfe dasselbe Verhalten ein Krankenhaussystem, ein Energienetz oder eine Wasseraufbereitungsanlage, wäre das eine ganz andere Dimension. Sind Systeme betroffen, die die Sicherheit von Menschen gewährleisten, geht es bei der Cybersicherheit nicht mehr nur um Daten, sondern darum, ob kritische Dienste weiter funktionieren und ob Menschen zu Schaden kommen. Der Vorfall ist eine Frühwarnung, die wir ernst nehmen sollten, bevor ein vergleichbarer Fall kritische Infrastruktur trifft.

Fähigkeiten, mit denen KI-Agenten Sicherheitskontrollen beharrlich umgehen, stehen zunehmend auch Kriminellen und staatlich unterstützten Akteuren zur Verfügung, die tatsächlich Schaden anrichten wollen. Angriffe in Maschinengeschwindigkeit lassen sich manuell kaum abwehren, und viele Unternehmen, gerade kleine und mittelständische, haben dafür schlicht nicht die personellen Ressourcen. Umso wichtiger ist es, Cybersicherheit als Geschäftsfaktor zu verstehen und nicht als IT-Kostenstelle: Sie schützt den Umsatz, hält den Betrieb am Laufen und bewahrt das Vertrauen von Kundschaft und Öffentlichkeit. Für Betreiber kritischer Infrastrukturen ist sie zudem Teil ihrer Sorgfaltspflicht [optional: und für viele Unternehmen mit NIS2 eine gesetzliche Pflicht, für die die Geschäftsleitung Verantwortung trägt]. Vorstände und Geschäftführer sollten ihre Sicherheitsteams deshalb nicht nur fragen, ob das Unternehmen die gängigen Compliance-Vorgaben erfüllt, sondern auch, ob der Betrieb weiterläuft und Menschen sicher bleiben, wenn ein autonomer Agent oder ein Angreifer in die Systeme eindringt.

Um die KI-Bedrohungslage in den Griff zu bekommen, braucht es einen automatisierten, präventionsorientierten Ansatz. Unternehmen müssen sehen können, welche KI-Agenten, Bots und anderen nicht-menschlichen Identitäten auf ihre Systeme zugreifen. Zugriffe sollten nach dem Least-Privilege-Prinzip vergeben werden, sodass alles, was in ein System gelangt, nur das erreicht, was es tatsächlich braucht. Und Kontrollmechanismen müssen ungewöhnliches Verhalten in Echtzeit unterbinden, statt es erst Wochen oder Monate später aufzudecken. Automatisierung hilft überlasteten Sicherheitsteams, Schritt zu halten, und verschafft ihnen Freiraum für die Entscheidungen, die das Unternehmen schützen. Wer KI-Agenten selbst entwickelt oder einsetzt, braucht zudem klare Verantwortlichkeiten und muss Vorfälle schnell offenlegen, damit Betroffene handeln können. Unternehmen sollten nicht auf die Ergebnisse der Untersuchungen in Australien warten, um zu prüfen, wie ihre eigenen Systeme einem autonomen Agenten standhalten würden.