Die Entwicklung von Künstlicher Intelligence (KI) führt zu neuen Bedrohungsszenarien, die mit alternativen Konzepten adressiert werden müssen. In dieser Artikel Serie finden sich Ideen und Konzepte aus den Erfahrungen meiner Tätigkeiten im Security Umfeld und insbesondere aus dem Aufbau eines SOC bei einem Managed Security Service Provider (MSSP).
Das digitale Immunsystem: Wie AI-Agenten Security resilient machen
Cybersecurity wird traditionell stark aus der Perspektive von Schutz und Prävention gedacht: Firewalls sollen Angriffe abwehren, Endpoint Security soll Malware erkennen, SIEM-Systeme sollen verdächtige Aktivitäten melden und Security-Teams sollen auf Incidents reagieren.
Doch diese Perspektive hat eine fundamentale Schwäche: Kein noch so gutes Security-System verhindert alle Angriffe.
Die entscheidende Frage ist deshalb nicht nur:
Wie verhindern wir, dass ein Angreifer in unsere Infrastruktur eindringt?
Sondern:
Was passiert, wenn es ihm gelingt?
Genau hier lässt sich eine interessante Verbindung zwischen biologischer Resilienz und moderner IT-Security herstellen. Ein biologischer Organismus ist nicht resilient, weil er niemals verletzt wird. Er ist resilient, weil er Verletzungen erkennt, ihre Ausbreitung begrenzt, Gegenmassnahmen einleitet, beschädigte Strukturen regeneriert und aus vergangenen Bedrohungen lernt.
Übertragen auf die IT entsteht daraus die Vision eines digitalen Immunsystems – einer Security-Architektur, die durch AI-Agenten adaptiv, kontextbezogen und zunehmend autonom auf Bedrohungen reagieren kann.
Vom Schutzsystem zum adaptiven Immunsystem
Das biologische Immunsystem arbeitet nicht nach dem simplen Prinzip:
„Alles Unbekannte wird blockiert.“
Es beobachtet den Organismus, erkennt Abweichungen, bewertet deren Bedeutung, mobilisiert Ressourcen, isoliert Bedrohungen und passt sich an.
Eine resiliente Security-Architektur sollte ähnlich funktionieren:
Damit wird Security zu einem geschlossenen Regelkreis.
AI-Agenten können dabei die adaptive Komponente dieses Regelkreises bilden. Sie verbinden Informationen aus unterschiedlichen Security- und Infrastrukturquellen, bilden Hypothesen, bewerten Risiken und können – innerhalb definierter Grenzen – Gegenmassnahmen auslösen.
Security-Agenten als künstliche Immunzellen
Der erste Schritt ist die Wahrnehmung.
Ein moderner Security-Agent sollte nicht nur einen einzelnen Log-Eintrag betrachten. Er sollte Informationen aus möglichst vielen relevanten Bereichen zusammenführen:
- Identitäten
- Endpoints
- Netzwerk
- Cloud
- Anwendungen
- Daten
- SaaS-Systeme
- IAM
- Logs
- Metrics
- Traces
- Threat Intelligence
- historische Incidents
Dadurch entsteht ein wesentlich umfassenderes Bild des Systemzustands.
Ein einzelnes Ereignis kann vollkommen harmlos sein:
Login aus einem neuen LandEin anderes ebenfalls:
Neues GerätOder:
Ungewöhnliche API-NutzungZusammen können diese Signale jedoch eine völlig andere Bedeutung bekommen:
Hier liegt eine der grossen Stärken von AI: Nicht jedes Signal muss isoliert betrachtet werden. Der Agent kann Zusammenhänge zwischen Ereignissen, Identitäten, Systemen und Verhalten herstellen.
Die Identität als zentrale Einheit
Eine solche Architektur sollte nicht primär in Events denken, sondern in Entitäten und Beziehungen.
Beispielsweise:
Der Agent kennt damit nicht nur einzelne Ereignisse, sondern den Kontext:
- Wem gehört die Identität?
- Welches Gerät verwendet sie?
- Welche Systeme erreicht sie?
- Welche Berechtigungen besitzt sie?
- Wie sieht ihr normales Verhalten aus?
- Welche Beziehungen bestehen zu anderen Systemen?
Security wird dadurch von einer reinen Event Detection zu einer Behavior- und Relationship-Analyse.
Der Agent fragt nicht mehr nur:
„Ist dieses Ereignis verdächtig?“
Sondern:
„Ist dieses Verhalten für diese Identität, dieses Gerät, diese Zeit, diese Umgebung und diese Systembeziehungen plausibel?“
Containment statt nur Detection
Eine der wichtigsten Lehren aus der Biologie lautet:
Erkennen allein reicht nicht. Die Ausbreitung muss begrenzt werden.
Wenn eine einzelne Zelle infiziert ist, versucht der Organismus zu verhindern, dass sich die Infektion auf den gesamten Körper ausbreitet.
In der IT entspricht das dem Konzept des Containment.
Wird beispielsweise eine Identität kompromittiert, könnte ein Security-Agent innerhalb von Sekunden:
Dabei muss der Agent nicht zwingend wissen, welche konkrete Malware oder welches Angriffstool verwendet wird.
Entscheidend kann bereits die Erkenntnis sein:
Dieses Verhalten ist ungewöhnlich genug und das potenzielle Risiko hoch genug, dass eine sofortige Begrenzung der Ausbreitung erforderlich ist.
Das ist ein fundamentaler Unterschied zu Security-Modellen, die primär auf Signaturen und bekannten Angriffsmustern basieren.
Blast Radius als zentrale Security-Metrik
Damit entsteht ein weiterer wichtiger Begriff: Blast Radius.
Die entscheidende Frage lautet:
Wie weit kann sich ein erfolgreicher Angriff von einem einzelnen kompromittierten Einstiegspunkt aus ausbreiten?
Ein Security-Agent könnte kontinuierlich solche Angriffspfade analysieren:
Eine Identität, die auf zwölf Systeme zugreifen und über mehrere Pfade Production erreichen kann, stellt ein strukturelles Resilienzproblem dar – selbst wenn aktuell kein Angriff stattfindet.
Damit wird Security proaktiv.
Der Agent fragt:
„Was könnte passieren, wenn diese Identität kompromittiert wird?“
statt nur:
„Wurde diese Identität bereits kompromittiert?“
Das verschiebt den Fokus von Incident Detection hin zu Attack Surface und Resilience Management.
Der geschlossene Regelkreis
Die zentrale Architektur lässt sich als kontinuierlicher Regelkreis darstellen:
Diese Schleife ist wichtiger als jeder einzelne Agent.
Ein Agent ist nur dann wirklich wertvoll, wenn er Teil eines Systems ist, das wahrnimmt, handelt und die Wirkung seiner Handlung überprüft.
Mehrere spezialisierte Agenten statt eines Super-Agenten
Eine solche Architektur muss nicht aus einem einzigen allwissenden Security-Agenten bestehen.
Im Gegenteil: Eine verteilte Architektur mit spezialisierten Agenten bietet erhebliche Vorteile.
Sentinel Agent
Beobachtet die Umgebung und erkennt Anomalien.
Identity Agent
Analysiert Identitäten, Sessions, Berechtigungen und Zugriffsverhalten.
Endpoint Agent
Beobachtet Geräte, Prozesse und lokale Aktivitäten.
Network Agent
Analysiert Kommunikationsmuster und mögliche laterale Bewegungen.
Cloud Agent
Überwacht Cloud-Ressourcen, Konfigurationen und Aktivitäten.
Threat Intelligence Agent
Verknüpft externe Bedrohungsinformationen mit internen Beobachtungen.
Incident Agent
Korreliert Ereignisse und entwickelt Angriffshypothesen.
Containment Agent
Führt definierte Isolations- und Eindämmungsmassnahmen aus.
Recovery Agent
Unterstützt bei Rebuild, Restore und Wiederherstellung.
Security Architect Agent
Sucht nach strukturellen Schwachstellen und langfristigen Resilienzproblemen.
Darüber steht möglicherweise ein Resilience Agent, der das Gesamtsystem betrachtet.
Das Security-Gedächtnis
Ein biologisches Immunsystem besitzt Gedächtnis. Nach einer Infektion ist der Organismus nicht exakt derselbe wie vorher.
Auch ein digitales Immunsystem sollte aus vergangenen Incidents lernen.
Dafür braucht es ein gemeinsames Security Memory:
Der Agent kann damit Fragen beantworten wie:
- Haben wir dieses Verhalten bereits gesehen?
- Welche Systeme waren damals betroffen?
- Welche Reaktion wurde durchgeführt?
- Hat diese Reaktion funktioniert?
- Welche Nebenwirkungen gab es?
- Welche Detection wurde danach angepasst?
Damit wird jeder Incident potenziell zu einer Verbesserung des Immunsystems.
Von Regeln zu Hypothesen
Klassische Security-Systeme funktionieren häufig regelbasiert:
AI-Agenten können einen anderen Ansatz verfolgen:
Beispielsweise:
„Mehrere schwache Signale deuten auf eine mögliche Kompromittierung dieser Identität hin.“
Der Agent kann anschliessend aktiv nach weiterer Evidenz suchen.
Das ist entscheidend.
Ein guter Security-Agent sollte nicht nur auf Informationen reagieren, sondern auch gezielt Informationen beschaffen, die für seine Entscheidung fehlen.
Er wird damit vom passiven Alarmempfänger zum aktiven Ermittler.
Self-Healing Security
Die Kombination aus Detection, AI, Automation und Recovery führt schliesslich zu einem sehr interessanten Konzept:
Self-Healing Security.
Nehmen wir an, eine Workstation wurde kompromittiert.
Ein klassisches Security Operations Center könnte folgenden Prozess durchlaufen:
Ein agentisches System könnte dagegen einen kontinuierlichen Prozess ausführen:
Der Mensch wird damit nicht überflüssig.
Aber seine Rolle verändert sich.
Statt jeden einzelnen Schritt manuell auszuführen, überwacht er zunehmend die Regeln, Grenzen und Ziele des Systems.
Chaos Engineering für Security
Ein digitales Immunsystem sollte nicht nur auf reale Angriffe warten.
Es sollte seine eigenen Fähigkeiten testen.
Daraus ergibt sich die Verbindung von AI-Agenten und Security Chaos Engineering.
Der Agent könnte beispielsweise fragen:
„Was passiert, wenn diese privilegierte Identität kompromittiert wird?“
oder:
„Wie weit kann sich ein kompromittierter Endpoint in unserer aktuellen Architektur bewegen?“
Daraus kann er eine Hypothese erstellen:
Anschliessend wird – innerhalb eines kontrollierten Rahmens – getestet, ob diese Annahme tatsächlich stimmt.
Das Ergebnis:
Damit wird Security nicht nur reaktiv.
Das System sucht aktiv nach seinen eigenen Schwächen.
Resilience Debt
Ein weiterer interessanter Gedanke ist die Einführung einer Art Resilience Debt.
Ein System kann technisch funktionieren und trotzdem strukturell fragil sein.
Beispielsweise:
Ein AI-Agent könnte daraus automatisch Risiken identifizieren:
„Service A besitzt zwar Backups, deren Wiederherstellung wurde jedoch seit sechs Monaten nicht validiert.“
Oder:
„Identity A besitzt weiterhin einen direkten Pfad nach Production, obwohl dieser Zugriff für ihre Funktion nicht erforderlich ist.“
Damit wird Security von einer Frage des aktuellen Zustands zu einer Frage der kontinuierlichen strukturellen Gesundheit.
Autonomie braucht Grenzen
Je autonomer ein Security-Agent wird, desto wichtiger wird eine klare Trennung zwischen Entscheidungsfähigkeit und Handlungsmacht.
Ein Agent sollte nicht einfach Root-Zugriff auf die gesamte Infrastruktur bekommen.
Stattdessen braucht es abgestufte Autonomie:
Beispielsweise:
Niedriges Risiko
Eine einzelne Session beenden.
→ automatisch.
Mittleres Risiko
Eine Identität temporär auf Read-Only setzen.
→ automatisiert, aber mit Audit und Reversal.
Hohes Risiko
Zugriff einer privilegierten Identität auf Production sperren.
→ möglicherweise Human-in-the-loop.
Kritisches Risiko
Globale Firewall- oder Identity-Policies verändern.
→ nicht aufgrund einer isolierten AI-Entscheidung.
Das grundlegende Prinzip lautet:
AI darf innerhalb definierter Grenzen entscheiden. Sie darf ihre eigenen Grenzen jedoch nicht verändern.
Policy Engines, IAM, technische Guardrails und deterministische Kontrollmechanismen bilden deshalb die Sicherheitsgrenzen des agentischen Systems.
Security wird damit zu einem adaptiven Regelkreis
Aus diesen Prinzipien entsteht ein neues Architekturmodell:
Der entscheidende Unterschied zu klassischen Security-Architekturen ist der Closed Loop.
Die Infrastruktur liefert Informationen.
AI interpretiert sie.
Das System reagiert.
Die Wirkung wird gemessen.
Die Erkenntnisse fliessen zurück.
Und der nächste Entscheidungszyklus beginnt.
Das Gesamtbild: Das digitale Immunsystem
Damit lässt sich die Vision in sieben Fähigkeiten zusammenfassen:
- Observe – Die Umgebung kontinuierlich wahrnehmen.
- Understand – Ereignisse in Kontext setzen.
- Detect – Anomalien und Bedrohungen erkennen.
- Contain – Ausbreitung und Blast Radius begrenzen.
- Recover – kompromittierte Systeme regenerieren.
- Learn – aus Incidents und Tests lernen.
- Adapt – die eigene Abwehr kontinuierlich verbessern.
Das Ergebnis ist mehr als ein SOC mit AI-Unterstützung.
Es ist ein anderes Verständnis von Security:
Security wird von einem statischen Schutzmechanismus zu einem adaptiven biologischen System.
Von Detection & Response zu Security Resilience
Die klassische Frage lautet:
„Wie erkennen wir einen Angriff?“
Die nächste Generation fragt:
„Wie schnell erkennen wir ihn?“
Die resiliente Generation geht noch einen Schritt weiter:
„Wie weit kann er sich ausbreiten, wie schnell können wir ihn begrenzen, wie schnell können wir uns regenerieren und was lernen wir daraus?“
Das verändert auch die wichtigste Kennzahl.
Nicht nur:
Mean Time to Detect (MTTD)
und:
Mean Time to Respond (MTTR)
sondern zunehmend:
- Blast Radius
- Time to Containment
- Time to Recovery
- Recovery Confidence
- Resilience Debt
- Adaptive Capacity
Die Frage ist damit nicht mehr nur, ob ein Angriff erfolgreich war.
Die Frage ist:
Wie viel Schaden kann ein Angriff in unserem System überhaupt anrichten?
Schluss: Vom digitalen Schutzwall zum digitalen Immunsystem
Ein biologischer Organismus ist nicht deshalb resilient, weil er unverletzlich ist.
Er ist resilient, weil er mit Verletzlichkeit umgehen kann.
Er erkennt Veränderungen, reagiert auf sie, isoliert Gefahren, mobilisiert Ressourcen, repariert Schäden und verändert sich durch Erfahrung.
Genau dieses Modell lässt sich auf moderne IT-Security übertragen.
AI-Agenten könnten dabei die adaptive Schicht bilden:
- Sie beobachten die Infrastruktur.
- Sie verstehen Zusammenhänge.
- Sie bilden Hypothesen.
- Sie suchen aktiv nach Evidenz.
- Sie bewerten Risiken.
- Sie begrenzen Bedrohungen.
- Sie initiieren Recovery.
- Sie testen die eigene Widerstandsfähigkeit.
- Sie lernen aus vergangenen Ereignissen.
- Und sie verbessern kontinuierlich die Sicherheitsarchitektur.
Damit entsteht die Vision eines digitalen Immunsystems:
Eine resiliente Security-Architektur ist ein adaptives, verteiltes Immunsystem, das seine Umgebung kontinuierlich beobachtet, Anomalien kontextualisiert, Bedrohungen lokalisiert, deren Ausbreitung begrenzt, sich nach Kompromittierung regeneriert und aus jedem Vorfall seine zukünftige Abwehr verbessert.
Die entscheidende Herausforderung liegt dabei nicht allein in der Leistungsfähigkeit von AI.
Sie liegt darin, Autonomie, Vertrauen und Kontrolle richtig zu gestalten.
Denn ein digitales Immunsystem muss schnell genug reagieren, um Angriffe in Sekunden zu begrenzen – aber kontrolliert genug bleiben, damit die eigene Abwehr nicht selbst zur Bedrohung wird.
Genau an diesem Punkt beginnt die nächste Generation von Cybersecurity: nicht bei der Frage, wie wir Angriffe verhindern, sondern wie wir Systeme bauen, die trotz Angriffen funktionsfähig, lernfähig und regenerierbar bleiben.