Wie Agentic AI eine neue Risikoklasse für Cybersicherheitsteams schafft

By Nicholas Fearn • 28. April 2026 • Lesezeit: 6 Minuten

Künstliche Systeme, die mit minimalem menschlichen Eingriff denken und Entscheidungen treffen können, bergen sowohl unglaubliches Potenzial als auch Besorgnis für Cybersicherheitsexperten. Diese Technologie, bekannt als agentenbasierte KI, revolutioniert bereits die Arbeitsweise traditioneller Security Operations Center (SOCs), indem sie Bedrohungen priorisiert, um die Alarmmüdigkeit zu reduzieren, Richtlinien an die sich ändernden regulatorischen Rahmenbedingungen anpasst, Cyberangriffe eindämmt und vieles mehr.

Folglich werden Cybersicherheitsexperten nicht durch unnötige Warnmeldungen oder administrative Aufgaben abgelenkt und können sich auf das Wesentliche konzentrieren: die Bekämpfung von Cyberkriminalität. Darüber hinaus kann agentenbasierte KI rund um die Uhr eingesetzt werden, sodass Sicherheitsprobleme auch außerhalb der regulären Arbeitszeiten oder bei Überlastung der Sicherheitsteams erkannt und behoben werden können. Aus diesen Gründen nutzen derzeit 87 % der Cybersicherheitsteams diese Technologie. Priorisierung den Einsatz von agentenbasierter KI in ihren Abteilungen.

Die uneingeschränkte Nutzung von KI in einem so kritischen Bereich der modernen Wirtschaft birgt jedoch Risiken. Da sich agentenbasierte KI noch in den Kinderschuhen befindet, besteht die Möglichkeit, dass sie Risiken falsch kategorisiert oder darauf falsch reagiert. Hinzu kommt, dass Cyberkriminelle... zunehmend Der Einsatz von agentenbasierter KI und ihre zunehmende Verfügbarkeit werden zwangsläufig zu einem Anstieg der Cyberkriminalität führen. Daher ist Vorsicht geboten. Dies wirft die Frage auf: Lohnt sich agentenbasierte KI im Kontext der Cybersicherheit überhaupt?

Agentische KI im SOC

Obwohl sich agentenbasierte KI noch in einem frühen Entwicklungsstadium befindet, hat sie bereits spürbare Auswirkungen auf Cybersicherheitsoperationen. David Warshavski, Mitgründer und Chief Product Officer eines Cybersicherheits-Startups Tonic Sicherheitargumentiert, dass die Technologie über die reine Bereitstellung von Zusammenfassungen von Cyberwarnungen hinausgeht, indem sie fortgeschrittene Aufgaben übernimmt, wie beispielsweise die Koordination überlasteter Sicherheitsanalyseteams.

Warshavski erklärt, dass agentenbasierte Systeme, anstatt Cybersicherheitsexperten lediglich auf verdächtige Aktivitäten aufmerksam zu machen, durch die Kombination verschiedener Datenpunkte einen umfassenden Überblick über das jeweilige Problem bieten können. Durch die Analyse von Daten – von historischen Vorfällen und Schwachstellen bis hin zu Support-Tickets und Konfigurationsmanagement-Datenbanken – kann die Technologie Cybersicherheitsteams helfen, Vorfälle gründlich zu untersuchen und die zuständigen Verantwortlichen zu ermitteln. Er fügt hinzu: „Dieser detaillierte Kontext erspart Analysten viel unnötige Arbeit.“

Ein weiterer Bereich des Security Operations Centers, in dem agentenbasierte KI bedeutende Fortschritte erzielt, ist die Behebung von Sicherheitsvorfällen. Laut Warshavski beginnen solche Systeme, „stark fehlerhafte Arbeitsabläufe“ zu optimieren. Sie können die Eigentümer gefährdeter Assets ermitteln, die richtigen Support-Tickets erstellen, alle verfügbaren Kontextinformationen erfassen, zwischen internet- und identitätsbasierten Assets unterscheiden und – ganz entscheidend – sicherstellen, dass Vorfälle tatsächlich behoben werden.

KI-Systeme identifizieren Cyberbedrohungen jedoch nicht nur, sondern reagieren laut Rob O'Connor, Chief Information Security Officer für EMEA beim IT-Beratungsunternehmen Insight, sogar autonom darauf. Er erklärt, dass diese Technologien sofort auf Cyberrisiken reagieren können, beispielsweise durch das Blockieren schädlichen Datenverkehrs, und dabei kein menschliches Eingreifen erfordern.

Darüber hinaus können Unternehmen laut seiner Aussage KI-Agenten in ihre bestehenden Cybersicherheitssysteme integrieren, darunter auch SOAR-Plattformen (Security Orchestration, Automation and Response). Dadurch profitieren sie von Funktionen wie „Prompt Scanning“ und „Datenklassifizierung“. Dies, so seine Aussage, gewährleiste den Schutz sensibler Daten.

Eine neue Risikoklasse

Obwohl agentenbasierte KI-Systeme das Potenzial haben, Cybersicherheitsoperationen in einem noch nie dagewesenen Ausmaß zu optimieren, argumentieren Experten, dass sie auch eine neue Art von Risiko mit sich bringen, das Organisationen ernst nehmen müssen.

Jake Moore, globaler Cybersicherheitsberater beim Antivirensoftwarehersteller ESET, warnt davor, dass die Gewährung von Autonomie für diese Technologien in einer noch jungen Phase „unweigerlich“ zu Fehlern führen wird. Er sagt: „KI wird sich mit zunehmender Nutzung natürlich verbessern, aber diese frühen Phasen zeigen uns, dass Fehler passieren können, und zwar oft in großem Umfang.“

O'Connor von Insight ist ebenfalls besorgt über die potenziellen Risiken des Einsatzes von agentenbasierter KI in der Cybersicherheitsabteilung. Er warnt davor, dass mit zunehmender Verantwortung, Autonomie und Zugriffsberechtigung dieser Systeme innerhalb der Cybersicherheitsteams die Angriffsfläche von Organisationen wahrscheinlich gleichzeitig steigen wird. Folglich könnten sie Opfer von „Prompt Injections und Datenlecks“ werden.

Laut Warshavski von Tonic Security können auch menschliche Fehler dazu führen, dass KI-gesteuerte Systeme Fehlfunktionen aufweisen. Er erklärt, dass Probleme auftreten können, wenn die Umgebung, in der ein KI-Agent arbeitet, falsch definiert oder ihm zu viele Berechtigungen erteilt werden. „Das ist eine neue Risikoklasse – nicht nur fehlerhafte Ergebnisse, sondern vor allem fehlerhafte Aktionen sind besorgniserregend.“

Gute Regierungsführung ist unerlässlich.

Angesichts des Risikos, das agentenbasierte KI-Systeme für Cybersicherheitsteams und ihre Organisationen insgesamt darstellen können, sind Gegenmaßnahmen und robuste Governance-Rahmenwerke eindeutig erforderlich.

Doch wie Moore von ESET betont, stellt genau das eine Herausforderung dar. Da diese Technologien nicht so kontrolliert und zur Rechenschaft gezogen werden können wie Menschen, muss die Branche Risiken bewerten und Schutzmechanismen von Grund auf neu entwickeln. Seiner Ansicht nach wird dies „Zeit in Anspruch nehmen“.

Obwohl die neuen Risiken durch agentenbasierte KI eine Herausforderung darstellen, haben einige Experten bereits Ideen, wie man ihnen begegnen kann. Laut O'Connor von Insight wäre ein guter Ausgangspunkt die Entwicklung und Implementierung eines Rahmenwerks, das die Systeme beschreibt, auf die agentenbasierte KI zugreifen kann, und die beabsichtigten Aktionen, die sie ausführen kann.

„Um einen solchen Rahmen zu schaffen, sollten Organisationen ihre Risiken bewerten, festlegen, wo KI unterstützend eingesetzt werden darf, unterstützende Schutzmechanismen hinzufügen, Prüfmaßnahmen einführen und die Einhaltung der Branchenvorschriften überprüfen“, empfiehlt er.

Wenn es um die Steuerung agentenbasierter KI-Systeme geht, fordert Warshavski von Tonic Security Organisationen auf, festzulegen, welche Personen den Agenten die Ausführung von Aufgaben gestatten, auf welche Systeme und Daten sie zugreifen können, wann eine menschliche Genehmigung erforderlich ist und wer zur Rechenschaft gezogen werden muss, wenn diese Technologien Fehler machen.

Obwohl die Beantwortung dieser Fragen von größter Bedeutung ist, betont Warshavski, dass Cybersicherheits- und KI-Teams sie nicht allein lösen können. Vielmehr benötigen sie eine enge Zusammenarbeit zwischen Sicherheits-, IT-, Rechts-, Compliance-, Entwicklungs- und Betriebsteams. Er fügt hinzu: „Andernfalls riskieren wir, zum klassischen Unternehmensmuster zurückzukehren: leistungsstarke Technologie, die ohne klare Zuständigkeit in einen Arbeitsablauf integriert wird.“

Im Bereich der agentenbasierten KI und Cybersicherheit gibt es viel Grund zur Freude. KI-Agenten unterstützen Cybersicherheitsteams bei der Bewältigung der zunehmenden Online-Bedrohungen durch Anwendungsfälle wie die automatisierte Bedrohungsanalyse und helfen ihnen dank automatisierter Richtlinienanpassungen, ihre stetig wachsende Liste regulatorischer Verpflichtungen zu erfüllen.

Doch gleichzeitig birgt diese Technologie auch einige Bedenken. Sie ist noch ein relativ neues Gebiet der KI, und wie zahlreiche Experten warnen, sind Fehler unvermeidlich. Deshalb ist eine gute Steuerung so wichtig. Die Realität sieht jedoch so aus, dass die Entwicklung von Steuerungsrahmen für eine Technologie, über die die meisten Menschen noch sehr wenig wissen, keine leichte Aufgabe sein wird und sicherlich nicht über Nacht geschehen wird.