Das Weiße Haus verliert keine Zeit und bereitet sich auf die Flut von Zero-Day-Schwachstellen vor, die voraussichtlich durch fortschrittliche KI-Tools aufgedeckt werden.

Am 2. Juni unterzeichnete Präsident Trump die Exekutivanordnung 14409 zur Förderung von Innovationen und Sicherheit im Bereich der fortgeschrittenen künstlichen Intelligenz . Damit soll eine Partnerschaft zwischen KI-Anbietern und Betreibern kritischer nationaler Infrastrukturen (KRITIS) zur Bekämpfung von Sicherheitslücken geschaffen werden.

Die Exekutivanordnung forderte die Einrichtung einer zentralen Anlaufstelle für KI-Cybersicherheit, die KI-Anbieter mit Akteuren der kritischen Infrastruktur zusammenbringen sollte. Das Projekt, das Mitte Juli offiziell unter dem Namen „Gold Eagle“ angekündigt wurde , konzentriert sich auf den Einsatz KI-gestützter Schwachstellenanalysen zur Absicherung kritischer Infrastrukturen.

Die Regierung hat schnell gehandelt: Das Finanzministerium (das diese Bemühungen leitet), die NSA und die CISA haben innerhalb von 30 Tagen nach Veröffentlichung der Exekutivanordnung die zentrale Anlaufstelle eingerichtet.

Die Initiative ist so breit angelegt, dass sich viele Menschen beteiligen können. Nicht nur Entwickler proprietärer Modelle sind eingeladen, teilzunehmen. Auch Open-Source-Modelle sind willkommen. Im Bereich der kritischen Infrastrukturen (CNI) werden ländliche Krankenhäuser, lokale Banken und Versorgungsunternehmen vorrangig von KI-Anbietern unterstützt, um Fehler in ihrer Infrastruktur zu finden und diese zu verbessern.

Die Exekutivanordnung setzt die deregulierende Linie der Regierung im Bereich KI fort und befreit Entwickler von KI-Modellen offiziell von der Lizenzpflicht für die Veröffentlichung ihrer Software sowie von der Pflicht, anderweitig Genehmigungen einzuholen. Dies bedeutet eine Abkehr vom KI-Ansatz der Biden-Ära. Die Vorgängerregierung hatte die Meldung von KI-Modellen durch Entwickler per Exekutivanordnung vorgeschrieben, die von der jetzigen Regierung aufgehoben wurde.

Mangelnde Rechenschaftspflicht Dritter

Diese Maßnahme ist zwar einerseits positiv für Organisationen mit kritischer Infrastruktur, führt aber andererseits zu einem Ungleichgewicht. Da es sich um ein freiwilliges Programm für KI-Betreiber handelt, sind diese weitgehend von Kontrollen ausgenommen. Die NSA wird ein Benchmarking-Verfahren durchführen, um KI-Modelle hinsichtlich ihres Status als „geschützt“ zu bewerten. Die Regierung erhält frühzeitigen Zugriff auf diese Modelle und wird auch mitentscheiden, welche anderen Partner ebenfalls frühzeitigen Zugriff erhalten. Das Benchmarking-Verfahren selbst ist jedoch geheim.

Banken, Krankenhäuser und Versorgungsunternehmen unterliegen strengen Regeln zur Durchsetzung der Cybersicherheit sowohl innerhalb ihrer eigenen Infrastruktur als auch in ihren Lieferketten. Es scheint jedoch unklar, wie sie dasselbe von ihren KI-Partnern fordern werden oder ob von ihnen erwartet wird, dass sie die Genehmigung dem Direktor der NSA überlassen.

„Die Kriterien werden nicht den üblichen Verfahren der öffentlichen Bekanntmachung und Kommentierung unterliegen, die bei der Festlegung von Bundesstandards üblicherweise auftreten“, heißt es in einer Analyse der Anwaltskanzlei Ropes & Gray.

Die Notwendigkeit der KI-gestützten Überprüfung der Lieferkette

Auf einer übergeordneten Ebene ist eine Initiative wie diese sinnvoll, angesichts der rasanten Entwicklung von KI-Modellen mit Fokus auf Bedrohungserkennung. So sind bereits mehrere Zero-Day-Schwachstellen durch das Projekt Glasswing aufgetaucht, ein Anthropic-Projekt, in dem das Unternehmen mit Industriepartnern zusammenarbeitete, um mithilfe seines fortschrittlichen Mythos-Modells Software-Schwachstellen aufzuspüren.

Das Programm unterstreicht jedoch auch die Notwendigkeit weiterentwickelter Governance-Richtlinien, die einer neuen Ebene von durch KI hervorgerufenen Risiken Rechnung tragen.

Zu diesen Risiken zählen die Entdeckung und Ausnutzung neuer Bedrohungen durch KI-Modelle. Eine BCG- Umfrage aus dem Jahr 2026 ergab, dass über ein Drittel der Unternehmen in den vorangegangenen zwölf Monaten „erhebliche Auswirkungen“ durch KI-gestützte Angriffe verzeichneten.

Die rasante Entwicklung und Verbreitung von KI birgt auch unbeabsichtigt Sicherheitslücken. Neben den Risiken der internen KI-gestützten Softwareentwicklung weist BCG darauf hin, dass KI die Abhängigkeit von Unternehmen von Drittanbietern erhöht – von Cloud-Anbietern über Modellanbieter bis hin zu Tools mit integrierten KI-Funktionen. Diese erweiterte Lieferkette vergrößert die Angriffsfläche.

Der Aufstieg autonomer, agentenbasierter KI verschärft das Problem nur noch. Das britische AI ​​Security Research Institute hat festgestellt, dass KI-Agenten im Internet unautorisierte Aktionen durchführen, die sich gegen reale Personen und Organisationen richten.

Ein Aufruf zu KI-Governance und Lieferantensicherung

Rahmenwerke für Cybersicherheit und Kontrollen sind ein bewährtes Instrument zur Strukturierung von Reaktionsprozessen. Das Nationale Institut für Standards und Technologie (NIST) hat kürzlich im Rahmen seines KI-Risikomanagement-Rahmenwerks (RMF) das Konzept „Vertrauenswürdige KI in kritischen Infrastrukturen“ für ein neues Profil vorgeschlagen. Damit soll ein offizielles Vokabular geschaffen werden, um zu definieren, was vertrauenswürdige KI bedeutet. Es soll dargelegt werden, welche Risiken angegangen werden müssen und welche Nachweise für Risikominderungsmaßnahmen erforderlich sind. So wird Vertrauenswürdigkeit zu einer vertraglichen, überprüfbaren Anforderung zwischen Betreiber und Anbieter.

Die CNI-Sektoren haben bereits damit begonnen, Leitfäden zur Bekämpfung von KI-Risiken Dritter und zur Transparenz der Lieferkette zu entwickeln, wie beispielsweise den Leitfaden des Health Sector Coordinating Council zu KI-Risiken und Transparenz der Lieferkette.

ISO-Normen bieten eine Grundlage für die KI-Konformität

Es gibt weitere Kontrollrahmen, die sich gut mit dem KI-RMF ergänzen. In einer Analyse des RMF nach dessen Ankündigung erklärte Jessica Newman, Co-Direktorin des AI Policy Hub der UC Berkeley, dass der Rahmen des NIST mit dem ISO/IEC-23894-Standard zur Bewertung der Konformität mit den Common Criteria for Information Technology Security Evaluation kompatibel sei. Er stehe außerdem im Einklang mit dem EU-KI-Gesetz, fügte sie hinzu.

Es gibt auch andere Rahmenwerke, die Organisationen nutzen können, um die Lieferkettenrisiken von KI zu managen, wie zum Beispiel den NIST-Leitfaden SP 800-161 zur Identifizierung und Minderung von Cyberrisiken in der Lieferkette.

Mehrere sich ergänzende ISO-Normen können Unternehmen dabei helfen, die komplexen Abhängigkeiten von KI zu bewältigen, die heute den meisten Unternehmensanwendungen zugrunde liegen. Insbesondere das Rahmenwerk ISO/IEC 42001:2023 für KI-Managementsysteme (AIMS) verfolgt einen umfassenden Ansatz für die KI-Governance und schließt Modelle und Tools von Drittanbietern mit ein.

ISO/IEC 5338 bietet einen ganzheitlichen Ansatz für die Governance von KI-Systemen über ihren gesamten Lebenszyklus hinweg und berücksichtigt dabei Faktoren wie das Modellmanagement der Anbieter. Angesichts der Geschwindigkeit, mit der Anbieter ihre Modelle und Trainingsdaten sowohl bei offenen als auch bei geschlossenen Modellen aktualisieren, ist dies ein nützliches Werkzeug.

Auch wenn nicht jeder mit dem zurückhaltenden Regulierungsansatz des Weißen Hauses einverstanden sein mag, ist dessen Haltung zur Integration von KI-Anbietern und kritischen Infrastrukturen ein fortschrittlicher Schritt im Kampf gegen eine neue Ära KI-gestützter Bedrohungen. Die damit verbundenen Fragen – von der Sicherung geistigen Eigentums bis hin zur Einhaltung strenger Lieferkettenstandards – sollten Organisationen weltweit dazu veranlassen, ihre langfristige Strategie für die Zusammenarbeit mit einem breiten Spektrum an KI- und KI-nahen Anbietern zu überdenken.

Zusammengenommen bieten diese Standards den Beschaffungs-, Sicherheits- und Risikoteams ein gemeinsames Vokabular, um KI-Anbietern die richtigen Fragen zu stellen, und eine Möglichkeit, KI-spezifische Bedenken in die bereits bestehenden Zertifizierungs- und Prüfverfahren zu integrieren.

Erweitern Sie Ihr Wissen

Podcast: Phishing für Ärger S2 E3: Dominoeffekte in der Lieferkette: Warum deren Risiko jetzt auch Ihr Risiko ist

Webinar: Lehren aus einer der weltweit ersten ISO 42001-Zertifizierungen

Blog: Was der nationale KI-Politikrahmen des Weißen Hauses für die Einhaltung der Vorschriften bedeutet