Was ist KI-Risikomanagement?
KI-Risikomanagement ist der strukturierte, wiederholbare Prozess, mit dem eine Organisation Risiken identifiziert, bewertet, behandelt und überwacht, die aus der Entwicklung, Bereitstellung oder Nutzung von KI-Systemen entstehen. Es umfasst den gesamten Lebenszyklus eines KI-Systems, von der Problemdefinition und Datenbeschaffung über Modelldesign, Validierung und Implementierung bis hin zur endgültigen Außerbetriebnahme.
Anders als bei traditionellen Informationssicherheitsrisiken, die sich primär auf Vertraulichkeit, Integrität und Verfügbarkeit von Informationen konzentrieren, muss das KI-Risikomanagement ein breiteres Spektrum an Bedenken berücksichtigen. Modellverzerrungen, mangelnde Erklärbarkeit, Datenabweichungen, Missbrauch von Ergebnissen, gesellschaftliche Auswirkungen und das Verhalten von Drittmodellen fallen allesamt in diesen Bereich. Deshalb ISO 42001 erfordert einen eigens dafür entwickelten KI-Risikobewertungsprozess, anstatt KI-Risiken in ein bestehendes Informationssicherheitsregister zu integrieren.
Praktisch gesehen beantwortet das KI-Risikomanagement vier Fragen für jeden KI-Anwendungsfall im Unternehmen:
- Was könnte bei diesem KI-System schiefgehen, für wen und wie schwerwiegend?
- Wie wahrscheinlich ist jedes dieser Ergebnisse angesichts der bereits vorhandenen Kontrollmechanismen?
- Was werden wir gegen die Risiken unternehmen, die unsere Toleranzgrenze überschreiten?
- Woran werden wir nach der Implementierung erkennen, ob unsere Bewertung noch gültig ist?
Wenn es gut gemacht ist, gibt es dem Vorstand, dem KI-Governance-Ausschussund den Ingenieurteams eine gemeinsame Sichtweise darauf zu vermitteln, welche KI-Initiativen sicher fortgesetzt werden können, welche zusätzliche Kontrollen erfordern und welche pausiert oder neu definiert werden sollten.
Wie geht ISO 42001 mit KI-Risiken um (Abschnitt 6.1.2 vs. Abschnitt 6.1.4)?
ISO 42001 unterteilt das KI-Risikomanagement in zwei miteinander verbundene, aber unterschiedliche Aktivitäten, und deren Vermischung ist einer der häufigsten Implementierungsfehler.
Klausel 6.1.2 — KI-Risikobewertung. Dies ist die traditionelle Risikoperspektive, die sich auf die Organisation selbst konzentriert. Sie identifizieren KI-bezogene Risiken, analysieren deren Eintrittswahrscheinlichkeit und Folgen anhand Ihrer organisatorischen Risikokriterien und entscheiden über deren Behandlung. Dieser Prozess füllt Ihr KI-Risikoregister.
Klausel 6.1.4 — Folgenabschätzung für KI-Systeme. Dies ist die nach außen gerichtete Perspektive. Sie bewertet die potenziellen Auswirkungen eines KI-Systems auf Einzelpersonen, Personengruppen und die Gesellschaft – unter Berücksichtigung von Fairness, Sicherheit, menschlicher Aufsicht und Grundrechten. Anhang A.5 enthält die Kontrollmechanismen, die dies in die Praxis umsetzen. Ausführliche Hinweise finden Sie in unserem entsprechenden Leitfaden. KI-Folgenabschätzungen
Beides ist normativ. Beides muss dokumentiert werden. Beides fließt in Ihre Erklärung zur Anwendbarkeit und dein KI-PolitikSie beantworten jedoch unterschiedliche Fragen, haben unterschiedliche Eingangsdaten und beziehen typischerweise unterschiedliche Interessengruppen ein. Werden sie als eine einzige kombinierte Übung durchgeführt, geht der gesellschaftliche Einfluss oft verloren, und genau darauf achten Prüfer und Aufsichtsbehörden.
Die normativen Richtlinien für beide Aktivitäten befinden sich in Leitfaden zu Anhang BAnhang C bietet informative Hinweise zu KI-bezogenen Risikoquellen und ist eine nützliche Ausgangspunkt-Taxonomie für die erstmalige Erstellung Ihres Registers.
Wie hängt das mit dem Informationssicherheitsrisiko (ISO 27005) zusammen?
KI-Risikomanagement ersetzt nicht das Informationssicherheits-Risikomanagement. Viele KI-Systeme speichern, verarbeiten oder übertragen personenbezogene Daten und werden auf derselben Infrastruktur wie andere regulierte Anwendungen gehostet. ISO 27005 bleibt die maßgebliche Referenz für den Informationssicherheits-Risikomanagementprozess. Das praktische Modell lautet:
- Die Informationssicherheitsrisiken im Zusammenhang mit dem KI-System (Vertraulichkeit, Integrität, Verfügbarkeit von Trainingsdaten, Modellartefakten, APIs) sind im Risikoregister der ISO 27001 aufgeführt.
- KI-spezifische Risiken (Verzerrung, Erklärbarkeit, Drift, unbeabsichtigte Verwendung, gesellschaftlicher Schaden) sind im KI-Risikoregister unter Klausel 6.1.2 aufgeführt.
- Querverweise verknüpfen die beiden Systeme, sodass ein einzelnes Risikoereignis über beide Kanäle hinweg ohne Duplikate verfolgt werden kann.
Das KI-Governance-Lücke Die Lücke zwischen Informationssicherheit und KI-Governance ist genau das, was ISO 42001 Abschnitt 6.1.2 schließen soll.
Wo passt das NIST AI RMF hinein?
Das NIST AI Risk Management Framework (NIST AI RMF) ist ein freiwilliges US-amerikanisches Rahmenwerk, das auf vier Funktionen basiert: Steuerung, Abbildung, Messung und Management. Es ergänzt ISO 42001, anstatt mit ihr zu konkurrieren. Organisationen, die das NIST AI RMF bereits nutzen, können dessen Funktionen direkt den ISO-42001-Klauseln zuordnen (Steuerung entspricht den Klauseln 4 und 5, Abbildung 6.1, Messung 9 und Management den Klauseln 8 und 10). Wenn Sie ein international ausgerichtetes Managementsystem entwickeln, bietet Ihnen ISO 42001 ein zertifizierbares System. Das NIST AI RMF stellt Ihnen eine allgemein anerkannte Terminologie und hilfreiche Leitfäden für die zugrunde liegenden Aktivitäten zur Verfügung.
Alles, was Sie für ISO 42001 brauchen
Strukturierte Inhalte, abgebildete Risiken und integrierte Workflows helfen Ihnen, KI verantwortungsvoll und sicher zu verwalten.
Was sind die Hauptkategorien von KI-Risiken?
Eine gute KI-Risikoklassifizierung verhindert, dass ganze Risikoklassen übersehen werden. Anhang C der ISO 42001 bietet eine informative Liste KI-bezogener Risikoquellen, die die meisten Organisationen an ihre spezifischen Gegebenheiten anpassen. In der Praxis decken acht Kategorien die überwiegende Mehrheit der KI-Risiken ab, und die meisten Einträge in Ihrem Risikoregister lassen sich einer oder mehreren dieser Kategorien zuordnen.
| Kategorie | Beispiel | ISO 42001-Kontrollen | Typische Behandlung |
|---|---|---|---|
| Voreingenommenheit und Fairness | Das Kreditbewertungsmodell benachteiligt systematisch eine geschützte Gruppe | A.6.2.2, A.6.2.4, A.7.4 | Minderung durch ausgewogene Trainingsdaten, Fairnesstests und menschliche Überprüfung |
| Erklärbarkeit und Transparenz | Das medizinische Triage-Modell kann seine Empfehlungen an die Kliniker nicht rechtfertigen. | A.6.2.4, A.8.2, A.8.3 | Minderung durch interpretierbare Modelle, Dokumentation, Modellkarten |
| Sicherheit | Durch einen schnellen Injektionsangriff werden vertrauliche Daten aus einem LLM exfiltriert. | A.6.2.3, A.7.3, A.8.4 | Minderung durch Eingabevalidierung, Schutzmechanismen, Bedrohungsmodellierung |
| Datenschutz | Die Trainingsdaten enthalten personenbezogene Daten, die ohne rechtmäßige Grundlage verwendet werden. | A.7.2, A.7.4, A.8.2 | Risikominderung durch Datenminimierung, Anonymisierung und Angleichung an die Datenschutz-Folgenabschätzung |
| Sicherheit | Autonome Systeme verursachen durch unerwartetes Verhalten physischen Schaden. | A.6.2.4, A.9.3, A.9.4 | Minderung durch Validierung, stufenweise Einführung, Not-Aus-Schalter und menschliche Aufsicht |
| Gesellschaftlich | Das Modell der Inhaltsmoderation verstärkt Fehlinformationen oder unterdrückt legitime Meinungsäußerungen | A.5.2, A.5.3, A.5.4 | Minderung durch Folgenabschätzung, Einbindung der Interessengruppen, laufende Überprüfung |
| Betrieblich | Modelldrift führt dazu, dass die Vorhersagegenauigkeit nach sechs Monaten im Produktionsbetrieb abnimmt. | A.6.2.6, A.6.2.7, A.6.2.8 | Minderung durch Überwachung, Nachschulung von Auslösern, Leistungsschwellenwerte |
| Lieferkette | Der Anbieter des Foundation-Modells ändert sein Verhalten ohne Vorwarnung und beeinträchtigt dadurch einen nachgelagerten Anwendungsfall. | A.10.2, A.10.3, A.10.4 | Minderung durch Lieferantenprüfung, Verträge, Ausweichanbieter |
Die meisten Organisationen verwenden diese Taxonomie als Grundlage ihres KI-Risikoregisters und ergänzen sie um branchenspezifische Kategorien (z. B. fügt der Finanzdienstleistungssektor das Modellrisikomanagement gemäß SR 11-7 hinzu, das Gesundheitswesen die Patientensicherheit). Entscheidend ist, dass jeder KI-Anwendungsfall – wenn auch nur kurz – anhand aller Kategorien geprüft wird, damit keine Risiken versehentlich übersehen werden.
Wie führt man eine KI-Risikobewertung durch?
Der Bewertungsprozess gemäß Abschnitt 6.1.2 folgt dem bekannten PDCA-Zyklus (Planen, Durchführen, Überprüfen, Anpassen) von ISO-Managementsystemen, jedoch mit KI-spezifischen Beiträgen in jeder Phase. Eine praktische, wiederholbare Methode umfasst sechs Schritte.
Schritt 1: Umfang und Risikokriterien definieren
Bevor Sie irgendetwas bewerten, definieren Sie, was in Ihrer Organisation als KI-System gilt (dies sollte bereits in Ihrer Dokumentation enthalten sein). KI-Managementsystem (AIMS) Die Risikobeschreibung sollte die Risikokriterien und die anzuwendenden Risikokriterien umfassen. Zu den Risikokriterien gehören die Wahrscheinlichkeits- und Folgenabschätzungen, die Risikoakzeptanzschwelle und die Kategorien von Folgen, die für Sie relevant sind (finanziell, betrieblich, regulatorisch, reputationsbezogen, sicherheitsrelevant, gesellschaftlich).
Schritt 2: KI-Anwendungsfälle und -Ressourcen identifizieren
Erstellen Sie ein Inventar aller relevanten KI-Systeme. Erfassen Sie für jedes System den Verwendungszweck, die Dateneingaben, den Modelltyp (proprietär, feinabgestimmt, Basismodell eines Drittanbieters), die Benutzer, die betroffenen Parteien, die Einsatzumgebung und die Kritikalität. Dieses Inventar bildet die Grundlage für den weiteren Prozess.
Schritt 3: Risiken mithilfe der Taxonomie identifizieren
Führen Sie jedes KI-System anhand der acht oben genannten Risikokategorien durch. Nutzen Sie die Risikoquellen aus Anhang C, Techniken zur Bedrohungsmodellierung und strukturiertes Brainstorming mit einer funktionsübergreifenden Gruppe (Data Science, Engineering, Sicherheit, Recht, Produktentwicklung und gegebenenfalls der Geschäftsbereich, der die Ergebnisse nutzen wird). Erfassen Sie jedes Risiko als spezifisches Ereignis mit Ursache und Folge, nicht als allgemeine Bezeichnung.
Schritt 4: Wahrscheinlichkeit und Konsequenz analysieren
Bewerten Sie jedes Risiko anhand Ihrer Kriterien. Die Eintrittswahrscheinlichkeit sollte das aktuelle Kontrollumfeld berücksichtigen, nicht den unkontrollierten Zustand. Die Folgenabschätzung sollte alle betroffenen Parteien einbeziehen, nicht nur die Organisation – hier ist die Verbindung zur Folgenabschätzung gemäß Klausel 6.1.4 entscheidend. Dokumentieren Sie Ihre Begründung; ein Prüfer wird fragen, wie Sie zu einer hohen oder niedrigen Bewertung gelangt sind.
Schritt 5: Bewertung anhand der Risikokriterien
Tragen Sie jedes Risiko in Ihre Matrix ein und vergleichen Sie es mit Ihrer Risikoakzeptanzschwelle. Jedes Risiko oberhalb der Schwelle erfordert eine Behandlungsentscheidung. Jedes Risiko, das der Schwelle entspricht oder darunter liegt, kann mit einer expliziten, im Register dokumentierten Begründung akzeptiert werden.
Schritt 6: Dokumentieren und überprüfen
Das KI-Risikoregister ist eine gemäß Klausel 7.5 dokumentierte Information. Es benötigt Verantwortliche, Prüfzyklen, Versionsverlauf und Genehmigung. Es fließt direkt in das … ein. Erklärung zur Anwendbarkeit — Die Kontrollen aus Anhang A werden auf der Grundlage der in diesem Register aufgeführten Risiken ausgewählt und begründet.
Wie gehen Sie mit KI-Risiken um?
Für jedes Risiko oberhalb Ihrer Akzeptanzschwelle erfordert Klausel 6.1.3 eine Behandlungsentscheidung. Es gelten die vier klassischen Optionen, mit KI-spezifischen Besonderheiten:
- Vermeiden. Das KI-System darf nicht entwickelt, eingesetzt oder verwendet werden. Dies ist dann angebracht, wenn das Restrisiko selbst bei strengen Kontrollmaßnahmen inakzeptabel ist (z. B. ein Anwendungsfall, der eine Entscheidung mit erheblichen rechtlichen Auswirkungen auf Einzelpersonen automatisiert, ohne dass ein Mensch in den Entscheidungsprozess eingreift).
- Mildern. Um die Wahrscheinlichkeit, die Folgen oder beides zu reduzieren, werden Kontrollmaßnahmen angewendet. Dies ist die gängigste Vorgehensweise. Die Kontrollmaßnahmen werden aus folgenden Quellen abgeleitet: Anhang A-Kontrollen, ergänzt durch branchen- oder anwendungsfallspezifische Maßnahmen. Typische Risikominderungsmaßnahmen umfassen ausgewogene Trainingsdaten, Fairnesstests, Eingangs- und Ausgangskontrollmechanismen, menschliche Aufsicht, stufenweise Einführung und kontinuierliche Überwachung.
- Übertragung. Risiken lassen sich durch Verträge, Versicherungen oder die Verantwortung der Lieferanten verlagern. Dies ist nützlich für Lieferkettenrisiken (z. B. vertragliche SLAs mit einem Basismodellanbieter), aber Vorsicht: Finanzielle Haftung lässt sich zwar übertragen, Verantwortlichkeit jedoch selten, insbesondere gegenüber Aufsichtsbehörden.
- Akzeptieren. Das Risiko sollte nur mit expliziter, dokumentierter Begründung und einem Verantwortlichen beibehalten werden. Dies ist nur angemessen für Risiken, die unterhalb der Akzeptanzschwelle liegen oder bei denen eine Behandlung nachweislich nicht kosteneffektiv ist und die Folgen begrenzt sind.
Jede Behandlungsentscheidung erfordert einen benannten Verantwortlichen, ein Zieldatum und einen im Register hinterlegten Abschlussnachweis. Ein Behandlungsplan ohne Ausführungsnachweis ist eine der häufigsten Abweichungen bei ISO 42001-Zertifizierungsaudits.
Einfacher Einstieg mit einer persönlichen Produktdemo
Einer unserer Onboarding-Spezialisten führt Sie durch unsere Plattform, damit Sie selbstbewusst loslegen können.
Wie lassen sich KI-Risiken nach der Implementierung überwachen?
Das Risiko von KI ist nicht statisch. Ein Modell, das bei der Einführung sicher war, kann sechs Monate später unsicher werden, weil sich Daten ändern, das Nutzerverhalten sich ändert, sich die regulatorischen Rahmenbedingungen ändern oder ein vorgelagertes Basismodell aktualisiert wird. Die Leistungsbewertung gemäß Klausel 9 und die Kontrollmaßnahmen zur Betriebsüberwachung gemäß Anhang A.6.2.6 bis A.6.2.8 erfordern eine kontinuierliche Überwachung.
Ein pragmatisches Überwachungsprogramm umfasst fünf Signale:
- Modellleistung. Genauigkeit, Präzision, Trefferquote, Kalibrierung und Fairness werden anhand von bei der Bereitstellung festgelegten Schwellenwerten überwacht. Verstöße führen zu einem erneuten Training oder einem Rollback.
- Datendrift. Statistischer Vergleich der Produktionsinputverteilungen mit den Trainingsverteilungen. Eine signifikante Abweichung veranlasst eine Überprüfung, ob das Modell noch für den vorgesehenen Zweck geeignet ist.
- Zwischenfälle und Beinaheunfälle. Ein formeller Kanal für Benutzer, betroffene Parteien und interne Mitarbeiter zur Meldung von Bedenken im Zusammenhang mit KI, wobei die Priorisierung, die Ursachenanalyse und die Korrekturmaßnahmen gemäß Klausel 10 protokolliert werden.
- Wirksamkeit der Kontrollen. Regelmäßige Überprüfungen, ob die im Behandlungsplan vorgesehenen Maßnahmen tatsächlich wirksam sind. Anhang A.6.2.6 fordert ausdrücklich die Überprüfung der betrieblichen Kontrollen.
- Externer Kontext. Neue Vorschriften, neue Bedrohungsmuster, Änderungen an Drittanbietermodellen und sich entwickelnde Best Practices fließen in die Risikobewertung bei jeder planmäßigen Überprüfung ein.
Die Ergebnisse fließen in die Managementbewertung ein (Klausel 9.3) und führen zu Aktualisierungen des Risikoregisters, der Anwendbarkeitserklärung und der KI-Richtlinie. Der Zyklus ist kontinuierlich, nicht jährlich.
Wie strukturiert ISMS.online das KI-Risikomanagement?
ISMS.online bietet eine speziell dafür entwickelte Plattform für den gesamten KI-Risikomanagementprozess, die auf Klausel 6.1.2 und die normativen Leitlinien in Anhang B abgestimmt ist. Sie erhalten ein KI-Risikoregister, das in Ihr übriges KI-Managementsystem integriert ist und nicht in einer separaten Tabellenkalkulation geführt wird.
Die Plattform bietet Ihnen:
- Ein spezielles KI-Risikoregister sich von Ihrem Informationssicherheitsrisikoregister unterscheiden, mit Feldern für KI-spezifische Attribute (Anwendungsfall, Datenquellen, Modelltyp, betroffene Parteien, Risikokategorie) neben Standardfeldern für Wahrscheinlichkeit, Konsequenz, Behandlung und Verantwortlicher
- Eine vorinstallierte KI-Risikotaxonomie Die acht oben genannten Kategorien sowie die Risikoquellen aus Anhang C werden abgedeckt, sodass die Teams mit einer umfassenden Liste anstatt mit einer leeren Seite beginnen.
- Folgenabschätzungen für vernetzte KI-Systeme für Klausel 6.1.4, damit die nach außen gerichtete Auswirkungssicht mit der organisatorischen Risikosicht verbunden bleibt, ohne dass es zu Redundanzen kommt
- Direkte Steuerungsverbindung von jedem Risiko bis hin zu den einschlägigen Kontrollen gemäß Anhang A, zu den Nachweisen, die die Behandlung belegen, und bis hin zur Anwendbarkeitserklärung
- Arbeitsabläufe und automatisierte Erinnerungen überprüfen Die Risiken werden also in ihrem festgelegten Zyklus überprüft, nicht nur dann, wenn sich jemand daran erinnert.
- Querverweis zu den Risiken nach ISO 27001 bei Ereignissen mit sowohl informationssicherheits- als auch KI-Dimensionen, um Doppelzählungen und widersprüchliche Behandlungspläne zu verhindern
- Berichtsansichten für den Vorstand, den KI-Governance-Ausschuss und die Zertifizierungsprüfer, die aus denselben zugrunde liegenden Daten erstellt wurden
Das Ergebnis ist ein KI-gestützter Risikoprozess, den ein Prüfer in weniger als zehn Minuten vollständig durchlaufen kann und mit dem die Organisation auch zwischen den Prüfungen operieren kann.
Warum sollten Sie ISMS.online für KI-Risikomanagement wählen?
Die meisten GRC-Tools behandeln KI-Risiken als nachträglich hinzugefügtes Element eines Informationssicherheitsmodells. ISMS.online wurde mit KI-Governance als erstklassiger Funktion konzipiert. Das bedeutet in der Praxis Folgendes:
- Getrennte, aber miteinander verbundene Register. Die Risiken der KI (Abschnitt 6.1.2), die Folgenabschätzung von KI-Systemen (Abschnitt 6.1.4) und die Risiken der Informationssicherheit (ISO 27005) befinden sich in getrennten, aber miteinander verknüpften Registern, sodass jeder Blickwinkel scharf bleibt, während die Daten dort geteilt werden, wo sie hingehören.
- Vorkonfigurierte KI-Risikotaxonomie. Die Risikoquellen gemäß Anhang C und das Acht-Kategorien-Modell sind vorinstalliert, sodass Ihr Team Risiken anhand eines strukturierten Rahmens identifizieren kann, anstatt einen solchen zu erfinden.
- Live-Mapping zu Anhang A-Kontrollen. Jedes Risiko ist direkt mit den Kontrollmaßnahmen, mit denen es behandelt wird, den Nachweisen für die Wirksamkeit der Maßnahmen und dem Eintrag in der Anwendbarkeitserklärung, der dies rechtfertigt, verknüpft.
- Entworfen gemäß den Richtlinien von Anhang B. Der Arbeitsablauf orientiert sich an den normativen Implementierungsrichtlinien in Anhang B, sodass Ihr Prozess standardmäßig standardkonform ist und keine individuelle Konfiguration erfordert.
- Integriert in das vollständige AIMS-System. Risiken sind mit Ihrem verbunden KI-Politik, Ihre Folgenabschätzungen, Ihr Auditprogramm (Klausel 9.2) und Ihre Korrekturmaßnahmen (Klausel 10), damit nichts durchs Raster fällt.
- Methode mit gesicherten Ergebnissen. Ein bewährter Implementierungsweg und menschliche Unterstützung, die Hunderten von Organisationen geholfen haben, die Zertifizierung beim ersten Mal zu erreichen, wobei das KI-Risikomanagement von Anfang an integriert und nicht erst später hinzugefügt wurde.
Ob Sie Ihr erstes KI-Risikoregister erstellen oder ein bestehendes weiterentwickeln, ISMS.online bietet Ihnen die Struktur und die Werkzeuge, um Klausel 6.1.2 als dynamischen Prozess umzusetzen. Weitere Informationen finden Sie in unserem Implementierungsanleitung.
Bereit, die Plattform in Aktion zu sehen? Kontakt.
FAQs
Worin besteht der Unterschied zwischen einer KI-Risikobewertung (Abschnitt 6.1.2) und einer KI-Systemfolgenabschätzung (Abschnitt 6.1.4)?
Klausel 6.1.2 betrachtet die internen organisatorischen Risiken – was könnte für die Organisation, ihre Ziele und ihre Abläufe schiefgehen und wie werden wir damit umgehen? Klausel 6.1.4 betrachtet die externen Risiken – welche Auswirkungen könnte das KI-System auf Einzelpersonen, Gruppen und die Gesellschaft haben? Dabei werden Aspekte wie Fairness, Sicherheit und Grundrechte berücksichtigt. Beide Klauseln sind normativ, müssen dokumentiert werden und ergänzen sich gegenseitig. Werden sie als eine einzige Aktivität betrachtet, geht die Betrachtung der gesellschaftlichen Auswirkungen in der Regel verloren, was häufig bei Audits festgestellt wird.
Kann ich mein ISO 27001-Risikoregister für das KI-Risikomanagement wiederverwenden?
Nein, nicht als ein einziges kombiniertes Register. Informationssicherheitsrisiko (ISO 27005) und KI-Risiko (ISO 42001 Abschnitt 6.1.2) haben zwar überlappende, aber dennoch unterschiedliche Anwendungsbereiche. Informationssicherheit umfasst Vertraulichkeit, Integrität und Verfügbarkeit von Informationen. KI-Risiko umfasst zusätzlich Verzerrungen, Erklärbarkeit, Abweichungen, Sicherheit und gesellschaftliche Auswirkungen – Aspekte, die sich nicht ohne Weiteres in ein CIA-Modell einfügen lassen. Das richtige Modell besteht aus zwei miteinander verbundenen Registern mit Querverweisen, wobei ein einzelnes Ereignis beide Dimensionen aufweist. ISMS.online unterstützt genau diese Anordnung.
Ist das NIST AI RMF eine Alternative zu ISO 42001 für das Risikomanagement?
Sie ergänzen sich, sie sind keine Alternativen. Das NIST AI RMF ist ein freiwilliges US-amerikanisches Rahmenwerk, das sich an den Funktionen Steuern, Kartieren, Messen und Managen orientiert und über hervorragende Praxisleitfäden verfügt. ISO 42001 ist ein international zertifizierbarer Standard für Managementsysteme. Organisationen nutzen häufig die Terminologie und die Leitfäden des NIST AI RMF, um die von ISO 42001 geforderten Aktivitäten umzusetzen. Beide Systeme lassen sich nahtlos aufeinander abstimmen, und viele Organisationen implementieren sie parallel.
Welche Kategorien von KI-Risiken sollte ich in meinem Register abdecken?
Mindestens: Voreingenommenheit und Fairness, Erklärbarkeit und Transparenz, Sicherheit, Datenschutz, gesellschaftliche Auswirkungen, betriebliche Aspekte (Abweichung, Leistung, Verfügbarkeit) und Lieferkette (Drittanbietermodelle, Datenanbieter). Anhang C der ISO 42001 enthält eine informative Liste KI-bezogener Risikoquellen, die mit dieser Taxonomie übereinstimmt. Branchenspezifische Kategorien wie Modellrisikomanagement für Finanzdienstleistungen oder klinische Sicherheit im Gesundheitswesen sollten gegebenenfalls ergänzt werden.
Wie oft sollte ich das KI-Risikoregister überprüfen?
Mindestens jährlich erfolgt eine vollständige Überprüfung, die in die Managementbewertung gemäß Klausel 9.3 einfließt. Einzelne Risiken sollten je nach Kritikalität eigene Überprüfungszyklen haben – typischerweise vierteljährlich für hohe und halbjährlich für mittlere Risiken. Jede wesentliche Änderung sollte eine Ad-hoc-Überprüfung auslösen: ein neuer Anwendungsfall für KI, eine bedeutende Modellaktualisierung, eine neue Verordnung, ein gemeldeter Vorfall oder ein Wechsel eines wichtigen Drittanbieters. Das Register ist ein dynamisches Dokument und kein jährliches Konformitätsdokument.
Erfordert ISO 42001 eine automatisierte KI-gestützte Risikoüberwachung?
Die Norm schreibt keine Automatisierung vor, fordert aber die kontinuierliche Überwachung der Leistungsfähigkeit von KI-Systemen und der Wirksamkeit der Kontrollmaßnahmen (Abschnitt 9.1 und Anhang A.6.2.6 bis A.6.2.8). Für Systeme, die über wenige risikoarme KI-Systeme hinausgehen, ist die automatisierte Überwachung der Modellleistung, der Datenabweichung und der Kontrollwirksamkeit die einzige Möglichkeit, die Anforderung in der Praxis zu erfüllen. Manuelle Überwachung in großem Umfang führt häufig zu veralteten Daten und übersehenen Vorfällen, die bei Überwachungsaudits als Abweichungen auffallen.
Wer sollte im Unternehmen für das KI-Risikomanagement verantwortlich sein?
Die Verantwortung sollte bei einer benannten Führungskraft liegen, in der Regel dem CISO, dem Chief Risk Officer oder einem dedizierten Leiter für KI-Governance, abhängig von der Unternehmensgröße und dem Reifegrad der KI-Infrastruktur. Die operative Verantwortung liegt bei einem KI-Governance-Ausschuss oder einer vergleichbaren funktionsübergreifenden Gruppe, die sich aus Vertretern der Bereiche Data Science, Engineering, Sicherheit, Recht, Datenschutz und den KI-anwendenden Geschäftsbereichen zusammensetzt. Für jedes einzelne Risiko ist ein benannter Verantwortlicher für dessen Behandlung und Überwachung zuständig. Gemäß Klausel 5.3 müssen diese Rollen, Verantwortlichkeiten und Befugnisse formell zugewiesen und kommuniziert werden.
