Was ist das Risiko von KI-Anbietern?
Das Risiko durch KI-Anbieter beschreibt die Gefährdung Ihres Unternehmens, wenn ein Drittanbieter KI-Funktionen in Ihre Produkte, Prozesse oder Entscheidungen einbindet, hostet, trainiert oder implementiert. Es ist umfassender als das klassische IT-Lieferantenrisiko, da ein KI-Anbieter nicht nur Ihre Daten verarbeitet, sondern auch die Ergebnisse beeinflussen kann, auf die sich Ihre Mitarbeiter und Kunden verlassen. Das Verhalten der KI-Anbieter kann sich im Laufe der Zeit ändern, da Modelle neu trainiert und aktualisiert werden.
In den meisten Organisationen lassen sich KI-Anbieter heute in vier sich überschneidende Kategorien einteilen:
- Anbieter von Stiftungsmodellen wie beispielsweise OpenAI, Anthropic, Google, Mistral und Cohere, auf die über eine API zugegriffen und die in interne Tools, Agenten oder kundenorientierte Funktionen eingebettet sind.
- KI-native SaaS-Tools wie etwa Notizprogramme, Programmierassistenten, Kundendienstmitarbeiter, Vertriebsunterstützungstools und Analyseplattformen, bei denen KI das Produkt ist.
- Eingebettete KI in Unternehmenssoftware Beispiele hierfür sind KI-Zusammenfassungen im CRM, KI-Scoring in HR-Systemen, KI-Reviews im Vertragsmanagement oder KI-Triage im Servicemanagement, wobei die KI eine neue Funktion in einer bestehenden Lieferantenbeziehung darstellt.
- Datenkennzeichnungs- und Trainingsdatenlieferanten die vorgelagert zu jedem von Ihnen erstellten Modell angeordnet sind und einen erheblichen Einfluss auf Voreingenommenheit, Qualität und rechtliche Grundlage des Trainings haben.
Jede Kategorie birgt unterschiedliche Risiken, doch alle haben ein gemeinsames Problem: Der Anbieter kontrolliert ein Verhalten, für das Sie verantwortlich sind. Aufsichtsbehörden, Kunden und Versicherer erwarten zunehmend von Ihnen den Nachweis, dass Sie dieses Verhalten aktiv bewertet und überwacht haben – und nicht einfach nur einen Vertrag unterzeichnet und sich dann nicht weiter darum gekümmert haben.
Warum ist das Risiko von KI-Anbietern zu einem Thema in den Chefetagen geworden?
Drei Faktoren haben dazu geführt, dass die Aufsicht über KI-Anbieter von einer reinen Beschaffungsaufgabe zu einem Anliegen auf Vorstandsebene geworden ist.
Konzentrierte Abhängigkeit. Einige wenige Anbieter grundlegender Modelle bilden mittlerweile die Basis für Tausende von KI-Funktionen in nahezu allen Unternehmens-Stacks. Modellausfälle, Richtlinienänderungen, Preisanpassungen und geografische Beschränkungen wirken sich unmittelbar auf Ihre Produkte und Customer Journeys aus. Dieses Konzentrationsrisiko muss vom Vorstand getragen werden.
Nichtdeterministisches Verhalten. Anders als bei einem herkömmlichen SaaS-Anbieter, dessen Software heute und gestern unverändert bleibt, kann ein KI-Anbieter Modellgewichte, Systemmeldungen, Sicherheitsfilter und Trainingsdaten ohne Vorankündigung ändern. Die Ergebnisse, die Sie im Test validiert haben, entsprechen möglicherweise nicht den Ergebnissen, die Ihr Kunde sechs Monate später im Produktivbetrieb sieht.
Regulatorische Verantwortung. ISO 42001, die EU-KI-GesetzDie Aufsichtsbehörden (FCA, PRA, NHS Digital, Ofcom) und Datenschutzbehörden stellen nun explizite Anforderungen an den Betreiber eines KI-Systems, nicht nur an den Entwickler. Sich auf den Anbieter zu berufen, reicht nicht mehr aus. Sie müssen nachweisen, dass Sie einen geeigneten Anbieter ausgewählt und dessen Entwicklung kontinuierlich überwacht haben.
Die praktische Konsequenz: Das Risiko von KI-Anbietern gehört in das unternehmensweite Risikomanagement, in die Unterlagen des Prüfungsausschusses und in die KI-Politiknicht im Beschaffungsprozess untergehen.
Was sagt ISO 42001 zur Aufsicht über KI-Lieferanten aus?
ISO 42001 Die Beziehungen zu Drittanbietern im Bereich KI werden in Anhang A.10, einem von neun Kontrollbereichen in Anhang A, direkt geregelt. Dieser Kontrollbereich umfasst Lieferanten, die Aufteilung der Verantwortlichkeiten zwischen Organisationen und Kunden, da man in einer KI-Lieferkette alle drei Rollen gleichzeitig übernehmen kann – als Anbieter für einen Partner, als Anwender für einen anderen und als Kunde eines dritten.
Anhang A.10 verpflichtet Sie zu Folgendem:
- Richten Sie einen Prozess ein, um KI-Anbieter und die von ihnen bereitgestellten KI-Systeme zu identifizieren.
- Weisen Sie die Verantwortlichkeiten zwischen Ihnen und Ihren Lieferanten klar und schriftlich zu, damit keine Lücken in der Rechenschaftspflicht für KI-Risiken, -Auswirkungen und -Leistung entstehen.
- Berücksichtigen Sie KI-spezifische Aspekte bei der Lieferantenauswahl, Vertragsgestaltung und dem laufenden Management, nicht nur allgemeine Begriffe der Informationssicherheit.
- Stellen Sie sicher, dass die Kunden Ihrer KI-Systeme über die Informationen verfügen, die sie für deren verantwortungsvolle Nutzung benötigen.
Anhang B (normativ, nicht informativ) enthält Umsetzungshinweise für jede Kontrollmaßnahme in Anhang A, einschließlich A.10. Neben Anhang A.10 betrifft die Aufsicht über KI-Anbieter auch A.2 (KI-bezogene Richtlinien), A.3 (interne Organisation und Verantwortlichkeiten), A.5 (Bewertung der Auswirkungen von KI-Systemen), A.7 (Daten für KI-Systeme) und A.8 (Informationen für interessierte Parteien). Die vollständige Liste finden Sie in unserer [Website/Publikation einfügen]. Anhang A-Kontrollen Referenz und die zugehörige Anhang A.10 Beziehungen zu Dritten und Kunden
Ihre Erklärung zur Anwendbarkeit Sie sollten dokumentieren, wie Sie die einzelnen Kontrollmaßnahmen auf Ihre KI-Anbieter anwenden, einschließlich etwaiger Ausnahmen und deren Begründung.
Alles, was Sie für ISO 42001 brauchen
Strukturierte Inhalte, abgebildete Risiken und integrierte Workflows helfen Ihnen, KI verantwortungsvoll und sicher zu verwalten.
Wie beurteilt man einen KI-Anbieter?
Die Due-Diligence-Prüfung von KI-Anbietern muss über einen Sicherheitsfragebogen hinausgehen. Sie bewerten nicht nur, wie der Anbieter Ihre Daten schützt, sondern auch, wie er das von Ihnen genutzte KI-System entwickelt, betreibt, ändert und außer Betrieb nimmt. Das folgende Rahmenwerk umfasst die neun Bereiche, die jede KI-Anbieterprüfung abdecken sollte, inklusive Beispielfragen und Warnsignalen, die zum Vertragsabbruch führen sollten.
| Gebiet | Folgende Aspekte sind zu berücksichtigen: | rote Flagge |
|---|---|---|
| Datentraining | Mit welchen Daten wurde das Modell trainiert? Wurden standardmäßig auch unsere Daten für das Training verwendet? Können wir der Verwendung schriftlich widersprechen? Was ist die Rechtsgrundlage für die Trainingsdaten (Einwilligung, berechtigtes Interesse, Lizenzierung)? | Der Anbieter kann Ihnen die Quellen der Trainingsdaten nicht nennen, verwendet Kundendaten standardmäßig ohne Widerspruchsmöglichkeit für Schulungszwecke oder stützt sich ohne rechtliche Grundlage auf gesammelte Daten. |
| Modelltransparenz | Können Sie uns eine Modell- oder Systemkarte zur Verfügung stellen? Welche Einschränkungen und Fehlerursachen sind bekannt? Wie ist die Modellversionierung? Werden wir über Modellwechsel oder größere Schulungen informiert? | Keine Modelldokumentation, stillschweigende Modellwechsel, keine Versionierung oder die Weigerung, das Modell überhaupt zu beschreiben (Black Box ohne jegliche Gewährleistung). |
| Sicherheitslage | Ist der Anbieter nach ISO 27001 und SOC 2 zertifiziert? Wie werden Kundendaten getrennt? Welche Verschlüsselungs-, Schlüsselverwaltungs- und Zugriffskontrollen werden für den Datenverkehr und die Protokolle eingesetzt? | Keine anerkannte Zertifizierung, gemeinsame Nutzung ohne Trennung der Sicherheitsvorkehrungen, Protokollierung von Eingabeaufforderungen und Ausgaben im Klartext auf unbestimmte Zeit oder kein Single Sign-On und keine Multi-Faktor-Authentifizierung |
| Datenschutz & DSGVO | Wo werden die Daten verarbeitet und gespeichert? Liegt eine Datenverarbeitungsvereinbarung vor? Gibt es angemessene Übermittlungsmechanismen für internationale Datenflüsse? Wie werden die Rechte der betroffenen Personen hinsichtlich der Eingabe- und Ausgabedaten gewahrt? | Keine Datenschutzvereinbarung, Datenübermittlungen außerhalb des Vereinigten Königreichs und des EWR ohne Schutzmaßnahmen, kein Mechanismus zur Unterstützung von Auskunfts- oder Löschungsanträgen betroffener Personen oder unklare Aufbewahrungsfristen für Benachrichtigungen |
| Zertifizierungen | Sind Sie nach ISO 42001 zertifiziert? Besitzen Sie die Zertifizierungen nach ISO 27001 und SOC 2 Typ II? Wann fanden die letzten Überwachungsaudits statt? Können wir die Zertifikate und die Geltungsbereichsbeschreibungen einsehen? | Keine ISO 42001-Zertifizierung (oder kein glaubwürdiger Fahrplan dafür), abgelaufene Zertifikate, Geltungsbereichsbeschreibungen, die die von Ihnen erworbene Dienstleistung ausschließen, oder nur Selbstauskünfte. |
| Reaktion auf Vorfälle | Wie definieren Sie einen KI-Vorfall? Welche Benachrichtigungs-SLA gilt für Ihre Kunden? Wie gehen Sie mit Modellirrtümern, schädlichen Ergebnissen, Vorfällen mit Verzerrungen und Sicherheitsverletzungen um? Können wir einen geschwärzten Vorfallsbericht einsehen? | Keine KI-spezifische Vorfalldefinition, Benachrichtigungsfenster länger als 72 Stunden, keine Berichterstattung nach einem Vorfall oder Unfähigkeit, einen zuvor bearbeiteten Vorfall vollständig darzustellen |
| Änderungsmanagement | Wie werden Änderungen an Modellgewichten, Systemmeldungen, Sicherheitsfiltern und Schutzvorrichtungen verwaltet? Werden wir benachrichtigt? Können wir eine festgelegte Version beibehalten? Wie werden Änderungen vor der Veröffentlichung getestet? | Laufende Updates ohne Vorankündigung, keine Option zum Festlegen einer Version, keine Vorabtests im Unternehmensdatenverkehr und kein Rollback-Mechanismus |
| Subprozessoren | Wer sind Ihre Unterauftragnehmer, einschließlich Hosting, Modellhosting, Evaluierung und Datenkennzeichnung? Wie werden diese genehmigt und geprüft? Werden wir über Änderungen informiert? | Unvollständige Liste der Unterauftragnehmer, intransparente Nutzung von Unter-Unterauftragnehmern, kein Widerspruchsrecht gegen neue Unterauftragnehmer oder Nutzung von Unterauftragnehmern in ungünstigen Rechtsordnungen |
| Ausstiegsplan | Wie erhalten wir unsere Daten zurück? Wie lange werden sie nach der Beendigung des Betriebs aufbewahrt? Werden Eingabeaufforderungen, Ausgaben und Feinabstimmungsdaten vollständig gelöscht? Gibt es ein Portabilitätsformat für benutzerdefinierte Konfigurations- oder Auswertungsdaten? | Kein definierter Ausstieg, Kundenbindung wird in Jahren statt in Tagen gemessen, kein Exportformat und keine Bindung durch proprietäre Auswertungsdaten |
Bewerten Sie jeden Bereich, gewichten Sie ihn entsprechend dem Risiko des KI-Anwendungsfalls und verknüpfen Sie das Ergebnis mit dem Lieferantendatensatz in Ihrem Lieferantenregister. Ziel ist eine nachvollziehbare Entscheidung, nicht eine perfekte Punktzahl.
Welche Vertragsbedingungen sollten Sie von KI-Anbietern fordern?
Verträge mit KI-Anbietern müssen über die üblichen SaaS-Bedingungen hinausgehen. Sicherheitsrichtlinien und Datenverarbeitungsvereinbarungen regeln die Datenebene, aber KI-Verhalten, Änderungen und Verantwortlichkeit benötigen eigene Klauseln. Die folgende Checkliste enthält die Mindestanforderungen, die wir in jedem wesentlichen Vertrag mit einem KI-Anbieter erwarten:
- Recht auf Prüfung. Ein vertragliches Recht, den Anbieter zu auditieren oder sich in einem festgelegten Rhythmus auf unabhängige Prüfberichte (ISO 42001-Zertifikat, SOC 2 Typ II, Zusammenfassungen von Penetrationstests) zu verlassen, die das jeweilige KI-System abdecken, das Sie kaufen.
- Änderungsmitteilung. Schriftliche Benachrichtigung über wesentliche Änderungen an Modellgewichten, Systemaufforderungen, Sicherheitsfiltern oder Schutzvorrichtungen mit einer definierten Ankündigungsfrist (typischerweise 30 bis 90 Tage für Unternehmensanwendungsfälle) und einer Option zur Versionsfixierung für regulierte Arbeitslasten.
- Beschränkungen der Datennutzung. Ausdrückliches Verbot der Verwendung von Kundeneingaben, -ausgaben, Feinabstimmungsdaten oder Metadaten zum Trainieren der allgemeinen Modelle des Anbieters ohne schriftliche Zustimmung, verbunden mit Verpflichtungen zur Datentrennung.
- Zusagen zur Ausgabegenauigkeit. Angaben zum Verwendungszweck, zu bekannten Einschränkungen und zu allen vom Anbieter veröffentlichten Genauigkeits- oder Sicherheitsstandards sowie zu den Rechtsbehelfen, falls der Anbieter dokumentierte Funktionen entfernt.
- Vorfallmeldung. Eine definierte Service-Level-Vereinbarung (SLA) zur Benachrichtigung über KI-Vorfälle (mit einer Zielzeit von 24 bis 72 Stunden, abhängig vom Schweregrad), die Sicherheitsverletzungen, Vorfälle mit Verzerrungen, schädliche Ausgabeereignisse und anhaltende Beeinträchtigungen des Dienstes abdeckt.
- Geistiges Eigentum. Klare Zuordnung der Rechte an geistigem Eigentum in Bezug auf Inputs, Outputs und abgeleitete Werke, einschließlich einer Freistellung von Dritten gegenüber Ansprüchen Dritter auf geistiges Eigentum, die sich aus den Modell-Outputs ergeben.
- Haftungsfreistellung und Haftung. Maßgeschneiderte Entschädigungen für Datenschutzverstöße, Verletzungen von Rechten des geistigen Eigentums in Modellergebnissen und behördliche Bußgelder, wenn das Verhalten des Anbieters die unmittelbare Ursache ist, mit Haftungsobergrenzen, die dem Risiko des KI-Anwendungsfalls angemessen sind.
- Beenden und Datenrückgabe. Definierter Ausstiegsprozess mit garantierten Exportformaten, Löschzertifikaten und einer maximalen Aufbewahrungsfrist für Restdaten nach Beendigung (typischerweise 30 bis 90 Tage).
- Hinweis für Unterauftragnehmer. Eine Liste der aktuellen Unterauftragnehmer im Vertrag, eine vorherige schriftliche Ankündigung von Änderungen und ein Widerspruchsrecht aus dokumentierten Risikogründen.
- Zertifizierungspflege. Die Verpflichtung, die genannten Zertifizierungen (ISO 42001, ISO 27001, SOC 2) für die gesamte Vertragslaufzeit aufrechtzuerhalten, mit der Maßgabe, dass eine Benachrichtigung erfolgt, falls eine Zertifizierung erlischt oder sich der Geltungsbereich ändert.
Diese Klauseln sollten nach Risiko gestaffelt sein. Ein Anbieter eines Basismodells in einem kundenorientierten Entscheidungsprozess benötigt alle Klauseln; ein internes Produktivitätstool mit geringem Risiko kann mit einem reduzierten Satz an Klauseln und überwachten Verlängerungen betrieben werden.
Wie überwacht man KI-Anbieter nach Vertragsabschluss?
Sorgfältige Prüfung beim Onboarding ist notwendig, aber nicht ausreichend. KI-Anbieter ändern sich, und damit auch Ihre Nutzung. Kontinuierliches Monitoring muss geplante Neubewertungen mit ereignisgesteuerten Auslösern kombinieren.
Geplante Aktivitäten, die in Ihrem Kalender zur Überwachung von KI-Anbietern aufgeführt werden sollten:
- Jährliche erneute Due-Diligence-Prüfung für Hochrisiko-Lieferanten, zweijährliche für Lieferanten mit mittlerem Risiko, die dieselben neun Bereiche wie beim Onboarding abdeckt, mit einer Delta-Überprüfung.
- Vierteljährliche Überprüfung der Protokolle von Anbietermodell, Unterauftragnehmern und Richtlinienänderungen im Vergleich zu Ihrer festgelegten Basislinie
- Jährliche Überprüfung der ISO 42001-, ISO 27001- und SOC 2-Zertifikate und Geltungsbereichsbeschreibungen des Anbieters
- Überprüfung der vom Anbieter veröffentlichten Vorfall- und Transparenzberichte (sofern verfügbar) bei jedem Managementbewertungszyklus
- erneute Überprüfung des Lieferantenbereichs Ihres Erklärung zur Anwendbarkeit immer dann, wenn sich der Leistungsumfang des Lieferanten wesentlich ändert
Ereignisgesteuerte Auslöser, die eine sofortige Neubewertung erzwingen sollten:
- Ein Anbieter benachrichtigt Sie über eine Änderung des Materialmodells, einen Wechsel des Unterauftragnehmers oder eine Richtlinienänderung
- Der Anbieter erleidet einen öffentlich bekannt gewordenen Sicherheits-, Gefahren- oder Diskriminierungsvorfall.
- Der Anbieter verliert eine bestehende Zertifizierung, ändert deren Umfang oder versäumt deren Erneuerung.
- Sie ändern den Anwendungsfall der KI (z. B. die Integration eines internen Tools in einen kundenorientierten Workflow oder einen Hochrisikokontext gemäß EU-KI-Gesetz).
- Eine neue Verordnung, eine neue Branchenrichtlinie oder eine neue Durchsetzungsmaßnahme ändert Ihre Pflichten als Einsatzleiter wesentlich.
Jede Überwachungsaktivität sollte Nachweise liefern, die mit dem Lieferantenprofil, den relevanten Kontrollen gemäß Anhang A und den Einträgen im KI-Risikoregister, zu denen der Lieferant beiträgt, verknüpft sind. So wandeln Sie die Lieferantenüberwachung von einem reinen Beschaffungsritual in eine revisionssichere Unternehmensführung um.
Einfacher Einstieg mit einer persönlichen Produktdemo
Einer unserer Onboarding-Spezialisten führt Sie durch unsere Plattform, damit Sie selbstbewusst loslegen können.
Wie verändert das EU-KI-Gesetz die Pflichten von KI-Anbietern?
Das EU-KI-Gesetz Es entsteht ein strukturierter Pflichtenkatalog, der sich entlang der gesamten KI-Lieferkette auswirkt. Wenn Sie ein risikoreiches KI-System einsetzen oder ein Drittanbietermodell einbetten, werden Ihre Lieferantenentscheidungen zu Entscheidungen hinsichtlich der Einhaltung von Vorschriften.
Wichtigste nachgelagerte Auswirkungen auf die Aufsicht über KI-Anbieter:
- Die Verpflichtungen der Anbieter betreffen auch Ihre Lieferanten. Anbieter von allgemeinen KI-Modellen (GPAI) unterliegen eigenen Verpflichtungen hinsichtlich technischer Dokumentation, Zusammenfassungen der Trainingsdaten, Urheberrechtsrichtlinien und (bei Modellen mit systemischen Risiken) Adversarial Testing, Meldung von Sicherheitsvorfällen und Cybersicherheit. Sie sollten Anbieter von Basismodellen auffordern, nachzuweisen, wie sie diese Verpflichtungen erfüllen.
- Die Verpflichtungen des Einsatzunternehmens betreffen auch Sie. Wer ein KI-System mit hohem Risiko einsetzt, ist verpflichtet, die Aufsicht durch Menschen zu gewährleisten, Protokolle aufzubewahren, das System zu überwachen, Vorfälle zu melden und (in vielen Fällen) eine Folgenabschätzung hinsichtlich der Grundrechte durchzuführen. Um diese Verpflichtungen zu erfüllen, benötigt man Informationen vom Anbieter, die vertraglich vereinbart werden müssen.
- Informationsfluss entlang der Kette. Anbieter müssen Anwendern die erforderliche technische Dokumentation und Gebrauchsanweisung zur Verfügung stellen, damit diese ihren Verpflichtungen nachkommen können. Im Rahmen Ihrer Sorgfaltspflicht sollten Sie überprüfen, ob dieses Material für jede von Ihnen beschaffte KI-Komponente mit hohem Risiko tatsächlich existiert.
- Erhebliches Änderungsrisiko. Durch Feinabstimmung, Anpassung oder Umgestaltung eines Standardmodells bis hin zu wesentlichen Änderungen können Sie als eigenständiger Anbieter auftreten – mit der damit verbundenen Verpflichtung zur Konformitätsbewertung. Lieferantenverträge müssen klarstellen, welche Änderungen zulässig sind und welche nicht, sowie die damit verbundenen Zusicherungen.
- Verbotene Praktiken. Bestimmte KI-Anwendungen (z. B. Social Scoring, ungerichtetes Gesichts-Scraping, Emotionserkennung am Arbeitsplatz und im Bildungsbereich) sind verboten. Ihre KI-Richtlinie und Lieferantenbewertung müssen Anwendungsfälle vor Vertragsabschluss, nicht erst danach, anhand dieser Verbote prüfen.
ISO 42001 und die EU-AI-Richtlinie ergänzen sich. Die Norm liefert das Gerüst für das Managementsystem; die Richtlinie definiert die rechtlichen Verpflichtungen, die das Gerüst erfüllen muss. Ein gut funktionierender Lieferantenüberwachungsprozess dient beiden Zwecken.
Wie ISMS.online KI-gestütztes Lieferantenrisikomanagement betreibt
ISMS.online Die Plattform bietet der KI-Anbieterüberwachung einen strukturierten Platz innerhalb Ihres umfassenderen KI-Managementsystems. Anstatt Anbieterdaten über Beschaffungsformulare, Sicherheitsfragebögen, Rechtsordner und Compliance-Tracker zu verteilen, konsolidiert die Plattform den gesamten Lebenszyklus in einem vernetzten Arbeitsbereich:
- Lieferantenregister mit KI-spezifischen Feldern. Jeder KI-Anbieter verfügt über einen Datensatz mit Anbietertyp (Foundation-Modell, KI-SaaS, eingebettete KI, Datenkennzeichnung), Anwendungsfällen, Risikostufe, Zertifizierungen, Unterauftragnehmern und relevanten Kontrollverknüpfungen gemäß Anhang A.
- Fragebögen zur KI-Due-Diligence. Vorgefertigte Vorlagen decken die neun Bewertungsbereiche ab, inklusive Bewertung, Freigabe und gespeicherten Nachweisen, die dem Lieferantendatensatz zugeordnet sind.
- Vertrags- und Klauselverfolgung. Wichtige KI-Klauseln (Auditrecht, Modelländerungsmitteilung, Datennutzung, Incident-SLA, Exit) werden als Felder im Lieferantendatensatz erfasst, sodass Sie Ihre KI-Landschaft auf einen Blick erfassen können.
- Kontinuierliche Überwachungsprozesse. Geplante Neubewertungen, Benachrichtigungen über den Ablauf von Zertifikaten, Überprüfungen des Änderungsprotokolls und ereignisbasierte Neubewertungen, die alle mit dem Lieferantendatensatz und dem KI-Risikoregister verknüpft sind.
- Verknüpfte KI-Risiko- und Folgenabschätzungen. Die Einträge der Anbieter sind direkt mit den Einträgen im KI-Risikoregister (Abschnitt 6.1.2) und den KI-Systemfolgenabschätzungen (Abschnitt 6.1.4) verknüpft, sodass das Anbieterrisiko als Teil des gesamten KI-Risikobildes und nicht als separates Universum betrachtet wird.
- Prüfungsnachweise auf Kontrollebene. Jede Bewertung, Überprüfung und Neubewertung liefert Nachweise, die mit der jeweiligen Kontrollmaßnahme gemäß Anhang A verknüpft sind und für Überwachungsaudits bereitstehen.
Das praktische Ergebnis: Wenn ein Auditor fragt, wie Sie die Anforderungen von Anhang A.10 für Ihre KI-Lieferkette erfüllen, ist die Antwort ein einziger detaillierter Blick – Lieferant, Bewertung, Vertrag, Überwachungshistorie, Nachweise – und nicht eine Woche voller Screenshots und Tabellenkalkulationen.
Warum sollten Sie ISMS.online für das KI-Lieferantenrisikomanagement wählen?
ISMS.online ist für die durchgängige KI-Governance konzipiert, daher ist die Anbieterüberwachung ein integraler Bestandteil der Plattform und keine nachträgliche Ergänzung. Das bietet Ihnen:
- Lieferantenverzeichnis speziell für KI. Speziell entwickelte Felder für KI-Anbietertyp, Anwendungsfälle, Risikostufe, Zertifizierungen, Unterprozessoren und Modellversionen, keine generische Lieferantenliste, die aus einem IT-Asset-Tool wiederverwendet wurde.
- Vorgefertigte KI-Due-Diligence-Vorlagen. Die Fragebögen orientieren sich an ISO 42001 Anhang A.10, den Leitlinien zu Anhang B und den Verpflichtungen aus dem EU AI Act, sodass die Teams von einer standardkonformen Grundlage ausgehen, anstatt die Fragen von Grund auf neu zu schreiben.
- Integriert in das KI-Risikoregister. Das Lieferantenrisiko ist direkt mit den KI-Risiken (Klausel 6.1.2) und den Folgenabschätzungen für KI-Systeme (Klausel 6.1.4) verknüpft, wobei Bewertung, Behandlung und Überprüfungszyklen an einem Ort stattfinden.
- Live Erklärung zur Anwendbarkeit. Der Lieferantenteil Ihrer Leistungsbeschreibung bleibt stets aktuell, wenn sich Lieferanten, Kontrollen und Begründungen ändern – er ist nicht in einem Word-Dokument eingefroren.
- Integrierte kontinuierliche Überwachung. Regelmäßige Neubewertungen, Benachrichtigungen über den Ablauf von Zertifikaten und ereignisgesteuerte Überprüfungen gewährleisten eine aktive Lieferantenüberwachung während des gesamten Vertragslebenszyklus.
- Mehrfache Wiederverwendung nach Standard. Die Lieferantendaten werden sowohl in ISO 42001 als auch in den Lieferantenkontrollen Ihrer bestehenden ISO-Managementsysteme gemeinsam genutzt, sodass Sie nur ein Lieferantenprogramm betreiben müssen, anstatt mehrere. Informationen zu den Überschneidungen finden Sie unter [Link einfügen]. ISO 42001 vs. ISO 27001.
- Methode mit gesicherten Ergebnissen. Bewährter Implementierungsansatz, Unterstützung bei der Einführung und Live-Hilfe sorgen dafür, dass die Überwachung von KI-Anbietern innerhalb von Wochen, nicht Quartalen, einsatzbereit ist.
Egal ob Sie bei Null anfangen oder ein bestehendes Drittanbieter-Risikomanagementprogramm auf KI-spezifische Standards bringen möchten. ISMS.online Bietet Ihnen die Werkzeuge für ein KI-Anbieter-Risikomanagement gemäß ISO 42001 und dem EU-KI-Gesetz. Den vollständigen Implementierungskontext finden Sie in unserer Implementierungsanleitungoder Kopf zurück zum ISO 42001 Hub.
Bereit, die Plattform in Aktion zu sehen? Kontakt.
FAQs
Was ist Risikomanagement für KI-Anbieter?
Das Risikomanagement von KI-Anbietern umfasst die Identifizierung, Bewertung, Beauftragung und Überwachung von Drittanbietern, die Ihrem Unternehmen KI-Funktionen bereitstellen. Es schließt Anbieter von Basismodellen, KI-native SaaS-Tools, in Unternehmenssoftware integrierte KI-Funktionen sowie Lieferanten von Datenkennzeichnung oder Trainingsdaten ein. Es erweitert das klassische Drittanbieterrisiko um KI-spezifische Aspekte wie Trainingsdaten, Modelltransparenz, nicht-deterministisches Verhalten und das Änderungsmanagement von Modellgewichten und Systemmeldungen.
Erfordert ISO 42001 die Bewertung von KI-Anbietern?
Ja. Anhang A.10 der ISO 42001 befasst sich direkt mit Beziehungen zu Drittanbietern und Kunden und verpflichtet Organisationen, KI-Lieferanten zu identifizieren, Verantwortlichkeiten zuzuweisen und KI-spezifische Aspekte über den gesamten Lieferantenlebenszyklus hinweg zu berücksichtigen. Anhang B (normativ) bietet Implementierungshinweise. ISMS.online Die Anwendbarkeitserklärung sollte dokumentieren, wie Sie diese Kontrollen auf Ihre KI-Anbieterlandschaft anwenden, und etwaige Ausnahmen begründen.
Was sind die größten Warnsignale bei der Bewertung eines KI-Anbieters?
Die häufigsten Ausschlusskriterien sind: standardmäßiges Training mit Kundendaten ohne Widerspruchsmöglichkeit, fehlende Modelldokumentation oder Versionskontrolle, fehlende oder abgelaufene Zertifizierungen (ISO 42001, ISO 27001, SOC 2), keine KI-spezifische Service-Level-Vereinbarung (SLA) für die Reaktion auf Vorfälle oder Benachrichtigungen, stillschweigende Modelländerungen ohne Vorankündigung, intransparente Unterauftragnehmervereinbarungen und kein definierter Ausstiegsprozess. Jedes dieser Kriterien sollte vor Vertragsunterzeichnung eine Risikobewertung auf Führungsebene auslösen.
Wie oft sollten wir KI-Anbieter neu bewerten?
Eine jährliche Neubewertung ist für Anbieter von KI-Lösungen mit hohem Risiko ein sinnvoller Richtwert, für Anbieter mit mittlerem Risiko eine zweijährliche Überprüfung und für Anbieter mit niedrigem Risiko eine weniger intensive Überwachung. Zusätzlich zum Zeitplan sollten ereignisgesteuerte Auslöser – wesentliche Modell- oder Unterprozessoränderungen, öffentlich bekannt gewordene Vorfälle, Zertifizierungsverlust, Änderung des Anwendungsfalls, neue Vorschriften – unabhängig vom Kalender eine sofortige Neubewertung erforderlich machen.
Hat der EU-KI-Gesetzentwurf Auswirkungen auf unsere Verträge mit KI-Anbietern?
Ja. Die EU-KI-Richtlinie verpflichtet Anbieter, Anwender und Importeure von KI-Systemen, und die Informationen müssen entlang der gesamten Wertschöpfungskette fließen, damit diese Verpflichtungen erfüllt werden können. Verträge mit Anbietern von Basismodellen und nachgelagerten KI-Anbietern sollten die technische Dokumentation, Gebrauchsanweisungen, Transparenzinformationen und die Meldepflichten bei Vorfällen vorsehen, die Sie benötigen, um Ihre Verpflichtungen als Anwender oder Anbieter zu erfüllen. Die Feinabstimmung oder wesentliche Modifizierung eines Standardmodells kann einen Anwender ebenfalls in einen Anbieter verwandeln, was vertraglich geregelt werden muss.
Reicht ein nach ISO 27001 zertifizierter Anbieter für KI-Anwendungsfälle aus?
Nein. ISO 27001 deckt zwar das Informationssicherheitsmanagement ab und bildet eine solide Grundlage, geht aber nicht auf KI-spezifische Risiken wie die Herkunft von Trainingsdaten, die Transparenz von Modellen, Auswirkungen auf betroffene Personen, Verzerrungen oder das Änderungsmanagement von Modellen ein. Für wesentliche KI-Anwendungsfälle sollten Sie zusätzlich auf ISO 42001 (oder einen glaubwürdigen Fahrplan in Richtung dieser Norm), SOC 2 Typ II für die betreffende KI-Dienstleistung und explizite KI-Klauseln im Vertrag achten, die über die reinen Informationssicherheitsbedingungen hinausgehen.
Kann ISMS.online neben dem allgemeinen Lieferantenrisiko auch das Risiko von KI-Anbietern managen?
Ja. ISMS.online Es handelt sich um eine Multi-Standard-Plattform, sodass KI-Anbieter im selben Lieferantenregister wie Ihre übrigen Drittanbieter geführt werden. Zusätzlich sind KI-spezifische Felder, Due-Diligence-Vorlagen und Überwachungs-Workflows integriert. Das bedeutet: ein einziges Lieferantenprogramm, ein einziger Nachweis und ein einziger Audit-Trail – allesamt abgedeckt durch ISO 42001 Anhang A.10 und die Lieferantenkontrollen Ihrer bestehenden Managementsysteme in einer einzigen Ansicht.
