Was kann getan werden, um die Kontrolle zurückzugewinnen, da sich das Problem der Schatten-KI in der Finanzbranche verschärft?
Wie etwa Tools wie die von OpenAI ChatGPT allgegenwärtig werden Schatten-KI stellt ein zunehmendes Problem für die Finanzbranche dar. Die Tools bergen vielfältige Risiken, darunter Datenlecks und Fehlalarme, verschärft durch die Tatsache, dass Finanzunternehmen in vielen Fällen nicht einmal wissen, dass sie eingesetzt werden.
Da die Einführung von KI am Rande von Organisationen schneller voranschreitet, als die Governance mithalten kann, muss der Sektor lernen, mit diesem sich rasant entwickelnden Risiko umzugehen. Wie können Verantwortliche für Sicherheit und Compliance die Kontrolle über Schatten-KI zurückgewinnen?
Offengelegter Sektor
Als stark regulierter Sektor, der mit riesigen Mengen sensibler Daten arbeitet, ist die Finanzbranche besonders anfällig für Schatten-KI. „Die Branche verarbeitet hochwertige, streng regulierte Daten unter ständigem Zeitdruck“, so Leslie Nielsen, CISO bei Mimecast. „Diese Kombination führt dazu, dass Mitarbeiter zu jedem erdenklichen Tool greifen, um ihre Arbeit zu erledigen – oft bevor das Unternehmen überhaupt davon weiß.“
Dies kann jedoch auch dazu führen, dass Mitarbeiter hochsensible und vertrauliche Daten in KI-Modelle einspeisen. Mark McClain, Gründer und CEO von SailPoint, nennt als Beispiel ein nicht autorisiertes Tool, das für die Abwicklung eines Kreditvergabeprozesses eingesetzt wurde. „Es würde Finanzdaten aggregieren, die Kreditwürdigkeit analysieren, Konditionen festlegen, die Kreditprüfung unterstützen und mit den Beteiligten kommunizieren.“
Allerdings könnte der Agent, wenn er uneingeschränkten Zugriff auf die Systeme des Unternehmens hätte, Daten falsch interpretieren, risikoreiche Kredite genehmigen oder versehentlich Kundendaten offenlegen, was zu Verstößen gegen Compliance-Vorschriften oder zu Reputationsschäden führen könnte, vermutet er.
Mehrere KI-Tools
Der Einsatz von Schatten-KI ist meist praktischer und aufgabenorientierter Natur, da Mitarbeiter auf Tools zurückgreifen, die ihnen helfen, Zeit zu sparen oder den manuellen Aufwand bei ihrer täglichen Arbeit zu reduzieren.
Tatsächlich ist die Bandbreite der in Finanzunternehmen eingesetzten Tools größer, als den meisten Sicherheitsteams bewusst ist, so Nielsen von Mimecast. „Im Finanzdienstleistungssektor nutzen Mitarbeiter universelle Tools wie ChatGPT, KI-gestützte E-Mail- und Meeting-Plattformen, Transkriptions- und Zusammenfassungsdienste sowie Analyse-Tools. Sie verfassen Kundenkommunikation, fassen Dokumente zusammen, analysieren Daten und bewältigen Arbeitslasten mit Tools, die ihre Arbeitgeber nie geprüft oder genehmigt haben.“
Das risikoreichste Verhalten sei nicht besonders ausgefeilt, betont er. „Mitarbeiter laden Dokumente in externe KI-Tools hoch. Sie leiten geschäftliche E-Mails an private Konten weiter, um auf KI-Funktionen zuzugreifen. Sie fügen sensible Informationen in Eingabeaufforderungen ein, weil das Tool damit besser funktioniert.“
Diese Art der KI-Nutzung ist zwar nicht böswillig, doch KI-Funktionen, wie sie beispielsweise in privaten E-Mail-Konten angeboten werden, scannen Inhalte automatisch. „Das bedeutet, dass vertrauliche Geschäftsdaten unbemerkt in Systemen Dritter oder in Trainingsmodellen landen können“, warnt Nielsen.
Nicht Schatten-IT
Das Risiko ist besorgniserregend, doch sollte man Schatten-KI nicht mit Schatten-IT verwechseln. Sie gleichzusetzen sei „ein Fehler“, so Nielsen. „Bei Schatten-IT geht es um unautorisierte Anwendungen, die außerhalb der IT-Aufsicht betrieben werden. Das Risiko besteht hauptsächlich in der Transparenz und Kontrolle der verwendeten Tools. Schatten-KI führt eine zweite Ebene ein: die Daten, die in diese Tools eingespeist werden, die generierten Ergebnisse und die Möglichkeiten, wie diese Informationen gespeichert, wiederverwendet oder offengelegt werden können.“
Schatten-KI ist nicht einfach nur Schatten-IT mit einem angehängten Chatbot, bestätigt Christopher Jess, Senior R&D Manager bei Black Duck. Er nennt modellspezifische Risiken wie „den Verlust sensibler Daten, gefälschte, aber überzeugende Ergebnisse, die sofortige Einschleusung von KI-Funktionen und eingebettete KI-Funktionen in Software, die bereits als genehmigt gilt“.
Im Finanzdienstleistungssektor ist das Risiko höher, da die eingegebenen Daten sensibler sind und die regulatorischen Folgen einer Offenlegung schwerwiegender ausfallen, so Nielsen von Mimecast. „Wenn ein Mitarbeiter Kundendaten in ein externes KI-Tool eingibt, um schneller einen Bericht zu erstellen, besteht das Risiko nicht nur im Tool selbst. Es geht auch darum, ob diese Daten gespeichert werden, wer darauf zugreifen kann und ob sie innerhalb der vom Unternehmen gesetzlich vorgeschriebenen Grenzen liegen.“ Datenschutz-Grundverordnung (DSGVO) oder andere Rahmenwerke.“
Laut Nielsen besteht zudem ein umfassenderes Risiko, das oft übersehen wird: Verantwortlichkeit und Integrität von Entscheidungen. „Wenn KI-generierte Ergebnisse ohne klare Aufsicht in die Kundenkommunikation oder operative Entscheidungen einfließen, können Unternehmen weder Herkunft noch Genauigkeit nachweisen. Das ist sowohl ein Governance- als auch ein Sicherheitsproblem.“
Blockierende KI
Die Blockierung von KI-Tools am Arbeitsplatz ist nicht hilfreich. Experten warnen sogar davor, dass sie die Situation verschlimmern kann. Mitarbeiter, die deutliche Effizienzsteigerungen feststellen, suchen oft nach alternativen Wegen, KI-Tools zu nutzen, oder greifen zu riskanteren Methoden, um Ergebnisse zu erzielen.
„Anstatt genehmigte Geschäftstools zu verwenden, greifen Mitarbeiter möglicherweise auf private Konten, Browsererweiterungen oder kostenlose KI-Plattformen zurück, die noch weniger Transparenz und Kontrolle bieten“, erklärt Callum Beckwith, technischer Leiter der Softwareentwicklung bei Capture Expense. IO.
Gleichzeitig ist die Aussage eines Unternehmens „Wir haben es verboten“ keine Verteidigung, die die Aufsichtsbehörde akzeptieren wird, nachdem der Verstoß ohnehin schon stattgefunden hat, fügt Ben Jacob-Smith, Gründer der Obsessed Group, hinzu.
„Organisationen, die sich ausschließlich auf Einschränkungen konzentrieren, erhöhen oft das Risiko, anstatt es zu verringern.“
Das Gleichgewicht wiederherstellen
Es mag komplex erscheinen, aber es ist möglich, das Gleichgewicht zwischen Produktivität und Kontrolle wiederherzustellen, indem man eine kontinuierliche Überwachung gewährleistet und integrierte Managementsysteme einsetzt.
Als Teil dieses Prozesses können KI-Governance-Rahmenwerke helfen., sowie ISO 42001 als auch ISO 27001 für Informationssicherheitsmanagementsysteme.
Inzwischen hat die NIST AI Risk Management Framework Laut Beckwith bietet dies einen nützlichen Ausgangspunkt, um über KI-spezifische Risiken und Kontrollmaßnahmen nachzudenken. "Es bietet Organisationen eine strukturierte Möglichkeit, zu bewerten, wie KI-Systeme über ihren gesamten Lebenszyklus hinweg konzipiert, eingesetzt und gesteuert werden, und berücksichtigt dabei wichtige Aspekte wie Datenverarbeitung, Zuverlässigkeit und Verantwortlichkeit.“
Finanzunternehmen sollten sich auch der folgenden Punkte bewusst sein: EU-KI-GesetzDies gilt für jedes britische Unternehmen, dessen KI-Systeme Kunden in der EU erreichen.
Es besteht kein Zweifel, dass die Herausforderung durch Schatten-KI mit dem Markteintritt zahlreicher KI-Tools zunimmt. Doch lässt sich dies nicht verhindern. Da KI-Tools die Produktivität steigern können, besteht das Ziel für Verantwortliche im Bereich Sicherheit und Compliance im Finanzsektor laut Beckwith nicht darin, Innovationen zu bremsen, sondern sie sicher zu lenken.
Um die Kontrolle zurückzugewinnen, empfiehlt Beckwith die Schaffung „strukturierter, transparenter und geregelter Wege“ für den KI-Einsatz. „Dies beginnt damit, zu verstehen, wo KI im Unternehmen bereits eingesetzt wird. Darauf aufbauend können Organisationen klare Erwartungen an die akzeptable Nutzung und den Umgang mit Daten definieren, die mit regulatorischen und Compliance-Anforderungen übereinstimmen.“
Er ist überzeugt, dass das Hauptziel darin bestehen sollte, Mitarbeitern effektive Werkzeuge für ihre Arbeit zur Verfügung zu stellen. Die Bereitstellung zugelassener Tools beseitigt die Notwendigkeit von Umgehungslösungen, während praxisnahe Schulungen den Mitarbeitern helfen, den verantwortungsvollen Umgang mit KI in realen Szenarien zu verstehen, beispielsweise bei der Zusammenfassung interner Richtlinien, so Beckwith. „Es geht hier nicht um Perfektion, sondern um eine kontrollierte, nachvollziehbare und gut verständliche Nutzung.“
Erweitern Sie Ihr Wissen
Blog: 700Credit-Sicherheitsvorfall: API-Risiken rücken die Governance der Finanzlieferkette in den Fokus
Guide: Der stressfreie Leitfaden zur ISO 42001-Zertifizierung
