Das diesjährige Safer Internet Day Thema, Intelligente Technologie, sichere Entscheidungen – die sichere und verantwortungsvolle Nutzung von KI erkundenbetont die Wichtigkeit eines verantwortungsvollen Umgangs mit KI.
Der Einsatz von KI ist in der Geschäftswelt weit verbreitet und bietet Führungskräften eine verlockende Kombination aus gesteigerter Produktivität und reduzierten Kosten. Unternehmen nutzen KI daher mittlerweile für verschiedenste Bereiche, von der Personalbeschaffung bis hin zur Bedrohungsüberwachung. Die ethische, verantwortungsvolle und sichere Implementierung und Nutzung von KI ist jedoch nicht nur wünschenswert, sondern unerlässlich, um die Einhaltung von Vorschriften wie dem EU-KI-Gesetz zu gewährleisten, sensible Kundendaten zu schützen und Risiken zu minimieren.
Unsere Bericht zum Stand der Informationssicherheit 2025 Der Artikel beleuchtet die zentralen Herausforderungen im Bereich KI, mit denen Unternehmen konfrontiert sind – von Schwierigkeiten bei der Governance und Implementierung bis hin zu KI-gestützten Angriffen und neuen Bedrohungen. In diesem Blogbeitrag gehen wir näher auf diese Herausforderungen ein und zeigen auf, wie Unternehmen ihnen begegnen können.
Schatten-KI
Ein Drittel (34 %) der Befragten im Bericht „State of Information Security Report 2025“ gab an, dass der interne Missbrauch von generativen KI-Tools, auch bekannt als Schatten-KI, in den nächsten zwölf Monaten eine der größten und größten Bedrohungen für ihr Unternehmen darstellt. 37 % berichteten zudem, dass ihre Mitarbeiter bereits generative KI-Tools ohne Genehmigung oder Anleitung des Unternehmens eingesetzt haben.
Schatten-KI stellt ein dringendes Problem für Unternehmen dar. Die unautorisierte Nutzung von KI kann das Risiko von Datenschutzverletzungen und Verstößen gegen Datenschutzbestimmungen erhöhen und potenziell zu hohen Bußgeldern sowie Reputationsschäden führen.
Um den Einsatz von Schatten-KI zu kontrollieren, müssen Unternehmen zunächst ermitteln, wo und wofür KI eingesetzt wird. Es empfiehlt sich, den Zugriff auf diese Bereiche und Plattformen einzuschränken, bis Ihr Unternehmen klare Richtlinien für Governance und Nutzung festgelegt und kommuniziert hat.
Erstellen Sie Richtlinien für die KI-Nutzung, die festlegen, welche KI-Tools zugelassen sind und welche nicht. Legen Sie Richtlinien für die Arten von Daten fest, die in Eingabeaufforderungen eingegeben werden dürfen und welche nicht – beispielsweise sollten geistiges Eigentum, Kundendaten und Finanzdaten niemals in kostenlose, öffentliche Versionen großer Sprachmodelle eingegeben werden. Implementieren Sie ein Mitarbeiterschulungsprogramm, um sicherzustellen, dass die Mitarbeiter ihre Verantwortung für die Informationssicherheit, einschließlich der sicheren KI-Nutzung, kennen.
Firewalls oder DNS-Filter zum Blockieren verbotener Websites können zwar als wirksame technische Kontrollen dienen, doch Mitarbeiter finden dadurch möglicherweise andere Wege, um trotzdem darauf zuzugreifen. Es empfiehlt sich, ein offenes Umfeld zu fördern, in dem klare Nutzungsrichtlinien gelten und Mitarbeiter Fragen zu neuen KI-Tools stellen können. Ein unkomplizierter Genehmigungsprozess ist dabei unerlässlich.
Das Tempo der KI-Einführung
Mehr als die Hälfte (54 %) der Befragten unseres Berichts zum Stand der Informationssicherheit geben zu, dass ihr Unternehmen KI-Technologie zu schnell eingeführt hat und nun vor der Herausforderung steht, deren Einsatz zurückzufahren oder verantwortungsvoller zu gestalten. Die Ergebnisse des Berichts verdeutlichen die große Diskrepanz zwischen dem Tempo der KI-Einführung und dem Tempo der KI-Governance. Oftmals implementieren Unternehmen erst dann Schutzmaßnahmen für den KI-Einsatz, wenn bereits Fehler aufgetreten sind, was sie in einen hektischen Kampf um Kurskorrekturen führt.
ISO 42001 bietet eine robuste und proaktive Lösung. Der Standard stellt einen Rahmen für die Einrichtung, Aufrechterhaltung und kontinuierliche Verbesserung eines KI-Managementsystems (AIMS) bereit und betont dabei den ethischen und verantwortungsvollen Einsatz von KI. Organisationen können mithilfe des PDCA-Zyklus (Planen-Durchführen-Überprüfen-Anpassen) einen strategischen Ansatz für die fortlaufende Einhaltung der Vorgaben verfolgen.
Um die Anforderungen der ISO 42001 zu erfüllen, müssen Unternehmen eine KI-Richtlinie festlegen, KI-Rollen und -Verantwortlichkeiten zuweisen, die Auswirkungen von KI-Systemen bewerten und dokumentieren, Prozesse für den verantwortungsvollen Umgang mit KI-Systemen implementieren, KI-Risiken einschätzen und vieles mehr. Der Fokus auf kontinuierliche Verbesserung erfordert, dass Unternehmen ihr KI-Managementsystem (AIMS) für die fortlaufende Zertifizierung stetig weiterentwickeln.
Die ISO 42001-Zertifizierung ermöglicht es Ihrem Unternehmen, KI-Risiken zu managen, das Vertrauen der Stakeholder und Transparenz zu gewährleisten sowie die Einhaltung von Vorschriften wie dem EU-KI-Gesetz zu vereinfachen.
Neue KI-gestützte Bedrohungen
Die Befragten unseres Berichts „State of Information Security 2025“ nannten mehrere KI-bezogene Risiken als ihre größten Bedrohungen für die kommenden zwölf Monate. 42 % äußerten Bedenken hinsichtlich KI-generierter Fehlinformationen und Desinformationen, während 38 % KI-Phishing als zentrales Problem nannten. 34 % der Befragten gaben an, dass Schatten-KI ihnen Sorgen bereite, und 28 % äußerten Bedenken hinsichtlich Deepfake-Imitationen in virtuellen Meetings.
Die Daten lassen darauf schließen, dass viele dieser Bedrohungen bereits Realität sind – mehr als ein Viertel (26 %) der Befragten gaben an, in den letzten 12 Monaten Opfer von KI-Datenvergiftung geworden zu sein.
Die Implementierung bewährter Verfahren zur Informationssicherheit, wie sie beispielsweise von der ISO 27001 Das Rahmenwerk kann Unternehmen auch bei der Abwehr KI-getriebener Bedrohungen unterstützen. Die Norm ISO 27001 verpflichtet Organisationen zur Implementierung (oder zur Begründung ihrer Entscheidung gegen die Implementierung) von Kernkontrollen wie privilegierten Zugriffsrechten, Schulungen zur Informationssicherheit für Mitarbeiter, Bedrohungsanalysen und sicherer Authentifizierung.
Diese bewährten Verfahren bilden eine solide Grundlage, auf deren Basis Unternehmen die Risiken KI-gestützter Bedrohungen minimieren können. Privilegierte Zugriffsrechte können beispielsweise den Schaden begrenzen, der entsteht, wenn ein Mitarbeiter Opfer eines KI-gestützten Phishing-Angriffs wird, indem der Benutzerzugriff auf Informationen und Systeme eingeschränkt wird. Schulungen und Sensibilisierung im Bereich Informationssicherheit können verhindern, dass dieser Mitarbeiter einem solchen Angriff überhaupt zum Opfer fällt.
Fallstudie: KI-Clearing
Die Bauplattform AI Clearing wusste, dass die ISO 42001-Zertifizierung beweisen würde, dass ihr KI-System höchsten Standards und strengen Tests entspricht und somit das Vertrauen der Kunden stärkt.
Das Unternehmen nutzte die IO-Plattform für seine Compliance-Anforderungen und optimierte so die Implementierung von ISO 42001 bei gleichzeitiger vollständiger Kontrolle über seine Governance-, Risiko- und Datenschutzbestimmungen.
Erfahren Sie, wie AI Clearing ein robustes AIMS aufgebaut, KI-Risiken effizient gemanagt und die weltweit erste ISO 42001-Zertifizierung erhalten hat:
Lesen Sie die Fallstudie zu AI Clearing.
Der strategische Vorteil der KI-Governance
Künstliche Intelligenz (KI) bietet Unternehmen eine Vielzahl verlockender Vorteile, birgt aber auch Risiken. Sie ist die Grundlage einiger der größten Cyberbedrohungen, denen Organisationen im Jahr 2026 ausgesetzt sein werden. Anlässlich des Safer Internet Day ermutigen wir Unternehmen, Rahmenwerke wie ISO 42001 zu nutzen, um KI sicher, verantwortungsvoll und im Einklang mit den gesetzlichen Bestimmungen zu implementieren.
Unternehmen, die einen strategischen Ansatz für die KI-Governance verfolgen, werden in der Lage sein, KI-Risiken proaktiv zu managen, das Kundenvertrauen zu stärken und betriebliche Effizienzsteigerungen zu erzielen.
