Wie können Organisationen im Gesundheitswesen Vertrauenslücken und Defizite in der Datenverwaltung beheben, um die Vorteile von KI voll auszuschöpfen?
Von Kate O'Flaherty
Der Gesundheitssektor setzt auf Innovationen mithilfe von KI, wobei die Technologie ein enormes Potenzial in Bereichen wie Diagnostik, Triage und Verwaltung birgt.
In Großbritannien setzt der NHS bereits KI über grundlegende Aufgaben hinaus ein. NHS England hat Pilotprojekte für KI-gestützte Lungenkrebsvorsorge gestartet , bei denen die Technologie kleinere Auffälligkeiten erkennen kann, als das menschliche Auge sichtbar ist.
Inzwischen hat die US-amerikanische Food and Drug Administration (FDA) über 1,000 Geräte mit KI-Funktionen zugelassen , von denen die meisten in der Radiologie eingesetzt werden.
Laut einem aktuellen McKinsey-Bericht haben sich die Verantwortlichen im Gesundheitswesen in den letzten zwei Jahren von der Frage, ob KI relevant ist, hin zur Frage verlagert, wie sie verantwortungsvoll und in großem Umfang eingesetzt werden kann.
Die Zahlen zeigen, dass die Hälfte der US-amerikanischen Gesundheitsorganisationen bereits generative KI implementiert hat, während über 80 % erste Anwendungsfälle für Endnutzer bereitgestellt haben. Laut McKinsey besteht der nächste Schritt darin, dass Organisationen von der Nutzung generativer KI zur Inhaltserstellung und Unterstützung einzelner Aufgaben hin zu agentenbasierter KI übergehen , die eigenständig Maßnahmen ergreift und komplexere Prozesse koordiniert.
Dennoch verzögern erhebliche Hindernisse die Innovation im Bereich KI im Gesundheitswesen, darunter Sicherheitsrisiken und Compliance-Probleme aufgrund der riesigen Mengen sensibler Daten, die zum Trainieren der Systeme benötigt werden. Wie können Gesundheitsorganisationen Vertrauenslücken und Defizite in der Datenverwaltung beheben, um die Vorteile von KI voll auszuschöpfen?
Hochsensible Daten
Gesundheitsdaten zählen zu den sensibelsten und vielschichtigsten Daten aller Sektoren und vereinen medizinische Aufzeichnungen, persönliche Identitätsdaten und Finanzinformationen von verschiedenen Anbietern und Systemen.
„Die Informationen eines Patienten können in verschiedenen Krankenhäusern, Hausarztpraxen, Fachärzten, Laboren, Apotheken, Versicherern und Technologieplattformen gespeichert sein – oft in inkompatiblen Formaten und ohne einheitlichen Datensatz, der sie miteinander verbindet“, erklärt Craig Gravina, CTO von Semarchy.
Das Ergebnis ist, dass kein einzelnes System ein vollständiges Bild eines Patienten liefert. „Der Aufbau dieses Bildes – der longitudinalen Patientenakte – ist unerlässlich für den sicheren und effektiven Einsatz von KI im klinischen Alltag“, erklärt Gravina gegenüber IO . „Ohne sie arbeitet KI mit einem unvollständigen und unzuverlässigen Bild. Im Gesundheitswesen geht es dabei nicht nur um ein Datenproblem, sondern um ein Problem der Patientensicherheit.“
Mit der zunehmenden Integration von KI in klinische Arbeitsabläufe stehen Organisationen unter wachsendem Druck, grundlegende Fragen zu beantworten: Woher stammen diese Daten, wurden sie validiert, wer hat Zugriff darauf und lassen sich KI-gestützte Entscheidungen überprüfen? „Wenn Systeme beginnen, klinische Entscheidungen in großem Umfang zu beeinflussen, legen schwache Datengrundlagen gravierende Lücken in Vertrauen und Verantwortlichkeit offen“, so Gravina.
Die Einführung von KI-Technologie wirft laut Mike Macauley, Geschäftsführer von Liferay, Probleme in drei Bereichen auf: Verantwortlichkeit, Erklärbarkeit und Einwilligung. „Niemand weiß, wem die Schuld zuzuschreiben ist, wenn KI medizinische Ratschläge erteilt. Wenn ein System eine Empfehlung ausspricht, kann das Gesetz nicht festlegen, wer für die Folgen verantwortlich ist.“
Laut Macauley sind viele KI-Modelle faktisch „Black Boxes“, die nicht erklären, wie sie zu einem Ergebnis gelangen. Dies führe zu einem rechtlichen Problem im Hinblick auf die britische Datenschutz-Grundverordnung (DSGVO), da Patienten ein Recht darauf hätten zu erfahren, warum ein Computer eine bestimmte Entscheidung über ihre Gesundheit getroffen habe, so Macauley.
Unternehmen trainieren ihre KI mit Daten, die sie ursprünglich für einen bestimmten Zweck erhoben haben, die aber häufig auch für andere Zwecke verwendet werden. „Das bedeutet, dass sie nicht nachweisen können, dass sie das Recht haben, die ursprünglichen Daten zu verwenden, mit denen das System trainiert wurde“, erklärt Macauley gegenüber IO.
Das versteckte Problem
Bei der Einführung von KI im Gesundheitswesen wird ein oft übersehenes Risiko darin gesehen, was passiert, wenn Daten eine komplexe Kette von Drittparteien wie Legacy-Plattformen und externen Partnern durchlaufen.
„Bei jeder Übergabe verwässert sich die Verantwortung“, so Gravina von Semarchy. „Es ist nicht immer klar, wem die Daten in welcher Phase gehören, wer für ihre Qualität verantwortlich ist oder wer die Verantwortung trägt, wenn etwas schiefgeht. Wenn keine Partei den vollständigen Überblick über den gesamten Datenlebenszyklus hat, bricht die Daten-Governance zusammen.“
Erschwerend kommt hinzu, dass traditionelle Rahmenwerke für die Steuerung des Gesundheitswesens für statische Systeme mit relativ stabilen Datenflüssen und festen Regeln konzipiert wurden. So funktionieren beispielsweise Cyber Essentials und NHS Information Governance nur für starre Systeme. „KI bricht mit diesen Regeln, weil sie sich ständig weiterentwickelt“, erklärt Macauley von Liferay.
Gleichzeitig betrachtet eine standardmäßige Datenschutz-Folgenabschätzung gemäß DSGVO ein System nur einmal. Eine KI, die im laufenden Betrieb lernt, kann ihr Verhalten jedoch ändern, ohne dass jemand überprüft, ob sie dann noch sicher oder rechtmäßig ist, so Macauley.
Innovationshemmnisse
Mangelndes Vertrauen in die Steuerungspraxis behindert den Fortschritt von KI im Gesundheitswesen, indem es das Risiko von Innovationshemmnissen erhöht. Wenn Organisationen kein Vertrauen in ihre Datengrundlagen haben, stagniert die KI-Einführung.
„Führungskräfte werden zögern, KI im klinischen Bereich einzusetzen, wenn sie Datenqualität und -herkunft nicht garantieren oder die Nachvollziehbarkeit gegenüber Aufsichtsbehörden nicht nachweisen können“, sagt Gravina von Semarchy. „Ironischerweise ist die Governance-Infrastruktur, die für die sichere Skalierung von KI erforderlich ist, dieselbe, die die longitudinale Patientendatenansicht liefert und KI überhaupt erst effektiver macht.“
Gute Governance ist die Voraussetzung für effektive KI im Gesundheitswesen, erklärt er. „Entscheidend ist, dass die Bereitstellung von Daten für KI nicht zwangsläufig den Verlust der damit verbundenen Governance-Strukturen bedeuten muss – Datenherkunft, Zugriffskontrollen und Datenqualität sollten mit den Daten erhalten bleiben und nicht verloren gehen, wenn diese in eine KI-Pipeline gelangen.“
Internationale Standards
Zwei internationale Standards bilden den Rahmen für das Management von KI. ISO 27001 schafft die Grundlage für eine starke Informationssicherheit und -governance und trägt zur Etablierung strukturierter Ansätze für Risikomanagement, Zugriffskontrolle, Reaktion auf Sicherheitsvorfälle, Anlagenverwaltung und Verantwortlichkeit bei. Dies fördert laut Gravina eine „nachhaltigere Governance“.
ISO 42001 baut darauf auf und führt eine speziell für KI-Systeme entwickelte Governance ein. Sie konzentriert sich auf Aufsicht, KI-spezifisches Risikomanagement, Transparenz sowie die verantwortungsvolle Entwicklung und Nutzung von KI.
Zusammen ermöglichen diese Standards Gesundheitsorganisationen, „über die punktuelle Anwendung von KI hinauszugehen und ein strukturierteres Governance-Modell zu etablieren“, erklärt Gravina.
Es ist klar, dass KI im Gesundheitswesen ein enormes Potenzial birgt, vorausgesetzt, die Governance-Strukturen können an diese innovative neue Ära angepasst werden.
Experten sind sich einig, dass das Vertrauen der Patienten die Grundlage für alles bilden sollte. Dr. Lohyd Terrier, außerordentlicher Professor für Organisationsverhalten an der EHL Hospitality Business School, plädiert dafür, KI als expliziten Service für den Patienten zu betrachten. „Sie sollte nachvollziehbar und erklärbar sein und abgelehnt werden können – und nicht eine unsichtbare Backoffice-Funktion darstellen.“
Ausgangspunkt müssen die Daten selbst sein. Führungskräfte müssen verstehen, ob ihre Organisation über die notwendigen Grundlagen verfügt, um „eine einheitliche, langfristige Sicht auf Patientendaten über alle Systeme und Leistungserbringer hinweg“ zu erstellen, so Gravina von Semarchy. „Ohne diese Grundlage ist die KI-Governance auf Sand gebaut.“
Er empfiehlt, den bestehenden KI-Einsatz zu erfassen, kritische Datenflüsse und Abhängigkeiten von Drittanbietern zu identifizieren, Zuständigkeiten und Verantwortlichkeiten zu klären sowie Zugriffskontrollen, Prüfprotokolle und die durchgängige Datenqualität zu verbessern. „Datenschutz, Sicherheit und KI-Governance müssen in einem einheitlichen Ansatz zusammengeführt werden, anstatt isoliert voneinander behandelt zu werden.“
Erweitern Sie Ihr Wissen
Blog: Datenleck bei DXS International: Lehren für das Gesundheitswesen
Webinar: ISO 42001 in der Praxis: Lehren aus einer der weltweit ersten ISO 42001-Zertifizierungen







