Wie können Organisationen im Gesundheitswesen Vertrauenslücken und Defizite in der Datenverwaltung beheben, um die Vorteile von KI voll auszuschöpfen?
Von Kate O'Flaherty
Der Gesundheitssektor setzt auf Innovationen mithilfe von KI, wobei die Technologie ein enormes Potenzial in Bereichen wie Diagnostik, Triage und Verwaltung birgt.
In Großbritannien ist der NHS bereits KI annehmen Über die grundlegenden Aufgaben hinaus. NHS England hat damit begonnen Piloten für KI-gestützte Lungenkrebs-Screenings, wobei die Technologie auch kleinere Probleme erkennen kann, als das menschliche Auge sehen kann.
Inzwischen hat die US-amerikanische Lebensmittel- und Arzneimittelbehörde (FDA) autorisiert mehr als 1,000 Geräte mit KI-Integration, die mehrheitlich in der Radiologie eingesetzt werden.
Laut einer aktuellen Studie haben sich die Prioritäten von Führungskräften im Gesundheitswesen in den letzten zwei Jahren verlagert: von der Frage nach der Relevanz von KI hin zur Frage, wie diese verantwortungsvoll und in großem Umfang eingesetzt werden kann. McKinsey Bericht.
Die Zahlen zeigen, dass die Hälfte der US-amerikanischen Gesundheitsorganisationen bereits generative KI implementiert hat, während über 80 % ihre ersten Anwendungsfälle für Endnutzer bereitgestellt haben. Laut McKinsey besteht der nächste Schritt darin, dass Organisationen generative KI nicht mehr nur zur Inhaltserstellung und Unterstützung einzelner Aufgaben nutzen, sondern sie auch umfassend einsetzen. Agentische KI um Maßnahmen zu ergreifen und komplexere Prozesse zu koordinieren.
Dennoch verzögern erhebliche Hindernisse die Innovation im Bereich KI im Gesundheitswesen, darunter Sicherheitsrisiken und Compliance-Probleme aufgrund der riesigen Mengen sensibler Daten, die zum Trainieren der Systeme benötigt werden. Wie können Gesundheitsorganisationen Vertrauenslücken und Defizite in der Datenverwaltung beheben, um die Vorteile von KI voll auszuschöpfen?
Hochsensible Daten
Gesundheitsdaten zählen zu den sensibelsten und vielschichtigsten Daten aller Sektoren und vereinen medizinische Aufzeichnungen, persönliche Identitätsdaten und Finanzinformationen von verschiedenen Anbietern und Systemen.
„Die Informationen eines Patienten können in verschiedenen Krankenhäusern, Hausarztpraxen, Fachärzten, Laboren, Apotheken, Versicherern und Technologieplattformen gespeichert sein – oft in inkompatiblen Formaten und ohne einheitlichen Datensatz, der sie miteinander verbindet“, erklärt Craig Gravina, CTO von Semarchy.
Das Ergebnis ist, dass kein einzelnes System ein vollständiges Bild eines Patienten liefert. „Dieses Bild zu erstellen – die longitudinale Patientenakte „Das ist es, was erforderlich ist, damit KI in einem klinischen Umfeld sicher und effektiv funktioniert“, sagt Gravina. IO„Ohne sie arbeitet die KI mit einem unvollständigen und unzuverlässigen Bild. Im Gesundheitswesen geht dies über ein reines Datenproblem hinaus und wird zu einem Problem der Patientensicherheit.“
Mit der zunehmenden Integration von KI in klinische Arbeitsabläufe stehen Organisationen unter wachsendem Druck, grundlegende Fragen zu beantworten: Woher stammen diese Daten, wurden sie validiert, wer hat Zugriff darauf und lassen sich KI-gestützte Entscheidungen überprüfen? „Wenn Systeme beginnen, klinische Entscheidungen in großem Umfang zu beeinflussen, legen schwache Datengrundlagen gravierende Lücken in Vertrauen und Verantwortlichkeit offen“, so Gravina.
Die Einführung von KI-Technologie wirft laut Mike Macauley, Geschäftsführer von Liferay, Probleme in drei Bereichen auf: Verantwortlichkeit, Erklärbarkeit und Einwilligung. „Niemand weiß, wem die Schuld zuzuschreiben ist, wenn KI medizinische Ratschläge erteilt. Wenn ein System eine Empfehlung ausspricht, kann das Gesetz nicht festlegen, wer für die Folgen verantwortlich ist.“
Laut Macaulay sind viele KI-Modelle faktisch „Black Boxes“, die nicht erklären, wie sie zu einem Ergebnis gelangen. Dies stellt ein rechtliches Problem nach britischem Recht dar. Allgemeine Datenschutzverordnung (DSGVO), weil Patienten ein Recht darauf haben zu erfahren, warum ein Computer eine bestimmte Entscheidung über ihre Gesundheit getroffen hat, sagt Macauley.
Unternehmen trainieren ihre KI mit Daten, die sie ursprünglich für einen bestimmten Zweck erhoben haben, die aber oft auch für andere Zwecke verwendet werden. „Das bedeutet, dass sie nicht nachweisen können, dass sie das Recht haben, die ursprünglichen Daten zu verwenden, mit denen das System trainiert wurde“, erklärt Macauley. IO.
Das versteckte Problem
Bei der Einführung von KI im Gesundheitswesen wird ein oft übersehenes Risiko darin gesehen, was passiert, wenn Daten eine komplexe Kette von Drittparteien wie Legacy-Plattformen und externen Partnern durchlaufen.
„Bei jeder Übergabe verwässert sich die Verantwortung“, so Gravina von Semarchy. „Es ist nicht immer klar, wem die Daten in welcher Phase gehören, wer für ihre Qualität verantwortlich ist oder wer die Verantwortung trägt, wenn etwas schiefgeht. Wenn keine Partei den vollständigen Überblick über den gesamten Datenlebenszyklus hat, bricht die Daten-Governance zusammen.“
Erschwerend kommt hinzu, dass traditionelle Rahmenwerke für die Steuerung des Gesundheitswesens für statische Systeme mit relativ stabilen Datenflüssen und festen Regeln konzipiert wurden. Beispiele hierfür sind Cyber Essentials und NHS-InformationsverwaltungDiese Regeln funktionieren nur für starre Systeme. „KI bricht diese Regeln, weil sie sich ständig weiterentwickelt“, sagt Macauley von Liferay.
Gleichzeitig ein Standard Datenschutz-Folgenabschätzung Wie die DSGVO vorsieht, wird ein System nur einmal geprüft. Eine KI, die im Betrieb lernt, kann ihr Verhalten jedoch ändern, ohne dass jemand überprüft, ob sie dann noch sicher oder legal ist, so Macauley.
Innovationshemmnisse
Mangelndes Vertrauen in die Steuerungspraxis behindert den Fortschritt von KI im Gesundheitswesen, indem es das Risiko von Innovationshemmnissen erhöht. Wenn Organisationen kein Vertrauen in ihre Datengrundlagen haben, stagniert die KI-Einführung.
„Führungskräfte werden zögern, KI im klinischen Bereich einzusetzen, wenn sie Datenqualität und -herkunft nicht garantieren oder die Nachvollziehbarkeit gegenüber Aufsichtsbehörden nicht nachweisen können“, sagt Gravina von Semarchy. „Ironischerweise ist die Governance-Infrastruktur, die für die sichere Skalierung von KI erforderlich ist, dieselbe, die die longitudinale Patientendatenansicht liefert und KI überhaupt erst effektiver macht.“
Gute Governance ist die Voraussetzung für effektive KI im Gesundheitswesen, erklärt er. „Entscheidend ist, dass die Bereitstellung von Daten für KI nicht zwangsläufig den Verlust der damit verbundenen Governance-Strukturen bedeuten muss – Datenherkunft, Zugriffskontrollen und Datenqualität sollten mit den Daten erhalten bleiben und nicht verloren gehen, wenn diese in eine KI-Pipeline gelangen.“
Internationale Standards
Zwei internationale Standards bilden den Rahmen für das Management von KI. ISO 27001 Sie bildet die Grundlage für eine starke Informationssicherheit und -governance und trägt zur Etablierung strukturierter Ansätze für Risikomanagement, Zugriffskontrolle, Reaktion auf Sicherheitsvorfälle, Anlagenverwaltung und Verantwortlichkeit bei. Dies trage zu einer „nachhaltigeren Governance“ bei, so Gravina.
ISO 42001 Darauf aufbauend wird eine speziell für KI-Systeme entwickelte Governance eingeführt. Der Fokus liegt auf Aufsicht, KI-spezifischem Risikomanagement, Transparenz sowie der verantwortungsvollen Entwicklung und Nutzung von KI.
Zusammen ermöglichen diese Standards Gesundheitsorganisationen, „über die punktuelle Anwendung von KI hinauszugehen und ein strukturierteres Governance-Modell zu etablieren“, erklärt Gravina.
Es ist klar, dass KI im Gesundheitswesen ein enormes Potenzial birgt, vorausgesetzt, die Governance-Strukturen können an diese innovative neue Ära angepasst werden.
Laut Experten sollte das Vertrauen der Patienten die Grundlage für alles bilden. Lohyd Terrier, außerordentliche Professorin für Organisationsverhalten an der EHL Hospitality Business School, plädiert dafür, KI als explizite Dienstleistung für den Patienten zu betrachten. „Sie sollte nachvollziehbar und erklärbar sein und abgelehnt werden können – und nicht eine unsichtbare Backoffice-Funktion darstellen.“
Ausgangspunkt müssen die Daten selbst sein. Führungskräfte müssen verstehen, ob ihre Organisation über die notwendigen Grundlagen verfügt, um „eine einheitliche, langfristige Sicht auf Patientendaten über alle Systeme und Leistungserbringer hinweg“ zu erstellen, so Gravina von Semarchy. „Ohne diese Grundlage ist die KI-Governance auf Sand gebaut.“
Er empfiehlt, den bestehenden KI-Einsatz zu erfassen, kritische Datenflüsse und Abhängigkeiten von Drittanbietern zu identifizieren, Zuständigkeiten und Verantwortlichkeiten zu klären sowie Zugriffskontrollen, Prüfprotokolle und die durchgängige Datenqualität zu verbessern. „Datenschutz, Sicherheit und KI-Governance müssen in einem einheitlichen Ansatz zusammengeführt werden, anstatt isoliert voneinander behandelt zu werden.“
Erweitern Sie Ihr Wissen
Blog: Datenleck bei DXS International: Lehren für das Gesundheitswesen
Webinar: ISO 42001 in der Praxis: Lehren aus einer der weltweit ersten ISO 42001-Zertifizierungen
