KI im Gesundheitswesen: Innovation und Sicherheit im Einklang mit neuen Regulierungen

Das Gesundheitswesen befindet sich an einem entscheidenden Wendepunkt, während künstliche Intelligenz medizinische Verfahren und Ausbildung transformiert und sich gleichzeitig neuen regulatorischen Anforderungen stellen muss. Mit der Verabschiedung des EU AI-Act und der bestehenden Medizinprodukteverordnung (MDR) müssen Gesundheitsdienstleister und Medizinproduktehersteller sich in einer zunehmend komplexen Regulierungslandschaft zurechtfinden und dabei Innovation fördern sowie Patientensicherheit gewährleisten. Auf der MedtecLIVE 2024 beleuchteten Branchenexperten in einer durch den Bitkom organisierten Vortragssession spezifische Anforderungen aber auch Lösungsansätze für die Regulierung von KI in verschiedenen Kontexten.

Die neue Ära der KI im Gesundheitswesen: Regulatorische Herausforderungen meistern

Die Europäische Union hat mit dem AI-Act die weltweit erste umfassende KI-Regulierung etabliert, die parallel zu bestehenden Medizinprodukteverordnungen umgesetzt wird. Dieser neue Rahmen führt spezifische Anforderungen für Hochrisiko-KI-Systeme ein, zu denen die meisten medizinischen Anwendungen zählen. Nach Einschätzung der Regulierungsexperten werden Medizinprodukte der Klassen 2a, 2b und 3 automatisch als Hochrisiko-KI-Systeme eingestuft, was zusätzliche Überwachungs- und Compliance-Maßnahmen erfordert.

Gesundheitsorganisationen müssen sich auf eine schrittweise Implementierung dieser Regulierungen vorbereiten. Die Anforderungen des AI-Act werden stufenweise eingeführt, mit unterschiedlichen Zeitplänen für verschiedene Aspekte: Verbote für inakzeptable Risikosysteme treten nach sechs Monaten in Kraft, Anforderungen für universelle KI-Modelle nach zwölf Monaten und Hochrisikosystem-Anforderungen zwischen 24 bis 36 Monaten nach Inkrafttreten des Gesetzes. (Anmerkung der Redaktion: die erste Stufe ist seit 01.02.2025 in Kraft)

Die Überschneidung des AI-Act mit der bestehenden MDR schafft sowohl Herausforderungen als auch Chancen. Während es in Bereichen wie Risikomanagement, Qualitätsmanagementsystemen und Nachmarktüberwachung Überschneidungen gibt, führt der AI-Act neue spezifische Anforderungen für Transparenz, Daten-Governance und Dokumentation ein, die in den bisherigen Medizinprodukteverordnungen nicht behandelt wurden.

Von der Theorie zur Praxis: KI-Anwendungen in der Realität

Ein besonders überzeugendes Beispiel für die Implementierung von KI im Gesundheitswesen ist das Femto-Kataraktchirurgiesystem. Mit über 19 Millionen Operationen weltweit ist die Kataraktchirurgie der häufigste chirurgische Eingriff, und KI-gestützte Systeme verbessern deren Präzision und Sicherheit. Das Femto-System nutzt KI zur präzisen Bestimmung von Schnittposition und demonstriert, wie künstliche Intelligenz die chirurgische Genauigkeit verbessern kann, während die ärztliche Aufsicht gewährleistet bleibt.

Extended Reality und KI revolutionieren die medizinische Ausbildung durch innovative Ansätze in Simulation und Praxis. Unternehmen wie die medverse GmbH, Teil der inside360-Gruppe, entwickeln immersive Trainingsumgebungen, die virtuelle Realität mit KI-gesteuerten Interaktionen kombinieren. Diese Systeme ermöglichen medizinischem Fachpersonal das Üben von Prozeduren und Szenarien, die in der Realität unmöglich oder unsicher zu simulieren wären. Wie auf der Konferenz gezeigt wurde, ermöglichen diese VR-basierten Lösungen die Simulation von Notfallsituationen oder Komplikationen ohne Patientenrisiko - beispielsweise das Testen von Reaktionen auf kardiale Ereignisse während Eingriffen, wobei die Möglichkeit besteht, das Szenario für optimales Lernen mehrfach zu wiederholen.

Die Integration von KI in die medizinische Ausbildung adressiert direkt kritische Skalierbarkeitsherausforderungen in der medizinischen Ausbildung. Wie in der Präsentation hervorgehoben wurde, sind traditionelle individuelle Trainingseinheiten außerordentlich kostspielig und bieten begrenzte Anpassungsmöglichkeiten. Virtuelle Trainingsumgebungen lösen dies, indem sie medizinischem Fachpersonal ermöglichen, Prozeduren jederzeit und überall zu üben, ohne geografische Einschränkungen - ein Trainer könnte sich in Boston befinden, während Lernende gleichzeitig aus Hongkong und Südafrika teilnehmen. Dieser Ansatz hat bemerkenswerte Effizienzsteigerungen gezeigt, besonders bei spezialisierten Eingriffen wie endovaskulären Operationen. Traditionelle Trainingseinheiten mit physischer Ausrüstung (Kosten circa 30.000 Euro pro Gerät) dauern typischerweise vier Stunden, während virtuelles Training dies auf 15-45 Minuten fokussierte Praxis komprimieren kann, bei gleichbleibender Ausbildungsqualität.

Sicherheit zuerst: Entwicklung risikobewusster KI-Systeme

Die Risikobewertung muss in den frühesten Phasen der KI-Systementwicklung beginnen. Gesundheitsorganisationen sind verpflichtet, strukturierte Risikobewertungsprozesse zu implementieren, die sowohl technische Leistung als auch potenzielle Auswirkungen auf die Patientensicherheit berücksichtigen. Dies umfasst die Bewertung von Faktoren wie Modellgenauigkeit, Fairness über verschiedene Patientenpopulationen hinweg und potenzielle Ausfallmodi.

Entwicklungsteams sollten diverse Expertise einbinden, einschließlich klinischer, technischer und regulatorischer Perspektiven. Wie in den Präsentationen hervorgehoben wurde, erfordert erfolgreiches Risikomanagement den Input verschiedener Interessengruppen, um potenzielle Probleme während des gesamten Entwicklungslebenszyklus zu identifizieren und zu adressieren.

Dokumentation spielt eine entscheidende Rolle im Risikomanagement. Organisationen müssen detaillierte Aufzeichnungen ihrer Risikobewertungsprozesse, Risikominderungsstrategien und laufenden Überwachungspläne führen. Diese Dokumentation dient sowohl der regulatorischen Compliance als auch als Grundlage für kontinuierliche Verbesserung.

Über die Implementierung hinaus: Langfristige KI-Leistung sicherstellen

Die kontinuierliche Überwachung von KI-Systemen im Gesundheitswesen ist essenziell, da die Modellleistung im Laufe der Zeit erheblich nachlassen kann. Wie von Konstanze Olschewski von der Phnx Alpha GmbH demonstriert wurde, haben Praxisfälle dramatische Leistungsverschlechterungen gezeigt - in einer industriellen Anwendung sank die Modellgenauigkeit innerhalb von nur 16 Wochen nach Deployment auf das Zufallsniveau (50% Genauigkeit). Diese Verschlechterung ist besonders besorgniserregend bei medizinischen Anwendungen, wo Vorschriften vorschreiben, dass die Leistung nach der Implementierung nicht abnehmen darf. Die Herausforderung wird dadurch verschärft, dass die meisten KI-Modelle auf statischen Datensätzen bis zu einem bestimmten Zeitpunkt trainiert werden und bei Medizinproduktanwendungen regulatorische Einschränkungen Systemaktualisierungen sogar verbieten können, was die anfängliche Qualitätssicherung und fortlaufende Überwachung für die Aufrechterhaltung der Leistungsstandards entscheidend macht.

Gesundheitsorganisationen müssen Qualitätssicherungsmaßnahmen implementieren, die wichtige Leistungskennzahlen während des gesamten Systemlebenszyklus überwachen. Dies umfasst die Überwachung von Genauigkeit, Fairness und anderen relevanten Indikatoren, die spezifisch für die medizinische Anwendung sind.

Tools und Frameworks entstehen, um diese kontinuierliche Überwachungsanforderung zu unterstützen. Lösungen wie AI-Guard ermöglichen es Organisationen, die Modellleistung in Echtzeit zu verfolgen, Einblicke in das Systemverhalten zu gewinnen und potenzielle Probleme zu identifizieren, bevor sie die Patientenversorgung beeinträchtigen.

Fazit

Während Gesundheitsorganisationen KI in ihre Abläufe integrieren, hängt der Erfolg von der Balance zwischen Innovation, regulatorischer Compliance und Patientensicherheit ab. Durch die Implementierung umfassender Risikomanagementstrategien und kontinuierlicher Überwachungssysteme können Organisationen hohe Versorgungsstandards aufrechterhalten und gleichzeitig die Vorteile der KI-Technologie nutzen. Der Schlüssel liegt darin, die KI-Implementierung als fortlaufenden Prozess statt als einmalige Einführung zu betrachten und dabei nachhaltige Leistung und Sicherheit während des gesamten Systemlebenszyklus sicherzustellen.

Redaktioneller Hinweis:
Dieser Beitrag basiert auf dem entsprechenden Vortrag während der MedtecLIVE 2024 (18. - 20. Juni 2024) und wurde mit Unterstützung von KI erstellt. Auch das Rahmenprogramm der MedtecLIVE 2026, die vom 5. bis 7. Mai 2026 in Stuttgart stattfindet, bietet zahlreiche Vorträge. Die Fachmesse bringt Zulieferer, Anbieter aus der Entwicklung und Produktion von Medizintechnik, OEMs, Inverkehrbringer und weiteren Akteuren der Medizintechnik-Community zusammen.