Vertrauen in medizinische KI: Neue europäische Vorschriften verändern die Gesundheitsinnovation

Die Gesundheitsbranche steht an einem entscheidenden Wendepunkt, da neue europäische Vorschriften die Einsatzmöglichkeiten von Künstlicher Intelligenz (KI) in medizinischen Anwendungen grundlegend verändern. Mit dem Inkrafttreten der Verordnung EU - 2024/1689 stehen Hersteller medizinischer Geräte vor strengen Anforderungen, um die Sicherheit, Zuverlässigkeit und Vertrauenswürdigkeit ihrer KI-Systeme zu gewährleisten. Die Anforderungen sind besonders hoch, da medizinische KI-Anwendungen als Hochrisikosysteme eingestuft werden und daher eine sorgfältige Überwachung und Validierung erfordern.

Das neue regulatorische Umfeld: Zeitplan des KI-Gesetzes verstehen

Der europäische AI Act (KI-Verordnung) führt ein umfassendes Rahmenwerk mit konkreten Fristen ein, die Gesundheitsorganisationen einhalten müssen. Laut Dr. Andreas Schwab, Global Head Medical Software bei TÜV Rheinland, ist der 1. August 2027 das entscheidende Datum für Hersteller medizinischer Geräte. Bis dahin müssen alle KI-gestützten Medizinprodukte ein Konformitätsbewertungsverfahren mit einer benannten Stelle abgeschlossen haben, um den Marktzugang zu behalten.

Einige Regelungen sind bereits in Kraft getreten – Art. 2 AIA über verbotene Praktiken gilt seit dem 2. Februar 2025. Dies erhöht den Handlungsdruck für Hersteller, ihre bestehenden KI-Systeme zu überprüfen und die Einhaltung der neuen Verordnung sicherzustellen. Die Umsetzung gestaltet sich in manchen Mitgliedstaaten, etwa in Deutschland, besonders herausfordernd, da politische Übergänge die Einrichtung zuständiger Behörden erschwert haben.

Herstellern von medizinischen KI-Systemen wird geraten, frühzeitig mit dem Konformitätsbewertungsverfahren zu beginnen, um Engpässe kurz vor Fristende zu vermeiden. Der Geltungsbereich der Verordnung umfasst alle Medizinprodukte, die KI verwenden – unabhängig von ihrer Einstufung nach den bestehenden Regelungen für Medizinprodukte.

Risikoklassifizierung und Sicherheitsanforderungen

Gemäß der KI-Verordnung werden die meisten medizinische KI-Systeme automatisch als Hochrisikosysteme eingestuft und unterliegen daher besonders strengen Anforderungen. Diese Einstufung gilt selbst für Produkte, die unter der Medical Device Regulation (MDR) mit geringerem Risiko eingestuft werden könnten. Ein zentraler Punkt ist die Gewährleistung, dass die Trainingsdaten eines KI-Systems den beabsichtigten Anwendungsbereich und die jeweilige Patientengruppe korrekt abbilden.

Die Vorschriften gehen auf zentrale Sicherheitsbedenken ein, insbesondere im Hinblick auf Verzerrungen (Bias) und Zuverlässigkeit von KI. Dr. Schwab weist darauf hin, dass ein KI-System, welches mit unzureichenden Daten trainiert wurde, potenziell gefährliche Ergebnisse liefern kann. In einem Fall erzeugte das System künstliche Artefakte, die zu Fehldiagnosen führen konnten – ein Beweis dafür, wie wichtig eine robuste Validierung ist.

Wichtige Sicherheitsanforderungen umfassen:

• Verifizierung, dass Trainingsdaten zur beabsichtigten Patientengruppe passen
• Validierung der Systemausgaben anhand klinischer Anforderungen
• Dokumentation von Systemgrenzen und potenziellen Risiken
• Regelmäßige Überwachung und Leistungsbewertung
  

Der Zertifizierungsprozess

Der Zertifizierungsprozess wird in bestehende Qualitätsmanagementsysteme integriert und um KI-spezifische Anforderungen ergänzt. Organisationen müssen sowohl die KI-Verordnung als auch die einschlägigen Medizinprodukteverordnungen (MDR/IVDR) einhalten – das schafft ein umfassendes Rahmenwerk für Sicherheit und Wirksamkeit.

Die Dokumentationspflichten gemäß Anhang IV der KI-Verordnung verlangen detaillierte Aufzeichnungen zur Datenverwaltung, zu Transparenzmaßnahmen sowie zu menschlichen Kontrollmechanismen. Der Prozess umfasst zudem spezielle betriebliche Anforderungen gemäß den Artikeln 10–15, die Themen wie Datenmanagement und Cybersicherheit abdecken.

Selbstlernende Systeme stellen besondere Herausforderungen dar, können jedoch zertifiziert werden, sofern sie innerhalb vorbestimmter Grenzen funktionieren. Jede darüberhinausgehende Lern- oder Anpassungsleistung erfordert eine zusätzliche Mitteilung und Genehmigung durch die benannte Stelle im Rahmen eines Significant Change Notification (SCN)-Verfahrens.

Umsetzungsstrategien und Compliance-Lösungen

Organisationen können sich durch etablierte Richtlinien und bewährte Verfahren auf die Einhaltung vorbereiten. Die am 29. Januar 2025 veröffentlichte IMDRF-Leitlinie zu bewährten Verfahren für maschinelles Lernen bietet grundlegende Prinzipien für das Training medizinischer KI-Systeme. Ergänzend liefert der in Zusammenarbeit mit benannten Stellen entwickelte Fragebogen zu Künstlicher Intelligenz und Medizinprodukten ein praxisorientiertes Werkzeug zur Vorbereitung auf die Bewertung.

Die Transparenzanforderungen gelten für alle KI-Systeme, unabhängig von ihrer Risikoklassifizierung. Das bedeutet nicht zwangsläufig, dass Systeme vollständig erklärbar sein müssen, aber Organisationen müssen den Einsatz von KI in ihren Produkten klar kennzeichnen. Diese Anforderung spiegelt ein übergeordnetes Engagement für Offenheit und Vertrauen in medizinische KI-Anwendungen wider.

Für die praktische Umsetzung sollten sich Organisationen auf folgende Punkte konzentrieren:

• Dokumentation der KI-Systemeigenschaften und -grenzen
• Etablierung robuster Validierungsverfahren
• Führung vollständiger Aufzeichnungen zu Trainingsdaten
• Frühzeitige Vorbereitung auf das Konformitätsbewertungsverfahren
  

Fazit

Die europäische KI-Verordnung markiert einen tiefgreifenden Wandel in der Regulierung und Validierung medizinischer KI-Systeme. Auch wenn die Anforderungen anspruchsvoll sind, bieten sie einen klaren Rahmen, um Vertrauen in KI-gestützte Gesundheitslösungen zu schaffen. Organisationen, die jetzt mit der Vorbereitung beginnen, etablierte Richtlinien befolgen und mit benannten Stellen zusammenarbeiten, werden besser auf die Fristende im August 2027 vorbereitet sein – und gleichzeitig ihre Wettbewerbsfähigkeit im sich wandelnden Gesundheitsmarkt sichern.

Redaktioneller Hinweis:
Dieser Beitrag basiert auf dem entsprechenden Vortrag während der MedtecLIVE Innovation Expo 2025 und wurde mit Unterstützung von KI erstellt. Auch das Rahmenprogramm der MedtecLIVE 2026, die vom 5. bis 7. Mai 2026 in Stuttgart stattfindet, bietet zahlreiche Vorträge. Die Fachmesse bringt Zulieferer, Anbieter aus der Entwicklung und Produktion von Medizintechnik, OEMs, Inverkehrbringer und weiteren Akteuren der Medizintechnik-Community zusammen.