Künstliche Intelligenz bei Medizinprodukten - Sichtweise von Benannten Stellen

Im November 2024 hat das "Team NB" eine 28-seitige Leitlinie im Stile eines Fragebogens zum Thema "Artificial Intelligence in Medical Devices" herausgegeben. 

Inhalt

Das Dokument wurde geschrieben, um Hilfestellung beim Einsatz von Künstlicher Intelligenz bei Medizinprodukten zu geben. Die Grundüberlegung ist, dass die Sicherheit von auf Künstlicher Intelligenz (KI)-basierten Medizinprodukten nur durch einen prozessorientierten Ansatz erreicht werden kann, bei dem alle relevanten Prozesse und Phasen des Lebenszyklus berücksichtigt werden müssen. Insofern enthält der Leitfaden keine spezifischen Anforderungen an die Produkte, sondern nur an die Prozesse.

Interessanterweise weisen die Autoren in einem Hinweis vorab darauf hin, dass spezifische Anforderungen zur Künstlichen Intelligenz, aus der EU-Verordnung (2024/1689) kommend, nicht berücksichtigt wurden. Sie werden in einer Aktualisierung des Fragebogens zu einem späteren Zeitpunkt mit einbezogen werden. Wobei die Autoren durchaus einige Überlappungen zwischen der EU-Verordnung und anderen auf Künstliche Intelligenz (KI) bezogene Regelwerke sehen.

Grundsätzlich müssen der Annex II (4.) sowohl der Medizinprodukte- als auch der In-vitro-Diagnostik-Verordnung bei Software für Medizinprodukte berücksichtigt werden. Das gilt auch für Medizinprodukte mit KI. Eine Validierung bei solchen Produkten ist grundsätzlich notwendig, so die Leitlinie. Es ist Teil der Technischen Dokumentation und wird von Benannten Stellen überprüft werden.

Bei "selbstlernenden Systemen" ist eine Zertifizierung derzeit nur schwer möglich, es sei denn, entsprechende Validierungstests hinsichtlich der Sicherheit des Produktes sind in der Technischen Dokumentation hinterlegt, so die Leitlinie.

Eine Auflistung empfiehlt den Herstellern folgende Aspekte zu berücksichtigen, entweder in Anweisungen oder in Plänen, um die Sicherheit des Produktes sicherzustellen:

• Entwicklung
• Risikomanagement
• Datenmanagement (Eigentum des Kunden)
• Verifizierung oder Validierung (falls nicht Teil der Entwicklung)
• Überwachung (surveillance and vigilance) nach der Markteinführung
• Software-Lebenszyklus, einschließlich Wartung, Installation und Außerbetriebnahme
• Konfigurationsmanagement
• Schulung und Qualifizierung
• Kundenkommunikation
• Einkauf, Lieferanten und Kontrolle der Lieferkette
• Management-Review

Und dann listet das Dokument notwendige Fragen auf, worauf beim Einsatz von KI  zu achten ist. Das ist im Stil eines Fragebogens gehalten und listet sehr detailliert die Fragen mit Referenzen zu Verordnungen, Normen, etc. auf.

Fazit

Künstliche Intelligenz bei Medizinprodukten ist sicherlich die Zukunft. Insofern bietet der Fragebogen des NB Teams hierzu eine gute Hilfestellung.     

Sie finden das Dokument in Gänze auf der Team NB Seite.