Transparenz-Leitlinien für Medizinprodukte mit künstlicher Intelligenz

Nachdem die FDA schon vor zwei Jahren gemeinsam mit Health Canada und der MHRA aus Großbritannien 10 Leitlinien zu Good Machine Learning Practice (GMLP) veröffentlicht hat (siehe Umgang mit Künstlicher Intelligenz im Rahmen der Weiterentwicklung von Software in Medizinprodukte), folgen nun Transparenz-Leitlinien für diese Produkte.

In diesem Dokument beschreibt der Begriff „Transparenz“ das Ausmaß, in dem angemessene Informationen über Machine Learning -Enabeled Medical Devices (MLMDs) Betroffenen klar vermittelt wird.

Transparenz stellt sicher, dass

• Informationen, die sich auf Risiken und Patientenergebnisse auswirken könnten, kommuniziert werden
• die Informationen, die der beabsichtigte Nutzer oder die Zielgruppe benötigt, und den Kontext, in dem sie
  verwendet werden, berücksichtigt werden
• Medien, Zeitpunkte und Strategien für eine erfolgreiche Kommunikation genutzt werden
• sich auf ein ganzheitliches Verständnis von Nutzern, den Umgebungen und von Arbeitsabläufen gestützt wird.

Ein weiteres wichtiges Konzept im Zusammenhang mit Transparenz ist das „menschenzentrierte Design“ (human centered design). Die FDA versteht darunter einen iterativen Prozess, der sich mit den Nutzererfahrungen befasst und die relevanten Parteien während der gesamten Design-Phase in der Entwicklung einbezieht. Das Ziel ist: 

• MLMDs, mit einem hohen Maß an Transparenz zu entwickeln
• Hilfestellung bei der Validierung der Transparenz
• Sicherstellung, dass die Nutzer alle gerätebezogenen Informationen erhalten, die sie benötigen.

Die Prinzipien der Leitlinie

Die Prinzipien der Leitlinien orientieren sich an den "W-Fragen": 

• Wer (relevante Zielgruppen)
• Warum (Motivation)
• Was (relevante Informationen)
• Wo (Platzierung der Informationen)
• Wann (Zeitplan)
• Wie (Methoden zur Förderung der Transparenz)

Und genau diese 6 "W-Fragen" werden in der Leitlinie in einzelnen Abschnitten erläutert. Trotz dieser Erläuterungen wird der Inhalt dieser Erläuterungen nochmals in einer Tabelle summarisch aufgeführt.

Sie finden die Transparenz-Empfehlungen auf der CDRH-Webseite.