Neues EMA Reflection Paper zur Künstlichen Intelligenz

Das Thema Künstliche Intelligenz (KI) gewinnt in letzter Zeit immer mehr an Bedeutung. Der Erfolg von ChatGPT und die entsprechende Berichterstattung hat das Thema einer breiten Öffentlichkeit zugänglich gemacht.

Aber auch im Umfeld der Life Science Industrie spielt die Thematik schon seit Jahren im gesamten Lebenszyklus medizinischer Produkte eine wichtige Rolle. Der Einsatz von KI in der Diagnose von Hautkrebs ist eines der bekannteren Beispiele. Darüber hinaus gibt es mittlerweile aber auch in der Arzneimittelherstellung immer mehr Einsatzmöglichkeiten von KI und ML (Machine learning), z. B. bei der visuellen Kontrolle auf Partikel in Parenteralia.

Nachdem schon die FDA Anfang 2023 ein erstes Diskussionspapier zum Einsatz von KI publiziert hatte, zog die EMA (European Medicines Agency) am 19. Juli 2023 mit einem "Reflection Paper" nach. Die Kommentierungsfrist läuft bis zum 31. Dezember 2023.  Dieses Dokument beschreibt die derzeitigen Erfahrungen der EMA in diesem Umfeld, in dem sich die wissenschaftlichen Erkenntnisse rasch weiterentwickeln. Wichtig ist, das Dokument im Zusammenhang mit den rechtlichen Anforderungen und den übergreifenden EU-Grundsätzen zu KI, Datenschutz und Arzneimittelregulierungen zu lesen.

Allgemeine Empfehlungen

Generell wird erwähnt, dass KI und ML, soweit korrekt angewendet, wirksam die Erfassung, Bearbeitung, Analyse und Interpretation von Daten innerhalb des Lebenszyklus von Arzneimitteln unterstützen kann. Dabei soll es ein risikobasierter Ansatz Entwicklern ermöglichen, proaktiv Risiken zu definieren, die während des gesamten Lebenszyklus von KI- und MS-Tools zu bewältigen sind. Empfehlungen zum Risikomanagement werden sich in zukünftigen regulatorischen Leitlinien wiederfinden. Zu berücksichtigen ist dabei, dass der Grad des Risikos nicht nur von der KI-Technologie abhängt, sondern auch vom Nutzungskontext und dem Grad des Einflusses, den die KI-Technologie ausübt.

Wichtig! Ein zentraler Grundsatz ist, dass es in der Verantwortung des Antragsstellers oder des Zulassungsinhabers liegt, sicherzustellen, dass alle verwendeten Algorithmen, Modelle, Datensätze etc. für den Zweck geeignet sind und den ethischen, technischen, wissenschaftlichen und regulatorischen Standards entsprechen.

Inhalte des Dokumentes

Im Hauptteil des Dokumentes werden folgende Themen adressiert:

• AI in the lifecycle of medicinal products
• Regulatory interactions
• Technical aspects
• Governance
• Data protection
• Integrity aspects
• Ethical aspects and trustworthy AI

"AI in the lifecycle of medicinal products":

• Drug discovery
• Non-clinical development
• Clinical trials
• Precision medicine
• Product information
• Manufacturing
• Post-authorisation phase

und "Technical aspects" werden weiter untergliedert:

• Data acquisition and augmentation
• Training, validation, and test data
• Model development
• Performance assessment
• Interpretability and explainability
• Model deployment

Schlussbemerkung:

Der Einsatz von KI im Lebenszyklus von Arzneimitteln sollte stets im Einklang mit den bestehenden rechtlichen Anforderungen, unter Berücksichtigung der Ethik und der ihr zugrundeliegenden Prinzipien und unter gebührender Achtung der Grundrechte erfolgen. Bei der Entwicklung und dem Einsatz von KI und ML sollte ein menschenzentrierter Ansatz verfolgt werden.

Quelle:

EMA Reflection paper on the use of Artificial intelligence in the lifecycle of medicines

Draft reflection paper