KI im eQMS: Was künstliche Intelligenz im GxP-Qualitätsmanagement leisten darf und wie Biotechs sie sicher einsetzen

Welche KI-Funktionen im eQMS sind sinnvoll und wie riskant sind sie?

Am meisten bringen KI-Funktionen, die große Dokumentmengen vorsortieren oder durchsuchbar machen und deren Ergebnis ein Mensch ohnehin prüft, etwa Klassifizierung, Metadaten-Extraktion und semantische Suche. Je direkter eine KI-Ausgabe in eine GxP-Entscheidung einfließt, etwa in die Bewertung einer Abweichung, desto höher ist das Risiko und desto strenger muss die Kontrolle sein.

Den Maßstab liefert der Entwurf von Annex 22 (Konsultationsfassung Juli 2025): Kritisch sind Anwendungen mit direktem Einfluss auf Patientensicherheit, Produktqualität oder Datenintegrität. Für nicht kritische Anwendungen generativer Modelle verlangt der Entwurf, dass qualifiziertes Personal für die Eignung jeder Ausgabe verantwortlich bleibt (Human in the Loop). Das EMA Reflection Paper (September 2024) und der ISPE GAMP Guide: Artificial Intelligence (Juli 2025) folgen derselben Logik: risikobasiert, menschzentriert, mit Qualitätsrisikomanagement über den gesamten Lebenszyklus.

Warum Dokumentenqualität kein Nebenthema ist, zeigen Inspektionsdaten: Im Jahresbericht 2024 der EMA GCP Inspectors Working Group (angenommen Dezember 2025) entfielen von 335 kritischen und schwerwiegenden Findings aus 67 Inspektionen 41 auf „Essential Documents“, die größte Einzelkategorie. Im Bericht für 2023 (EMA/INS/GCP/164938/2024) waren es 74 von insgesamt 720 Findings (36 kritisch, 336 schwerwiegend, 348 geringfügig), ebenfalls Spitzenwert.

Belastbare, unabhängige Zahlen zur Zeitersparnis beim TMF-Filing oder bei CAPA-Bearbeitung gibt es bislang nicht; veröffentlichte Werte stammen fast ausschließlich von Anbietern und sind nicht unabhängig geprüft. Eine Studie von Gray, Xu, Tong und Wu am FDA National Center for Toxicological Research (Chemical Research in Toxicology, Juli 2023) zur KI-Klassifizierung regulatorischer Texte zeigt zudem, wie stark die Genauigkeit vom Dokumenttyp abhängt: 95 % bei standardisierten US-Fachinformationen in der binären Aufgabe, bei britischen SmPCs in der Mehrklassen-Aufgabe dagegen nur 68 % laut Abstract (0,67 in der Modellvergleichstabelle). Herstellerangaben zur Klassifizierungsgenauigkeit sollten daher immer mit eigenen Dokumenten überprüft werden. Technische Details zur Texterkennung behandelt die Seite OCR und intelligente Dokumentensuche.

Fällt ein eQMS mit KI unter den EU AI Act?

In der Regel nicht als Hochrisiko-System: KI-Funktionen für Dokumentenlenkung, Suche oder CAPA-Unterstützung stehen nicht in Anhang III der KI-Verordnung und sind kein Sicherheitsbauteil eines Produkts nach Anhang I. Pflichten entstehen trotzdem, denn wer KI im Betrieb nutzt, ist Betreiber und muss seit dem 2. Februar 2025 die KI-Kompetenz seiner Mitarbeitenden fördern.

Die Verordnung (EU) 2024/1689 ist am 1. August 2024 in Kraft getreten. Verbote und die KI-Kompetenzpflicht nach Artikel 4 gelten seit 2. Februar 2025, Pflichten für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck (GPAI) seit 2. August 2025. Der Digital Omnibus on AI (Verordnung (EU) 2026/1744), in Kraft seit 27. Juli 2026, verschiebt die Hochrisiko-Pflichten nach Anhang III auf den 2. Dezember 2027 und die nach Artikel 6(1) in Verbindung mit Anhang I auf den 2. August 2028. Artikel 4 wurde zu einer Bemühenspflicht umformuliert: Anbieter und Betreiber müssen Maßnahmen zur Förderung der KI-Kompetenz ergreifen, ohne ein bestimmtes Kompetenzniveau garantieren zu müssen.

Argumente gegen eine Hochrisiko-Einstufung: Anhang III nennt Bereiche wie Beschäftigung, Bildung, kritische Infrastruktur oder Zugang zu wesentlichen Leistungen, aber kein Qualitätsmanagement. Ein eQMS ist zudem kein Medizinprodukt, und Artikel 6(3) nimmt Systeme für eng begrenzte Verfahrensaufgaben ausdrücklich aus.

Argumente für eine genaue Prüfung: Werden KI-Ergebnisse genutzt, um Leistung oder Verhalten von Beschäftigten zu bewerten, etwa automatisch ausgewertete Schulungstests als Grundlage für Qualifizierungs- oder Personalentscheidungen, kann Anhang III Nr. 4 (Beschäftigung) berührt sein. Ist ein Unternehmen Hersteller von Medizinprodukte-Software, gelten für diese Produkte eigene Regeln. Außerdem greifen ab 2. August 2026 Transparenzpflichten nach Artikel 50, vor allem für Anbieter generativer Systeme.

Fazit: Für ein Phase-I/II-Biotech oder eine kleine CRO ist ein eQMS mit KI typischerweise kein Hochrisiko-System. Pflicht sind dokumentierte Maßnahmen zur KI-Kompetenz, Nutzung gemäß Anbieterangaben und eine kurze, begründete Einstufung je KI-Funktion. Die eigentliche Messlatte setzen die GxP-Regeln, nicht der AI Act.

Was regelt Annex 22 und was ändert sich mit dem neuen Annex 11?

Annex 22 „Artificial Intelligence“ ist ein Entwurf des EU-GMP-Leitfadens, der vom 7. Juli bis 7. Oktober 2025 zur Konsultation stand und Stand November 2026 nicht verabschiedet ist. Er gilt für KI-Modelle in kritischen GMP-Anwendungen und lässt dort nur statische, deterministische Modelle zu; dynamische, probabilistische und generative Modelle einschließlich LLMs sollen in kritischen Anwendungen nicht eingesetzt werden.

Die Kernanforderungen des Annex-22-Entwurfs:

• Intended Use: detaillierte Beschreibung der Aufgabe und des Eingaberaums einschließlich seltener Varianten, verantwortet von einem Prozessexperten und vor Testbeginn freigegeben.
• Akzeptanzkriterien: vorab definierte Metriken wie Konfusionsmatrix, Sensitivität, Spezifität, Precision oder F1-Score; das Modell darf nicht schlechter sein als der Prozess, den es ersetzt.
• Testdaten: repräsentativ, ausreichend groß, korrekt gelabelt und strikt unabhängig von Trainings- und Validierungsdaten, mit Zugriffskontrolle und Audit Trail.
• Explainability und Confidence: Erfassung der Merkmale, die zu einer Entscheidung beigetragen haben, Protokollierung von Konfidenzwerten und eine Schwelle, unterhalb derer das Modell „unentschieden“ meldet.
• Betrieb: Change Control und Konfigurationskontrolle, Performance-Monitoring und Überwachung der Eingangsdaten auf Drift.
• Human in the Loop: Wird der Testaufwand mit Verweis auf die menschliche Prüfung reduziert, müssen Verantwortung, Schulung und Leistung der prüfenden Person beschrieben und überwacht werden.

Der Geltungsbereich kann sich noch ändern. Laut dem EMA-Bericht zum Expertenworkshop vom 30. Juni und 1. Juli 2026 (veröffentlicht Oktober 2026) hat die Redaktionsgruppe diskutiert, dynamische, probabilistische und generative Modelle zuzulassen, sofern eine vollständig dokumentierte, risikobasierte Kontrollstrategie vorliegt. Ein Termin für die finale Fassung ist nicht bestätigt.

Der im selben Paket konsultierte Entwurf des revidierten Annex 11 (ebenfalls Entwurf, Juli 2025) macht Audit Trails für Systeme, in denen Nutzer Daten anlegen, ändern oder löschen, zur Regel, verlangt eine risikobasierte Audit-Trail-Review durch nicht beteiligte Personen, regelt die Steuerung von Dienstleistern einschließlich Cloud- und SaaS-Anbietern und baut die periodische Überprüfung zu einem eigenen Programm aus. Die GMP-Verantwortung bleibt dabei beim regulierten Unternehmen.

Für das GCP-Umfeld sind beide Annexe nicht unmittelbar verbindlich. Sie beschreiben aber, was europäische Inspektorate von KI in kritischen Anwendungen erwarten, und eignen sich deshalb auch für kleine Biotechs als Referenz.

Was verlangen EMA, ICH und FDA von KI in Studien und Qualitätssystemen?

EMA, ICH und FDA verlangen übereinstimmend einen risikobasierten Ansatz: Computergestützte Systeme müssen für ihren Zweck validiert sein, Daten müssen über einen Audit Trail nachvollziehbar bleiben, und der Sponsor bleibt für ausgelagerte Tätigkeiten verantwortlich. KI-spezifische Leitlinien ergänzen das um Kontext der Nutzung, Modelleinfluss und Lebenszyklusüberwachung.

Regulatorischer Rahmen auf einen Blick (Stand November 2026)

Das EMA Reflection Paper, im September 2024 von CHMP und CVMP angenommen, verlangt einen risikobasierten, menschzentrierten Einsatz von KI über den gesamten Arzneimittel-Lebenszyklus. Für klinische Studien gilt: KI-Anwendungen unterliegen den GCP-Anforderungen, und bei hohem Einfluss auf regulatorische Entscheidungen empfiehlt die EMA frühen Austausch mit der Behörde.

Die EMA-Guideline zu computergestützten Systemen und elektronischen Daten in klinischen Studien (März 2023) verlangt einen sicheren, computergenerierten, zeitgestempelten Audit Trail für Erstellung und Änderung aller elektronischen Daten, risikobasierte Audit-Trail-Reviews und Validierungsnachweise, die Inspektoren zur Verfügung gestellt werden können. Aufgaben und Verantwortlichkeiten von Dienstleistern sind vertraglich festzulegen.

ICH E6(R3) fordert in Abschnitt 4.3, dass computergestützte Systeme risikoproportional validiert, Schnittstellen definiert und validiert und Systeme periodisch überprüft werden. Der Sponsor führt ein Verzeichnis der wichtigen Systeme und bleibt für an Dienstleister übertragene Aufgaben verantwortlich.

Die FDA Draft Guidance vom Januar 2025 beschreibt ein siebenstufiges Credibility-Assessment: Fragestellung und Context of Use definieren, Modellrisiko aus Model Influence und Decision Consequence ableiten, Nachweise risikoproportional planen und dokumentieren. Sie zielt auf KI, die Daten für regulatorische Entscheidungen über Sicherheit, Wirksamkeit oder Qualität liefert, nicht auf reine Effizienzunterstützung im QMS. Übertragbar ist die Logik: Je größer der Einfluss der KI und je schwerer die Folgen eines Fehlers, desto mehr Evidenz. Die gemeinsamen, nicht bindenden Guiding Principles of Good AI Practice von FDA und EMA (Januar 2026) bestätigen diese Linie.

Die finale FDA-Guidance zu Computer Software Assurance (24. September 2025) gilt formal für Produktions- und Qualitätssystemsoftware von Medizinprodukteherstellern. Ihr Kern ist dennoch auf jedes eQMS übertragbar: Intended Use bestimmen, Risiko bewerten, Testtiefe danach ausrichten und auch ungeskriptetes Testen anerkennen.