Inhaltsverzeichnis
Das Wichtigste vorab
Erlaubt der Annex-22-Entwurf generative KI für kritische GMP-Entscheidungen?
Der Konsultationsentwurf 2025 nimmt generative KI und Large Language Models nicht in seinen vorgesehenen Modellumfang auf und spricht sich gegen ihren Einsatz in kritischen GMP-Anwendungen aus. Das ist als Aussage eines Entwurfs zu kennzeichnen. Daraus entsteht weder eine allgemeine aktuelle Zulassung noch allein durch den Entwurf ein neues geltendes Verbot.
Einordnung und Geltungsbereich
Stand 14. Oktober 2026: Der hier erläuterte Annex 22 ist der Konsultationsentwurf 2025. Sein Status wurde anhand der Kommissionsseiten geprüft. Der Beitrag unterscheidet seine vorgeschlagene Ausrichtung von bereits geltenden Anforderungen an den konkreten GMP-Prozess.
Entwurfsstatus, Modellart und Einsatzentscheidung getrennt betrachten
Bei einem nicht kritischen Hilfseinsatz bleibt die Frage, wie ein ungeeignetes Ergebnis erkannt wird. Ein Textentwurf kann falsche Quellen, ausgelassene Anforderungen oder plausibel klingende Fehler enthalten. Die Zuständigkeit für fachliche Prüfung und Freigabe darf deshalb nicht im allgemeinen Hinweis „KI-generiert“ verschwinden.
Beschreiben Sie jeden Anwendungsfall konkret. Eine interne Formulierungshilfe unterscheidet sich von einer automatisch übernommenen Qualitätsentscheidung. Bewertet werden müssen Datenfluss, mögliche Fehlerfolgen und vorhandene Kontrollen. Die Bezeichnung „Assistenz“ allein macht eine Anwendung nicht unkritisch.
Den Entwurfsstatus vor jeder fachlichen Ableitung klären
Der hier behandelte Annex 22 ist der Konsultationsentwurf von 2025. Stand dieses Beitrags ist der 14. Oktober 2026. Die Einordnung wurde anhand des EudraLex-Verzeichnisses und der Konsultationsunterlagen geprüft. Aussagen aus dem Entwurf sind als vorgeschlagene Positionen zu kennzeichnen, nicht als bereits neu geltende Verpflichtungen.
Der Entwurf grenzt seinen Modellumfang auf statische Modelle mit deterministischer Ausgabe ein. Dynamisch weiterlernende und probabilistisch ausgebende Modelle sind nicht vom vorgesehenen Umfang erfasst. Generative KI und LLM werden ausdrücklich außerhalb dieses Umfangs eingeordnet; der Entwurf spricht sich gegen ihren Einsatz in kritischen GMP-Anwendungen aus. Diese Entwurfsposition ist weder eine allgemeine aktuelle Zulassung noch allein ein neues geltendes Verbot.
Bewerten Sie einen konkreten Einsatz trotzdem im bereits anwendbaren Rahmen. Anforderungen an Daten, Prozesse, Verantwortung und geeignete Nachweise verschwinden nicht, weil ein Modell außerhalb des Entwurfs liegt. Der Begriff KI-Assistent beantwortet weder Kritikalität noch angemessene Kontrolle. Maßgeblich bleibt, welche tatsächliche Entscheidung oder Aufzeichnung beeinflusst wird.
Anwendungsfälle nach tatsächlicher Wirkung unterscheiden
Beschreiben Sie Eingabe, Ausgabe, Nutzer und Folgeschritt. Ein Formulierungsvorschlag für eine interne E-Mail unterscheidet sich von einer automatisch übernommenen Qualitätsbewertung. Dazwischen liegen viele Fälle, die eine sorgfältige Abgrenzung benötigen. Eine Zusammenfassung kann beispielsweise kritisch werden, wenn der Reviewer das Original nicht mehr liest und eine ausgelassene Information die Entscheidung beeinflusst.
Die folgende Matrix ist eine eigene Einordnungshilfe, keine behördliche Positivliste. Die tatsächliche Bewertung hängt vom Prozess ab. Ein vermeintlich unterstützender Einsatz kann unmittelbare Qualitäts- oder Datenwirkung besitzen. Eine menschliche Bestätigung macht ihn nicht automatisch unkritisch.
| Anwendungsfall | Zu prüfende Wirkung | Eigene Kontrollfrage |
|---|---|---|
| Sprachliche Formulierung | Inhaltliche Veränderung eines bereits geprüften Textes | Wird jede fachliche Aussage gegen die Grundlage geprüft? |
| Zusammenfassung | Auslassung oder Gewichtung von Informationen | Bleiben entscheidungsrelevante Inhalte vollständig? |
| Recherchehilfe | Falsche oder unpassende Quellen | Werden Originalquelle und Geltungsbereich geprüft? |
| Klassifikation | Einfluss auf Bearbeitung oder Priorität | Welche Folge hat eine Fehlklassifikation? |
| Automatische Qualitätsentscheidung | Direkte Prozess- oder Produktwirkung | Ist der Einsatz im anwendbaren Rahmen überhaupt geeignet? |
Beispiel: plausible Zusammenfassung lässt eine kritische Ausnahme weg
Das Szenario ist konstruiert. Ein LLM fasst einen Untersuchungsbericht zusammen. Die Ausgabe wirkt korrekt, lässt aber einen Absatz mit einer ungeklärten Ausnahme weg. Der Reviewer liest nur die Zusammenfassung und bestätigt den Vorgang. Die menschliche Beteiligung hat den Fehler in diesem Ablauf nicht wirksam begrenzt.
Für die eigene Erprobung werden freigegebene Referenztexte mit bekannten Normal- und Ausnahmeinformationen verwendet. Erwartete Kernaussagen und unzulässige Auslassungen werden vorab festgelegt. Prüfen Sie die Ausgabe gegen das Original, nicht nur durch eine zweite Frage an dasselbe Modell. Die erneute Modellantwort ist keine unabhängige Quelle.
Bewerten Sie auch widersprüchliche Eingaben, fehlenden Kontext und Änderungen des Modells. Ein einzelner überzeugender Testfall bestätigt keinen unbegrenzt sicheren Betrieb. Der Einsatz muss auf Aufgaben begrenzt sein, für die die tatsächlichen Kontrollen geeignet sind. Wenn ein Reviewer die relevanten Fehler nicht zuverlässig erkennen kann, ist die vorgesehene Nutzung neu zu bewerten.
| Prüffall | Eingabe | Erwartete Kontrollwirkung |
|---|---|---|
| Normaler Text | Eindeutige Referenz ohne Ausnahme | Richtige, nachvollziehbare Kernaussage |
| Kritische Ausnahme | Wichtige Einschränkung im Original | Einschränkung bleibt sichtbar oder wird im Review erkannt |
| Widerspruch | Zwei nicht übereinstimmende Angaben | Keine ungeprüfte scheinbare Eindeutigkeit |
| Fehlende Quelle | Behauptung ohne belastbaren Beleg | Keine Übernahme als bestätigte Tatsache |
| Modelländerung | Gleiche Referenz mit neuem Stand | Auswirkungen auf den begrenzten Einsatz bewerten |
Human-in-the-Loop als tatsächliche Kontrolle beurteilen
Der Entwurf beschreibt für nichtkritische GMP-Anwendungen generativer Modelle die Verantwortung ausreichend qualifizierter und geschulter Personen für die Eignung der Ausgaben. Daraus folgt keine pauschale Freigabe jedes LLM-Einsatzes mit zusätzlicher Unterschrift. Die fachliche Grenze der Anwendung bleibt zuerst zu klären.
Ein Reviewer benötigt unabhängige Grundlagen, Zeit und wirksame Ablehnungsbefugnis. Wenn er hunderte lange Ausgaben ohne Vergleichsquelle bestätigen soll, ist die Kontrolle möglicherweise nur formal vorhanden. Erproben Sie bekannte Fehler unter realistischem Arbeitsumfang. Der Test sollte zeigen, welche Fehler erkannt und welche übersehen werden.
Definieren Sie den Umgang mit Unsicherheit. Eine Ausgabe kann verworfen, korrigiert oder einer weitergehenden Bewertung zugeführt werden. Ein Prozess, der nur Zustimmung erlaubt, setzt keine wirksame fachliche Prüfung um. Benennen Sie, welche Aufgaben grundsätzlich außerhalb des erlaubten Einsatzes bleiben.
Modell, Datenzugang und Änderungen kontrollieren
Erfassen Sie verwendeten Dienst, Modellbezug, Eingabequellen und relevante Einstellungen. Bei externen Diensten kann sich Verhalten ändern, ohne dass Ihr Team einen klassischen Softwaretransport ausführt. Prüfen Sie verfügbare Änderungsinformationen und die Auswirkungen auf den vorgesehenen Einsatz. Eine unveränderte Benutzeroberfläche beweist keine unveränderte Ausgabequalität.
Bewerten Sie, welche Daten eingegeben werden dürfen und welche Zugriffe erforderlich sind. Die technische Möglichkeit, einen Bericht hochzuladen, ist keine ausreichende Entscheidung über dessen Eignung für einen externen Dienst. Zuständigkeit und Informationsschutz werden im eigenen Rahmen geklärt. Dieser Artikel trifft keine pauschale Datenschutz- oder Vertragsfreigabe.
Erhalten Sie geeignete Referenzfälle und dokumentierte Grenzen. Bei relevanten Änderungen können diese Fälle die Bewertung unterstützen. Sie sind keine Garantie identischer Ausgaben probabilistischer Modelle. Die Prüfaussage sollte deshalb auf den tatsächlich begrenzten Einsatz und seine Kontrollen bezogen bleiben.
Eine Entscheidungsvorlage für einen konkreten KI-Einsatz
Die Vorlage sollte Aufgabe, Eingaben, Ausgabe, Nutzer, Folgewirkung, Fehlerfälle und Kontrollen verbinden. Ergänzen Sie geltenden Rahmen und ausdrücklich getrennte Entwurfspositionen. Benennen Sie offene Fragen, statt sie durch einen allgemeinen Hinweis auf Innovation oder menschliche Verantwortung zu verdecken.
Eine tragfähige Entscheidung beschreibt auch, wann die Nutzung gestoppt oder erneut bewertet wird. Dazu können geänderte Aufgaben, neue Datenquellen oder unerkannte kritische Fehler gehören. Die Zuständigkeit für diese Entscheidung muss bekannt sein. Ein Pilotprojekt ohne klare Grenze kann sonst schleichend zu einem anderen, nicht bewerteten Einsatz werden.
Arbeitsvorlage: einen generativen KI-Einsatz vor dem Pilotbetrieb abgrenzen
Beschreiben Sie den Anwendungsfall ohne das allgemeine Wort Assistenz. Im Beispiel erzeugt ein Modell einen Textentwurf aus einem freigegebenen Untersuchungsbericht. Benennen Sie, ob der Entwurf lediglich sprachlich hilft oder eine Qualitätsentscheidung vorbereitet. Diese tatsächliche Wirkung bestimmt die Bewertung; eine menschliche Bestätigung allein macht den Fall nicht unkritisch.
Trennen Sie geltenden Rahmen und Entwurfspositionen in der Entscheidungsvorlage. Der Annex-22-Entwurf besitzt einen ausdrücklich begrenzten Modellumfang. Die eigene Bewertung sollte diese Grenze korrekt wiedergeben und keine allgemeine Zulassung daraus ableiten. Offene Fragen werden vor Ausweitung der Nutzung geklärt.
Die Vorlage sollte auch nicht erlaubte Aufgaben nennen. Ein zunächst eng begrenzter Pilot kann sonst schleichend für andere Entscheidungen verwendet werden. Benennen Sie Verantwortliche für diese Grenze und den Weg bei neuen Anforderungen. Technischer Zugang allein ist keine fachliche Freigabe eines anderen Einsatzes.
| Entscheidungsfeld | Konstruierter Eintrag | Prüffrage |
|---|---|---|
| Aufgabe | Formulierung eines bezeichneten Textentwurfs. | Welche tatsächliche Entscheidung wird beeinflusst? |
| Eingang | Freigegebener Originalbericht mit bekannter Ausnahme. | Ist die Grundlage vollständig und geeignet? |
| Ausgabe | Vorschlag wird nicht automatisch übernommen. | Welche Nutzung ist ausdrücklich erlaubt? |
| Fehler | Plausible falsche Aussage oder Auslassung. | Kann der Reviewer sie erkennen? |
| Kontrolle | Vergleich mit Original und wirksame Ablehnung. | Ist die Aufgabe unter realer Last ausführbar? |
| Änderung | Neue Quelle, Aufgabe oder Modellstand. | Wann ist eine erneute Bewertung nötig? |
Die nächsten Schritte
- Konkreten KI-Einsatz mit Datenfluss und Fehlerfolgen beschreiben.
- Aktuellen Regelwerksstatus und Modellumfang prüfen.
- Geeignete fachliche Kontrolle und Einsatzgrenzen festlegen.
- Änderungen von Zweck, Modell oder Prozess erneut bewerten.
Häufige Fragen zu Annex 22 und generative KI
Ist Annex 22 bereits geltendes Recht?
Gilt der Entwurf für jede KI außerhalb der Arzneimittelherstellung?
Verbietet Annex 22 bereits heute jeden Einsatz generativer KI im GMP-Umfeld?
Der hier erläuterte Text ist ein Konsultationsentwurf, kein allein dadurch neu geltendes Verbot. Er nimmt generative KI aus seinem vorgesehenen Modellumfang heraus und spricht sich gegen ihren Einsatz in kritischen GMP-Anwendungen aus. Bereits geltende Anforderungen an den konkreten Prozess bleiben zu bewerten. Eine allgemeine Zulassung lässt sich daraus ebenso wenig ableiten.
Wird ein kritischer Einsatz durch einen menschlichen Freigabeklick unkritisch?
Nein. Kritikalität folgt der tatsächlichen Wirkung und der Eignung der Kontrollen. Prüfen Sie, ob die Person relevante Fehler mit unabhängigen Grundlagen erkennen und die Nutzung verhindern kann. Eine formale Bestätigung ohne ausreichende Zeit, Kompetenz oder Information ist kein belastbarer Nachweis wirksamer Risikobegrenzung.
Warum ist die Bezeichnung Assistenzsystem für die Bewertung zu wenig?
Sie beschreibt nicht, welche Information oder Entscheidung tatsächlich beeinflusst wird. Eine Zusammenfassung kann entscheidungsrelevante Inhalte auslassen, auch wenn ein Mensch abschließend klickt. Beschreiben Sie Eingabe, Ausgabe und Folgehandlung konkret. Erst dann lässt sich die Eignung vorhandener Kontrollen beurteilen.
Wie sollten wir den Entwurfsstatus im Artikel und Projekt dokumentieren?
Benennen Sie Dokumentfassung, Prüfdatum und die konkrete Entwurfsposition. Trennen Sie diese von bereits anwendbaren Anforderungen und eigener Methodik. Ein möglicher künftiger Rahmen darf nicht als sicherer aktueller Rechtszustand ausgegeben werden. Bei späteren Änderungen ist die Einordnung erneut zu prüfen.
Quellen & fachlicher Stand
Die Quellen bilden den fachlichen Rahmen. Tabellen, Checklisten und ausdrücklich illustrative Beispiele sind eigene methodische Ableitungen, keine wörtlichen Normvorgaben. Herstellerinformationen sind auf die eingesetzte Version und Konfiguration zu beziehen. Aussagen zum Annex-22-Entwurf sind ausdrücklich als Entwurfsposition gekennzeichnet.
- Europäische Kommission: Annex 22 Artificial Intelligence – Konsultationsentwurf 2025Entwurf, Stand der Prüfung 14.10.2026. Scope, Daten, menschliche Kontrolle und Modellprüfung; keine geltende Neuregelung.
- Europäische Kommission: EudraLex Volume 4 – aktuelles VerzeichnisStatusabgleich am 14.10.2026: geltende Texte und Konsultationsentwürfe unterscheiden.
- Europäische Kommission: Konsultation zu Chapter 4, Annex 11 und Annex 22 (2025)Geschlossene Konsultation 07.07.–07.10.2025; Veröffentlichung zur Konsultation ist kein Inkrafttreten.
- Europäische Kommission: EU-GMP Annex 11, Computerised Systems (2011)Geltende Fassung laut EudraLex-Verzeichnis am 14.10.2026. Anwendung, Risiken, Betrieb und Datenlebenszyklus; konkrete Prüfvorschläge sind eigene Ableitungen.
Zuletzt fachlich geprüft am 14.10.2026.
Daniel Herrmann Consulting
Vom offenen Punkt zu einem nachvollziehbaren Vorgehen.
Wir unterstützen Sie dabei, die Ausgangslage einzuordnen, Verantwortlichkeiten zu klären und passende Nachweise im Betrieb umzusetzen. Welche Unterstützung sinnvoll ist, hängt von Ihrem System, Ihrem Team und dem konkreten Ziel ab.
- IT-GxP-Audit →
Offene Punkte und Prioritäten für Ihren Betrieb einordnen.
- IT-GxP-Consulting →
Vereinbarte Systemprojekte strukturiert umsetzen und übergeben.