Regelwerke und Compliance · Praxisleitfaden

Annex-22-Entwurf: Wann brauchen KI-Änderungen neue Nachweise?

Eine unveränderte Modelldatei kann unter veränderten Bedingungen schlechter entscheiden. Andere Materialien, Aufnahmebedingungen oder Vorverarbeitung wirken auf den gesamten Einsatz. Dieser Leitfaden verbindet deshalb Monitoring mit einer konkreten Änderungsentscheidung: Was hat sich verändert, welche Aussage ist betroffen und was ist vor weiterer Nutzung zu klären? Annex 22 wird dabei ausdrücklich als Entwurf behandelt.

Inhaltsverzeichnis

Das Wichtigste vorab

Wann löst eine KI-Änderung eine erneute Prüfung aus?

Bewerten Sie Änderungen an Modell, Software, Datenvorverarbeitung und Prozess gegen den nachgewiesenen Einsatz. Untersuchen Sie außerdem betriebliche Signale, die auf veränderte Eingaben oder Leistung hinweisen. Der Annex-22-Entwurf verlangt eine begründete Bewertung des erneuten Prüfbedarfs. Welche Nachweise nötig sind, folgt aus Wirkung und Risiko; weder unveränderte Modellgewichte noch ein technischer Kleinumfang rechtfertigen allein den Verzicht.

  • Das geprüfte System umfasst mehr als die Modelldatei.
  • Ein Monitoring-Signal ist ein Anlass zur Bewertung, noch keine fertige Ursachenfeststellung.
  • Neue Nachweise und vorläufige Einsatzgrenzen müssen zur betroffenen Aussage passen.

1. Betrachten Sie kontrollierte statische Modelle

Quellenstand: 7. Oktober 2026. Annex 22 liegt als Konsultationsentwurf vor. Seine konkreten Vorschläge werden hier nicht als bereits geltende Pflichten dargestellt. Für den Humanarzneimittel-GMP-Einsatz gelten weiterhin die einschlägigen bestehenden Anforderungen, einschließlich risikobasierter Änderungsbewertung.

Im Mittelpunkt stehen statische deterministische Modelle. Ein bewusst freigegebenes neues Modell ist eine kontrollierte Änderung; fortlaufendes automatisches Lernen im Betrieb ist ein anderer Einsatz. Der Entwurf kann nicht als pauschale Freigabe für solche dynamischen Systeme verwendet werden.

Definieren Sie den geprüften Stand als Kombination aus Modellversion, Vorverarbeitung, Software, Datenquellen und vorgesehenem Prozess. Erst dieser Zusammenhang erklärt, welche frühere Eignungsaussage eine Änderung berühren kann.

Quellen: [1] [2] [3] [4]

2. Beschreiben Sie die Wirkung, nicht nur die geänderte Datei

Eine neue Kamera, andere Beleuchtung oder geänderte Bildkompression kann die Eingaben verändern, obwohl die Modellgewichte gleich bleiben. Ebenso kann eine neue Entscheidungsschwelle die fachlichen Ergebnisse verschieben. „Kein Modellupdate“ beantwortet deshalb die Änderungsfrage nicht.

Der Entwurf behandelt Änderungen an Modell, System und Prozess einschließlich physischer Bedingungen. Für Ihre Bewertung eignet sich eine kurze Wirkungskette: Änderung → betroffene Eingabe oder Verarbeitung → mögliche Fehlentscheidung → vorhandene Kontrolle → benötigter Nachweis.

Ein kleiner Codeunterschied kann eine kritische Berechnung verändern; ein umfangreiches Infrastrukturupdate kann bestimmte fachliche Funktionen unberührt lassen. Die Zahl geänderter Zeilen oder Dateien ist daher kein zuverlässiger Ersatz für diese Wirkungskette.

Quellen: [1] [4]

Vertiefung zu diesem Thema:

3. Trennen Sie Eingangssignal und Leistungsnachweis

Veränderte Eingabeverteilungen können ein frühes Warnsignal sein. Sie beweisen aber nicht automatisch eine schlechtere Modellleistung. Umgekehrt belegt eine stabile durchschnittliche Eingabeverteilung nicht, dass jede relevante Untergruppe weiter geeignet beurteilt wird.

Definieren Sie, welche Signale Sie beobachten können und welche Aussage jedes Signal trägt. Verlässliche Leistungsmetriken benötigen eine passende Referenzbewertung. Bei zeitverzögert verfügbaren Referenzen sollte diese Verzögerung in der Bewertung sichtbar bleiben.

Die folgende eigene Arbeitshilfe ordnet Signale möglichen Untersuchungen zu. Sie schreibt keine einheitlichen Alarmgrenzen vor.

Arbeitshilfe: Vom Signal zur gezielten Untersuchung
BeobachtungNoch nicht bewiesenSinnvoller nächster Schritt
Helligkeitsverteilung verschiebt sich Dass die Fehlererkennung schlechter geworden ist Aufnahmebedingungen und betroffene Untergruppen prüfen
Mehr manuelle Übersteuerungen Dass alle Übersteuerungen Modellfehler sind Anlässe und Referenzentscheidungen unterscheiden
Sensitivität einer Untergruppe sinkt Dass allein das Modell die Ursache ist Datenqualität, Referenz, Prozessänderung und Version abgleichen
Modellchecksumme ändert sich ungeplant Dass der neue Stand geeignet oder freigegeben ist Stand sichern, Ursache und Nutzung bewerten, autorisierten Zustand klären

Quellen: [1]

4. Beispiel: ein Signal mit begrenzter Aussage

Im Beispiel arbeitet ein Bildprüfprozess mit Modell M-4. Die Helligkeit wird zusätzlich als technisches Signal erfasst. In einer Beobachtungsperiode liegen 12 von 400 Bildern außerhalb des zuvor beschriebenen Eingabebereichs; in der nächsten sind es 36 von 400. Das entspricht 3 beziehungsweise 9 Prozent, also einer Zunahme um 6 Prozentpunkte und dem Dreifachen des bisherigen Anteils.

Diese Rechnung belegt eine Veränderung des Signals, nicht automatisch eine verdreifachte Fehlerquote. Im Beispiel stellt das Team fest, dass eine Beleuchtungseinheit gewechselt wurde. Ob dies ursächlich für relevante Fehlentscheidungen ist, muss mit geeigneten Referenzfällen untersucht werden.

Für das Beispiel ist vorab festgelegt: Bei einem solchen ungeklärten Signal entscheidet die verantwortliche Fachrolle über eine vorläufige zusätzliche manuelle Kontrolle der betroffenen Bilder. Diese Maßnahme, ihre Kapazität und ihre Eignung sind Annahmen des Beispiels, keine allgemeine Entwurfspflicht.

Eigene Entscheidungsmatrix für Modell M-4
SchrittKonkreter Befund / SollEntscheidung
Signal prüfen 12/400 = 3 %; 36/400 = 9 % Messdefinition und vergleichbare Grundgesamtheit bestätigen
Änderung eingrenzen Beleuchtung gewechselt; Modell M-4 unverändert Betroffene Aufnahmegruppe identifizieren
Verwendung absichern Zusätzliche manuelle Kontrolle ist im Beispiel vorgesehen Wirksame Durchführung und verbleibende Grenzen dokumentieren
Nachweis planen Referenzbewertete Fälle mit alter und neuer Aufnahmebedingung Betroffene Leistung und relevante Untergruppen vergleichen
Abschluss Ergebnisse und offene Grenzen liegen vor Weiterbetrieb, Einschränkung oder weitere Änderung begründet entscheiden

Quellen: [1] [4]

5. Wählen Sie Nachweise für die betroffene Aussage

Prüfen Sie zuerst, was die bestehende Evidenz tatsächlich abdeckt. Wenn eine neue Materialart außerhalb des bisherigen Einsatzraums liegt, reicht ein technischer Starttest meist nicht als Nachweis für die neue Klassifikationsaufgabe. Wird dagegen eine nachweislich unbeteiligte Darstellung geändert, kann der erforderliche Umfang enger sein.

Der Entwurf erwartet eine Bewertung des erneuten Testbedarfs und eine begründete Entscheidung, wenn nicht erneut getestet wird. Daraus folgt weder ein allgemeiner Vollretest nach jeder Änderung noch ein genereller Verzicht auf umfassende Prüfungen.

Berücksichtigen Sie dabei Testdaten und Modellauswahl. Werden bekannte Fehlerfälle zur Optimierung genutzt, kann ein anschließender Lauf auf denselben Daten nur eine begrenzte Aussage tragen. Der neue Abschlussnachweis braucht eine nachvollziehbare Beziehung zum tatsächlich geänderten Stand.

Quellen: [1] [4]

Vertiefung zu diesem Thema:

6. Verbinden Sie technische Beobachtung und fachliche Entscheidung

Das Monitoring kann automatisiert Zahlen liefern. Es entscheidet damit noch nicht, ob eine Charge, ein Prozessschritt oder ein Prüfergebnis weiterverwendet werden darf. Benennen Sie die zuständige Fachrolle, die erforderliche QA-Beteiligung und die technische Unterstützung für die Ursachenklärung.

Vereinbaren Sie auch, wie außerhalb üblicher Arbeitszeiten reagiert wird. Ein Signal ohne erreichbaren Verantwortlichen kann eine wesentliche Lücke sein. Die Reaktionsregel sollte zum Risiko und zu möglichen Zwischenkontrollen passen; dieser Artikel nennt dafür keine universelle Minutenfrist.

Halten Sie Beobachtung, vorläufige Maßnahme, Untersuchung und Abschlussentscheidung unterscheidbar fest. Ein geschlossenes IT-Ticket allein belegt nicht, dass die fachliche Einsatzgrenze geklärt wurde.

Quellen: [1] [4]

7. Was vor dem nächsten Modell- oder Prozesswechsel bereitstehen sollte

Ein KMU braucht keine Sammlung beliebiger Dashboards. Nützlicher ist eine begrenzte Anzahl interpretierbarer Signale mit klarer Reaktion. Der Aufwand entsteht vor allem durch fehlende Referenzdaten, unklare Versionsbezüge und nicht verfügbare Fachentscheidungen.

  • Geprüften Gesamtstand und vorgesehenen Einsatzraum dokumentieren.
  • Änderungen an Modell, Software, Vorverarbeitung und physischen Bedingungen erfassen.
  • Signaldefinitionen, Nenner und Untergruppen festlegen.
  • Geeignete Referenzbewertung und deren Verfügbarkeit klären.
  • Vorläufige Kontrollmöglichkeiten mit Verantwortlichen abstimmen.
  • Erneuten Prüfbedarf und begründete Ausnahmen dokumentieren.
  • Abschlussentscheidung mit erlaubter Nutzung und verbleibenden Grenzen verbinden.

Quellen: [1] [4]

8. Behalten Sie den Unterschied zwischen Beobachtung und Ursache bei

Eine zeitliche Nähe ist ein Hinweis, aber noch kein Ursachenbeleg. Wenn nach einem Beleuchtungswechsel mehr Beanstandungen auftreten, prüfen Sie auch Materialmix, Referenzbewertung und andere gleichzeitige Änderungen. Andernfalls kann eine scheinbar naheliegende Korrektur am eigentlichen Problem vorbeigehen.

Ebenso wenig genügt eine Rückkehr zum alten Durchschnitt als Abschluss. Eine veränderte Untergruppe kann weiterhin schwach bleiben. Dokumentieren Sie deshalb, welche fachliche Frage die Untersuchung beantwortet und warum die gewählte weitere Nutzung durch die Ergebnisse getragen wird.

Quellen: [1] [4]

Praxis & Zusammenarbeit

Ein auffälliges Signal zur richtigen Ursache zurückverfolgen

Wenn sich die Ergebnisse verändern, betrachten wir mit Ihrem Team nicht nur die Modellversion. Andere Beleuchtung, neue Eingabedaten oder eine geänderte Vorverarbeitung können denselben Effekt auslösen. Wir ordnen das Signal dem betroffenen Einsatz und den vorhandenen Prüfergebnissen zu. Eine begrenzte Umgebungsänderung lässt sich möglicherweise gezielt nachprüfen; ein neu trainiertes Modell erfordert eine weiter gehende Bewertung der bisherigen Aussagekraft. Dabei werden Sofortmaßnahmen und dauerhafte Änderungen getrennt festgehalten, damit ein vorläufiger Ersatzablauf nicht unbemerkt zum neuen Normalbetrieb wird.

Häufige Fragen zu KI-Änderungen und Monitoring

Muss ein unverändertes Modell nach einem Kameratausch bewertet werden?

Ja, die Auswirkung auf den vorgesehenen Einsatz ist zu bewerten. Ein Kameratausch kann Eingaben verändern, obwohl die Gewichte gleich bleiben. Welche Prüfungen erforderlich sind, hängt von der konkreten Wirkung und den vorhandenen Nachweisen ab.

Quellen: [1] [4]

Beweist ein Drift-Signal bereits einen Modellfehler?

Nein. Es zeigt zunächst eine Veränderung der beobachteten Eingaben oder Kennzahlen. Die Leistungswirkung muss mit geeigneten Referenzen und unter Berücksichtigung anderer Ursachen untersucht werden. Ein technisches Signal und ein fachlicher Fehlentscheid sind unterschiedliche Befunde.

Quellen: [1]

Warum sind 3 auf 9 Prozent keine 6 Prozent Zunahme?

Die absolute Differenz beträgt 6 Prozentpunkte. Relativ steigt der Anteil um 200 Prozent auf das Dreifache. Diese Rechnung betrifft im Beispiel dieses Artikels nur Bilder außerhalb des Eingabebereichs; sie beschreibt keine nachgewiesene Fehlerquote des Modells.

Quellen: [1]

Ist nach jeder Änderung eine vollständige Revalidierung nötig?

Nein, nicht automatisch. Nr. 10.1 des Entwurfs sieht vor, Änderungen an Modell, System und Prozess zu dokumentieren und auf erneuten Testbedarf zu bewerten. Ein Verzicht auf erneutes Testen braucht eine vollständige Begründung. Welche Prüfungen geeignet sind, hängt von der Wirkung der Änderung ab; ein enger Ergänzungstest und eine weiter reichende Neubewertung sind unterschiedliche mögliche Ergebnisse.

Quellen: [1] [4]

Dürfen wir ein Modell im Betrieb automatisch weiterlernen lassen?

Für kritische GMP-Anwendungen sieht der Entwurf dynamische Modelle, die im Betrieb fortlaufend und automatisch weiterlernen, nicht vor; sie liegen außerhalb seines Modellumfangs. Davon zu unterscheiden ist ein bewusst neu trainierter und anschließend kontrolliert geprüfter Stand eines statischen Modells. Eine solche Änderung ist nach Nr. 10.1 des Entwurfs zu dokumentieren und daraufhin zu bewerten, ob erneut getestet werden muss. Annex 22 ist weiterhin Entwurf; bereits geltende Anforderungen bleiben gesondert zu beachten.

Quellen: [1]

Genügt eine neue Versionsnummer als Änderungsnachweis?

Nein. Sie identifiziert einen Stand, erklärt aber weder dessen Wirkung noch seine Eignung. Verbinden Sie die Version mit Anlass, betroffenen Funktionen, Nachweisen und erlaubter Nutzung. Auch Änderungen außerhalb der Modelldatei können relevant sein.

Quellen: [1] [4]

Wer entscheidet über eine vorläufige manuelle Kontrolle?

Das richtet sich nach Ihrem Prozess und seinen Verantwortlichkeiten. Die zuständige Fachrolle muss die Eignung und Durchführbarkeit der Maßnahme bewerten; QA und IT sind entsprechend ihrem Beitrag einzubeziehen. Eine zusätzliche manuelle Kontrolle ist keine automatische Universallösung.

Quellen: [1] [4]

Welche Information braucht ein Abschluss nach auffälligem Monitoring?

Das untersuchte Signal, die betroffenen Daten und Versionen, die Ursachenbewertung, durchgeführte Maßnahmen sowie die begründete weitere Nutzung. Offene Grenzen sollten sichtbar bleiben. Ein technisch erledigtes Ticket ohne fachliche Entscheidung genügt für diese Aussage nicht.

Quellen: [1] [4]

Quellen & fachlicher Stand

Quellenstand: 7. Oktober 2026. Annex 22 ist Konsultationsentwurf. Humanarzneimittel-GMP; statische deterministische KI. Fallzahlen, Signalbewertung und vorläufige Maßnahme sind eigene Annahmen, keine universellen Vorgaben.

  1. Europäische Kommission: Entwurf Annex 22 – Artificial IntelligenceKonsultationsentwurf 2025, am 07.10.2026 keine geltende Annex-22-Leitlinie. §§ 1, 3–7 und 10; statische deterministische Modelle in kritischen GMP-Anwendungen.
  2. Europäische Kommission: Konsultation zu Chapter 4, Annex 11 und Annex 22Offizielle Konsultation vom 07.07. bis 07.10.2025; bei der Prüfung am 07.10.2026 bereits geschlossen. Der Abschluss der Konsultation ist keine Inkraftsetzung.
  3. Europäische Kommission: EudraLex Volume 4 – aktueller DokumentbestandGeprüft am 07.10.2026: Annex 11 Revision Januar 2011; gesonderter Veterinärbereich mit Anwendung der Verordnungen 2025/2091 und 2025/2154 seit 16.07.2026.
  4. Europäische Kommission: EU-GMP Annex 11 – Computerised SystemsRevision Januar 2011, anwendbar seit 30.06.2011; §§ 1, 4, 6–7, 9–13, 16–17. Humanarzneimittel-GMP-Leitlinie; keine Entwurfsfassung.

Quellenstand: .

Daniel Herrmann, Daniel Herrmann Consulting

Daniel Herrmann Consulting

Monitoring mit kontrollierten Änderungsentscheidungen verbinden

Wir unterstützen Sie dabei, relevante Signale, Zuständigkeiten und passende Nachweise für Modell- und Prozessänderungen festzulegen. Entscheidend ist die begründete weitere Nutzung Ihres konkreten Systems.

  • KI-Systemvalidierung →

    Ihr KI-System geht mit belastbaren Nachweisen in den GxP-Einsatz und bleibt im Betrieb unter Kontrolle. Sobald System und GxP-Einsatzzweck abgegrenzt sind, validieren wir risikobasiert: Daten, Lieferant, Tests, Freigabe und Change Control.

Kostenfreies Erstgespräch vereinbaren Kundenstimmen →