Annex-22-Entwurf: Wann brauchen KI-Änderungen neue Nachweise?

1. Betrachten Sie kontrollierte statische Modelle

Quellenstand: 7. Oktober 2026. Annex 22 liegt als Konsultationsentwurf vor. Seine konkreten Vorschläge werden hier nicht als bereits geltende Pflichten dargestellt. Für den Humanarzneimittel-GMP-Einsatz gelten weiterhin die einschlägigen bestehenden Anforderungen, einschließlich risikobasierter Änderungsbewertung.

Im Mittelpunkt stehen statische deterministische Modelle. Ein bewusst freigegebenes neues Modell ist eine kontrollierte Änderung; fortlaufendes automatisches Lernen im Betrieb ist ein anderer Einsatz. Der Entwurf kann nicht als pauschale Freigabe für solche dynamischen Systeme verwendet werden.

Definieren Sie den geprüften Stand als Kombination aus Modellversion, Vorverarbeitung, Software, Datenquellen und vorgesehenem Prozess. Erst dieser Zusammenhang erklärt, welche frühere Eignungsaussage eine Änderung berühren kann.

Quellen: [1] [2] [3] [4]

2. Beschreiben Sie die Wirkung, nicht nur die geänderte Datei

Eine neue Kamera, andere Beleuchtung oder geänderte Bildkompression kann die Eingaben verändern, obwohl die Modellgewichte gleich bleiben. Ebenso kann eine neue Entscheidungsschwelle die fachlichen Ergebnisse verschieben. „Kein Modellupdate“ beantwortet deshalb die Änderungsfrage nicht.

Der Entwurf behandelt Änderungen an Modell, System und Prozess einschließlich physischer Bedingungen. Für Ihre Bewertung eignet sich eine kurze Wirkungskette: Änderung → betroffene Eingabe oder Verarbeitung → mögliche Fehlentscheidung → vorhandene Kontrolle → benötigter Nachweis.

Ein kleiner Codeunterschied kann eine kritische Berechnung verändern; ein umfangreiches Infrastrukturupdate kann bestimmte fachliche Funktionen unberührt lassen. Die Zahl geänderter Zeilen oder Dateien ist daher kein zuverlässiger Ersatz für diese Wirkungskette.

Quellen: [1] [4]

3. Trennen Sie Eingangssignal und Leistungsnachweis

Veränderte Eingabeverteilungen können ein frühes Warnsignal sein. Sie beweisen aber nicht automatisch eine schlechtere Modellleistung. Umgekehrt belegt eine stabile durchschnittliche Eingabeverteilung nicht, dass jede relevante Untergruppe weiter geeignet beurteilt wird.

Definieren Sie, welche Signale Sie beobachten können und welche Aussage jedes Signal trägt. Verlässliche Leistungsmetriken benötigen eine passende Referenzbewertung. Bei zeitverzögert verfügbaren Referenzen sollte diese Verzögerung in der Bewertung sichtbar bleiben.

Die folgende eigene Arbeitshilfe ordnet Signale möglichen Untersuchungen zu. Sie schreibt keine einheitlichen Alarmgrenzen vor.

Quellen: [1]

4. Ein illustratives Signal mit begrenzter Aussage

Ein fiktiver Bildprüfprozess arbeitet mit Modell M-4. Die Helligkeit wird zusätzlich als technisches Signal erfasst. In einer Beobachtungsperiode liegen 12 von 400 Bildern außerhalb des zuvor beschriebenen Eingabebereichs; in der nächsten sind es 36 von 400. Das entspricht 3 beziehungsweise 9 Prozent, also einer Zunahme um 6 Prozentpunkte und dem Dreifachen des bisherigen Anteils.

Diese Rechnung belegt eine Veränderung des Signals, nicht automatisch eine verdreifachte Fehlerquote. Im Beispiel stellt das Team fest, dass eine Beleuchtungseinheit gewechselt wurde. Ob dies ursächlich für relevante Fehlentscheidungen ist, muss mit geeigneten Referenzfällen untersucht werden.

Für das Beispiel ist vorab festgelegt: Bei einem solchen ungeklärten Signal entscheidet die verantwortliche Fachrolle über eine vorläufige zusätzliche manuelle Kontrolle der betroffenen Bilder. Diese Maßnahme, ihre Kapazität und ihre Eignung sind Annahmen des Beispiels, keine allgemeine Entwurfspflicht.

Quellen: [1] [4]

5. Wählen Sie Nachweise für die betroffene Aussage

Prüfen Sie zuerst, was die bestehende Evidenz tatsächlich abdeckt. Wenn eine neue Materialart außerhalb des bisherigen Einsatzraums liegt, reicht ein technischer Starttest meist nicht als Nachweis für die neue Klassifikationsaufgabe. Wird dagegen eine nachweislich unbeteiligte Darstellung geändert, kann der erforderliche Umfang enger sein.

Der Entwurf erwartet eine Bewertung des erneuten Testbedarfs und eine begründete Entscheidung, wenn nicht erneut getestet wird. Daraus folgt weder ein allgemeiner Vollretest nach jeder Änderung noch ein genereller Verzicht auf umfassende Prüfungen.

Berücksichtigen Sie dabei Testdaten und Modellauswahl. Werden bekannte Fehlerfälle zur Optimierung genutzt, kann ein anschließender Lauf auf denselben Daten nur eine begrenzte Aussage tragen. Der neue Abschlussnachweis braucht eine nachvollziehbare Beziehung zum tatsächlich geänderten Stand.

Quellen: [1] [4]

6. Verbinden Sie technische Beobachtung und fachliche Entscheidung

Das Monitoring kann automatisiert Zahlen liefern. Es entscheidet damit noch nicht, ob eine Charge, ein Prozessschritt oder ein Prüfergebnis weiterverwendet werden darf. Benennen Sie die zuständige Fachrolle, die erforderliche QA-Beteiligung und die technische Unterstützung für die Ursachenklärung.

Vereinbaren Sie auch, wie außerhalb üblicher Arbeitszeiten reagiert wird. Ein Signal ohne erreichbaren Verantwortlichen kann eine wesentliche Lücke sein. Die Reaktionsregel sollte zum Risiko und zu möglichen Zwischenkontrollen passen; dieser Artikel nennt dafür keine universelle Minutenfrist.

Halten Sie Beobachtung, vorläufige Maßnahme, Untersuchung und Abschlussentscheidung unterscheidbar fest. Ein geschlossenes IT-Ticket allein belegt nicht, dass die fachliche Einsatzgrenze geklärt wurde.

Quellen: [1] [4]

7. Was vor dem nächsten Modell- oder Prozesswechsel bereitstehen sollte

Ein KMU braucht keine Sammlung beliebiger Dashboards. Nützlicher ist eine begrenzte Anzahl interpretierbarer Signale mit klarer Reaktion. Der Aufwand entsteht vor allem durch fehlende Referenzdaten, unklare Versionsbezüge und nicht verfügbare Fachentscheidungen.

• Geprüften Gesamtstand und vorgesehenen Einsatzraum dokumentieren.
• Änderungen an Modell, Software, Vorverarbeitung und physischen Bedingungen erfassen.
• Signaldefinitionen, Nenner und Untergruppen festlegen.
• Geeignete Referenzbewertung und deren Verfügbarkeit klären.
• Vorläufige Kontrollmöglichkeiten mit Verantwortlichen abstimmen.
• Erneuten Prüfbedarf und begründete Ausnahmen dokumentieren.
• Abschlussentscheidung mit erlaubter Nutzung und verbleibenden Grenzen verbinden.

Quellen: [1] [4]

8. Behalten Sie den Unterschied zwischen Beobachtung und Ursache bei

Eine zeitliche Nähe ist ein Hinweis, aber noch kein Ursachenbeleg. Wenn nach einem Beleuchtungswechsel mehr Beanstandungen auftreten, prüfen Sie auch Materialmix, Referenzbewertung und andere gleichzeitige Änderungen. Andernfalls kann eine scheinbar naheliegende Korrektur am eigentlichen Problem vorbeigehen.

Ebenso wenig genügt eine Rückkehr zum alten Durchschnitt als Abschluss. Eine veränderte Untergruppe kann weiterhin schwach bleiben. Dokumentieren Sie deshalb, welche fachliche Frage die Untersuchung beantwortet und warum die gewählte weitere Nutzung durch die Ergebnisse getragen wird.

Quellen: [1] [4]