Praxiswissen · Praxisleitfaden

KI-Governance in Pharma einführen: Von einzelnen Werkzeugen zu klaren Entscheidungen

Wer darf welches KI-Werkzeug mit welchen Daten erproben? Legen Sie für einen ersten Pilotversuch einen Verantwortlichen, zulässige Aufgaben und den Weg für Rückfragen fest. Sobald die KI in einem bestimmten System qualitätsrelevante Ergebnisse liefert, braucht dieses System eine eigene Einsatz- und Prüfentscheidung.

Inhaltsverzeichnis

Das Wichtigste vorab

Wie beginnt ein Pharma-Unternehmen mit KI-Governance?

KI-Governance ordnet jede Anwendung ihrem Zweck, ihrer Prozesswirkung, den verwendeten Daten, der Technologie und den Verantwortlichen zu. Auf dieser Grundlage wird entschieden, welche Einsätze begrenzt, weiter untersucht oder zugelassen werden können und welche Nachweise dafür erforderlich sind. Anbieterbewertung, Schulung und der Umgang mit Änderungen und Störungen müssen diese Entscheidungen im Alltag unterstützen. Die GxP-Bewertung wird dabei mit weiteren rechtlichen Einordnungen abgestimmt; ihre Begründungen bleiben jeweils erkennbar.

  • Ein Inventar braucht konkrete Anwendungen und zuständige Personen, nicht nur Produktnamen.
  • Kritikalität im GMP-Prozess und Kategorien des AI Act sind unterschiedliche Bewertungen.
  • Ein Pilot hat ebenfalls Grenzen, Datenregeln und einen Entscheidungsverantwortlichen.
  • Governance muss Änderungen und tatsächliche Nutzung nach der ersten Entscheidung verfolgen.

Die Anwendungen hinter den Produktnamen erfassen

Halten Sie für jede Anwendung fest, wozu sie dient, wer sie nutzt, welche Daten eingehen und was mit den Ausgaben geschieht. Ein Produkt kann mehrere Aufgaben unterstützen. Steht im Inventar nur „Assistent“, bleiben die Unterschiede zwischen Textentwurf, Suche und Entscheidungsunterstützung unsichtbar.

Fragen Sie außerdem nach bereits genutzten Werkzeugen. Ziel ist eine zutreffende Übersicht, mit der das Unternehmen geeignete Entscheidungen treffen kann. Ein formell leeres Register bei tatsächlicher Nutzung hilft dabei nicht. Vertrauliche Informationen müssen für eine erste Einordnung nicht unnötig in neue Werkzeuge übertragen werden; beschreiben Sie Datenarten und Nutzung zunächst auf angemessener Ebene.

Quellen: [1] [2]

Unterschiedliche Bewertungsfragen getrennt beantworten

Die GxP-Betrachtung fragt nach Wirkung auf relevante Prozesse, Aufzeichnungen und Entscheidungen. Die Einordnung nach dem europäischen AI Act folgt eigenen Definitionen, Rollen und Anwendungsbereichen. Zusätzlich können Datenschutz, Informationssicherheit und vertragliche Fragen betroffen sein. Keine dieser Bewertungen ist durch ein einziges internes Ampelfeld vollständig ersetzt.

Beziehen Sie die passenden Fachrollen ein und halten Sie deren Schlussfolgerungen auseinander. Eine Anwendung ist nicht allein deshalb im Sinne des AI Act hochriskant, weil sie in einem Pharma-Unternehmen verwendet wird. Ebenso beweist eine niedrigere rechtliche Risikokategorie nicht automatisch die Eignung für einen konkreten GMP-Prozess. Bei Produkt- oder Sicherheitsbauteilbezug ist zusätzlich Artikel 6 Absatz 1 mit den Rechtsakten aus Anhang I und der erforderlichen Konformitätsbewertung durch Dritte zu prüfen; die aktuelle Fassung enthält dazu weitere Abgrenzungen. Eine Brancheneinordnung ersetzt diese konkrete Prüfung nicht.

Quellen: [3] [1] [2]

Wer entscheidet über einen neuen KI-Einsatz?

Ein neuer Einsatz benötigt einen Verantwortlichen, der Zweck und Grenzen vertreten kann. Danach werden die erforderlichen Fachbewertungen abgestimmt. Die folgende Matrix ist ein eigener Organisationsvorschlag. Sie schreibt keine universelle Stellenstruktur vor.

Legen Sie auch fest, wie ein Konflikt entschieden wird. Ein Verfahren, das jede Frage zwischen mehreren Gremien weiterreicht, ist im Alltag schwer nutzbar. Die notwendige fachliche Unabhängigkeit und Zuständigkeit muss trotzdem erhalten bleiben.

Wer entscheidet über einen neuen KI-Einsatz?
EntscheidungBenötigter BeitragErgebnis
Nutzung beschreiben Fachbereich und Anwendungs-Verantwortlicher Konkreter Zweck und ausgeschlossene Aufgaben
Prozesswirkung bewerten Zuständige Fachrollen und QA bei GxP-Bezug Begründeter Prüfbedarf
Daten und Dienst prüfen IT, Sicherheit und weitere zuständige Spezialisten Passende Daten- und Anbieternutzung
Rechtlich einordnen Zuständige Rechts- und Datenschutzrollen Getrennt begründete Anwendbarkeit und Pflichten
Pilot begrenzen Fachbereich, IT und bewertende Rollen Umfang, Daten, Kriterien und Endentscheidung
Betrieb verantworten Benannter betrieblicher Verantwortlicher Änderungs-, Störungs- und Reviewweg

Quellen: [4] [1]

Pilotversuche mit Grenzen und einer Endentscheidung planen

Ein Pilot soll eine konkrete Unsicherheit beantworten. Benennen Sie erlaubte Daten, betrachtete Nutzer und die Folgen der Ausgaben. Ergebnisse dürfen nicht unbeabsichtigt in einen kritischen Arbeitsablauf übergehen. Halten Sie fest, welche Erkenntnis nach dem Versuch für eine weitere Entscheidung erforderlich ist.

Ein positiver Pilot zeigt nur, was unter seinen Bedingungen tatsächlich untersucht wurde. Die Übernahme in den Betrieb kann zusätzliche Aufgaben erfordern. Wenn Referenzdaten oder nachvollziehbare Akzeptanzkriterien fehlen, sollte dies als Erkenntnis sichtbar werden. Ein Pilot darf auch mit der Entscheidung enden, eine Aufgabe enger zu begrenzen oder nicht weiterzuverfolgen.

Quellen: [2] [1]

Vertiefung zu diesem Thema:

Die fachliche Einsatzgrenze vor der Projektfreigabe klären

Der Annex-22-Konsultationsentwurf 2025 ist keine allgemeine Erlaubnis für generative KI in kritischen GMP-Anwendungen. Vor umfangreicher Testplanung muss deshalb die Tragfähigkeit von Zweck, Modellart und Kontrollen geklärt werden; ein menschlicher Bestätigungsklick ersetzt diese Entscheidung nicht.

Verankern Sie in der Governance einen nachvollziehbaren Übergang von der Anwendungsidee zum fachlichen Prüfauftrag. Der KI-Validierungsleitfaden und die bestehenden Annex-22-Artikel erläutern Technologiegrenzen und konkrete Prüfbausteine. Hier wird festgelegt, wer die Prüfung veranlasst, welche Entscheidung benötigt wird und wie ein ungeeigneter Einsatz begrenzt wird.

Quellen: [5] [6] [7]

Vertiefung zu diesem Thema:

Beispiel: Derselbe Assistent, zwei unterschiedliche Aufgaben

Angenommen, ein Unternehmen untersucht ein Werkzeug zur sprachlichen Überarbeitung allgemeiner interner Texte. Ein anderes Team möchte damit Inhalte erzeugen, die unmittelbar in qualitätsrelevante Entscheidungen einfließen. Produktname und Lizenz sind gleich, fachliche Wirkung und benötigte Bewertung können sich jedoch deutlich unterscheiden.

Die Governance erfasst beide Anwendungen getrennt. Eine positive Entscheidung für die erste Aufgabe darf nicht stillschweigend als Freigabe der zweiten gelten. Ob ein engerer Zweck, weitere Kontrollen oder eine andere Lösung geeignet sind, wird jeweils begründet. Das Beispiel ist keine pauschale Zulässigkeitsbewertung dieser Anwendungen.

Quellen: [1] [2]

Änderungen, Störungen und tatsächliche Nutzung verfolgen

Eine bewertete Anwendung kann sich verändern: Modellstand, Promptvorgaben, Wissensbestand, Rollen oder Schnittstellen wirken möglicherweise auf Ergebnisse. Vereinbaren Sie, wer solche Veränderungen erkennt und bewertet. Die Herstellerinformation ist ein Beitrag; sie ersetzt nicht automatisch die Betrachtung der eigenen Nutzung.

Definieren Sie außerdem einen Weg für ungeeignete oder unerwartete Ausgaben. Wer kann die Nutzung begrenzen, wer untersucht betroffene Vorgänge und wer entscheidet über eine Wiederaufnahme? Umfang und Reaktion hängen von Wirkung und Risiken ab. Governance endet nicht mit der ersten Unterschrift unter einer Anwendungsliste.

Quellen: [1] [8]

Regeln, die Mitarbeiter im Alltag anwenden können

Artikel 4 des AI Act in der konsolidierten Fassung vom 27. Juli 2026 verpflichtet Anbieter und Betreiber zu Maßnahmen, die Entwicklung der KI-Kompetenz des eingesetzten Personals und weiterer in ihrem Auftrag handelnder Personen zu unterstützen. Technisches Vorwissen, Erfahrung, Aus- und Fortbildung sowie Einsatzkontext sind zu berücksichtigen. Ein bestimmtes individuelles Kompetenzniveau muss nach dieser Fassung nicht garantiert werden.

Mitarbeiter sollten die für ihre Aufgaben relevanten Grenzen verstehen. Ein allgemeines Webinar kann dafür eine Grundlage sein; konkrete Rollen benötigen oft zusätzliche Anleitung. Üben Sie beispielsweise, wann eine Ausgabe am Original zu prüfen und wann eine Anwendung nicht für die angefragte Aufgabe vorgesehen ist.

Starten Sie mit einem überschaubaren Verfahren und erproben Sie es an unterschiedlichen Anwendungen. Prüfen Sie, ob Entscheidungen verständlich dokumentiert und später wiedergefunden werden können. Anzahl erfasster Anwendungen allein ist kein ausreichender Wirksamkeitsmaßstab. Nützlicher ist, ob kritische offene Fragen einen Verantwortlichen und eine nachvollziehbare Bearbeitung erhalten.

  • Anwendungen mit Zweck, Daten und Prozesswirkung erfassen.
  • GxP- und weitere rechtliche Einordnungen getrennt begründen.
  • Pilotbedingungen und spätere Entscheidungen ausdrücklich festlegen.
  • Veränderungen und ungeeignete Ausgaben an Verantwortliche führen.
  • Mitarbeiter auf die tatsächlichen Aufgaben und Grenzen vorbereiten.

Quellen: [4] [1] [3]

Praxis & Zusammenarbeit

Gemeinsam umsetzen: Einen verständlichen Entscheidungsweg an realen Anwendungen erproben

Mit den beteiligten Fachbereichen machen wir zuerst sichtbar, wo KI bereits genutzt wird oder geplant ist. An ausgewählten Anwendungen klären wir anschließend Zweck, Datenwege und Entscheidungsbefugnisse. So lässt sich ein Verfahren entwickeln, das Mitarbeiter im Alltag anwenden können. Bei wenigen klar begrenzten Anwendungen kann ein schlanker Einstieg passen; bei vielen Anbietern und unterschiedlichen Einsätzen brauchen Inventar, Zuständigkeiten und Änderungswege mehr Ausarbeitung.

Häufige Fragen zur KI-Governance in Pharma

Braucht jedes KI-Werkzeug dasselbe Freigabeverfahren?

Die Bewertung sollte zum tatsächlichen Zweck, den Risiken und anwendbaren Anforderungen passen. Eine identische Detailtiefe für alle Anwendungen ist nicht automatisch sinnvoll. Gemeinsame Grundinformationen und klare Verantwortlichkeiten erleichtern jedoch die nachvollziehbare Einordnung.

Quellen: [2]

Ist jede KI-Anwendung in Pharma automatisch hochriskant nach dem AI Act?

Nein. Die rechtliche Einordnung folgt dem tatsächlichen Anwendungsbereich und den Rollen nach der Verordnung. Der Branchenname allein reicht nicht aus. Diese Bewertung ist von der eigenen GxP-Risikobetrachtung zu unterscheiden.

Quellen: [3]

Ersetzt der AI Act die GMP-Bewertung?

Nein. Unterschiedliche Regelungsbereiche können nebeneinander relevant sein. Ein rechtliches Ergebnis beantwortet nicht automatisch alle Fragen zur Eignung einer konkret eingerichteten GMP-Nutzung. Halten Sie die Grundlagen und zuständigen Rollen getrennt nachvollziehbar fest.

Quellen: [3] [1]

Kann ein Mitarbeiter eine generative KI-Ausgabe einfach freigeben?

Ein menschlicher Bestätigungsschritt macht einen ungeeigneten Einsatz nicht automatisch tragfähig. Prüfen Sie Zweck, Technologie, Fehlerfolgen und tatsächliche Wirksamkeit der Kontrolle. Der Annex-22-Entwurf darf nicht als allgemeine Erlaubnis kritischer generativer GMP-Anwendungen gelesen werden.

Quellen: [5] [2]

Welche Dokumente braucht eine kleine Organisation zum Start?

Hilfreich sind ein verständliches Anwendungsinventar, passende Entscheidungsregeln und nachvollziehbare Aufzeichnungen der tatsächlichen Bewertungen. Umfang und Detailtiefe richten sich nach Nutzung und Anforderungen. Viele Vorlagen ohne klare Zuständigkeit lösen die Aufgabe nicht.

Woran erkennen wir, ob die Governance funktioniert?

Ein neuer Einsatz wird rechtzeitig erkannt, passend beurteilt und mit klaren Grenzen betrieben oder begrenzt. Änderungen und Vorfälle erreichen den zuständigen Verantwortlichen. Prüfen Sie dies an konkreten Anwendungen und nicht nur anhand der Anzahl vorhandener Richtlinien.

Quellen & fachlicher Stand

Primärquellenstand: 17. Oktober 2026. Die AI-Act-Quelle ist die auf EUR-Lex verfügbare konsolidierte Fassung vom 27. Juli 2026 mit den Änderungen durch Verordnung (EU) 2026/1744. Konkrete Pflichten, Rollen und zeitliche Anwendbarkeit sind einzelfallbezogen zu prüfen; es werden keine pauschalen Übergangsfristen behauptet. Der Annex-22-Text bleibt ausdrücklich ein Konsultationsentwurf. Entscheidungsweg, Matrix und Beispiel sind eigene Organisationshilfen, keine abschließende Rechts- oder Produktbewertung. Die EU-GMP-Aussagen beziehen sich auf Humanarzneimittel (EudraLex Band 4).

  1. Europäische Kommission: EU-GMP Annex 11, Computerised Systems, Revision Januar 2011Humanarzneimittel-GMP; insbesondere §§1–4, 7, 10–13, 16–17; konkrete Verwendung je Abschnitt.
  2. ICH Q9(R1): Quality Risk Management, amtlicher Volltext bei der Europäischen KommissionRisikobezogene Entscheidungen, angemessene Formalität und Umgang mit Subjektivität; eigene Matrizen sind Umsetzungsvorschläge.
  3. Verordnung (EU) 2024/1689: AI Act, konsolidierte Fassung 27.07.2026Eigener Rechtsrahmen mit zweck- und rollenbezogener Einordnung; keine Gleichsetzung mit GxP-Kritikalität. Konkrete zeitliche Pflichten nicht pauschal abgeleitet.
  4. Europäische Kommission: EU-GMP Kapitel 2, Personnel, wirksam seit 16.02.2014Personal, rollenbezogene Schulung und Bewertung praktischer Wirksamkeit; amtlicher EudraLex-Eintrag mit Originalkapitel.
  5. Europäische Kommission: Annex 22 Artificial Intelligence – Konsultationsentwurf 2025Entwurf, keine als geltend behauptete Pflicht; generative KI ausdrücklich nicht als freigegebener Kernanwendungsfall behandeln.
  6. Europäische Kommission: Konsultation 2025 zu Kapitel 4, Annex 11 und neuem Annex 22Konsultationsstatus und Zuordnung der Entwürfe; kein Inkrafttretensbeleg.
  7. Europäische Kommission: EudraLex Volume 4 – aktueller VeröffentlichungsbestandStichtag 17.10.2026; Humanarzneimittel von den seit 16.07.2026 geänderten Tierarzneimittelregeln trennen.
  8. Europäische Kommission: EU-GMP Kapitel 7, Outsourced ActivitiesAusgelagerte GMP-bezogene Tätigkeiten, Eignung, Verantwortlichkeiten, Vereinbarungen und Überwachung.

Quellenstand: .

Daniel Herrmann, Daniel Herrmann Consulting

Daniel Herrmann Consulting

Drei unterschiedliche Anwendungen gegenüberstellen

Bringen Sie je Anwendung Zweck, Datenarten, Nutzer und gewünschte Folge der Ausgabe mit. Der Vergleich zeigt, welche Entscheidungen gemeinsam geregelt werden können und wo eine gesonderte fachliche Untersuchung nötig ist.

  • KI-Beratung →

    Sie setzen KI gezielt ein, mit klaren Regeln und einer Lösung, die zu Ihren Prozessen passt. Wir priorisieren Anwendungsfälle, bauen Governance und Richtlinien auf und bewerten Anbieter und technische Optionen.

Kostenfreies Erstgespräch vereinbaren Kundenstimmen →