Die FDA kritisierte in einem Warning Letter vom 02.04.2026 den mangelhaften Einsatz von KI-Agenten. Betroffen war die pharmazeutische Herstellung der Firma Purolea Cosmetics Lab. Das Unternehmen hat die Arzneimittelproduktion in der Zwischenzeit eingestellt. Der behördliche Mängelbericht fokussiert sich auf zwei zentrale regulatorische Verstöße.
Ungeprüfte Übernahme KI-generierter GMP-Dokumente
Purolea nutzte KI-Agenten zur Erstellung regulatorischer Dokumente. Dazu gehörten Arzneimittelspezifikationen, Verfahrensanweisungen sowie Herstell- und Prüfprotokolle (Master Production or Control Records). Das Unternehmen übernahm diese Dokumente ohne weitere Verifizierung.
Die FDA fordert bei KI-gestützter Dokumentenerstellung eine strikte menschliche Überprüfung. Die Dokumente müssen korrekt sein und den CGMP-Anforderungen entsprechen. Die fehlende Prüfung der Qualitätsabteilung verstößt gegen 21 CFR 211.22(c).
Fehlende Prozessvalidierung und Kontrollverlust
Die FDA bemängelte zudem die übermäßige Abhängigkeit von der künstlichen Intelligenz. Die Inspektoren stellten eine komplett fehlende Prozessvalidierung gemäß 21 CFR 211.100 fest. Arzneimittel wurden dennoch in den Vertrieb gebracht. Die Rechtfertigung des Betriebs war fehlerhaft: „es seien keine entsprechenden gesetzlichen Anforderungen bekannt, da der eingesetzte KI-Agent nie mitgeteilt hatte, dass dies erforderlich sei“. Die regulatorische Verantwortung verbleibt jedoch immer beim pharmazeutischen Unternehmer.
Auflagen bei Wiederaufnahme der Produktion
Die festgestellten Mängel hatten aufgrund der Produktionseinstellung keine direkten Konsequenzen. Für eine eventuelle Wiederaufnahme gelten jedoch strikte behördliche Auflagen. Alle Ergebnisse oder Empfehlungen eines KI-Agenten im CGMP-Bereich erfordern eine manuelle Verifizierung. Ein autorisierter menschlicher Vertreter der Qualitätsabteilung (Quality Unit) muss diese freigeben. Dies fordert Abschnitt 501(a)(2)(B) des FD&C Act in Verbindung mit 21 CFR 211.22 und 21 CFR 211.100.
Fazit für die regulatorische Praxis
Die FDA verurteilte die unkritische Nutzung von KI-Systemen in der Produktion. Die Behörde fordert zwingend das Prinzip des „Human-in-the-loop“ als Kontrollinstanz. Eine menschliche KI-Oversight bleibt im regulierten Umfeld unabdingbar.