KI unter Kontrolle: Was Bafin und DORA von Versicherern technisch verlangen

Künstliche Intelligenz (KI) verspricht Versicherern effizientere Prozesse und präzisere Risikobewertungen. Eine Bafin-Orientierungshilfe zeigt, wie sich die Technik in das DORA-Regime einordnen lässt. Entscheidend ist dabei nicht die Einführung eines eigenständigen Kontrollsystems für KI, sondern die Erweiterung des vorhandenen IKT-Risikomanagements über den gesamten KI-Lebenszyklus. Was Bafin und DORA von Versicherern technisch verlangen, beleuchtet Adesso-Experte Christian Nölke im Gastbeitrag.

In der Versicherungswirtschaft ist KI vom Experiment zum Produktionsfaktor geworden. Sie unterstützt das Underwriting und die Kundenansprache, klassifiziert Schäden, erkennt Betrug und dient als Assistent in der Sachbearbeitung oder der Softwareentwicklung. Erwartet werden schnellere Abläufe, niedrigere Kosten, genauere Risikoeinschätzungen und damit zufriedenere Kunden.

Damit wächst jedoch auch die Abhängigkeit von Daten, Modellen, Schnittstellen sowie Cloud- und Modellanbietern. So können fehlerhafte Daten Ergebnisse verzerren, kompromittierte Modelle Fehlentscheidungen auslösen und unkontrollierte Eingaben vertrauliche Informationen offenlegen. Die BaFin nennt zudem Backdoors im Training, unsichere Open-Source-Komponenten, Modelldiebstahl, unberechtigte Zugriffe sowie adversariale Angriffe wie Prompt Injections, Jailbreaks und irreführende Instruktionen. KI ist deshalb nicht nur ein Modell- oder Compliance-Thema, sondern auch Gegenstand technischer Resilienz.

Die Orientierungshilfe richtig einordnen

Die „Orientierungshilfe zu IKT-Risiken beim Einsatz von KI in Finanzunternehmen“, die im Dezember 2025 veröffentlicht wurde, (Link auf https://www.bafin.de/SharedDocs/Veroeffentlichungen/DE/Meldung/2025/meldung_2025_12_18_orientierungshilfe_ikt_risiken.html), richtet sich insbesondere an CRR-Institute (Capital Requirements Regulation) und Solvency-II-Versicherer mit vollständigem IKT-Risikomanagementrahmen nach den Artikeln 5 bis 15 DORA. Sie ist eine nicht verpflichtende Hilfestellung, formuliert keine aufsichtlichen Erwartungen und stellt keine verbindliche DORA-Auslegung dar. Dennoch ist sie praktisch relevant: Sie zeigt, welche KI-spezifischen Fragen die BaFin innerhalb des geltenden DORA-Rahmens für technisch bedeutsam hält und wie sie die Risiken hierbei exemplarisch adressiert.

Die BaFin versteht ein KI-System als Kombination aus IKT-Assets und IKT-Infrastruktur. Die mathematische Modellmethodik sowie die Entwicklung und Validierung der verwendeten Daten behandelt sie nicht umfassend. Im Mittelpunkt stehen die Einbindung in die IKT-Landschaft und die Risiken entlang des Lebenszyklus – von der Datenbeschaffung und Entwicklung über den Betrieb bis zur Stilllegung.

Damit ergänzen sich drei Regime: Der EU AI Act adressiert KI-spezifische Pflichten, die sich nach Rolle und Anwendung richten. DORA verlangt die digitale operationale Resilienz der technischen Umgebung. Die DSGVO bleibt maßgeblich, sobald personenbezogene Daten verarbeitet werden. Inventar, Risikoklassifizierung, Datenschutzprüfung und technische Kontrollen sollten aufeinander aufbauen. Die Orientierungshilfe ersetzt weder AI-Act- noch DORA- oder Datenschutzprüfung.

Transparenz und Verantwortung

Versicherer können nur steuern, was sie kennen. Ein KI-Inventar muss neben Eigenentwicklungen auch externe APIs, Assistenten in Standardsoftware und Anwendungen der Fachbereiche erfassen. Dokumentiert werden sollten Geschäftszweck, Eigentümer, Datenkategorien, Versionen, Schnittstellen, Betriebsort, Anbieter, Kritikalität und unterstützte Prozesse.

KI-Systeme sind wie andere IKT-Assets in die Bereiche Identifikation, Schutz, Erkennung, Reaktion, Wiederherstellung, Lernen und Kommunikation einzubeziehen. Dazu gehören Schwachstellen in Training, Datenpipelines oder Inferenz ebenso wie Maßnahmen gegen Modelldrift.

Gemäß DORA liegt die finale Verantwortung für IKT-Risiken beim Leitungsorgan. Die Geschäftsleitung muss nicht jedes Modell technisch erklären können, aber sie muss den Nutzen, die Grenzen, Abhängigkeiten und wesentliche Szenarien verstehen. Außerdem muss klar sein, wer KI-Ergebnisse verwenden, kontrollieren oder verwerfen darf.

In der ersten Verteidigungslinie ist ein fachlicher Use-Case- oder Model-Owner für Zweck, zulässige Nutzung und Ergebnisqualität verantwortlich. IT- und Plattformverantwortliche stehen für Integration und Betrieb ein. Auf der zweiten Linie setzen Informationssicherheit, IKT-Risikomanagement, Datenschutz und Compliance Leitplanken. Als dritte Linie prüft die interne Revision unabhängig. Ein AI Board kann Entscheidungen bündeln, Verantwortung jedoch nicht ersetzen. Dabei gilt das Prinzip der Risikoorientierung: Ein Textassistent für Briefe benötigt andere Kontrollen als ein System zur Risikoklassifikation oder zur Anlagestrategie.

Daten als Schnittstelle zu DSGVO und AI Act

Die Qualität eines KI-Systems steht und fällt mit der Qualität seiner Daten. Erforderlich sind eine nachvollziehbare Herkunft, Klassifizierung, Verantwortlichkeit und Freigabe der Daten. DORA legt den Fokus auf Integrität und technische Schutzziele. Darüber hinaus umfasst die Datenqualität nach Darstellung der BaFin Vollständigkeit, Genauigkeit, Gültigkeit, Konsistenz, Angemessenheit und Repräsentativität. Diese Dimensionen gehören in eine übergreifende KI- und Data-Governance.

Bei personenbezogenen Daten reicht technische Sicherheit nicht aus. Zulässigkeit und Zweck, Datenminimierung, Löschung und Betroffenenrechte sind bereits im Design zu berücksichtigen. Vor allem darf ein KI-Assistent nicht zum unkontrollierten Ausgang für Kunden-, Gesundheits- oder Schadendaten werden. Geeignete Maßnahmen sind Klassifizierung, rollenbasierte Zugriffe, Maskierung oder Tokenisierung, Eingabefilter und begrenzte Upload-Funktionen. Die BaFin nennt außerdem Zero Trust und die Verarbeitung ausschließlich freigegebener Daten.

Datenschutz und Informationssicherheit sollten denselben Datenfluss bewerten: Ist die Verarbeitung zulässig und wie werden die Daten geschützt? So wird auch sichtbar, ob Daten den eigenen Tenant verlassen oder durch Unterauftragnehmer verarbeitet werden.

Entwicklung, Test und Nachvollziehbarkeit

Für die Software-Entwicklung mit oder durch KI gilt zunächst einmal: Auch das ist Software. Projektmanagement, Funktionstrennung, dokumentierte Anforderungen, Versionskontrolle, sichere Entwicklungsumgebungen, Freigaben und nachvollziehbare Deployments sind auch bei Anwendungen der Fachbereiche und generiertem Code notwendig.

Die Teststrategie muss jedoch erweitert werden. Neben Unit-, Integrations- und Abnahmetests sind auch Datenpipelines, Modellartefakte, Bibliotheken und APIs einzubeziehen. Für kritische Anwendungen kommen adversariale Tests, Penetrationstests und Belastungsszenarien hinzu. Bei fremdbezogenen Modellen ist zu klären, wie Änderungen erkannt und neu bewertet werden. Selbst- und fremdentwickelte Systeme sind nach denselben Standards zu analysieren und zu testen.

Erklärbarkeit erfordert auch technische Nachvollziehbarkeit in Form von reproduzierbaren Ergebnissen, Versionierung von Modell, Prompt-Konfiguration und Wissensbasis sowie einem angemessenen Audit Trail. Die Protokollierung ist mit Datenschutz und Vertraulichkeit abzuwägen.

Betrieb: Monitoring für Modell und Plattform

Ein klassisches Monitoring von Verfügbarkeit, Kapazität und Fehlern reicht nicht aus. Zusätzlich werden Indikatoren für Drift, ungewöhnliche Eingaben, Qualitätsverluste, unerwartete Ausgaben und Missbrauch benötigt. Bei generativer KI können Regelverstöße, auffällige Datenabfragen oder veränderte Antwortmuster als Frühwarnsignale dienen.

Das Monitoring muss mit dem Incident-, Problem- und Change-Management verbunden sein. Ein Modellwechsel des Providers ist kein bloßes Release-Detail, da er das Verhalten und das Risikoprofil verändern kann. Hier sind neue Tests erforderlich. Für Störungen braucht es Eskalationswege, Abschaltmöglichkeiten und Rückfallverfahren. KI-bezogene Störungen können IKT-Vorfälle nach DORA sein; schwerwiegende Fälle müssen in die bestehenden Meldeprozesse eingebunden werden. Wiederanlauf, Back-ups von Modellartefakten und Datensätzen sowie die sichere Stilllegung alter Versionen vervollständigen den Kontrollrahmen.

Cloud und Drittanbieter: Exit mitdenken

Viele KI-Dienste beruhen auf Cloud-Infrastruktur und externen Modellen. Vor Vertragsabschluss sind daher Sicherheitsniveau, Datenschutz, Verarbeitungsorte, Unterauftragnehmer, Modelländerungen und die Unterstützung kritischer oder wichtiger Funktionen zu bewerten. Verträge müssen angemessene Leistungs-, Informations-, Prüf- und Kontrollrechte vorsehen.

Proprietäre Modelle, APIs und Datenformate können einen Wechsel erheblich erschweren. Versicherer sollten daher klären, ob Daten, Konfigurationen, Modelle und Metadaten exportierbar sind, welche Ersatzlösung verfügbar ist und wie Ausfälle getestet werden. Die BaFin empfiehlt, Vendor-Lock-in in der Risikobewertung zu berücksichtigen und bei kritischen oder wichtigen Funktionen Szenarien wie einen Cloud-Ausfall, Datenkorruption oder Probleme mit Unterauftragnehmern einzubeziehen.

Vom Einzelprojekt zum Kontrollrahmen

Für die Umsetzung empfiehlt sich ein fünfstufiges Vorgehen:

1. KI-Inventar mit Asset-, Prozess-, Daten- und Drittanbieterregistern abgleichen

2. Anwendungen nach Wirkung, Datenkritikalität, technischer Komplexität und Bedeutung für wichtige Funktionen klassifizieren

3. Gemeinsamen Kontrollkatalog aus AI Act, DORA, DSGVO und internen Standards erstellen

4. Für wichtige Anwendungen End-to-End-Nachweise aufbauen – vom genehmigten Zweck über Daten und Tests bis hin zu Monitoring, Incident Response und Exit

5. Kontrollen automatisieren, wo sinnvoll, etwa durch Schwachstellen-Scans, Versionsnachweise, Zugriffsrezertifizierungen und Filter gegen vertrauliche Eingaben

Die Orientierungshilfe der BaFin ist weder eine Checkliste noch eine zusätzliche „KI-Regulierung“. Ihr Wert liegt darin, DORA für KI greifbar zu machen: Sie zeigt, wo bewährte IKT-Kontrollen ausreichen und wo neue Risiken Erweiterungen verlangen. Da die BaFin das Papier als lebendiges Dokument versteht, muss auch der interne Kontrollrahmen anpassbar bleiben.

Wichtig ist, dass Versicherer für KI keine vollständig neue Governance-Welt errichten, sondern sie konsequent in ihre bestehenden Strukturen für IKT-Risiko, Datenschutz, Informationssicherheit, Drittparteienmanagement und interne Kontrolle einbetten. Der AI Act bestimmt den KI-spezifischen Rahmen, während DORA resiliente Technik verlangt und die DSGVO Grenzen für personenbezogene Daten setzt. Die BaFin-Orientierungshilfe verbindet diese Perspektiven mit dem operativen Alltag. Wer Anwendungen und Datenflüsse transparent macht und den Lebenszyklus kontrolliert, gewinnt mehr als nur regulatorische Sicherheit. Tests, wirksames Monitoring und realistische Exit-Szenarien verbessern zugleich die Qualität und die Verfügbarkeit. So wird Regulierung zur Voraussetzung dafür, dass KI im Versicherungsgeschäft dauerhaft vertrauenswürdig eingesetzt werden kann.

Autor: Christian Nölke, Principal Consultant bei Adesso SE