Neue Risikodimension: Wie Versicherer KI steuern und absichern müssen

Die betriebliche Verankerung von künstlicher Intelligenz verzeichnet Rekordwerte. Mittlerweile setzen 57 Prozent der Unternehmen in Deutschland KI-Systeme in ihren Abläufen ein. Im Jahr 2025 lag dieser Anteil noch bei 36 Prozent und vor zwei Jahren bei 20 Prozent. Risikomanager, Compliance-Verantwortliche und die Versicherungswirtschaft stellt der flächendeckende Einsatz von KI-Anwendungen vor Grundsatzfragen. Ein aktueller Bitkom-Leitfaden analysiert die veränderte Schadenausprägung und beleuchtet, inwiefern bestehende Deckungssprachen greifen oder angepasst werden müssen.

Für die versicherungstechnische Bewertung gilt die Erkenntnis, dass KI-Systeme selten völlig neuartige Schadenarten erzeugen. Sie wirken primär als Risikomultiplikator innerhalb bekannter Deckungsarten. Fehler, Angriffe oder Fehlanalysen können durch die Automatisierung und Skalierbarkeit eine beispiellose Ausbreitungsgeschwindigkeit erreichen.

Die primäre Herausforderung liegt im Charakter der Technologie. KI ist technologisch implementiert, wirkt jedoch kognitiv auf die unternehmerische Entscheidungsbildung ein. Fehlentscheidungen führen selten zu einem sofortigen physischen Defekt, sondern fließen als inhaltlich fehlerhafte oder verzerrte Ergebnisse unbemerkt in Prozesse ein, wird im Bitkom-Leitfaden, an dem auch Vertreter der Assekuranz beteiligt waren, berichtet.

Hinzu kommen systematische Grenzen der Leistungsfähigkeit. Neben Datenverzerrungen (Bias) und Halluzinationen – dem Erzeugen sachlich falscher, aber plausibel klingender Inhalte – droht der sogenannte „Habsburger-Effekt“. Dieser beschreibt die Selbstverstärkung von Fehlern, wenn Modelle wiederholt mit KI-generierten Daten nachgeschult werden. Überhöhtes Vertrauen in die scheinbare Präzision von Algorithmen begünstigt zudem ein unreflektiertes Übernehmen von Ergebnissen („Excel-Effekt“).

Governance und Aufsichtsrecht als zentrale Stellschrauben

Regulatorischer Bezugspunkt in Europa ist der europäische AI Act. Das Regelwerk verfolgt einen risikobasierten Ansatz und definiert Pflichten für Anbieter und Betreiber. Vor allem Anwendungen im Personalmanagement, beim Zugang zu Finanz- und Versicherungsdienstleistungen oder bei kritischen Infrastrukturen fallen unter die Kategorie der Hochrisiko-KI nach Annex III. Für diese gelten strengere Auflagen wie Risikomanagement, Data-Governance, lückenlose Protokollierung und menschliche Aufsicht.

Auch abseits der Hochrisiko-Schwelle greifen Compliance-Vorgaben, etwa Transparenzpflichten für Chatbots und Kennzeichnungspflichten für synthetische Medien gemäß Art. 50 EU AI Act. Für Unternehmen entstehen bei Verstößen finanzielle Exponierungen. Bei schweren Verstößen drohen Geldbußen von bis zu 35 Millionen Euro oder sieben Prozent des weltweiten Jahresumsatzes.

Diese Aufsichtspflichten schlagen direkt auf die Unternehmensorgane durch, wie die Bitkom-Analyse verdeutlicht. Als Beispiel wird das Bundesgerichtshof-Urteil vom 14. Oktober 2025 (Az. II ZR 78/24) genannt. Aufsichtsratsmitglieder sind demnach im Rahmen ihrer Kontrollaufgaben verpflichtet, aktiv Informationen einzuholen, und dürfen eine mangelnde Berichterstattung des Vorstands nicht hinnehmen. Organe haften im Schadensfall solidarisch. Mangelnde KI-Governance entwickelt sich damit zum direkten D&O-Haftungstreiber.

Die systematische Einordnung unterscheidet nach der Betroffenheit der Vermögenssphäre (Eigen- vs. Drittschäden) sowie der konkreten Schadensart. Eigenschäden betreffen unmittelbare Nachteile am Vermögen des nutzenden Unternehmens. Bei Schäden am KI-Asset selbst – wie dem Verlust von Modellparametern, Trainingsdaten oder Vektordatenbanken – fehlt es zivilrechtlich an der Körperlichkeit einer Sache nach § 90 BGB. Solche Verluste sind als reine Vermögensschäden zu qualifizieren.

Sofern die Beeinträchtigung auf einem Cyberangriff beruht, greift in der Regel die Cyberversicherung für Wiederherstellungskosten und Betriebsunterbrechungen. Fällt hingegen eine externe Cloud-KI aus, liegt die Beeinträchtigung beim Dienstleister, der wirtschaftliche Schaden jedoch beim Anwender. Klassische Betriebsunterbrechungsversicherungen versagen hier oft mangels physischen Sachschadens, heißt es im Leitfaden.

Werden durch fehlerhafte Steuerung von KI-Systemen physische Sachschäden an Produktionsanlagen verursacht, sind diese im Rahmen von Allgefahren-Deckungen im Sinne von „Silent AI“ überwiegend erfasst. Kritisch bleiben jedoch plötzliche und unvorhergesehene Schadenseintritte sowie Serienschadenklauseln bei skalierten Fehlern.

Eine gravierende Deckungslücke besteht nach Ansicht der Autoren bei reinen Eigenschäden durch algorithmische Fehlentscheidungen ohne Cyberangriff oder Sachschaden. Führt eine KI-gestützte Nachfrageprognose zu Überbeständen oder eine automatisierte Bonitätsprüfung zu Kreditausfällen, verbleiben diese Verluste weitgehend im unversicherbaren Unternehmerrisiko. Erste Spezialkonzepte adressieren diese Lücke über parametrische Garantieversicherungen für Hersteller und Großanwender, die bei einer Unterschreitung vertraglich zugesicherter Performance-Indikatoren leisten.

Drittschäden und Zivilhaftung

Bei Haftpflichtansprüchen Dritter richtet sich die rechtliche Bewertung nach den allgemeinen Regelungen des Delikts-, Vertrags- und Produkthaftungsrechts, da der EU AI Act keine eigenen zivilrechtlichen Schadensersatzansprüche begründet.

• Deliktische Haftung (§ 823 BGB): Das Verschulden knüpft an die Verletzung von Verkehrssicherungspflichten an – etwa bei der Systemauswahl, der Datenqualität oder der Überwachung. Das OLG Hamm bestätigte mit Urteil vom 12. Mai 2026 (Az. 4 UKl 3/25), dass ein Klinikbetreiber für Falschbehauptungen seines Chatbots hafte. Der Einwand der fehlenden Steuerung greife nicht, da der Betreiber den Rahmen vorgebe und ausreichenden Einfluss habe.
• Vertragliche Haftung (§§ 280 ff. BGB): Da KI-Systeme keine Erfüllungsgehilfen nach § 278 BGB sind, werden ihre Handlungsergebnisse dem Nutzer zugerechnet. Gemäß § 280 Abs. 1 Satz 2 BGB wird das Verschulden vermutet; Betreiber müssen sich durch eine dokumentierte KI-Governance exkulpieren.
• Produkthaftung und Rollenwechsel: Durch die neue Produkthaftungsrichtlinie (EU) 2024/2853 werden Software und KI-Systeme explizit als Produkte eingestuft. Betreiber, die bestehende Modelle wesentlich verändern, mit eigenen Daten nachtrainieren oder unter eigenem Namen vertreiben, vollziehen einen Rollenwechsel vom Betreiber zum Quasi-Hersteller (Art. 25 EU AI Act) und unterliegen der verschuldensunabhängigen Produkthaftung.

Agentische Systeme und Sicherheitsarchitekturen

Mit dem Übergang zu agentischen KI-Systemen – also Modellen, die eigenständig mehrstufige Aufgaben planen, externe Schnittstellen ansteuern und Aktionen ausführen – verlagert sich das Risiko von der reinen Inhaltsgenerierung hin zur automatisierten Handlungsausführung, zeigt der Leitfaden auf.

Im April 2026 löschte beim SaaS-Anbieter PocketOS ein KI-Agent in neun Sekunden die gesamte Produktionsdatenbank samt Back-ups. Das System legte anschließend ein detailliertes „Geständnis“ über die missachteten Sicherheitsregeln ab. Der Fall demonstriert das Ausmaß eines reinen Vermögensschadens durch eine autonome Fehlhandlung. Zur Absicherung reichen reaktive Patches nicht aus. Notwendig ist eine technische Sicherheitsarchitektur, bestehend aus der Vergabe minimaler Zugriffsrechte (Least Privilege), Ausführung in isolierten Umgebungen (Sandboxing), Einsatz von Prompt-Injection-Filtern sowie Prozessschleifen im Sinne von Human-in-the-Loop (HITL) für kritische Aktionen wie Finanztransaktionen oder Massenkommunikation.

Die Verteilung von Risiken auf Entwickler, Datenlieferanten, Systemintegratoren und Betreiber erschwert im Schadenfall die Ursachenanalyse, bilanziert der Bitkom-Leitfaden. Als Lösungsansatz diskutieren die Versicherer parteiübergreifende Modellpolicen nach dem Vorbild von Bauwesen- oder Montageversicherungen (CAR/EAR). Eine gemeinsame Mehrparteien-Police für ein abgegrenztes KI-Projekt führe Entwickler, Integratoren und Betreiber unter einem Deckungsschirm zusammen, verhindere langwierige Regressstreitigkeiten und beschleunige die Regulierung.

Kurzfristig bleibt der EU AI Act eine Compliance-Anforderung. Mittelfristig schafft er über einheitliche Begriffe, Dokumentationspflichten und Risikoklassen die Basis für eine gezielte Zeichnung und Bepreisung von KI-Risiken durch die Branche, heißt es. Risikomanagement und eine verankerte KI-Governance werden damit zur zwingenden Voraussetzung für die dauerhafte Versicherbarkeit moderner Geschäftsprozesse.

Autor: VW-Redaktion