LLMs in der Schadenbearbeitung: Wer behält die Kontrolle über Daten und Entscheidungen?

Große Sprachmodelle können Versicherer bei der Bearbeitung von Schadensfällen entlasten. Sie strukturieren Meldungen oder bereiten Antwortentwürfe für die Kundenkommunikation vor. Beim Einsatz externer LLM-Dienste muss jedoch klar sein, wohin sensible Kundendaten gelangen, wer darauf zugreifen kann und wie sich die Ergebnisse prüfen lassen. Ein Gastbeitrag.

Ein Wasserschaden wird gemeldet. Neben einer Schilderung des Vorfalls liegen auch Fotos, Vertragsunterlagen und ein Gutachten vor. Versicherer müssen nun die Informationen sichten und für die weitere Bearbeitung aufbereiten. Große Sprachmodelle (Large Language Models, kurz LLMs) können ihnen einen Teil dieser Arbeit abnehmen. Allerdings können dabei persönliche Informationen wie Namen und Adressen an einen externen Dienst übermittelt werden. Deshalb müssen Versicherer nachvollziehen können, welche Unternehmen diese Daten verarbeiten und wie lange diese bei ihnen gespeichert bleiben.

Seit Ende Juli 2026 ist die Bundesanstalt für Finanzdienstleistungsaufsicht (BaFin) für die Marktüberwachung von KI-Systemen zuständig, die beaufsichtigte Versicherungsunternehmen im Zusammenhang mit regulierten Finanztätigkeiten einsetzen. Daher müssen Versicherer den Einsatz externer LLM-Dienste auch mit ihren bestehenden Datenschutz-, Sicherheits- und Kontrollprozessen abstimmen. Zudem gelten externe KI-Dienste nach der EU-Verordnung DORA als IT-Drittdienstleistungen, mit Vorgaben zu Verträgen, Risikomanagement und Ausstiegsstrategien.

Anbieter prüfen: Datenstandort und Rechtsraum unterscheiden

Vor dem Einsatz eines LLM-Dienstes sollten Versicherer zunächst klären, wer ihr Vertragspartner ist, welche weiteren Unternehmen Daten verarbeiten und von wo aus Zugriffe auf die Daten möglich sind.

Hier gilt es, sich nicht vom Standort des Rechenzentrums täuschen zu lassen. Auch bei einem Rechenzentrum in der EU können internationale Konzerngesellschaften oder Dienstleister im Zweifelsfall auf Daten zugreifen. Das gilt für US-Anbieter ebenso wie für europäische Unternehmen mit Partnern außerhalb der EU. Zu klären ist außerdem, wer das Sprachmodell betreibt: Hinter einem EU-Assistenten kann die Modell-API eines außereuropäischen Konzerns stehen, ein offenes Modell dagegen vollständig in der EU laufen.

Der Speicherort bestimmt außerdem auch nicht, welchem Recht ein Anbieter unterliegt. Nach dem US-amerikanischen CLOUD Act können Unternehmen, die diesem Gesetz unterliegen, darunter auch europäische Tochtergesellschaften von US-Konzernen, unter bestimmten Voraussetzungen zur Herausgabe von Daten an US-Behörden verpflichtet werden. Eine Speicherung in Europa schließt diese Verpflichtungen nicht aus.

Deshalb sollten Versicherer den Dienstleistungsvertrag einschließlich des Auftragsverarbeitungsvertrags (AVV) mit der technischen Dokumentation des Anbieters vergleichen. ISO-27001-Zertifikate und C5-Testate können hier die Sicherheitsprüfung unterstützen, wenngleich sie die Prüfung des konkreten Dienstes nicht ersetzen. Auch Tarif und Betriebsmodell des Anbieters sind relevant. Ein frei zugänglicher Chatdienst kann anderen Regeln für Speicherung, Modelltraining und Datenverwaltung unterliegen als ein Geschäftstarif oder eine individuelle technische Schnittstelle zum Schadenbearbeitungssystem.

Vertrauliche Informationen: Was passiert mit den Eingaben?

Bei Sachschäden wie einem Wasserschaden werden häufig Fotos, Verträge und Angaben zum Schadenhergang verarbeitet. Bei Personenversicherungen kommen möglicherweise medizinische Befunde und weitere Gesundheitsdaten hinzu. Versicherer sollten genau festlegen, welche Informationen ein externer LLM-Dienst erhalten darf und ob sich personenbezogene Angaben vor der Übertragung entfernen oder pseudonymisieren lassen. Selbst wenn Eingaben nicht zum Modelltraining genutzt werden, können Anbieter sie für den technischen Betrieb, Fehleranalysen, Missbrauchsprävention oder Support verarbeiten. Deshalb muss geprüft werden, welche Verarbeitungszwecke und Speicherfristen für die Daten gelten und wer darauf zugreifen darf.

Für das Vertragsende braucht es ebenfalls klare Löschregeln. Aktive Datenbestände und Sicherungskopien werden möglicherweise zu unterschiedlichen Zeitpunkten gelöscht. Dabei sind die gesetzlichen Aufbewahrungspflichten des Versicherers zu berücksichtigen. Das bedeutet jedoch nicht, dass sämtliche Daten ebenso lange beim LLM-Anbieter gespeichert werden müssen.

Zugriffsrechte und Ergebnisse kontrollieren

Greift ein LLM-Assistent auf Schadenakten zu, müssen die Berechtigungen der jeweiligen Mitarbeitenden bereits vor der Übergabe an das Modell geprüft werden. Informationen, auf die sie im Quellsystem keinen Zugriff haben, dürfen auch nicht an das LLM weitergegeben werden. Zugriffsrechte verhindern allerdings keine fachlichen Fehler. Gerade bei umfangreichen Gutachten kann ein Sprachmodell relevante Details auslassen oder Vertragsbedingungen falsch interpretieren. Auch eine gut formulierte Zusammenfassung kann Fehler enthalten oder wichtige Informationen auslassen. Deshalb brauchen Antwortentwürfe zur Anerkennung oder Ablehnung eines Schadens eine fachliche Prüfung. Erst wenn die zuständige Person die Angaben mit den Originalunterlagen abgeglichen und den Entwurf freigegeben hat, sollte die Antwort an Versicherte gehen.

Dabei machen Protokolle über Datenzugriffe, Änderungen und Freigaben einzelne Bearbeitungsschritte nachvollziehbar. Sie unterstützen interne Prüfungen und die Untersuchung möglicher Sicherheitsvorfälle. Versicherer sollten klare Zuständigkeiten für den Einsatz von LLM-Diensten festlegen und definieren, bei welchen Fragestellungen das Datenschutz-Team eingebunden werden muss.

Digitale Souveränität: Versicherer müssen Kontrolle behalten

Je enger ein LLM-Dienst in bestehende Arbeitsabläufe eingebunden wird, desto aufwendiger kann ein späterer Anbieterwechsel werden. Versicherer sollten deshalb frühzeitig prüfen, ob sich Dokumente, Chatverläufe und Konfigurationen exportieren und in anderen Systemen weiterverwenden lassen. Zur digitalen Souveränität gehört es auch, Datenflüsse, Zugriffsrechte und technische Abhängigkeiten dauerhaft steuern zu können. Dafür stehen verschiedene Betriebsformen zur Verfügung. Für bestimmte Aufgaben kann ein gemanagter Dienst innerhalb der EU geeignet sein, bei besonders schützenswerten Daten möglicherweise auch eine abgeschottete Umgebung.

Eine selbst betriebene Lösung bietet wiederum bei der technischen Gestaltung mehr Spielraum. Offene Modelle erleichtern dabei einen Wechsel, weil sich dasselbe Modell selbst oder bei verschiedenen Anbietern betreiben lässt. Allerdings muss der Versicherer Wartung, Updates und Sicherheitsmaßnahmen selbst organisieren.

Welche Betriebsform geeignet ist, hängt deshalb vom Schutzbedarf der Daten, von der geplanten Integration sowie von den verfügbaren IT-Ressourcen ab. Entscheidend ist, dass Versicherer auch langfristig kontrollieren können, wie Kundendaten verarbeitet werden, wer darauf zugreifen darf und wie die Ergebnisse der LLM-Dienste in die Schadenbearbeitung einfließen.

Autor: Marcel Meyer ist Senior Manager Office & Cloud Storage Applications bei STRATO. Seine fachlichen Schwerpunkte liegen in den Bereichen digitales Arbeiten, Office-Anwendungen und Cloud-Speicherlösungen.