Wenn ChatGPT heimlich zur Agentur wird: Votum schaltet Bafin und DIHK ein

Dass KI-Chatbots wie ChatGPT und Claude in konkreten Konversationen individuelle Versicherungsempfehlungen aussprechen, geht Votum deutlich zu weit. Der Verband sieht Fälle, in denen das der Fall ist, und damit einen Verstoß gegen die Erlaubnispflicht nach der Gewerbeordnung. Bafin und DIHK sind eingeschaltet.

Für den Verbraucher fühlt es sich wie ein unverbindliches, flüssiges Gespräch mit einer fortgeschrittenen Suchmaschine an. Man tippt Fragen zu seiner Lebenssituation ein, äußert Bedenken zu Risiken und erhält in Sekundenschnelle präzise Antworten. Hinter den Kulissen der populären Sprachmodelle könnte sich derzeit ein schleichender Übergang in regulierte Märkte vollziehen, ahnt der Berliner Votum-Verband. Große KI-Systeme wie ChatGPT des Anbieters OpenAI oder Claude von Anthropic belassen es demnach in konkreten Konversationen nicht mehr bei allgemeinen Definitionen, sondern sprechen Versicherungsempfehlungen aus.

Votum hat mit einer offiziellen Anfrage an die Bafin sowie an die Deutsche Industrie- und Handelskammer reagiert. Der Vorwurf: Die Technologiekonzerne agieren im Kern als Versicherungsberater, ohne die dafür zwingend erforderliche Erlaubnis nach Paragraf 34d der Gewerbeordnung zu besitzen.

„Sobald ein System nicht mehr nur allgemeine Hinweise gibt, sondern eine individuelle Produktempfehlung ausspricht, bewegt es sich im Bereich der erlaubnispflichtigen Versicherungsberatung. Die entscheidende Frage lautet: Wer haftet, wenn der Verbraucher auf Basis einer fehlerhaften KI-Empfehlung eine ungeeignete Versicherung abschließt?“, fragt sich Martin Klein, geschäftsführender Vorstand des Verbandes

Das Kernproblem liegt im Fall einer Fehlberatung. Ein zugelassener menschlicher Vermittler haftet persönlich und über seine Pflichtversicherung für finanzielle Schäden, die durch eine unzureichende oder falsche Beratung entstehen. Zudem ist er gesetzlich verpflichtet, das Beratungsgespräch zu dokumentieren. Bei den KI-Plattformen greifen diese Schutzmechanismen ins Leere. Folgt ein Nutzer einer fehlerhaften Empfehlung der KI und stellt im Schadensfall fest, dass die Police nicht greift, droht ein juristisches Vakuum.

Der Verband fordert von der Bafin und der DIHK zeitnah eine verbindliche regulatorische Einordnung und die Prüfung aufsichtsrechtlicher Maßnahmen gegen das unlizenzierte Agieren der Tech-Konzerne. „Die Frage ist nicht, ob wir technologischen Fortschritt wollen. Die Frage ist, ob wir zulassen, dass bewährte Verbraucherschutzstandards durch die Hintertür ausgehebelt werden, nur weil der Berater diesmal kein Mensch, sondern ein Algorithmus ist“, sagt Klein.

Autor: VW-Redaktion