Versicherungsmedizin: Wo Künstliche Intelligenz ethisch und datenschutzrechtlich problematisch ist

Quelle: Bild von Tumisu auf Pixabay

Über aktuelle Trends bei der Erkennung und Behandlung von Krankheiten und die Auswirkungen auf die Versicherungswirtschaft sowie weitere Fachthemen wurde gestern im Rahmen einer Tagung des Fachkreises Versicherungsmedizin, Risiko- und Leistungsprüfung des Deutschen Vereins für Versicherungswissenschaft diskutiert.

Über neue Möglichkeiten der Bekämpfung von Leukämie berichtete Prof. Dr. Hinrich Abken vom Universitätsklinikum Regensburg. Demnach können Patienten bereits erfolgreich mit sogenannten CAR-Zellen behandelt werden, die man ihnen per Infusion verabreicht. Dabei handelt es sich um synthetisch aus den eigenen Abwehrzellen des Patienten hergestellte Konstrukte, die die Krebszellen eliminieren. Dieses “lebende Arzneimittel”, wie es Prof. Abken nannte, wandere durch den gesamten Körper des Patienten und töte Tumor-Zellen systematisch. Allerdings sei diese auf den einzelnen Patienten zugeschnittene Therapie sehr teuer – er bezifferte die Kosten auf rund 350.000 bis 400.000 Euro nur für die Herstellung einer Infusion – sodass es Bestrebungen gebe, ein einmal hergestelltes Produkt so weit zu modifizieren, dass es auch für andere Patienten wirksam ist.

“Der Druck auf die Wissenschaft ist groß und es gibt bereits erfreuliche Ansätze”, machte Prof. Abken Mut. Momentan gebe es etwa 30 bis 50 Prozent dauerhaft Geheilte nach der Behandlung mit CAR-Zellen. Es dauere um die zwei Jahre, bis man relativ sicher sein könne, dass der Patient als geheilt gelten kann. “Ob es zehn Jahre oder länger anhält, können wir im Moment nicht sagen, da wir erst seit acht Jahren Ergebnisse sammeln”, schränkt er ein.

Zu oft und zu teuer

Auf Diagnose- und Behandlungsmöglichkeiten verschiedener chronischer Darmerkrankungen ging Prof. Dr. Wolfgang Kruis von der Universität Köln ein. Er führte aus, dass es in vielen Fällen zu unnötigen Diagnoseverfahren und Medikamentengaben kommt, die das Gesundheitssystem hoch belasten. So werden beim Reizdarmsyndrom, von dem weltweit gut elf Prozent der Bevölkerung betroffen sind, oft mehrfache CTs durchgeführt, die keinen messbaren Nutzen hätten.

Bei der Divertikelkrankheit (Auswölbungen der Darmwand) würden häufig Darmspiegelungen vorgenommen, die keine Erkenntnisse brächten. Ebenso seien in den meisten Fällen Operationen und Antibiotika-Therapien sinnlos. Am Beispiel der Zöliakie (Glutenunverträglichkeit) machte Kruis darauf aufmerksam, dass – obwohl Betroffenen nur eine konsequente lebenslange Diät helfe – mehrere Medikamente in der Entwicklung seien. Auch das sei eine unnötige Belastung des Gesundheitssystems, so seine Meinung.

Er rät, bei der Einschätzung, ob es sich tatsächlich um eine Zöliakie oder nur um eine harmlose Glutensensitivität handelt, auf eine klare Diagnose zu achten. Diese umfasst einen Antikörper-Test sowie eine Darmspiegelung, um morphologische Veränderungen zu ermitteln.

Veränderte Berufsbilder

Doch nicht nur um medizinische Themen ging es auf der Tagung. Wie sich veränderte Berufsbilder auf die Risiko- und Leistungsprüfung in der Berufsunfähigkeitsversicherung (BU) auswirken, erläuterte der Sachverständige und Berufskundler Peter Neugebauer. Er verwies auf das novellierte Berufsbildungsgesetz, das eine Aufwertung nicht akademischer gegenüber akademischen Abschlüssen darstellt. Zudem gebe es viele Berufe entweder gar nicht mehr oder nicht mehr unter dem bisherigen Namen.

Berufe, die in naher Zukunft kaum noch Chancen auf dem Arbeitsmarkt haben, sind nach seiner Auffassung z.B. Textilmaschinenarbeiter, Taxifahrer, Kassierer, Fließbandarbeiter, Maschinenführer, Verkäufer, Printjournalisten und Lagerarbeiter. Nur wer sich bei der Leistungsbeurteilung mit den neuen Berufen beschäftigt, könne “ein Abdriften in eine Verlegenheitsbeschäftigung vermeiden, die es so gar nicht mehr gibt”, so sein Rat. Unterstützung kann der neue sogenannte Deutsche Qualifikations-Rahmen (DQR) des Bundesministeriums für Bildung und Forschung und der Kultusministerkonferenz geben.

Der DQR enthält eine Systematik von gleichwertigen Qualifikationen in acht Niveaus, die aussagen, was der Inhaber der Qualifikation weiß, versteht und in der Lage ist zu tun und reicht von einfachen Hilfsarbeiten bis zur Forschungsarbeit. In Level 6 sind beispielsweise Bachelor, Fachkaufmann, Fachschulabsolventen, Fachwirte und Inhaber anderer entsprechender Fortbildungsnachweise zusammengefasst. Damit sei man bei Verweisungen deutlich flexibler als bisher und auch bei der Antragsprüfung besser vorbereitet, ist Neugebauer sicher.

Besser beraten mit KI

Auf Chancen und Probleme beim Einsatz Künstlicher Intelligenz (KI) im Versicherungsbereich mit Fokus auf Medizin-Themen ging Prof. Dr. Christian Armbrüster von der FU Berlin ein. Als mögliche Anwendungsfälle im Versicherungsbereich nannte er Dunkelverarbeitung unproblematischer Anträge und Belege in der Lebens- und Krankenversicherung, Unterstützung im Beratungsprozess, da KI Vorhersagen zu Produkten in bestimmten Lebenslagen von Kunden machen kann sowie das Erkennen von psychischen Erkrankungen aus Äußerungen in sozialen Netzwerken oder Stimmenanalysen, wobei letzteres ethisch und datenschutzrechtlich problematisch sei. Problematisch sei auch auf die Frage, wem Fehler die durch KI entstehen, zuzurechnen sind.

“Man geht nach wie vor davon aus, dass derjenige für die KI verantwortlich ist, der sie einsetzt, also nicht die KI selbst als Bote, Stellvertreter oder mit eigener Willensbildung”, machte er deutlich. Wer etwa einen Chat-Bot verwendet, bei dem ausschließlich KI-gestützte Stimmen auftreten, dann muss der Kunde darüber vorher informiert werden. Die DSGVO mache da sehr konkrete Vorgaben. Nutzen könne man im Rahmen der Betrugsbekämpfung aus KI ziehen, etwa aus der Analyse von emotionalen Zuständen bei Anrufen von Anspruchstellern, aus denen sich eine Betrugswahrscheinlichkeit errechnen lässt. Weniger heikel sei die massenhafte Prüfung von Arztrechnungen und ähnlichen Belegen auf Plausibilität, die automatisierte Abrechnung bzw. Aussortierung von Unregelmäßigkeiten für den Sachbearbeiter.

Ein – auch aufsichtsrechtliches – Thema ist laut Armbrüster die Nachvollziehbarkeit von KI-Entscheidungen. 30 bis 50 Prozent der Bundesbürger, so verschiedene Studien, würden KI nicht trauen, weil man sie nicht kontrollieren kann. Zwar behaupten Experten, dass die Fehlerquote gleich null sei, dennoch bleiben Vorbehalte. Nachvollziehbarkeit verlange, dass das Modell vollständig und detailliert erklärt werden kann. Zudem müssten die Einflussfaktoren für eine konkrete Einzelentscheidung klar sein. Nur so könne verhindert werden, dass KI falsch oder gefährlich angelernt werde und fatale Entscheidungen treffe.

Auch die Bafin gestatte Algorithmen nicht ohne plausible Nachvollziehbarkeit. Insgesamt sollte der Einsatz von KI menschliche Intelligenz niemals ersetzen, nur ergänzen, ist sich Armbrüster sicher. Sie dürfe kein Selbstzweck sein, sondern Menschen Mehrwert bieten, nachvollziehbar und transparent sein und hohen IT- und Datenschutzstandards entsprechen.

Autorin: Elke Pohl

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht.

achtzehn + 17 =