GDV hadert mit AI Act

Bildquelle: European Union 2020 - Source EP/ Benoit Bourgeois
Das weltweit erste Gesetz zur Regulierung künstlicher Intelligenz durch die EU stößt beim Versicherungsverband GDV auf gemischte Gefühle. Hauptgeschäftsführer Jörg Asmussen begrüßt die „für alle verbindlichen Regeln“. Zugleich missfällt den Branchenvertretern, dass bestimmte KI-Anwendungen der Versicherer in den Hochrisikobereich fallen.
Die Europäische Union hat sich nach mehrtägigen Verhandlungen auf ein Gesetz zur Regulierung künstlicher Intelligenz (KI) geeinigt. In Brüssel wird das Regelwerk bereits als ein Vorbild für die Welt gefeiert – schließlich soll es verhindern, dass sich eine selbstlernende Software zum Beispiel dazu versteigt, die Diskriminierung von bestimmten Gruppen zu befördern. Zudem sollen KI-Modelle, die für vielerlei unterschiedliche Dinge zum Einsatz kommen, besonders streng überwacht werden.
Die EU will mit dem AI Act aber nicht bloß Strenge zeigen, sondern zugleich den europäischen Standort für KI-Unternehmen stärken. Hier geben bislang die USA und China den Ton an. Der Versicherungsverband GDV ist dann auch grundsätzlich dafür, dass die EU verbindliche Regeln auf dem Gebiet schafft – die Branche stört sich allerdings daran, dass bestimmte Versicherungsbereiche als Hochrisikoanwendung eingestuft werden. Darunter fallen laut GDV einige Anwendungen bei Lebens- und Krankenversicherungen. Konkret geht es dabei um Systeme, mit denen die Risiken von Einzelpersonen bewertet oder Preise gestaltet werden können. „In diesen Bereichen werden der Branche neue Verpflichtungen auferlegt, obwohl das Schutzniveau durch bestehende Vorschriften schon enorm hoch ist“, kritisiert Jörg Asmussen, Hauptgeschäftsführer des GDV. „Hier hätten wir uns von der EU mehr Weitblick gewünscht“, so Asmussen.
Hinter dem Schlagwort Hochrisikoanwendung verbirgt sich die Auflage, dass besonders leistungsfähige KI-Modelle bestimmte Transparenzpflichten erfüllen müssen – eben, weil sie als „hochriskant“ gelten. Beispielsweise sind dann detaillierte Erklärungen fällig seitens der Hersteller, mit welcher Art von Daten die KI trainiert wurde. Zudem müssen die Hersteller ein hohes Maß an Cybersicherheit aufbieten, damit Manipulationen durch Hacker ausgeschlossen sind. Als Hochrisiko-KI werden insbesondere Systeme in den Bereichen der kritischen Infrastruktur wie Wasser, Gas und Strom eingestuft. Auch der Medizintechnik-Sektor und Bereiche zur Biometrie- und Gefühlserkennungs-KI sind betroffen. Gänzlich verboten wird der Einsatz von KI, um Social Scoring zu betreiben, also Menschen aufgrund ihres Verhaltens zu bewerten – und das könnte für die Versicherer durchaus noch ein Thema in der nicht allzu fernen Zukunft werden. Stichwort „Pay as you live“.
Zugleich begrüßte es Asmussen, dass mit der Einigung auf EU-Ebene „für alle verbindliche Regeln für den Einsatz von künstlicher Intelligenz“ geschaffen würden. Auch für den Versicherungssektor sei KI der nächste große Entwicklungsschub, so der GDV-Repräsentant. Mit der Verordnung setze die EU den Maßstab für die Entwicklung von KI unter Beachtung ethischer Standards und europäischer Werte. Viele KI-Anwendungen auf der Basis von generativen KI-Systemen, wie zum Beispiel das Vorformulieren von E-Mails oder Briefen oder die Zusammenfassung von langen Texten, schaffe in den Versicherungsunternehmen schon heute große Produktivitätsgewinne, so Asmussen.
Autor: VW-Redaktion