Kolumne
Kolumne EU-Weiß­buch KI

Über die ver­trau­ens­volle Arbeit mit den Daten unse­rer Kun­den

Künstliche Intelligenz kann schon mehr als die meisten von uns sich vorstellen können. Das kann Segen sein oder – wie ein aktueller Fall zeigt – ein Fluch. Wir müssen unsere Regeln justieren, ohne uns Chancen zu verbauen. Das Weißbuch KI, das die EU-Kommission am 19. Februar vorlegen will, wird dafür ein Lackmustest sein.

Kennen Sie Clearview? Dieses Start-up aus den USA sorgt für beunruhigende Schlagzeilen. „Jeder Dritte ist bei der Gesichtserkennung von Clearview dabei“, lese ich zum Beispiel auf den Online-Seiten des SWR. „The Secretive Company That Might End Privacy as We Know It“, titelt die „New York Times“, die die Geschichte über das geheimnisvolle Unternehmen als erste veröffentlichte. Stellen Sie sich vor: Ein Algorithmus durchsucht das gesamte Internet nach Ihnen – anhand von Fotos auf Facebook, Twitter, Google. Drei Milliarden Bilder hat Clearview in seiner Datenbank. Und zwar ohne, dass Sie oder andere Betroffene dem jemals zugestimmt haben. Genutzt haben die – mindestens fragwürdige – Technologie übrigens ausgerechnet US-Strafverfolgungsbehörden.

Für Daten von EU-Bürgern wäre ein derartiges Vorgehen zum Glück so nicht möglich oder zumindest mit hohen Bußgeldern belegt. In Europa gilt ein umfassender Rechtsrahmen, der uns Bürger schützt. Ich erwähne hier nur beispielhaft die Datenschutzgrundverordnung.

 ​​​​​​​

Künstliche Intelligenz (KI) kann heute schon viel mehr als die meisten von uns sich vorstellen können. Und vieles davon erleichtert uns das Leben ungemein. Von intelligenter Bilderkennung etwa profitieren Versicherungskunden, weil die Schadenabwicklung mithilfe von KI und Algorithmen bereits bestens funktioniert. So ist der Prozess von der Einreichung der Schadenbilder via App bis zur Bewilligung der Schadenssumme deutlich kürzer als in der Vergangenheit.

Bei allem Argwohn gegenüber KI also sollten wir den Kontext nicht aus den Augen verlieren: Negativbeispiele erreichen uns vor allem aus weniger regulierten Märkten wie China oder den USA. Was nicht heißt, dass wir uns keine Gedanken machen müssten. Was passiert etwa mit Daten, die Systeme in großen Mengen sammeln? Wer gewährleistet die Sicherheit? Wer kann Entscheidungen intelligenter Systeme nachvollziehen und im Zweifel korrigieren? Wer haftet? Kommissionen auf nationaler und europäischer Ebene haben sich deshalb mit diesen Fragestellungen befasst. Denn für den Gesetzgeber stellt sich die Aufgabe, den Rechtsrahmen aus der analogen Welt an den digitalen Fortschritt anzupassen. 

Ich denke, dass unser Rechtsrahmen an vielen Stellen bereits Antworten zu diesen Fragen liefert. An anderen Stellen werden wir nachjustieren müssen. In diesem Zusammenhang erwarte ich mit großer Spannung das Weißbuch zur Künstlichen Intelligenz, das die EU-Kommission am 19. Februar vorlegen will. Zwar sind die genauen Überlegungen der Kommission bislang noch nicht bekannt. Dem Vernehmen nach wird sich das Weißbuch jedoch unter anderem den Bereichen Ethik in der KI widmen sowie Fragen der Haftung bei KI.

Risiken eindämmen, Fortschritt ermöglichen

Gerade dieser letztgenannte Punkt – Haftung – ist mir ein wichtiges Anliegen. Eine einseitige Verschiebung der Haftung auf Hersteller vernetzter oder autonomer Geräte vom Staubsauger bis zum Auto wäre aus meiner Sicht innovationsfeindlich und sollte deshalb vermieden werden. Das bedeutet natürlich nicht, dass Produkte in der digitalen Welt nicht auch den Sicherheitserwartungen entsprechen müssen: Industrielle Normen und Standards sowie im Produktsicherheitsrecht gehören  aktualisiert.

Wir werden den Blick sehr genau darauf richten: Vertrauen der Bürger und der Unternehmen soll durch die Regulierung gestärkt werden, ohne dass diese Innovation und Fortschritt behindern darf. Schon heute gehört unsere Branche zu den am stärksten durch die Politik regulierten. Und seit es Versicherungen gibt, arbeiten sie mit den Daten ihrer Kunden – in dem Bewusstsein, dass dieses Geschäft nur funktioniert, wenn Kunden uns 100-prozentig vertrauen können. Wir wissen sehr genau, worum es geht.

Eine zukünftige Regulierung sollte dem einfachen Grundsatz folgen: so viel wie nötig, so wenig wie möglich.

Ihr

Jörg von Fürstenwerth

Zur Startseite
Auch inter­essant