Wenn Algorithmen Lebensträume platzen lassen

Was einigen als Zukunftsmusik gilt, ist längst Realität: Algorithmen fällen im Alleingang wichtige Entscheidungen – oft auf fragwürdige Weise. Die Politik muss einschreiten, allen voran bei der Schufa und bei Facebook, meint Kolumnist Julius Reiter

Es ist aus meiner Sicht eine der wichtigsten Passagen der neuen Digital-Charta für digitale Grundrechte: „Automatisierte Entscheidungen“, heißt es in Artikel 5, „müssen von natürlichen oder juristischen Personen verantwortet werden“. Zudem seien die „Kriterien […] offenzulegen“. Und: „Wer einer automatisierten Entscheidung von erheblicher Bedeutung für seine Lebensführung unterworfen ist, hat Anspruch auf unabhängige Überprüfung und Entscheidung durch Menschen“.

Was für manchen nach Zukunftsmusik klingen mag, ist schon jetzt hochgradig relevant. Denn Algorithmen fällen längst weitreichende Entscheidungen – und zwar nicht nur in den USA, wo sie unter anderem darüber bestimmen, wie lange Straftäter in Haft bleiben und ob bei Schwerkranken eine Therapie lohnt.

Auch hierzulande haben sie großen Einfluss, zum Beispiel auf unsere Bonitätsnoten: Auskunfteien wie die Schufa berechnen mit geheimen Formeln (und oft auf Basis sehr lückenhafter Daten), wie kreditwürdig wir sind. Algorithmen können damit Lebensträume (etwa von der eigenen Immobilie) zerplatzen lassen und Unternehmerkarrieren beenden.

Schufa-Kontrollen? Die BaFin muss ran

Die Schufa hat bisher betont, dass ihr Algorithmus streng überprüft wird. Meine Zweifel daran, ob die notorisch unterbesetzten Datenschutz-Behörden dies leisten können, hat sich nun bestätigt: Wie der Bayrische Rundfunk herausgefunden hat, sind es die Auskunfteien selbst, die die Algo-Kontrollen in Auftrag geben – bei Wissenschaftlern, die sie dafür bezahlen. Ein glasklarer Interessenkonflikt!

Es ist deshalb höchste Zeit, dass die Finanzaufsicht Schufa & Co. überwacht. Und auch darüber hinaus müssen EU und Bundesregierung dringend dafür sorgen, dass die Prinzipien der Digital-Charta Gesetz werden. Ein erster Schritt in die richtige Richtung war die EU-Datenschutzgrundverordnung (DSGVO), die am 25. Mai 2018 in Kraft tritt (aber ausgerechnet Auskunfteien kaum betrifft).

Deshalb brauchen wir parallel zur Umsetzung der DSGVO nun in einem nächsten Schritt glasklare Regeln, die sicherstellen, dass Auskunfteien und andere Unternehmen für Schäden und Diskriminierungen durch fehlerhafte Algorithmen geradestehen müssen.

Konkret heißt das: Wenn ein Algorithmus zu Unrecht eine schlechte Bonität unterstellt, haftet die Auskunftei für einen verweigerten Kredit. Und wenn die Fehlprogrammierung eines autonomen Autos einen Crash auslöst, haftet der Hersteller (leider bleibt das neue Straßenverkehrsgesetz hier viel zu schwammig).

Facebook & Co.: Upload-Filter vs. Satire

Doch statt im Sinne der Digital-Charta entschlossen für klare Verantwortlichkeiten und effektive Kontrollmechanismen zu sorgen, schaut die Politik lieber zu (etwa bei der Schufa) – oder marschiert sogar in die entgegengesetzte Richtung: Zumindest auf EU-Ebene scheint eine gefährliche Algorithmen-Gläubigkeit Einzug zu halten.

Anders kann ich mir den Vorschlag nicht erklären, Plattformen wie Facebook zu sogenannten Upload-Filtern zu verpflichten. Sie sollen hochgeladene Inhalte – Fotos, Videos, Texte – automatisch auf Rechtsverletzungen durchforsten.

Zurecht kritisiert die ehemalige Bundesjustizministerin Sabine Leutheusser-Schnarrenberger, dass Algorithmen das gar nicht leisten können. Wie soll ein Filter zum Beispiel erkennen, dass es sich um Satire handelt? Es bestehe die Gefahr, dass die Plattformen „im Zweifelsfall einen Beitrag eher sperren als erlauben“ (Overblocking). Das berühre „die Meinungs- und Kunstfreiheit“.

Warum die EU Fehlanreize schafft

Zudem fürchte ich: Die Verantwortlichen bei Facebook & Co. werden sich ob der geplanten Filterpflicht klammheimlich die Hände reiben. Schließlich bekäme ihre Geschäftsphilosophie, möglichst viel von Algorithmen regeln zu lassen, dadurch sozusagen den gesetzgeberischen Ritterschlag.

Und das, wo Facebook gerade auf einem guten Weg schien, wieder verstärkt auf Menschen zu setzen – und allein in Deutschland 1500 Leute engagiert hat, die entscheiden, ob Postings gelöscht werden oder nicht. Diesen Weg müsste die Politik durch kluge Regulierung unterstützen und forcieren, statt blinde Technik-Gläubigkeit zu fördern.

—–
Professor Julius Reiter ist Gründer der Kanzlei Baum Reiter + Collegen in Düsseldorf. Als IT-Rechtler, Anlegeranwalt und Liberaler beschäftigt er sich mit den Auswirkungen der Digitalisierung und der Frage, wie ein moderner Daten- und Verbraucherschutz aussehen kann. Hier geht’s zu seinem Blog Digital Fairplay – Menschen. Daten. Selbstbestimmung