MESOPOTAMIA NEWS „VERWISSENSCHAFTLICHTER FASCHISMUS“ : DIE FORMELLE WIE REELLE SUBSUMTION DES REST –MENSCHEN UNTER DIE VERWERTUNGSLOGIK DER INSTRUMENTELLEN VERNUNFT
Algorithmen : Auch in Europa entscheiden längst Maschinen – Von Hendrik Wieduwilt , Berlin – FAZ – am 29.01.2019-07:32
Was wie eine orwellsche Dystopie klingt, ist längst Realität. Etliche Länder in der EU setzen schon heute auf automatisierte Entscheidungen in der Verwaltung. Das zeigt eine Studie. Die Algorithmen kümmern sich dabei jedoch nicht nur um banale Dinge.
Bürger automatisiert bewerten und verwalten, das erinnert an inzwischen schon berüchtigte Systeme aus China. Doch auch in der Europäischen Union regieren die Maschinen mit: Das zeigt eine der F.A.Z. vorab vorliegende Übersichtsstudie, die die Organisation Algorithmwatch in Zusammenarbeit mit der Bertelsmann Stiftung erarbeitet hat und am Dienstag im Europarlament präsentieren will. Die 150 Seiten enthalten Berichte über den Einsatz von Software für Verwaltungsentscheidungen in etlichen Feldern, von der Steuerverwaltung bis hin zur Entscheidung über Sozialleistungen.
Die Forscher meinen, die Diskussion über automatisierte Entscheidungen werde derzeit von Beispielen aus Amerika dominiert – und listen reichlich Anschauungsmaterial aus der EU auf: Ungarn, Griechenland und Lettland beispielsweise testen einen virtuellen Grenzposten, der durch automatisierte Interviews Täuschungen durch Migranten aufdecken soll.
In Dänemark kam es im vergangenen Jahr zu einem öffentlichen Aufschrei, weil örtliche Behörden mit Modellrechnungen Gefahren für das Kindeswohl vorhersagen wollten. Punktewertungen für psychische Erkrankungen, Arbeitslosigkeit, aber auch verpasste Arzttermine sollten das Risiko für Kinder abschätzen. Erst im Dezember stellte die Regierung die Pläne zurück. In Italien soll ein Projekt die effektivsten und effizientesten Behandlungen für Patienten aussuchen und dabei auch die Gesundheitsausgaben optimieren.
Sozialbetrug entdecken
Auch die Steuerehrlichkeit prüft Italien durch Algorithmen, indem etwa das Einkommen und die Ausgaben oder eingereichte Rechnungen und der Lebensstandard miteinander abgeglichen werden. Ein weiteres System errechnet etwa aus Steuererklärungen und möglichen Anomalien einen Skalenwert von 0 bis 10. Damit soll ein Belohnungssystem eingeführt werden – wer einen besseren Wert erzielt, soll von bestimmten Steuerprüfungen verschont werden.
Ein Beispiel namens SyRI in den Niederlanden soll helfen, Sozialbetrug zu entdecken. Das System kombiniert nach Angaben der Studienautoren Daten etwa aus der Steuererklärung mit Informationen aus anderen Quellen. Ein Algorithmus entscheidet anhand teils unbekannter Kriterien, ob ein Bürger als verdächtig markiert wird oder nicht. Das Arbeitsministerium in Polen kategorisiert Arbeitslose danach, welche Art von Hilfe sie von örtlichen Arbeitsämtern erhalten können.
Die verwendeten Daten werden durch Fragebögen erhoben und daraus zwei Gradmesser errechnet, die „Entfernung vom Arbeitsmarkt“ sowie die „Bereitschaft, in den Arbeitsmarkt (wieder) einzusteigen“. Ein Behördenmitarbeiter könne das Profil zwar händisch wieder ändern, allerdings passiere das in nur einem Prozent der Fälle.
Die Stadt Trelleborg in Schweden hat Teile des Entscheidungsprozesses in Bezug auf Sozialleistungen automatisiert. Anträge werden automatisch mit anderen Datenbanken abgeglichen, etwa der Steuerbehörde oder Behörden für öffentliche Unterbringung. Die Entscheidung trifft das System angeblich automatisch. Die Zahl der Fallbearbeiter sei so von elf auf drei gesenkt worden.
Vorhersagen über Menschen
Bei der Einführung des Systems in einer anderen Gemeinde habe die Hälfte der Angestellten ihren Job aus Protest gekündigt. In Deutschland nennt die Studie etwa das Kreditscoring durch die Schufa und intelligente Videoüberwachung in Mannheim, die etwa Schlägereien automatisch erkennt und der Polizei meldet.
Automatisierte Entscheidungen träfen uns schon heute, nicht in einer fernen Zukunft, schreiben die Autoren der Untersuchung. Sie warnen davor, sich von „attraktiven“, aber spekulativen Diskussionen um Künstliche Intelligenz ablenken zu lassen von schon heute drängenden Fragen. Außerdem rufen sie dazu auf, nicht allein das Datenschutzrecht als Ansatzpunkt für Regulierung automatisierter Entscheidungen zu betrachten.
Wenn etwa eine Gegend plötzlich stark von den Behörden überwacht werde, seien keine Individuen betroffen. Die Politik müsse sich zudem darüber klarwerden, welche Anwendungsfelder politisch relevant seien. Wenn Maschinen etwa Wartungsintervalle bei der Produktion von Joghurt vorhersagen, müsse das nicht beunruhigen – anders als bei Vorhersagen über Menschen.
Die Bürger müssten über die Veränderungen informiert werden – 100.000 Finnen haben in ihrem Land durch einen kostenlosen Online-Kurs aus einer öffentlich-privaten Partnerschaft mehr über Künstliche Intelligenz erfahren. Die öffentliche Hand müsse zudem für Expertise sorgen, indem sie Institutionen und Universitäten – auch auf EU-Ebene – unterstützt.