Offener Brief an Fr. Prof. Sarah Spiekermann zum Thema Einsatz von KI im AMS

Sehr geehrte Fr. Professor Spiekermann,

zu Ihren bisher geäußerten Einwänden gegen den Einsatz unseres Arbeitsmarktchancen-Assistenzsystems im AMS und vor allem zu Ihrem gestern auf DerStandard.at veröffentlichten Blog Beitrag „Warum das AMS keine KI auf österreichische Bürger loslassen sollte“ darf ich im Folgenden zumindest zum Teil Stellung nehmen.

Ich schätze einen qualifizierten Diskurs, er stellt für mich einen Austausch von Sachargumenten dar. Bitte daher um Verständnis, dass ich deswegen zu Ihren im Zusammenhang mit dem AMS Algorithmus bisher öffentlich verwendeten Zuschreibungen “entwürdigend”,  “naiv”, “völlig falsch” oder auch zu der von Ihnen im Rahmen der gemeinsamen Podiumsdiskussion in Alpbach geäußerten Unterstellung, ich würde das System nur einsetzen wollen, um Karriere zu machen, nicht Stellung nehme.

Ein paar Richtigstellungen erscheinen mir jedoch notwendig:

Es gibt keinen KI Einsatz im AMS
Die gesamte Kritik ihres Blogs richtet sich gegen den Einsatz von KI, also künstlicher Intelligenz, im AMS. In Ihrer weiteren Argumentation bezeichnen Sie die im AMS eingesetzte Technik sogar überhöhend als „magische AMS-KI“ bzw. als „Super-KI“.

Das AMS setzt keinerlei KI ein und hat dies auch nicht vor. Ihre diesbezüglichen Behauptungen sind falsch und ich vermute Sie wissen das auch, auch wenn ich nicht weiß warum Sie es dann trotzdem behaupten. Unser System kennt keine neuronalen Netze, es wird nicht trainiert und lernt auch nicht selbständig, es korrigiert sich nicht selbst, die möglichen Ergebnisse werden von uns vorgegeben und alle updates kommen aus Menschenhand. Unser System basiert auf verschiedenen Algorithmen, also der Anwendung einer logistischen Regression, also eines klassischen, theoriegetriebenen, statistischen Modells.

Obgleich es mir ehrlich gesagt absurd erscheint, Ihnen bei Ihrer Profession einen Link mit Informationen zur begrifflichen Abgrenzung von Algorithmen und KI zu übermitteln, so darf ich dies zumindest für andere Leser/innen meiner Stellungnahme tun.
Aber selbst unabhängig davon, wie man KI definiert, erschliesst sich mir nicht, warum Sie selbst den Begriff im Zusammenhang mit dem AMS nun verwenden, haben Sie ihn doch noch im August in einem Interview mit dem Standard als „irreführend“ und als „Missbrauch des Wort Intelligenz“ bezeichnet.

Das AMS unterstützt alle seine Kundinnen und Kunden auch in Zukunft
Sie unterstellen ein Computer würde künftig im AMS ausrechnen “ob man einem arbeitsuchenden Menschen noch hilft oder nicht.” Das ist falsch. Ziel unseres neuen Systems ist es nicht, Menschen mit schlechteren Arbeitsmarktchancen nicht mehr zu unterstützten, sondern das Gegenteil: Mit unserer Strategie soll sogar ein größerer Anteil dieser Personengruppe unterstützt werden. Eine Reihe von empirischen Beobachtungen stützt die These, dass bei arbeitslosen Menschen mit geringen Integrationschancen durch eine intensivere Betreuung eine bessere Beschäftigungsintegration und eine deutlichere Verringerung von Vormerkzeiten beim AMS erreicht wird als durch übliche arbeitsmarktpolitische Interventionen. Wir wollen daher Mittel von der Förderung befristeter Beschäftigung und Qualifizierung für arbeitsmarktferne Personen umschichten zur Förderung von Einrichtungen zur intensiveren Betreuung dieser Personen. Damit werden wir mehr Personen in Arbeit bringen können als bisher.

Frauen profitieren von der Einführung des AMS Algorithmus
Trotz mehrfacher ausführlicher Richtigstellung seitens des AMS unterstellen Sie weiterhin dem AMS-System, “dass Frauen mit Betreuungspflichten eher in die Gruppe der Nichtvermittelbaren gehören.” Alle statischen Auswertungen ergeben ein anderes Bild: Frauen werden überproportional mit mittleren Arbeitsmarktchancen ausgewiesen und sind bei der Gruppe mit niedrigen Arbeitsmarktchancen unterrepräsentiert. Ich habe dies alles bereits in meinem Blog vom 14.11.2018 im Detail beschrieben.

Das von Ihnen gebrachte Beispiel der neuen Kommissionspräsidentin Ursula von der Leyen ist auch unsinnig. Weder betrifft das neue System wie sie schreiben die AMS-Dienstleistung der Vermittlung, die erfolgt selbstverständlich weiterhin für allen Kundinnen und Kunden des AMS, noch wäre Frau von der Leyen weder als junge Akademikerin, die auch zwischen einzelner ihrer Geburten arbeitete, noch später vom AMS System jemals als mit niedrigen Chancen eingestuft worden. Sie geben hier Klischees von sich, ohne zu wissen, wie die Analyseergebnisse des Modells überhaupt aussehen. Aus Interesse habe ich mir nun eine Auswertung mit interessanten Ergebnissen machen lassen. Frauen mit einem Studienabschluss gehören auch bei längerer Arbeitslosigkeit deutlich seltener in die Gruppe mit den niedrigen Arbeitsmarkchancen als Männer und wiedereinsteigende Akademikerinnen stehen interessanterweise besser da als “Nicht-Wiedereinsteigerinnen”. Es ist am Arbeitsmarkt also vieles deutlich komplexer als schnell einmal dahingesagt.

Die Entscheidung über die Wahl der richtigen Betreuungsstrategie trifft weiterhin der AMS-Berater bzw. die AMS-Beraterin
Sie unterstellen das AMS delegiere “das Denken und Lernen und eigentliche Entscheiden an eine Maschine.” Auch das ist falsch. Die Entscheidung über die Einschätzung der Arbeitsmarktchancen und die Wahl der richtigen Betreuung liegt beim Berater/der Beraterin. Dies wird nicht nur in internen Richtlinien festgelegt, sondern es werden die AMS-Beraterinnen und Berater auch ermutigt, den vom Computer errechneten Wert zu prüfen und jedenfalls bei einer Reihe von normierten Umständen auch zu korrigieren. (Auf die existentielle Absicherung arbeitsloser Menschen, also auf Leistungen der Arbeitslosenversicherung hat das System keinen Einfluss.)

Was wir mit dem neuen System für die Betreuung wirklich tun ist, wir stellen unseren Beraterinnen und Beratern eine zusätzliche Information zur Verfügung. Das verbessert die Entscheidungsgrundlage für jene Förder- oder Unterstützungsmaßnahme, die am ehesten geeignet ist, um den Kundinnen und Kunden wieder zu einer Arbeit zu verhelfen.

Prognosen in die Zukunft mit Wahrscheinlichkeiten und nicht 100%tiger Treffergenauigkeit sind heute ein unverzichtbarer Bestandteil unseres Lebens. Die Wirksamkeit von medizinischen Diagnosetools und von Medikamenten beruhen nur auf Wahrscheinlichkeit – mit manchmal oft deutlich geringerer Treffergenauigkeit als unser Algorithmus. Dennoch sind diese Tools und Medikamente unverzichtbarer Bestandteil unseres Lebens und haben millionenfach Menschen gerettet. Und wie auch beim Einsatz von Medikamenten bedarf es aber ergänzend der menschlichen Beurteilung und Bewertung des Diagnoseergebnisses. Und genau dies wird im AMS künftig geschehen.

Mit vorzüglicher Hochachtung
Johannes Kopf

PS. Vielen herzlichen Dank für Ihr Buch zur Digitalen Ethik, dass Sie mir per Post überraschenderweise zukommen haben lassen. Ich habe die von Ihnen für mich markierten Stellen bereits aufmerksam gelesen.

Hinweis: Mein offener Brief erschien in der Folge (25.9.) auch als “Kommentar der Anderen” im Print und Onlinestandard.