Australien: Sozialhilfe-Algorithmus führte zu Suiziden und verschärfter Armut

Für verheerende Folgen hat das Robodebt-System der australischen Regierung gesorgt. Das zeigt nun der Bericht einer Untersuchungskommission auf. Demnach stehen mit Robodebt mehrere Selbstmorde im Zusammenhang. Australien setzte das automatisierte Programm zwischen 2016 und 2019 dazu ein, Rückzahlungen von Sozialhilfe-Empfängern einzufordern. Auch die BBC berichtete über den Fall.

Robodebt habe die ohnehin finanziell prekäre Lage der Menschen noch verschlimmert, so die Kommission. So hätten die Sozialhilfe-Empfänger etwa Kredite aufgenommen oder ihre Altersvorsorge aufgelöst, um die falschen Schulden zu begleichen. Betroffen waren demnach eine halbe Million Australier. Sie erhielten von dem System Briefe, die sie zur Zahlung von Tausenden Dollar aufforderte. Grundlage war ein fehlerhafter Algorithmus. Die Kommission kritisierte darüber hinaus, dass die Schreiben teils unverständlich formuliert waren – selbst Mitarbeiter der Verwaltung hätten sie als kryptisch und verwirrend beschrieben.

Die Kommission kommt daher zu einem vernichtenden Ergebnis: Es handele sich bei Robodebt um einen groben und grausamen Mechanismus – weder fair noch legal. Sowohl in finanzieller als auch in menschlicher Hinsicht zeige sich hier ein kostspieliges Versagen der öffentlichen Verwaltung. Der Bericht übt entsprechend harscher Kritik an der Regierung, insbesondere am ehemaligen Premierminister Scott Morrison. Dieser hätte das Problem des Sozialbetrugs übertrieben, Kritik an dem System unterdrückt und das Kabinett in die Irre geführt.

Tatsächlich musste die Regierung das Programm 2019 abrupt beenden. Der australische Bundesgerichtshof stufte es 2019 als illegal ein. Mehrere Opfer hatten seine Rechtsgrundlage angefochten. Ferner musste die Regierung den Opfern über 700 Millionen Australische Dollar (etwa 430 Millionen Euro) zurückzahlen. Morrison weist jede Kritik zurück. Er habe im guten Glauben und mit dem Rat des Ministeriums gehandelt, zitiert ihn die BBC.

KI in der deutschen Verwaltung

Auch aus anderen Ländern gibt es längst Beispiele für den problematischen Einsatz von Algorithmen und KI in Verwaltungsprozessen. In den Niederlanden etwa bezichtigte ein Algorithmus Elternpaare fälschlicherweise des Sozialbetrugs, wenn die eine doppelte Staatsbürgerschaft besaßen.

Auch hierzulande gibt es bereits eine gewisse Sensibilität für die Problematik. Die Ampel-Koalition denkt etwa über ein Transparenzregister zu staatlich eingesetzten Systemen mit KI nach. Die Grünen haben dazu im März im Bundestag gemeinsam mit dem IT-Beauftragten der Bundesregierung ein Konzeptpapier der Organisation AlgorithmWatch vorgestellt. Das Register soll nicht nur die wichtigsten Informationen über die Systeme enthalten, sondern auch aufzeigen, wo sie eingesetzt werden. Sowohl Behörden als auch die Bürger sind Adressaten des Registers. Sie sollen damit zu fundierten Einschätzungen gelangen. "Die öffentliche Verwaltung kann Automatisierungs- und KI-Verfahren nutzen, um ihre Angebote und Prozesse erheblich zu verbessern", heißt es in dem Papier. Gleichzeitig müssten Digitalkompetenzen der Behörden gefördert und die Rechte der Bürger geschützt werden.

Der Bundesrat bremste erst kürzlich zumindest den Einsatz von KI in der Verwaltung aus und lehnte den Vorschlag aus einem seiner Ausschüsse ab. Darin wurde gefordert, im neuen Onlinezugangsgesetz "die Zulässigkeit des Einsatzes algorithmenbasierter Entscheidungsfindung und -vorbereitung in der öffentlichen Verwaltung zu normieren".

Etliche Politiker fordern bereits seit Längerem, Algorithmen intensiver in Verwaltungsdienstleistungen zu integrieren und darüber hinaus KI einzusetzen. So sagte etwa Schleswig-Holsteins Digitalisierungsminister Dirk Schrödter (CDU): "Die Zukunft der Verwaltung ist automatisiert, algorithmisiert, cloudifiziert und datenbasiert."

(ssi)