Österreich will moderner werden. Und weil Digitalisierung bekanntlich immer dann besonders gut funktioniert, wenn man möglichst wenig Menschen daran beteiligt, sollen künftig Chatbots durch Amtsverfahren führen und Bescheide teilweise vollautomatisch erstellt werden. Kritiker warnen vor Datenschutzproblemen, falschen Entscheidungen und einer Verwaltung ohne menschliche Kontrolle. Die Regierung nennt das: effizient.

Es ist ein alter Traum der Verwaltung:

Ein Amt, das niemals schläft.

Keine Mittagspause.

Kein Urlaub.

Kein Krankenstand.

Keine Kaffeepause.

Und vor allem: kein Beamter, den man fragen könnte, warum der Bescheid eigentlich so aussieht, wie er aussieht.

Österreich möchte deshalb seine Verwaltung digitalisieren.

Mit neuen Änderungen beim Allgemeinen Verwaltungsverfahrensgesetz und beim Verwaltungsstrafgesetz sollen künftig Chatbots Bürger durch Verfahren führen und bestimmte Bescheide automatisch erstellt werden können.

Die Verwaltung der Zukunft könnte also ungefähr so funktionieren:

„Guten Tag, ich möchte eine Baugenehmigung beantragen.“

„Sehr gerne. Haben Sie schon versucht, Ihren Antrag neu zu starten?“

Der Amtsschimmel bekommt WLAN

Grundsätzlich klingt das Vorhaben durchaus vernünftig.

Viele Behördengänge könnten einfacher werden.

Formulare könnten verständlicher sein.

Verfahren könnten schneller laufen.

Und möglicherweise müsste man irgendwann tatsächlich nicht mehr drei Ausdrucke eines Dokuments mitbringen, das die Behörde selbst bereits digital besitzt.

Doch Datenschützer und Juristen sehen einige Probleme.

Unter anderem bei:

Transparenz,

Datenschutz,

Nachvollziehbarkeit,

Diskriminierung,

menschlicher Kontrolle,

Rechtsschutz

und der eher nebensächlichen Frage, ob der Bescheid überhaupt stimmt.

Mit anderen Worten:

Abgesehen von fast allem, was bei einem staatlichen Verfahren wichtig ist, sieht es ganz gut aus.

KI soll helfen – oder gleich entscheiden

Die Datenschutzorganisation epicenter.works begrüßt den Einsatz künstlicher Intelligenz grundsätzlich.

Allerdings sollte nach Ansicht der Organisation am Ende eines Verwaltungsverfahrens möglichst noch ein Mensch sitzen.

Ein gewagter Gedanke.

Dieses Konzept nennt sich fachsprachlich „Human in the Loop“.

Zu Deutsch:

Irgendwo im System befindet sich noch jemand, der merkt, wenn der Computer Unsinn erzählt.

Die Regierung möchte allerdings unter bestimmten Voraussetzungen auch vollständig automatisierte Bescheide ermöglichen.

Dann könnte die Maschine künftig nicht nur sagen:

„Ihr Antrag wird bearbeitet.“

Sondern auch:

„Ihr Antrag wurde abgelehnt.“

Und auf die Frage „Warum?“ möglicherweise antworten:

„Aufgrund der geltenden Rechtslage und eines Elefanten, der 1987 Bürgermeister von Graz war.“

Kleines Problem: KI erfindet manchmal Dinge

Große Sprachmodelle haben nämlich eine unangenehme Eigenschaft.

Sie können Antworten formulieren, die ausgesprochen überzeugend klingen und trotzdem komplett falsch sind.

In der Fachwelt nennt man das Halluzinationen.

In der klassischen Verwaltung nannte man etwas Vergleichbares früher möglicherweise einen Fehler.

Der Unterschied:

Beim Beamten wusste man wenigstens, wer ihn gemacht hatte.

Bei der künstlichen Intelligenz könnte die Ursachenforschung künftig so aussehen:

„Wer hat diesen Bescheid erstellt?“

„Das System.“

„Wer ist das System?“

„Das System.“

„Kann ich mit dem System sprechen?“

„Nein.“

Der Staat darf länger zweifeln als der Bürger

Besonders interessant wird es bei falschen automatisierten Bescheiden.

Bürger sollen nur eine begrenzte Zeit haben, dagegen vorzugehen.

Der Staat soll dagegen länger Zeit bekommen, einen automatisch erstellten Bescheid wieder aufzuheben.

Die Logik dahinter ist offenbar:

Wenn Sie sich irren, müssen Sie schnell reagieren. Wenn die Maschine sich irrt, muss man ihr etwas mehr Zeit geben. Sie ist schließlich noch neu.

In den Erläuterungen wird automatisierten Entscheidungen teilweise sogar ein gewisser „provisorischer Charakter“ zugesprochen.

Ein Verwaltungsbescheid könnte künftig also möglicherweise sinngemäß lauten:

„Genehmigt. Also wahrscheinlich. Bitte investieren Sie vorsichtshalber noch nicht zu viel.“

Besonders lustig beim Hausbau

Richtervertreter warnen vor sehr praktischen Problemen.

Nehmen wir an, jemand beantragt eine Baugenehmigung.

Der Computer prüft alles.

Der Computer sagt:

„Bauen Sie!“

Der Bürger beginnt zu bauen.

Zwei Monate später stellt die Behörde fest:

Der Computer hat sich geirrt.

Dann lautet die neue Nachricht vielleicht:

„Herzlichen Glückwunsch zu Ihrem Rohbau. Leider hätte er nie gebaut werden dürfen.“

Das dürfte die Digitalisierung des österreichischen Baurechts durchaus spannend machen.

Insbesondere für Banken, Bauunternehmen und Menschen mit schwachen Nerven.

Widerspruch? Brauchen wir vielleicht nicht

Besonders originell ist eine weitere Entwicklung.

Im ursprünglichen Entwurf war offenbar ein ausdrückliches Widerspruchsrecht gegen eine vollautomatisierte Entscheidung vorgesehen.

Mehrere Stellungnahmen forderten sogar, auf dieses Recht deutlicher hinzuweisen.

Die Reaktion des Gesetzgebers war bemerkenswert konsequent:

Das Widerspruchsrecht wurde gestrichen.

Das ist ungefähr so, als würde ein Restaurant auf Beschwerden reagieren, dass der Notausgang schlecht beschildert sei, indem es den Notausgang zumauert.

Problem gelöst.

Algorithmen sind natürlich vollkommen neutral. Fast.

Ein weiterer Kritikpunkt betrifft mögliche Diskriminierung.

Algorithmen arbeiten schließlich mit Daten.

Und Daten stammen aus der realen Welt.

Die reale Welt wiederum ist nicht immer vollständig gerecht.

Wenn ein System mit verzerrten Daten trainiert wird, könnte es bestehende Benachteiligungen einfach automatisieren.

Der große Vorteil wäre immerhin:

Diskriminierung könnte künftig wesentlich effizienter erfolgen.

Früher musste sich dafür noch jemand persönlich irren.

Heute reicht möglicherweise ein Server.

Die Niederlande haben schon einmal ausprobiert, wie gut das gehen kann

Dass solche Sorgen nicht völlig theoretisch sind, zeigt ein Fall aus den Niederlanden.

Dort wurden im Zusammenhang mit Kinderbetreuungsleistungen Zehntausende Eltern fälschlicherweise des Betrugs verdächtigt beziehungsweise zu Rückzahlungen aufgefordert.

Menschen mit Migrationshintergrund waren überproportional betroffen.

Der Skandal wurde so groß, dass schließlich sogar die niederländische Regierung zurücktrat.

Das ist natürlich ein Extremfall.

Aber er zeigt:

Wenn staatliche Automatisierung schiefgeht, kann der Satz

„Der Computer hat das so entschieden“

gesellschaftlich irgendwann etwas unbefriedigend wirken.

Frauen bitte weiterhin nicht automatisch zum Nähen schicken

Auch die österreichische Volksanwaltschaft hatte bereits früher auf mögliche Probleme algorithmischer Systeme hingewiesen.

Beim Arbeitsmarktservice bestand etwa die Sorge, dass Frauen über automatisierte Systeme verstärkt typische „Frauenberufe“ vorgeschlagen werden könnten.

Die künstliche Intelligenz könnte also theoretisch hochmodern, cloudbasiert und KI-gestützt zu dem Ergebnis kommen:

„Frau? Dann vielleicht etwas mit Kindern.“

Fortschritt ist eben manchmal kompliziert.

Die Regierung verspricht Verwaltung rund um die Uhr

Das Bundeskanzleramt betont dagegen die Vorteile.

Die Verwaltung soll:

digitaler,

einfacher,

schneller,

wirtschaftlicher,

bürgerfreundlicher

und rund um die Uhr verfügbar werden.

Das klingt großartig.

Vor allem „Verwaltung rund um die Uhr“.

Endlich kann man auch nachts um 03.17 Uhr einen Bescheid bekommen, über den man sich ärgern kann.

Früher musste man dafür wenigstens bis zum nächsten Werktag warten.

Der Chatbot wird zum neuen Amtskollegen

Künftig könnten Bürger bei Anträgen von digitalen Dialogsystemen unterstützt werden.

Das könnte durchaus hilfreich sein.

Statt eines 18-seitigen Formulars mit der Frage

„Beilage 7b gemäß § 18 Abs. 4 lit. c vorhanden?“

könnte ein Chatbot freundlich erklären, was eigentlich gemeint ist.

Das wäre echter Fortschritt.

Die entscheidende Frage wird nur sein, ob der Chatbot irgendwann antwortet:

„Ich verstehe Ihre Frage.“

oder

„Leider kann ich Ihnen dabei nicht helfen. Möchten Sie etwas anderes wissen?“

Wer bereits einmal Kontakt mit einem Kundenservice-Chatbot hatte, kennt möglicherweise die Richtung.

Auch Strafen sollen automatisiert werden

Besonders interessant wird die Digitalisierung beim Verwaltungsstrafrecht.

Auch Straf- und Anonymverfügungen könnten künftig automatisiert abgewickelt werden.

Das dürfte einer jener Bereiche sein, bei denen die Technologie vermutlich erstaunlich schnell funktionieren wird.

Die Erfahrung lehrt:

Wenn der Staat Geld von Bürgern möchte, erreicht die Digitalisierung häufig sehr schnell einen bemerkenswert hohen Reifegrad.

Bei Rückerstattungen könnte das Update dagegen möglicherweise noch etwas dauern.

Verwaltung ohne Menschen – aber mit Rechtsmittelbelehrung

Die eigentliche Frage lautet deshalb nicht, ob Österreich seine Verwaltung digitalisieren sollte.

Natürlich sollte es das.

Niemand dürfte ernsthaft dafür kämpfen, dass Bürger auch 2035 noch mit Papierformularen, Faxgeräten und Öffnungszeiten von Dienstag 08.00 bis 11.30 Uhr arbeiten müssen.

Die Frage lautet vielmehr:

Wer trägt Verantwortung, wenn die Maschine falsch entscheidet?

Der Programmierer?

Die Behörde?

Der Minister?

Der Algorithmus?

Oder am Ende wieder der Bürger?

Denn digitale Verwaltung ist nur dann Fortschritt, wenn sie Bürokratie reduziert.

Wenn dagegen eine künstliche Intelligenz einen falschen Bescheid erstellt, gegen den anschließend ein Mensch vor Gericht ziehen muss, wurde die Bürokratie nicht beseitigt.

Sie wurde lediglich automatisiert.

Fazit: Das Amt der Zukunft kennt keine Mittagspause

Österreich möchte also eine Verwaltung schaffen, die 24 Stunden am Tag funktioniert.

Das klingt zunächst hervorragend.

Der digitale Beamte schläft nicht.

Er wird nicht krank.

Er geht nicht auf Urlaub.

Er braucht keinen Kaffee.

Und vermutlich sagt er auch niemals:

„Dafür bin ich nicht zuständig.“

Wobei man bei künstlicher Intelligenz vorsichtig sein sollte.

Vielleicht lautet die Antwort künftig einfach:

„Auf Grundlage meiner Analyse ist dafür das Magistrat zuständig.“

„Aber ich bin beim Magistrat.“

„Das ist korrekt.“

„Und was soll ich jetzt tun?“

„Bitte wenden Sie sich an das Magistrat.“

Dann hätte Österreich tatsächlich etwas Außergewöhnliches geschafft:

Die Verwaltung wäre vollständig digitalisiert – und gleichzeitig wäre alles genauso wie früher.