Verwaltung ex machina

Verwaltung ex machina

Astrid Mager , Sebastian Kneidinger

German
Lightning Talk
Politics & Society
#Digitalpolitik #KI #Verwaltung #Zivilgesellschaft
KI kommt in die Verwaltung. Das ist keine Frage mehr. Aber wie, für wen, und wer trägt die Konsequenzen wenn es schiefgeht? Zwei österreichische Fallstudien, eine Forscherin, ein Grundrechtspraktiker, und die Frage was Digitalisierung im Staat eigentlich bedeuten sollte

Der österreichische Staat automatisiert sich. Ein Fall ist bereits Realität, der andere steckt gerade in der Gesetzgebung. Beide zeigen dasselbe Muster.

Astrid Mager (ITA/ÖAW) hat jahrelang den AMS-Algorithmus analysiert: wie ein regelbasiertes System die Beratungspraxis umstrukturierte, Diskriminierung nach Geschlecht, Alter und Migrationshintergrund skalierte, und trotzdem als Effizienzgewinn verkauft wurde. Sebastian Kneidinger (epicenter.works) hat die AVG-Novelle seziert, die gerade in Begutachtung ist: vollautomatisierte Behördenbescheide, generiert von Systemen die halluzinieren können, ohne dass jemand es merkt.

Zwei Fälle, ein Muster. Und am Ende eine konkrete Vorstellung davon, wie es besser gehen könnte, wenn der Staat KI als Werkzeug einsetzt statt als Ersatz für den Menschen am anderen Ende des Schalters.