Wir diskutieren intensiv darüber, wie KI diskriminierungsfreier werden kann. Kaum jemand fragt jedoch, woran wir Diskriminierung überhaupt messen.

Der AI Act verpflichtet zu Grundrechte-Folgenabschätzungen für Hochrisiko-KI und verlangt die Bewertung von Grundrechtsrisiken. Doch nach welchen juristischen Maßstäben diese Bewertung erfolgen soll, bleibt weitgehend offen. Genau dort setzt der Vortrag an.

Anhand prägender Entscheidungen des Bundesverfassungsgerichts und des Bundesverwaltungsgerichts sowie meines eigenen Verfassungsbeschwerdeverfahrens gegen das Land Hessen zeige ich, warum der vermeintlich objektive Dritte selbst gesellschaftliche Vorannahmen reproduzieren kann.

Meine These lautet: Es reicht nicht, nur KI auf Fairness zu prüfen. Auch die juristischen Maßstäbe, mit denen wir ihre Auswirkungen bewerten, müssen auf Bias überprüft werden. Der Vortrag verbindet Verfassungsrecht, DEI und Governance und stellt mit einer diskriminierungssensiblen Bias-Prüfung des objektiven Dritten einen konkreten Ansatz für Grundrechte-Folgenabschätzungen vor.