EU legt KI-Gesetz vor. Was öffentliche Verwaltungen jetzt wissen müssen. – April 2021 im E-Government-Rückblick.

Fri, 30 Apr 2021 20:00:00 +0200

Am 21. April veröffentlicht die EU-Kommission ihren Vorschlag für den AI Act . Erstmals soll der Einsatz von KI-Systemen in der EU reguliert werden, mit einem risikobasierten Ansatz: Verbotene Anwendungen, Hochrisiko-Anwendungen mit Pflichten, und alles andere ohne besondere Regulierung.

Für die öffentliche Verwaltung ist dieser Vorschlag nicht Zukunftsmusik. Viele Systeme, die Behörden heute einsetzen oder planen, fallen in die Hochrisiko-Kategorien.

Was im AI-Act-Entwurf steht

Der Kommissionsvorschlag unterscheidet vier Risikostufen.

Verboten sind KI-Systeme, die Grundrechte unterhöhlen: soziales Scoring durch Behörden, subliminale Manipulation, biometrische Massenüberwachung im öffentlichen Raum. Das sind klare Grenzen, die in der EU-Rechtsordnung ohnehin kaum anders denkbar wären.

Hochrisiko sind Systeme in explizit genannten Sektoren: Biometrische Identifikation, kritische Infrastruktur, Bildung, Beschäftigung, Sozialleistungen, Strafverfolgung, Migration, Rechtsprechung. Was das für Behörden bedeutet: Systeme, die in diesen Bereichen Entscheidungen unterstützen, also Bearbeitungsalgorithmen für Sozialleistungen, automatisierte Dokumentenprüfung, Priorisierungssysteme bei Anträgen, werden mit erheblichen Compliance-Anforderungen belegt.

Konkret: Technische Robustheit, Transparenz, menschliche Aufsicht, Dokumentation, Konformitätsbewertung vor Inbetriebnahme, Registrierung in einer EU-Datenbank.

Was das heute für Beschaffungen bedeutet: Wer jetzt KI-Systeme in Hochrisiko-Bereichen beschafft, die den AI-Act-Anforderungen nicht genügen werden, beschafft in zwei bis drei Jahren ein Nachbesserungsprojekt. Der Vorschlag wird noch verhandelt, die Richtung steht.

Wie man jetzt klug reagiert

Die falsche Reaktion: Alle KI-Projekte stoppen, bis der AI Act endgültig ist.

Die richtige Reaktion: Bestehende und geplante KI-Systeme klassifizieren. Welche fallen wahrscheinlich in die Hochrisiko-Kategorie? Welche nicht? Für die Hochrisiko-Kandidaten prüfen: Erfüllen sie schon heute die wahrscheinlichen Anforderungen an Dokumentation, Transparenz und menschliche Aufsicht?

Viele gute KI-Systeme tun das bereits, weil es handwerklich sauber ist, nicht weil es vorgeschrieben ist. Wer darauf setzt, ist risikoarm. Wer auf proprietäre Black-Box-Systeme setzt, die keine Erklärbarkeit bieten, kauft unter Rechtsrahmenvorbehalt.

Was öffentliche Beschaffungen heute anders machen können: KI-Anforderungen in Leistungsbeschreibungen aufnehmen, die an den wahrscheinlichen AI-Act-Anforderungen orientiert sind. Keine Zertifizierungspflicht, die es noch nicht gibt. Aber Anforderungen an Transparenz, Dokumentation und Aufsichtsmöglichkeiten, die jedes gute System erfüllt.

Warum der Zeitplan wichtig ist

Der AI Act ist ein Kommissionsvorschlag. Jetzt beginnen die Verhandlungen zwischen Rat und Parlament, gefolgt vom Trilog. Das dauert Jahre. Frühestes Inkrafttreten: 2023 oder 2024. Anwendung für Hochrisiko-Systeme: mit Übergangsfrist.

Wer heute beschafft, hat Zeit. Zu wenig, um nichts zu tun. Genug, um es richtig anzufangen.

Die wichtigste Frage für Behörden, die KI einsetzen oder planen: Hat das System, das wir kaufen, eine nachvollziehbare Entscheidungslogik, und kann ein Mensch jederzeit eingreifen? Wenn ja, steht es auf sicherem Boden. Wenn nein, sollte die Beschaffung neu bewertet werden, unabhängig davon, was der AI Act am Ende genau vorschreibt.

Hat Sie das Thema interessiert?

Wenn Sie KI-Beschaffungen in Ihrer Behörde vorbereiten und dabei einen strukturierten Blick auf den AI-Act-Rahmen suchen: Eine Nachricht über das Kontaktformular genügt.

Ki-Beschaffung on Dr. Christian Knebel

EU legt KI-Gesetz vor. Was öffentliche Verwaltungen jetzt wissen müssen. – April 2021 im E-Government-Rückblick.

Was im AI-Act-Entwurf steht

Wie man jetzt klug reagiert

Warum der Zeitplan wichtig ist

Hat Sie das Thema interessiert?