EU AI Act: Auswirkungen auf den Einsatz von KI in der Verwaltung

„Maschinengestütztes System“

Seit dem Launch von ChatGPT Ende 2022 ist künstliche Intelligenz ins Bewusstsein der breiten Öffentlichkeit gerückt. Für die Automatisierung von Prozessen und die Vereinfachung in der Interaktion mit IT-Systemen ist KI schon weit länger im Einsatz. Die neue Technologie ist so vielfältig, dass die Anwendungsbereiche kaum einzuschränken sind.

Eine Definition von KI ist schwierig, da es keine scharfe Trennlinie zwischen konventionellen Anwendungen, statistischen Methoden und künstlicher Intelligenz gibt. Diese Unschärfe findet sich auch in der geplanten KI-Regulierung der Europäischen Union wieder. Im EU AI Act wird KI jedenfalls als ein „maschinengestütztes System“ definiert, das so konzipiert ist, dass es mit unterschiedlichem Grad an Autonomie betrieben werden und nach der Einführung Anpassungsfähigkeit zeigen kann. So kann es auch Vorhersagen, Empfehlungen oder Entscheidungen erzeugen.

Regelung wichtig

Wir interagieren alle täglich mit KI, ohne das unmittelbar wahrzunehmen. Beispiele dafür sind vielfältig und reichen von Sicherheitssystemen in Kraftfahrzeugen bis hin zu Systemen, die unsere Kreditkartentransaktionen nach betrügerischen Anomalien untersuchen. Obwohl KI-Systeme in der EU von allen klassischen Regulierungen wie z. B. der Datenschutz-Grundverordnung (DSGVO) betroffen sind, gibt es noch keine Regulierung, die speziell auf KI-Systeme zugeschnitten ist – das ändert sich nun. Aber warum ist das wichtig?
Für den Erfolg einer Technologie wie KI ist auch das Vertrauen der User unerlässlich. Aus wirtschaftlicher und auch gesellschaftlicher Sicht ist es daher unerlässlich, Rahmenbedingungen zu schaffen, in denen KI Anwendungen entwickelt, vermarktet und auch betrieben werden können.

Vertrauen stärken

Der Mitte März von den Abgeordneten des EU-Parlaments abgesegnete EU AI Act zielt unter anderem darauf ab, das Vertrauen der User in KI durch das Forcieren strenger ethischer Grundsätze zu stärken. Zentral sind dabei sieben ethische Grundsätze wie „Transparenz & Erklärbarkeit“, „Fairness“, „Gesellschaftliche & ökologische Verträglichkeit“, „Technische Robustheit & Sicherheit“, „Privatsphäre & Datenqualität“, „Rechenschaftspflicht & Verantwortlichkeit“ sowie „Vorrang des menschlichen Handels“.

Anlassbezogen kann es unterschiedliche Gewichtungen in den Grundprinzipien geben. Zum Beispiel spielt Erklärbarkeit bei einer KI, die zum eigenen Konsumverhalten passende Waren vorschlägt, eine untergeordnete Rolle – ganz anders als bei Entscheidungen der Verwaltung, die großen Einfluss auf den Alltag der Bürger:innen haben können. Die neue Regelung zielt darauf ab, ein Gleichgewicht zwischen der Förderung von Innovation und der Gewährleistung der Sicherheit und des Schutzes der Bürger:innen in der EU zu erreichen.

Risikobasierte Bewertung

Die Gesetzgeber der EU versuchen diesen Zwiespalt mit einer risikobasierten Bewertung von KI-Applikationen zu überwinden. Dabei werden Applikationen in eine von drei Risiko gruppen eingeordnet. Die erste Gruppe ist die Gruppe der Applikationen mit inakzeptablem Risiko – diese Applikationen sind generell verboten. Ein Beispiel für solch eine Applikation wäre Social Scoring – also das Erstellen einer Metrik, die Personen nach ihrem Ver halten oder Status bewertet. Die zweite Gruppe bilden Hochrisikoanwendungen. Diese müssen strenge Auflagen erfüllen und damit nach weisen, dass die sieben ethischen Grundsätze eingehalten worden sind. Beispiele dafür sind Anwendungen in der kritischen Infrastruktur, medizinische Geräte sowie Anwendungen in der Justiz. Letztendlich gibt es noch die Gruppe mit geringem Risiko. In diese Gruppe fallen Anwendungen wie Chatbots im Customer Support, Software zum Diktieren von Texten oder Empfehlungssysteme für Filme oder Bücher.

Top-down-Zugang

Wie so oft bei neuen Verordnungen gibt es viele verschiedenen Meinungen. Einige Länder wie z. B. Frankreich, Deutschland und Italien befürchten eine Überregulierung, wodurch der europäische KI-Sektor stark geschwächt würde.

Anderen Ländern geht die Regulierung nicht weit genug. Ein oft genanntes und nicht ganz vom Tisch zu weisendes Argument ist jeden falls, dass der europäische Zugang ein Top down-Zugang ist. Die Schwächen eines solchen Zugangs haben sich schon in der Entwicklung der Verordnung gezeigt. Zum Beispiel war es nicht möglich, ChatGPT in eine der Risikoklassen einzuordnen, weshalb der EU AI Act um eine weitere Klasse, abseits der Risikoeinteilung, erweitert wurde, nämlich die Gruppe der General Purpose AIs. Das sind Anwendungen, die nicht in das Korsett der risikobasierten Regulierung passen.

Einfluss auf die Verwaltung

Eine moderne, effiziente und schlanke Verwaltung kann nur mit dem Einsatz von KI gelingen. Aus Sicht der öffentlichen Verwaltung ist das Vertrauen der Bürger:innen in die Einhaltung ethischer Grundsätze deshalb von höchster Priorität. Beispielsweise ist es wichtig, dass Entscheidungen nachvollzogen werden können und eine menschliche Kontrolle erfolgen muss. Selbstverständlich muss auch den in der Verfassung verankerten gesellschaftlichen Grundsätzen gefolgt werden und verhindert werden, dass KI-Systeme diskriminieren.

Der AI Act stellt dabei einen bedeutenden Wendepunkt dar. Er schafft einen rechtlichen Rahmen, der nicht nur die Art und Weise, wie KI-Technologien entwickelt und eingesetzt werden, regelt, sondern auch tiefgreifende Auswirkungen auf Verwaltungspraktiken und Dienstleistungen hat. Das Gemeinwohl steht im Vordergrund. Behörden werden dazu angehalten, Mechanismen zu implementieren, die eine Überprüfung und Bewertung von KI-gestützten Entscheidungen ermöglichen, um Fairness und Objektivität zu gewährleisten. Dies erfordert gegebenenfalls auch die Anpassung oder den Austausch bestehender Systeme, um den gesetzlichen Anforderungen gerecht zu werden.

Ob das erhöhte Vertrauen der User durch den EU AI Act dazu führen wird, dass die europäische KI-Industrie floriert, oder ob diese wirtschaftlichen Schaden erleidet, wird sich wohl erst nach dem Inkrafttreten der nationalen Gesetzgebungen, welche bis 2026 erfolgen, zeigen. Der EU AI Act kann jedenfalls als Katalysator für die digitale Transformation dienen und Behörden dazu ermutigen, innovative KI-Lösungen zu schaffen, welche die Effizienz steigern und bessere Dienstleistungen für alle Bürger:innen bieten.