DIMCA: KI im Spannungsverhältnis zur Demokratie

Künstliche Intelligenz und Recht – das war das Thema der DIMCA am 19. November in der Innovation Factory des BRZ. Zu Gast waren namhafte Experten: Univ.-Prof.Dr. Christian Piska (Universität Wien, Juridicum), FH-Prof.Dr. Peter Grabner (Fachbereichsleiter FH Campus Wien), DI Harald Leitenmüller (CTO Microsoft Österreich), Walter Palmetshofer (Senior Expert Smart City Agency Vienna) und Matthias Lichtenthaler (Leiter Digital Government & Innovation im BRZ).

Wird KI Anwältinnen und Anwälte ersetzen?

KI-Systeme werden schon heute im juristischen Bereich eingesetzt. Suchmaschinen bieten die Möglichkeit, einfache Rechtsfragen der Benutzer:innen zu beantworten. Das System kann dabei an Hand der Angaben zu Sachverhalt und Problemstellung Antworten vorschlagen, die von Juristinnen und Juristen nur mehr freigegeben werden. Aufwändige Recherchearbeit entfällt. „Solche Rechtsauskünfte sind sehr günstig zu haben und ermöglichen auch Personengruppen den Zugang zu rechtlicher Expertise, die sich diese Art von Auskünften zum Normaltarif einer Anwaltskanzlei nicht leisten könnte“ gibt Christian Piska zu bedenken. Doch kann eine KI Anwältinnen und Anwälte in Zukunft ersetzen? „Nein“, ist Piska überzeugt, „doch Aufgaben und Arbeitsweise von Anwältinnen und Anwälten werden sich in Zukunft verändern. Die KI wird leichte Rechtsfragen lösen, der Mensch muss die Innovationskraft und die Entscheidungsgewalt liefern“. Piska warnt davor, der KI zu viel Spielraum in demokratischen Prozessen zuzugestehen: „Eine KI kann niemals demokratisch legitimiert sein. Abstimmungen und Entscheidungen wird immer der Mensch durchführen müssen.“

Ethische Fragen beim Einsatz von KI

Künstliche Intelligenz stellt Expertinnen und Experten vor schwierige rechtliche und ethische Probleme. Ein aktuelles Beispiel ist der Bereich des autonomen Fahrens, wo KI-Systeme mitunter schwerwiegende Entscheidungen zu treffen haben, etwa wenn es darum geht, Unfallfolgen zu antizipieren und Güterabwägungen („Überfahre ich beim Ausweichmanöver das Kind oder die alte Frau“?) durchzuführen. „Hier stehen wir wieder vor schweren Entscheidungen, die die Juristerei schon für gelöst hielt – mit der Entwicklung von KI stellen sich diese und andere moralische und ethische Fragen, genauso wie weitreichende Haftungsfragen erneut und warten auf eine Antwort“, so Piska.

Der Mensch denkt weiter

Matthias Lichtenthaler, BRZ, appellierte an den menschlichen Verstand, der durch KI nicht ausgeschaltet, sondern angeregt werden sollte. „Es braucht den menschlichen Scharfsinn, gerade in der öffentlichen Verwaltung. Prozessschritte können automatisiert werden, Bots können Informationen aus Registern suchen. Aber irgendwann kommt der Punkt, wo es am Menschen liegt, eine Entscheidung auf Basis der gewonnenen Informationen zu treffen“, so Lichtenthaler. Er ergänzte, dass der Mensch in Zukunft weniger Ausreden haben wird, Entscheidungen auf die „lange Bank“ zu schieben. Lichtenthaler betonte auch, dass die Einführung von KI-Systemen in der Verwaltung nicht von heute auf morgen zu erledigen sei: „ Change Management ist keine leere Worthülse, es ist wichtig, Mitarbeiter:innen zu schulen und Regeln zu definieren, wenn Robots im Verwaltungsbereich Arbeit übernehmen sollen“.

Braucht es mehr Regulierung?

Die abschließende Podiumsdiskussion, geleitet von KURIER Redakteur Christian Böhmer beleuchtete die Frage, ob es angesichts der neuen Technologien auch neue Regeln und mehr Regulierung brauche. „Wir müssen diesen Technologiebereich regulieren und dürfen uns dabei nicht zu lange Zeit lassen“, ist Christian Palmetshofer ( Smart City Agency Vienna) überzeugt. Die Geschichte habe gezeigt, dass große Unternehmen schwache Regulierung eher zu ihrem Vorteil ausnutzen würden. Anderer Meinung war Christian Piska: „Der Ansatz, dass Regulierung alle Problem löst funktioniert nicht. Überbordende Regulierung wird umgangen. Es braucht radikal einfache Lösungen“.

Über die DIMCA

Die Digital Information Management Community Austria – kurz DIMCA – versteht sich als Fachnetzwerk im Zeitalter der digitalen Transformation. Der Fokus liegt dabei auf einem regelmäßigen Know-how-Austausch zwischen der öffentlichen Verwaltung und der Privatwirtschaft. Ziel ist, aus konkreten Best-Practices weitergreifende Business Cases für die beteiligten Organisationen und Unternehmen abzuleiten und gemeinsam umzusetzen.