Trustworthy AI Gütesiegel auf einem Bild von einem Jungen Herren der ein iPad in der Hand hält

BRZ Prüfkatalog für vertrauenswürdige KI (Trustworthy AI)

Das BRZ hat einen Prüfkatalog erarbeitet, der unseren Kunden ein gemeinsames Verständnis zum Thema vertrauenswürdiger KI vermitteln soll. Gleichzeitig zeigt er auf, welche Risiken mit dem Einsatz eines KI-Systems verbunden sind und wie man diese bei gleichzeitiger Nutzenmaximierung reduziert.

Siegel für Trustworthy AI
Kriterienkatalog für "Trustworthy AI"
Das BRZ hat einen Prüfkatalog erarbeitet, der unseren Kunden ein gemeinsames Verständnis zum Thema vertrauenswürdige KI vermitteln soll. Gleichzeitig zeigt er auf, welche Risiken mit dem Einsatz eines KI-Systems verbunden sind und wie man diese bei gleichzeitiger Nutzenmaximierung reduziert. Der höchste Nutzen beim Einsatz des Prüfkatalogs liegt in der gemeinsamen Diskussion der Fragen, den dadurch generierten Lösungsansätzen und der Entwicklung einer Kultur zum Einsatz vertrauenswürdiger KI, welche die öffentliche Verwaltung als Maßstab setzt.

Das zugrunde liegende Modell zur KI-Beurteilung basiert auf Bereichen, Kriterien, Prüfpunkten und Merkmalen. Da Prüfbereiche oft abstrakt sind und im Konflikt zueinander stehen und darüber hinaus meistens Bewertungsansätze fehlen, ist es wichtig, die Operationalisierung mittels ergänzender Faktoren vorzunehmen.

Die Prüfung vertrauenswürdiger KI erfolgt in den Prüfbereichen
  1. Transparenz
  2. Verantwortung
  3. Datenschutz
  4. Zuverlässigkeit
  5. Gerechtigkeit
Diese Kriterien werden auf 22 Prüfkriterien, 70 Prüfpunkte und mehr als 250 Merkmale heruntergebrochen.

Beispiel

Das Vorgehen soll durch folgendes Beispiel illustriert werden. Die Forderung, dass Algorithmen nicht diskriminieren sollten, findet normalerweise Zustimmung. Die Diskussion beginnt jedoch mit der Frage, was unter Diskriminierung (Gerechtigkeit) zu verstehen ist, wie man sie prüft und wie man Konflikte zwischen verschiedenen Prüfbereichen bereinigt.

Das Modell erfüllt dabei drei Aufgaben:

  1. Verdeutlichen, was unter einem bestimmten Prüfbereich zu verstehen ist (Wertedefinition)
  2. Nachvollziehbar erklären, wie zu prüfen oder zu beobachten ist, ob oder in welchem Umfang ein technisches System einen Bereich erfüllt oder verletzt (Messung)
  3. Erkennen und Erklären von Wertekonflikten und wie diese zu behandeln sind (Ausgleich)
Beispielergebnis einer Trustworthy AI-Prüfung
Im Folgenden sind typische Ergebnisse der Anwendung des Prüfkatalogs dargestellt:
  • Qualitative Bewertung
    Win-win-Situation bei Transparenz und Datenschutz Durch die freiwillige Dateneinlieferung der Betroffenen wurde ein vorbildhafter Ausgleich zwischen den beiden Prüfbereichen erreicht.
  • Zuverlässigkeit sicherstellen
    Der von den Kunden beauftragte externe Dienstleister legt den eingesetzten Algorithmus nicht offen. Eine informierte Debatte über Chancen und Risiken der spezifischen KI-Prozesse kann nicht geführt werden.
  • Wirkungslogik zum Thema Gerechtigkeit überprüfen
    Effizienzgewinne einzelner Prozessschritte können die Frage überdecken, ob die zur Lösung des Verwaltungsproblems eingesetzten Mittel insgesamt angemessen sind.