Fragen und Antworten zum Thema KI

Welchen Stellenwert hat Künstliche Intelligenz (KI)?

IT-Produkte und -Services, die wir im Arbeitsumfeld, aber auch im täglichen Leben nutzen, setzen in zunehmendem Ausmaß KI ein. Deshalb muss der Einfluss dieser Technologie durch Anwendung von ethischen Prinzipien zur Abfederung sozialer Auswirkungen und zum Aufbau von Vertrauen durch verantwortungsvolles Handeln gestaltet werden.

Wo sind die Grenzen von KI?

Es gibt unterschiedliche Auffassungen, was man unter Intelligenz versteht. Deshalb haben sich die Forscher über den Lauf der Zeit darüber verständigt, dass eine Maschine dann als „intelligent“ gilt, wenn sie, bezogen auf eine vom Menschen gestellte Aufgabe, den besten Weg zur Problemlösung findet. Beispiele dafür sind Routenplanungen auf Online-Landkarten oder eine automatische Bilderkennung. KI kann aber grundsätzlich nicht „mehr“ Intelligenz besitzen, als jene, auf die sie trainiert wurde. Eine Maschine kann abstrakte Probleme lösen, wenn man ihr Regeln beibringt oder ihr Material zur Verfügung stellt, aus dem sie die Regeln selbst herleiten kann.

Können Mensch und Maschine zusammenarbeiten?

In Zukunft wird die Zusammenarbeit zwischen Menschen und „intelligenten“ Maschinen der zentrale Ansatz sein. Ein Beispiel aus der Medizin macht das deutlich. Dabei wurden Gewebsproben sowohl von Menschen als auch Maschinen analysiert. Anhand einer Methode zur Bewertung von Analysestrategien erzielte die Maschine einen Wert von 70,5, der Pathologe einen von 96,6. Kombinierte man die Ansätze, konnte ein Wert von 99,5 erzielt werden. Die beiden Ausprägungen von Intelligenz, menschliche und maschinelle, sind so komplementär, dass das Zusammenspiel bessere Ergebnisse liefert als der isolierte Ansatz.

Kann man einer Maschine vertrauen?

Wenn Menschen mit Maschinen zusammenarbeiten, liegt die finale Entscheidung beim Menschen. Wenn aber die Maschine den Menschen bei der Entscheidung unterstützen soll, muss sie gewissen Regeln folgen. Man benötigt also Systeme, die einer Vielzahl von ethischen Prinzipien wie z. B. Fairness folgen. Schlussendlich erwartet man von einer maschinengestützten Entscheidung denselben Grad an Fairness wie beim Menschen. Ein weiterer Aspekt ist die Erklärbarkeit. Wenn der Mensch der Empfehlung der Maschine folgen soll, muss er die dahinterliegende Entscheidungslogik verstehen. Für das Vertrauen des Menschen in die Maschine ist es erforderlich, dass der Mensch eine zufriedenstellende Antwort auf die sogenannte „Warum“-Frage erhält. Da der Begriff des Vertrauens recht vage ist, betrachten wir in diesem Zusammenhang vier Aspekte. Wie zum Beispiel Fairness, das heißt: Wie kann sichergestellt werden, dass die Technologie die richtigen Werte für den konkreten Einsatz befolgt? Zweitens die Verständlichkeit der Technologie. Drittens: Kann ich mich darauf verlassen, dass die Technologie wenige Fehler macht? Schließlich als vierten Aspekt das Thema der Sicherheit mit der Fragestellung, ob die Verantwortung für den Einsatz und die Haftung geklärt sind. Technische Ansätze stellen sicher, dass KI-Anwendungen die richtigen Eigenschaften haben, um Entscheidungen zu erklären, Bias zu verhindern und fair und sicher zu agieren. Daneben gibt es eine Vielzahl an Prinzipien für den vorteilhaften KI-Einsatz wie Richtlinien, Zertifikate, Standards und sogar Gesetze zwecks Regulierung.

Warum sollten KI-Entscheidungsgremien multidisziplinär besetzt sein?

Eine möglichst umfassende Evaluierung des Einsatzes von KI erfordert die multidisziplinäre Zusammenarbeit von Expertinnen und Experten auf Gebieten wie KI, Soziologie, Psychologie, Wirtschaft, Philosophie und Recht. Man muss aber auch mit den betroffenen Zielgruppen diskutieren. Das wird schnell offensichtlich, wenn man z. B. den Begriff der Fairness und seine vielen unterschiedlichen Interpretationen betrachtet. Einmal bedeutet Fairness in einem Bereich die genau gleiche Verteilung von Ressourcen, im anderen Fall kann Fairness die gleiche Chance zur Nutzung einer Ressource bedeuten. Man sollte mit der jeweils betroffenen Zielgruppe zusammenarbeiten, um die richtige Interpretation des Begriffs Fairness zu finden.

Was ist ein ganzheitlicher KI-Ethik-Ansatz?

Der ganzheitliche Ansatz zum Thema Ethik umfasst Grundsätze zu den Themen „Vertrauen und Transparenz“, „Datenschutz“ oder „Richtlinien für Entwickler:innen“. Einfließen sollten dabei auch EU-weite und nationalstaatliche KI-Strategien sowie Forschungsergebnisse zum Thema vertrauenswürdige KI. Ein wichtiger Aspekt sind internationale Kooperationen. Ein aktuelles Beispiel dafür ist eine multidisziplinäre EU-Initiative „Trustworthy AI“, an der sich 52 internationale Expertinnen und Experten beteiligen. Österreich wird in diesem Gremium durch Dr.in Sabine Köszegi, Präsidentin des Rats für Robotik und KI, vertreten. Das BRZ hat dazu ausführliches Feedback geliefert.

Welche Fragen müssen wir uns noch stellen?

Lernende Systeme benötigen große Datenmengen, um Schlussfolgerungen zu treffen. Aber ist gewährleistet, dass meine persönlichen Daten, die ich zur Verfügung stelle, auch ordnungsgemäß verarbeitet und gespeichert werden? Wer verfügt über meine Daten, habe ich noch die Hoheit über meine Daten? Kann ich meine Daten auch wieder löschen lassen? Aber es geht auch um Verantwortung. Manche Fehlentscheidungen Künstlicher Intelligenz, etwa eine falsche Buch-Empfehlung im Online-Shop, haben keine großen Auswirkungen. Anders sieht es aber beim abgelehnten Kreditantrag oder der falschen Diagnose im Spital aus.Wenn ein KI-System einen Fehler macht, an wen kann ich mich wenden? Wer ist dafür verantwortlich, eine Entschädigung zu leisten? Wer trägt die Verantwortung für die negative Auswirkung maschineller Entscheidungen?