Ob künstliche Intelligenz ethisch ist, war jahrelang die Standardfrage – und sie hat sich abgenutzt. Das EU-finanzierte Projekt AIOLIA stellt eine andere: Was macht die Technologie mit dem menschlichen Urteilsvermögen, wenn sie in der Arztpraxis, im Bewerbungsverfahren oder im Wohnzimmer mitentscheidet? Aus sechs europäischen Anwendungsfällen entstehen Leitlinien und Schutzmaßnahmen, die sich in Verfahren schreiben lassen – und damit auch eine Frage an die eigene Routine im Umgang mit Modellen, die schneller antworten, als man nachdenkt.
Ist künstliche Intelligenz ethisch? Diese Frage stand jahrelang am Anfang fast jeder Debatte über Algorithmen, und sie nutzt sich ab: Sie verlangt ein Ja oder Nein, wo es längst um Abstufungen geht. Das EU-finanzierte Projekt AIOLIA, 2025 ins Leben gerufen, setzt deshalb anders an. Es erforscht, wie KI-Systeme das menschliche Urteilsvermögen und Verhalten beeinflussen und welche Schutzmaßnahmen darauf antworten müssen.
Die leitende Forscherin Petra Saskia Bayerl, Professorin an der Universität Sheffield Hallam im Vereinigten Königreich, formuliert den Ausgangspunkt knapp: „Die Prämisse von AIOLIA lautet: ‚Welche Rolle spielt Technologie für den Menschen?'"
AIOLIA hat Ethikrichtlinien für sechs europäische Anwendungsfälle veröffentlicht, erarbeitet mit akademischen, politischen und industriellen Partnern. Es sind keine Gedankenexperimente, sondern Bereiche, in denen Software heute schon mit am Tisch sitzt:
Die ersten vier betreffen berufliches Fachwissen und Verhalten, die beiden letzten die Wahrnehmung und das private Verhalten. Dazu kamen vier Anwendungsfälle außerhalb Europas – aus Kanada, China, Japan und Südkorea –, die zeigen sollten, wie dieselben Grundsätze in anderen nationalen Kontexten umgesetzt werden.
Der interessante Teil beginnt nach dem Vorschlag der Maschine. Bayerl beschreibt, warum sich KI von früheren Werkzeugen unterscheidet: „Mit KI verhält es sich anders, weil sie immer mehr Aufgaben übernimmt, die wir traditionell mit menschlichem Denken in Verbindung gebracht haben. Sie kann kognitive Arbeit effizienter gestalten, bestimmte Entscheidungen automatisieren und ist zur Erkennung von Mustern fähig, was einst als einzigartige menschliche Fähigkeit galt".
Damit verschiebt sich die Rolle des Menschen. Wer eine fertige Antwort vor sich hat, prüft anders als jemand, der noch vor der Frage sitzt. Die Aufgabe heißt dann nicht mehr entscheiden, sondern beurteilen, ob die Entscheidung trägt – und das ist eine andere Fertigkeit, die selten jemand systematisch übt.
Ein Ergebnis des Projekts ist, dass sich ethische Bedenken weitgehend nach dem Kontext bestimmen. In den beruflichen Anwendungsfällen standen Verantwortlichkeit, Transparenz und Unvoreingenommenheit im Vordergrund: Wer haftet, worauf stützt sich der Vorschlag, wen benachteiligt er.
In den privaten Anwendungsfällen verschob sich das Bild. Dort ging es eher um individuelle Sicherheit, Wohlbefinden, Nutzungsautonomie und Handlungsfähigkeit – also darum, ob ein System die Menschen stärkt oder sie langsam an sich bindet.
Vor Kurzem entwickelte AIOLIA ein Tool zur Bewertung des ethischen Reifegrades und der algorithmischen Auswirkungen. Es unterstützt Fachleute aus Ethik und Technik beim Führen halbstrukturierter Dialoge, die zu einem verbesserten Design von KI-Systemen anregen können. Ethik wird damit zu etwas, das man im Projektplan abarbeitet, statt zu einer Haltung, die man am Ende behauptet.
„Bei AIOLIA geht es schlussendlich darum, die Ethik in die Praxis umzusetzen", erklärt Bayerl. Die vorgeschlagenen Schutzmaßnahmen klingen unspektakulär: menschliche Aufsicht, Beschwerdemechanismen, Personalschulungen und regelmäßige politische Überprüfungen. Genau darin liegt ihr Wert, denn sie lassen sich in eine Dienstanweisung schreiben und später kontrollieren.
Wer Systeme baut, legt fest, ob ein Widerspruch möglich ist, ob eine Begründung angezeigt wird und ob ein Mensch die Ausgabe überhaupt noch anfassen kann. Das sind Entwurfsentscheidungen, keine Fragen der Gesinnung. Sie fallen in Studiengängen der Informatik, des Rechts und der Sozialwissenschaften zusammen, und wer sie früh kennt, muss sie später nicht im laufenden Betrieb reparieren.
AIOLIA verschiebt die Debatte von der Etikette „ethisch oder nicht" hin zu der Frage, was KI mit dem menschlichen Urteil anstellt. Sechs europäische und vier internationale Anwendungsfälle zeigen, dass die Anforderungen im Beruf andere sind als zu Hause, und die vorgeschlagenen Schutzmaßnahmen sind bewusst banal genug, um in echte Verfahren zu passen.
5 Fragen · eine Minute · ohne Speichern
EN
CS
DE
ES
FR
HU
IT
PL
PT
РУ
SK
TR
УК
AR
中文
