Auszug: Warum „erklärbare KI“ europäisch gedacht ist

Folgender Text stammt aus dem in Arbeit befindlichen Kapitel „Transparenz als Wert“ und wird hier als Vorabdruck veröffentlicht — Anmerkungen und Widerspruch ausdrücklich willkommen.

Eine kurze These

Europa argumentiert anders über KI als die USA oder China. Nicht weil es technologisch hinterher wäre, sondern weil es einen anderen Begriff von Verantwortung pflegt: Wer eine Entscheidung trifft — oder eine Maschine treffen lässt — schuldet den Betroffenen eine Begründung. Aus diesem juristischen Grundprinzip leitet sich die europäische Idee „erklärbarer KI“ ab.

Erklärbarkeit ist kein technisches Feature

Es reicht nicht, dass ein Modell mathematisch nachvollziehbar ist. Erklärbarkeit ist eine Beziehung zwischen einem System und den Menschen, die ihm ausgesetzt sind. Sie verlangt verständliche Begründungen, faktische Korrektheit und ein Verfahren, in dem Betroffene widersprechen können.

„Eine KI, die sich selbst nicht erklären kann, sollte über Menschen nicht entscheiden dürfen.“

Diese Forderung ist nicht naiv. Sie ist die direkte Übersetzung der europäischen Aufklärung in das Zeitalter der lernenden Maschinen — und sie ist anschlussfähig an das, was im AI Act bereits Gesetz wird.