2 Min. Lesezeit 
«Ich möchte, dass die KI mehr Dinge eigenständig erledigt.»
«Ich würde eine KI nichts ohne Überprüfung tun lassen.»
Die beiden Sätze scheinen gegensätzlich zu sein und teilen doch dasselbe Problem: Sie behandeln Autonomie als eine globale Eigenschaft des Werkzeugs.
Das ist sie nicht. Autonomie ist eine Governance-Entscheidung bezüglich eines konkreten Vorgangs.
Dieselbe KI kann helfen, eine Eingabe automatisch zu klassifizieren und sich im selben Prozess darauf beschränken, eine Antwort vorzubereiten, die eine Person überprüfen muss, bevor sie den Kunden erreicht.
Die Frage ist nicht «Vertraue ich dieser KI?»
Eine nützlichere Frage ist: Welchen Effekt kann dieser Vorgang erzielen und welche Kontrolle benötige ich, bevor ich ihn zulasse?
Es gibt offensichtliche Faktoren, die helfen: Auswirkungen, die Möglichkeit, den Effekt rückgängig zu machen, die einfache Überprüfbarkeit, die Sensibilität der Informationen und die Existenz einer Person mit Interventionsbefugnis.
Drei Bereiche, die jeder verstehen kann
Für ein Gespräch mit einem professionellen Team genügt eine klare Unterscheidung:
- Unterstützung: Die KI analysiert, klassifiziert oder bereitet Material vor; die Entscheidung trifft weiterhin der Mensch.
- Vorbereitung mit menschlicher Freigabe: Die KI bereitet eine Aktion vor, aber die externe Wirkung hängt von einer maßgeblichen Freigabe ab.
- Begrenzte Ausführung: Bestimmte, risikoarme Vorgänge dürfen nach festgelegten Regeln erfolgen und sind überwachbar oder reversibel.
Es gibt auch Handlungen, die aufgrund ihrer Natur oder der beruflichen Verantwortung nicht automatisiert werden sollten. Wichtig ist, dass diese Grenze explizit ist.
«Human in the Loop» reicht nicht als Etikett
Ein Mensch kann formal im Kreislauf sein und dennoch keine echte Kontrolle ausüben, wenn er zu viel Volumen erhält, nicht genügend Zeit hat, keinen Zugang zu den Quellen hat oder keine effektive Blockiermöglichkeit besitzt. Die nützliche Frage ist, ob die menschliche Intervention die Entscheidung wirklich ändert: Versteht er/sie, was überprüft wird? Kann er/sie es zurückweisen? Kann er/sie den Effekt stoppen? Liegen ausreichende Nachweise vor?
Autonomie wird vorgangsbezogen erworben, und Eskalation ist ein normaler Weg.
Es ist nicht ratsam, Autonomie zu fördern, nur weil eine Demonstration gut verlaufen ist. Sie wird, falls angebracht, erhöht, wenn ein konkreter Vorgang ein stabiles Verhalten unter Kontrollen gezeigt hat und weiterhin wirtschaftlich sinnvoll ist. Und ein seriöses System muss erkennen, wann die verfügbare Autorität nicht ausreicht: Die Eskalation ist keine Fehlermeldung, sondern der geordnete Übergang zur Person mit ausreichender Kompetenz.
Diskussion 0
Ist Ihnen etwas Ähnliches passiert oder sehen Sie es anders? Erzählen Sie es uns hier.
Noch keine Kommentare. Starten Sie die Unterhaltung.