„Da sitzt doch noch ein Mensch dazwischen. Dann ist es doch sicher kontrolliert, oder?“
Nicht unbedingt. Entscheidend ist nicht nur, ob ein Mensch irgendwo vorkommt, sondern welche Rolle, Information, Zeit und Autorität er tatsächlich hat.
Human-in-the-Loop
Human-in-the-Loop bedeutet typischerweise, dass ein Mensch an einem bestimmten Punkt aktiv in einen Prozess eingebunden ist – etwa zur Prüfung, Entscheidung oder Freigabe.
Beispiel: Ein KI-System schlägt vor, eine Zahlung zu blockieren. Ein Mitarbeiter muss den Vorschlag prüfen und bestätigen, bevor etwas passiert.
Human-on-the-Loop
Human-on-the-Loop beschreibt meist eine eher überwachende Rolle: Der Prozess läuft weitgehend selbstständig, während ein Mensch beobachten und bei Bedarf eingreifen kann.
Beispiel: Ein automatisiertes System verteilt Anfragen. Ein Mitarbeiter überwacht Auffälligkeiten und kann den Prozess stoppen.
Human Oversight
Human Oversight ist der breitere Begriff für menschliche Aufsicht über ein KI-gestütztes System oder einen Prozess. Dazu kann gehören, Entscheidungen zu prüfen, Grenzen festzulegen, Eingriffe zu ermöglichen und Verantwortung klar zuzuordnen.
Beispiel: Eine Organisation legt fest, welche Fälle automatisiert bearbeitet werden dürfen, welche zwingend an Menschen gehen und wer bei Fehlern eingreifen muss.
Anwesenheit eines Menschen ≠ automatisch wirksame Kontrolle.
Warum menschliche Kontrolle scheitern kann
Ein Mensch kann formal beteiligt sein und trotzdem kaum wirksam kontrollieren: vielleicht sieht er nur einen Teil der Information, hat wenige Sekunden Zeit, darf einen Vorgang nicht wirklich stoppen oder übernimmt routinemäßig die Systemempfehlung.
Beispiel: Ein Mitarbeiter klickt bei hunderten Fällen täglich auf „Bestätigen“, ohne genug Zeit für eine echte Prüfung. Formal ist ein Mensch beteiligt. Praktisch kann die Kontrolle sehr dünn sein.
Governance
Governance beschreibt die Regeln, Rollen, Verantwortlichkeiten und Prozesse, mit denen eine Organisation steuert, wie ein System eingesetzt und überwacht wird.
Beispiel: Wer darf ein KI-System einsetzen? Welche Daten darf es nutzen? Welche Entscheidungen brauchen zusätzliche Freigabe? Wer dokumentiert Vorfälle? Das sind Governance-Fragen.
Approval
Approval ist eine konkrete Zustimmung oder Freigabe.
Beispiel: „Dieser Entwurf darf verschickt werden.“
Authorization
Authorization beschreibt die Berechtigung, eine bestimmte Handlung ausführen zu dürfen. Approval und Authorization können zusammenfallen – müssen es aber nicht.
Beispiel: Eine Person darf grundsätzlich Rechnungen bis 500 Euro freigeben. Das ist eine Autorisierung. Die Zustimmung zu Rechnung Nummer 123 ist eine konkrete Approval-Entscheidung.
Responsibility
Responsibility meint Verantwortung: Wer ist dafür zuständig, dass eine Aufgabe, Prüfung oder Entscheidung ordnungsgemäß erfolgt? Ein KI-System kann Aufgaben übernehmen, aber die organisatorische Verantwortung verschwindet dadurch nicht automatisch.
Was wird häufig verwechselt?
- Human-in-the-Loop ≠ Garantie: Ein Mensch im Ablauf macht den Prozess nicht automatisch sicher oder korrekt.
- Oversight ≠ bloßes Zuschauen: Wirksame Aufsicht braucht Informationen, Zeit und tatsächliche Eingriffsmöglichkeiten.
- Approval ≠ allgemeine Authorization: Eine einzelne Zustimmung ist nicht dasselbe wie eine dauerhafte Berechtigung.
- Automation ≠ Verantwortungsfreiheit: Eine Organisation bleibt für den Einsatz ihrer Systeme verantwortlich.
Kurz gesagt
Human-on-the-Loop: Mensch überwacht und kann gegebenenfalls eingreifen.
Human Oversight: breitere menschliche Aufsicht und Kontrollstruktur.
Governance: Regeln, Rollen und Prozesse für verantwortlichen Einsatz.
Approval: konkrete Zustimmung.
Authorization: Berechtigung, etwas tun zu dürfen.
Responsibility: zugewiesene Verantwortung.
Merksatz: Frag nicht nur „Ist ein Mensch beteiligt?“, sondern: Was sieht er, was darf er, wann kann er eingreifen – und wer trägt die Verantwortung?
Vorher: API, Tools und Workflows
Weiter: Audit, Traceability und Evidence
Hinterlasse einen Kommentar