Human in the Loop: warum bei KI ein Mensch freigibt

Human in the Loop bedeutet, dass an einer festgelegten Stelle eines KI-Ablaufs ein Mensch das Ergebnis prüft und freigibt, bevor es wirkt. Das kann der Moment sein, bevor eine E-Mail das Haus verlässt, oder bevor ein Datensatz in die Buchhaltung geht. Die KI bereitet vor, die Entscheidung und die Verantwortung liegen bei einer Person.

Wo die Freigabe im Ablauf sitzt

Die Freigabe gehört an die Stelle, ab der ein Fehler Folgen hat. Bei einer Antwort an einen Kunden ist das der Versand, bei einer Buchung die Übergabe an die Buchhaltungssoftware. Alles davor darf die KI vorbereiten, soweit sie es zuverlässig kann. In den Abläufen, die wir einrichten, geht keine E-Mail hinaus, bevor jemand aus dem Team sie freigegeben hat.

Für Entscheidungen, die Menschen rechtlich betreffen, zieht auch das Datenschutzrecht eine Grenze. Art. 22 DSGVO gibt jeder Person das Recht, keiner Entscheidung unterworfen zu werden, die ausschließlich automatisiert fällt und ihr gegenüber rechtliche Wirkung entfaltet, mit wenigen Ausnahmen.

Eine Prüfung braucht die Quelle

Eine Freigabe hilft nur, wenn die prüfende Person erkennt, worauf das Ergebnis beruht. Bei einer Steuerkanzlei für Auswanderer füllt ein System zu jeder Beratungsanfrage den Auswertebogen der Beraterin vor, auf Grundlage der Wissensbasis der Kanzlei. Die Beraterin prüft und ergänzt den Bogen vor dem Gespräch, ihre Änderungen bleiben festgehalten. Daran lässt sich später ablesen, an welchen Stellen die KI danebenlag. Nach Angabe der Inhaberin sank die Vorbereitung pro Termin von vier auf zwei Stunden.

Wird die Freigabe zum Routineklick, fängt sie keine Fehler mehr ab. Kurze Entwürfe, die sich auf einen Blick prüfen lassen, und die Angabe der Unterlage im Entwurf halten die Prüfung ernsthaft.

Was die Freigabe nicht leistet

Fehler, die auch die prüfende Person übersieht, gehen durch. Die Freigabe ersetzt deshalb keine sorgfältige Einrichtung: Die KI muss mit den richtigen und aktuellen Unterlagen arbeiten. Ab und zu lohnt ein zweiter Blick auf bereits freigegebene Ergebnisse, etwa eine Stichprobe pro Monat.

Wo eine Freigabe entfallen kann

Bei Schritten ohne Wirkung nach außen, die sich leicht korrigieren lassen, ist eine Freigabe für jedes Ergebnis oft unnötig. Ein Beispiel ist das Sortieren eingehender E-Mails nach Thema: Landet eine Mail im falschen Ordner, verschiebt sie jemand. Auch hier gehört eine regelmäßige Stichprobe dazu.

Woran KI-Projekte sonst hängen bleiben, steht im Beitrag Warum KI-Projekte in Unternehmen scheitern. Wie wir Abläufe mit Freigabe aufbauen, steht bei unserer Leistung KI-Automatisierung.