Zwei Extreme scheitern regelmässig. Das erste: Vollautomation ohne Netz — die KI beantwortet Kundenanfragen, verschickt Angebote, ändert Stammdaten, und der erste ernsthafte Fehler landet ungefiltert beim Kunden. Das zweite: Kontrollzwang — jede KI-Ausgabe wird von einem Menschen geprüft, der Aufwand ist am Ende höher als vor der Automatisierung. Dazwischen liegt das Muster, das in der Praxis funktioniert: gezielte Kontrollpunkte an den Stellen mit den höchsten Fehlerkosten.
Die Fehlerkosten-Matrix
Ob ein Prozessschritt eine menschliche Freigabe braucht, entscheiden zwei Fragen: Wie teuer ist ein Fehler — und lässt er sich rückgängig machen? Ein falsch kategorisiertes Support-Ticket ist billig und reversibel: vollautomatisch verarbeiten. Ein automatisch generierter Angebotstext mit falschem Preis ist teuer, aber vor dem Versand reversibel: Freigabe davor. Eine automatische Kündigungsbestätigung oder Zahlung ist teuer und irreversibel: hier gehört immer ein Mensch in den Pfad. Wer diese Matrix einmal für seine Prozesse durchgeht, weiss in einer Stunde, wo Kontrollpunkte hingehören — und wo sie nur bremsen.
Drei Muster für Kontrollpunkte
- Freigabe vor Ausführung: Die KI bereitet vor (Entwurf, Buchungsvorschlag, Antwort), der Mensch gibt per Klick frei. Aus 20 Minuten Schreibarbeit werden 30 Sekunden Prüfung.
- Confidence-Schwelle mit Eskalation: Fälle, bei denen sich das Modell sicher ist, laufen automatisch durch; unsichere Fälle landen in einer Review-Queue. Typisch: 80 Prozent Durchlauf, 20 Prozent Handarbeit.
- Stichproben-Review: Alles läuft automatisch, aber ein fester Anteil — etwa 5 Prozent — wird nachträglich geprüft. Geeignet für billige, reversible Entscheidungen, bei denen man Qualitätsdrift früh erkennen will.
Der Kontrollpunkt ist kein Misstrauensvotum gegen die KI, sondern eine Versicherung mit bekannter Prämie: Sekunden pro Freigabe gegen Tage Schadensbegrenzung pro unentdecktem Fehler.
Kontrollpunkte richtig bauen
Ein schlechter Kontrollpunkt ist eine E-Mail mit der Bitte um Prüfung — sie versandet. Ein guter Kontrollpunkt ist eine Queue mit Kontext: Der Prüfer sieht die KI-Entscheidung, die Begründung, die Originaldaten und zwei Buttons. Dazu gehören ein Service-Level (unbearbeitete Freigaben eskalieren nach 24 Stunden), ein Audit-Log (wer hat wann was freigegeben oder korrigiert) und eine Rückkopplung: Jede Korrektur wird gezählt und fliesst in die Bewertung des Systems ein. Ohne diese Messung weiss niemand, ob die KI besser wird — oder ob die Prüfer nur noch blind durchwinken.
Der Weg zur Vollautomation
Human-in-the-Loop ist kein Endzustand, sondern eine Rampe. Der Ablauf in der Praxis: Vier bis acht Wochen läuft jeder Fall über die Freigabe, die Korrekturquote wird gemessen. Liegt sie stabil unter einem definierten Wert — etwa 2 Prozent bei unkritischen Entscheidungen — wird auf Confidence-Schwelle umgestellt, später auf Stichproben. Kritische, irreversible Schritte behalten die Freigabe dauerhaft. So entsteht ein System, das mit dem Vertrauen wächst, statt es am ersten schlechten Tag zu verspielen. Und wenn ein Modell-Update die Qualität verschlechtert, zeigt die Korrekturquote das sofort — bevor es der Kunde tut.
Die Unternehmen, die mit KI-Automatisierung Geld verdienen, sind selten die mit den mutigsten Vollautomationen. Es sind die, die genau wissen, welche Entscheidung eine Maschine allein treffen darf — und welche nicht. Diese Landkarte ist Architekturarbeit, keine Modellfrage.