Löwen Codex · Fachbeitrag
Fachbeitrag · System

Ein System, das seine Fehler selbst nummeriert

Kann man einem KI-System im Betrieb trauen? Unsere Antwort steht nicht in Versprechen, sondern im Protokoll: Fehler bekommen eine Nummer, Prüfungen müssen beweisen, dass sie Fehler finden, und was nicht gemessen ist, heißt „unbekannt“.

Wer KI im Betrieb einsetzt, fragt zuerst: Kann ich dem trauen? Hier steht, was unser Protokoll dazu belegt. Jede Aussage unten nennt in Klammern den Protokolleintrag, aus dem sie stammt.

Fehler werden nicht gelöscht, sondern nummeriert

Änderungen am System bekommen nummerierte Einträge in einem Hauptprotokoll, und dieses Protokoll wird nur ergänzt, nie umgeschrieben (LOG-1295). Ist etwas falsch, entsteht ein neuer Eintrag mit eigener Nummer, der sagt, was falsch war und was ab jetzt gilt (LOG-1355). Das gilt auch für kleine Dinge, zum Beispiel 38 statt 40 gezählte Testfälle (LOG-1378) oder 42 statt 43 Sätze (LOG-1822).

Ein Beispiel zeigt, warum das wichtig ist: Ein Abgleich durch die KI meldete, sieben von acht Kontennamen seien falsch (LOG-1270). Gegen die echte Liste geprüft stimmten alle acht, denn verglichen worden war mit der falschen Quelle (LOG-1270). Der Eintrag hält offen fest, dass sonst sieben richtige Werte „korrigiert“ und damit kaputt gemacht worden wären (LOG-1270).

Auch die Nummern selbst gehen schief. Mehrere KI-Sitzungen schreiben gleichzeitig ins selbe Protokoll, und dabei wurden Nummern doppelt vergeben (LOG-1393). Einmal erzeugte sogar die Korrektur eine neue Doppelnummer, die dann wieder mit eigener Nummer berichtigt wurde (LOG-1424, LOG-1428). Aus solchen Pannen wurden Ursache und neue Regel festgehalten, etwa „Nummer erst beim Anhängen lesen“ (LOG-1341). Am 11.11.2026 wurde die Vergabe zentral gemacht (LOG-2199). Noch am selben Tag fand sich eine Lücke in dieser Lösung, und auch die steht im Protokoll (LOG-2200).

Der Rückstand: erst ehrlich zählen

Die Anzeige meldete zeitweise 856 offene Protokollpunkte (LOG-2199). Am 11.11.2026 wurden die Zählregeln geklärt: zum Beispiel erwarten Pläne und Notizen seitdem keinen Auslieferungs-Nachweis mehr (LOG-2199). Wie viele echte offene Punkte danach blieben, ist in unseren Unterlagen nicht belegt; die Zahl ist unbekannt, und wir schreiben nicht „0“, solange sie nicht gemessen ist (LOG-2199).

Jede Nacht eine Selbstprüfung, mit Gegenprobe

Seit dem 07.11.2026 ist eine tägliche Selbstprüfung in der Nacht eingerichtet (LOG-1451). Der Auslöser: Die letzte vollständige Prüfung war über eine Woche alt, alles danach war ungeprüft (LOG-1447). Die Zahl der Prüfungen stieg von 157 auf 217 (LOG-1447, LOG-2281).

Der Kern ist die Gegenprobe: Jede damals neu aufgenommene Prüfung musste zeigen, dass sie einen absichtlich eingebauten Fehler als rot erkennt (LOG-1447). Ein Test, der nie rot werden kann, prüft nichts. Ein bloßer Lade- oder Dateifehler zählt deshalb nicht als bestandene Gegenprobe (LOG-1447).

Was die Nachtprüfung findet, ist nicht immer bequem:

Aus Fehlern werden Prüfregeln, mit einem Menschen am Schalter

Seit dem 08.11.2026 sucht ein Selbstverbesserungs-Kern im Protokoll nach wiederkehrenden Fehlermustern und schlägt dafür neue Prüfregeln vor (LOG-1700). Feste Sperren im Code verbieten ihm, Prüfungen abzuschwächen oder etwas zu senden (LOG-1700). Vorschläge spielt der Inhaber ein (LOG-2200). Nur reine Prüfregeln darf der Nachtlauf nach seiner Grundsatz-Freigabe selbst anhängen, und nur, wenn ihre Gegenprobe rot ist; ändern oder entfernen darf er nichts (LOG-2046).

Auch der Kern irrte sich: Seine ersten drei Fehlalarme kamen daher, dass er den Bericht über sich selbst als Fehler las (LOG-1729). Das wurde behoben, und der Inhaber stufte die drei Funde als Fehlalarm ein (LOG-1793). In einem Plan vom 11.11.2026 wurde bewusst abgelehnt, dass der Kern seine eigenen Erkennungsregeln automatisch ändert oder Prüfregeln selbst zurücknimmt; dieses Urteil bleibt beim Menschen (LOG-2323).

Warum das Vertrauen schafft

Unsere Sicht: Ein System, das keine Fehler zeigt, hat nicht keine Fehler. Es zeigt sie nur nicht. Hier werden Fehler als Eintrag mit Nummer und Ursache festgehalten (LOG-1355, LOG-1424). Neue Prüfungen müssen beweisen, dass sie Fehler fangen können (LOG-1447). Und wo in diesem Text eine Zahl fehlt, steht „unbekannt“ statt einer schönen Null.

Offen bleibt: alte Doppelnummern sind noch nicht aufgelöst (LOG-2322), einzelne Prüfungen sind wackelig (LOG-2271), und wie viele Nächte der Prüflauf insgesamt gelaufen ist, steht nicht in den Unterlagen (unbekannt).

Wie sähe das in Ihrem Betrieb aus?

Wir gehen es in 20 Minuten mit Ihnen durch, per Telefon oder Video. Ein Angebot gibt es nur, wenn Sie danach eines möchten.

Kostenloses Erstgespräch, 20 Minuten
Lieber erst selbst prüfen: Digital-Check starten