KI, die mitdenkt - und dich entscheiden lässt

Eine gut gebaute KI-Assistenz führt heikle Aktionen nicht einfach aus — sie bereitet sie vor und legt sie dir zur Freigabe hin. Die Rechnung ist fertig formuliert, der Empfänger eingesetzt, der Betrag berechnet. Aber gesendet wird erst, wenn du es bestätigst. Ein Klick für dich, und trotzdem ein Weltunterschied: Zwischen Absicht und Wirkung steht ein Mensch.

Und weil Vertrauen nicht auf Knopfdruck entsteht, sollte diese Schwelle einstellbar sein. Am Anfang lässt du dir jede Änderung vorlegen. Später vielleicht nur noch das Heikle — alles, was das Haus verlässt oder Geld bewegt. Irgendwann, bei Routinearbeiten, gar nichts mehr. Der Punkt ist: Du bestimmst das Tempo, in dem du Verantwortung abgibst. Nicht der Anbieter.

Selbst mit Freigabe wird mal etwas falsch sein. Du bestätigst eine Änderung, merkst zwei Minuten später den Fehler — was jetzt? In schlechter Software beginnt hier die Sucherei: Was genau wurde geändert? Wie war der Zustand vorher? In guter Software steht neben jeder Änderung, welche die KI vorgenommen hat, ein Knopf: rückgängig. Ein Klick, und der vorherige Zustand ist wiederhergestellt.

Das klingt banal, verändert aber alles. Wenn jeder Fehler in Sekunden korrigierbar ist, verliert er seinen Schrecken. Du kannst der KI Arbeit übertragen, ohne dass jede Übertragung ein Risiko ist. Umkehrbarkeit ist die stille Voraussetzung für Delegation — bei Menschen übrigens genauso.

Der unscheinbarste Mechanismus, und vielleicht der wichtigste. In jedem ordentlichen Geschäftssystem haben nicht alle Zugriff auf alles: Die Mitarbeiterin sieht ihre Projekte und ihre Spesen, aber nicht die Lohnkosten. Der Buchhalter sieht die Konten, aber vergibt keine Benutzerrechte. Diese Rollen existieren aus gutem Grund.

Eine sauber gebaute KI-Assistenz respektiert sie nicht nur — sie ist ihnen unterworfen. Die KI der Mitarbeiterin kann keine Kontosaldi abfragen, weil sie schlicht keinen Zugriff darauf hat. Nicht, weil man ihr gesagt hat, sie solle nicht — sondern weil die Türen, durch die sie gehen kann, dieselben sind wie die ihrer Nutzerin. Jede Person im Betrieb bekommt so «ihre» KI: eine mit exakt dem Sichtfeld und dem Handlungsspielraum der eigenen Rolle.

Frag einen Anbieter, wie das bei ihm gelöst ist. Wenn die Antwort auf «Was sieht die KI?» lautet: «alles, aber sie ist instruiert, diskret zu sein» — dann weisst du genug.

Manche Dinge dürfen gar nie passieren. Eine verbuchte, versendete Rechnung nachträglich verändern zum Beispiel — das verbietet nicht nur die Sorgfalt, sondern die Grundlogik ordentlicher Buchführung: Was festgeschrieben ist, bleibt. Korrigiert wird mit einer Gutschrift oder Stornobuchung, nachvollziehbar, nicht durch stilles Umschreiben.

In guter Software ist das keine Verhaltensregel für die KI, sondern eine Wand. Die Assistenz kann ein finalisiertes Dokument nicht anfassen — auch dann nicht, wenn man sie ausdrücklich darum bittet, auch nicht mit dem cleversten Trick-Prompt. Sie bekommt eine Fehlermeldung wie jeder andere auch. Bei den vorherigen Mechanismen ging es um Kontrolle und Umkehrbarkeit. Hier geht es um Unmöglichkeit. Beides braucht es.