Autonomie ist kein einzelner Schalter
Der Begriff «Agent» umfasst Systeme mit sehr unterschiedlichen Fähigkeiten. Eines entwirft eine Antwort zur Freigabe. Ein anderes wählt ein Werkzeug aus und führt eine reversible Aktion aus. Ein drittes koordiniert eine Abfolge über mehrere Geschäftssysteme hinweg. Ein Roboter kann Sensorik, Bewegung und physische Konsequenzen hinzufügen.
Alle diese als eine Kategorie zu behandeln, verdeckt die eigentlich massgebenden Kontrollen. Autonomie sollte über die erlaubten Aktionen, die zugänglichen Ressourcen, das Zeitfenster und die verbleibende menschliche Entscheidungsgewalt definiert werden.
Stufe 1: Beratende Unterstützung
Das System fasst zusammen, klassifiziert, entwirft oder empfiehlt. Eine Person entscheidet, was die Schnittstelle verlässt oder einen Datensatz verändert. Dies ist der richtige Ausgangspunkt, solange die Organisation noch lernt, wo die Modellqualität verlässlich ist.
Evaluation und Feedback-Erfassung sollten bereits hier aufgebaut werden. Ohne sie basiert spätere Autonomie auf Eindrücken statt auf Evidenz.
Stufe 2: Begrenzte Werkzeugnutzung
Das System kann unter der Identität der aktuellen Nutzerin oder des aktuellen Nutzers freigegebene Werkzeuge aufrufen. Jedes Werkzeug hat einen engen Vertrag, validiert seine Eingaben und liefert ein beobachtbares Ergebnis. Änderungen mit hoher Wirkung erfordern eine Bestätigung.
In dieser Stufe wird die Unternehmensidentität Teil der KI-Architektur. Ein Modell sollte nicht allein deshalb ein mächtiges generisches Zugangsrecht erhalten, weil es die passende API-Struktur erzeugen kann.
Stufe 3: Überwachte Workflows
Das System kann eine begrenzte Abfolge planen und ausführen, an definierten Kontrollpunkten anhalten und Ausnahmen an eine benannte verantwortliche Person weiterleiten. Der Workflow unterliegt Zeit-, Kosten- und Aktionsgrenzen. Jeder Schritt ist nachvollziehbar.
Testen Sie die Wiederherstellung, nicht nur den Idealfall. Fragen Sie, was geschieht, wenn ein Werkzeug ein Timeout auslöst, Quelldaten widersprüchlich sind, Berechtigungen sich ändern oder das System sein Aktionsbudget erreicht.
Stufe 4: Begrenzte operative Autonomie
Autonome Ausführung kann für Arbeiten mit geringer Wirkung, Reversibilität, guter Beobachtbarkeit und nachgewiesener Evaluationshistorie angemessen sein. Das System arbeitet innerhalb eines klaren Regelrahmens und kann ohne Unklarheit gestoppt werden.
Diese Stufe erfordert operative Verantwortung: Jemand überprüft Leistungsabweichungen, Vorfälle, Modelländerungen und neue Fehlermuster.
Stufe 5: Verkörperte Intelligenz
Verkörperte Systeme verbinden Wahrnehmung und Entscheidungsfindung mit einer physischen Aktion. Das bringt Umgebungsunsicherheit, Echtzeitanforderungen, Hardwarezustände, Sicherheitsgrenzen und menschliche Nähe hinzu.
Nutzen Sie generative Modelle dort, wo ihre Flexibilität hilft – etwa beim Interpretieren von Anweisungen oder unstrukturierten Szenen –, halten Sie sicherheitskritische Grenzen jedoch in deterministischen, überprüfbaren Schichten. Physische Autonomie sollte sicher zurückfahren, wenn Vertrauen, Konnektivität, Sensorik oder Systemzustand nicht ausreichen.
Die Bereitschaftsfragen
Prüfen Sie vor der nächsten Ausbaustufe eines Workflows:
- Ist das operative Ergebnis und die verantwortliche Person klar benannt?
- Sind repräsentative Fehlerfälle verstanden?
- Bewahrt jede Aktion Identität und Berechtigung?
- Kann eine Person den Prozess einsehen, unterbrechen und wiederherstellen?
- Werden Zeit-, Kosten- und physische Grenzen ausserhalb des Modells durchgesetzt?
- Ist die nächste Autonomiestufe durch Evidenz gerechtfertigt?
Das Ziel ist nicht maximale Autonomie. Es ist die minimale Autonomie, die dauerhaften Wert schafft und dabei die menschliche und organisatorische Kontrolle erhält.