Trzy poziomy autonomii
Każde działanie agenta trafia do jednego z trzech poziomów. Podział jest celowo gruby, bo ma być stosowany bez zastanowienia, a nie interpretowany.
Poziom pierwszy: wykonuje i zapisuje
Działania odwracalne i wewnętrzne: odczyt danych, przygotowanie szkicu, wdrożenie na staging w znanym repozytorium. Wykonują się natychmiast i trafiają do dziennika decyzji.
Kryterium nie jest pewność modelu, tylko odwracalność skutku. Odwracalność nie zmienia się przy aktualizacji modelu.
Poziom drugi: przygotowuje i czeka na podpis
Działania przygotowane w całości, razem z dowodami, i wstrzymane do decyzji człowieka. To, co tu trafia, zależy od polityki właściciela, a nie od nas.
Ten poziom jest wygodny i przez to niebezpieczny: kolejka, która ma czterdzieści pozycji dziennie, przestaje być nadzorem.
Poziom trzeci: odmawia
Działania odrzucane przed kolejką: podpisanie umowy, podszycie się pod człowieka, twierdzenie o wyniku klinicznym, zmiana reguł, według których agent jest oceniany.
Osobny poziom istnieje właśnie dlatego, że kolejka bywa klikana odruchowo. Niektóre rzeczy nie powinny być decyzją do rozważenia w piątek o siedemnastej.
Poziom trzeci nie kolejkuje i nie szkicuje. Odrzuca.