Trzy pytania, zanim pozwolisz agentowi wysłać wiadomość
Granica między pomocnym automatem a incydentem przebiega dokładnie tam, gdzie działanie opuszcza firmę. Te trzy pytania wystarczają, żeby zdecydować, czy dane działanie może iść samo.
Kto to zobaczy?
Odbiorca wewnętrzny to jedno, klient to co innego, a organ albo pacjent to jeszcze co innego. Im dalej od firmy, tym mniejsza tolerancja na błąd i tym większy sens bramki.
Warto to zapisać jako listę odbiorców, a nie jako przeczucie. Agent nie rozpozna, że akurat ta domena należy do klienta z umową ramową, jeśli nikt mu tego nie powie.
Czy da się to cofnąć?
Wdrożenie na staging da się cofnąć. Wysłana wiadomość nie. To jest najostrzejsza linia podziału i najłatwiejsza do zaimplementowania, bo nie wymaga oceny treści.
Jeśli działania nie da się cofnąć, pytanie brzmi nie „czy agent zrobi to dobrze”, tylko „co się stanie, gdy zrobi to źle raz na sto razy”.
Odwracalność jest lepszym kryterium niż pewność modelu. Nie zmienia się przy każdej aktualizacji.
Kto się pod tym podpisuje?
Musi istnieć konkretna osoba, nie rola i nie zespół. Jeśli odpowiedź brzmi „dział marketingu”, to znaczy, że nie podpisuje się nikt.
Ta sama zasada obowiązuje w drugą stronę: osoba, która się podpisuje, musi widzieć, co zatwierdza, i mieć realną możliwość odmowy. Zatwierdzanie w ciemno jest gorsze niż jego brak, bo tworzy pozór nadzoru.
Co zrobić z odpowiedziami?
Zapisać je w miejscu, które czyta maszyna. Trzy odpowiedzi wystarczą, żeby przypisać działanie do jednego z trzech poziomów: idzie samo, czeka na podpis, albo nie wydarzy się nigdy.
Dopóki te odpowiedzi są w czyjejś głowie, obowiązują tylko wtedy, gdy ta osoba jest w pracy.
Źródła
- Article 14: Human oversightEU Artificial Intelligence Act, odczytano 2026-09-09