Kontrole zgodności z zasadami
Sprawdzaj dane wejściowe i proponowane działania pod kątem uzgodnionych zasad, zanim cokolwiek zostanie zapisane.
Bezpieczeństwo i nadzór
Mechanizmy ochronne i bezpieczniejsza autonomia
Mechanizmy ochronne utrzymują agentów w uzgodnionych granicach: kontrole zgodności z zasadami przed działaniem, progi zatwierdzeń dla wrażliwych kroków i warunki zatrzymania, gdy coś jest niepewne.
Rodzaje mechanizmów ochronnych
Łączone odpowiednio do ryzyka każdego działania.
Progi zatwierdzeń
Wymagaj udziału człowieka powyżej określonej wartości, poziomu ryzyka lub progu pewności.
Warunki zatrzymania
Wstrzymaj pracę i przekaż sprawę, gdy brakuje informacji lub odpowiedzi są sprzeczne.
Jak projektujemy mechanizmy ochronne
Proporcjonalnie do skutków każdego działania.
Lista działań
Każde działanie, które agent może wykonać.
Ocena skutków
Co może pójść nie tak i na ile da się to odwrócić.
Ustalenie kontroli
Kontrole, zatwierdzenia i warunki zatrzymania dla każdego działania.
Testy błędów
Sprawdź przypadki brzegowe przed uruchomieniem.
Autonomię trzeba zdobyć, nie zakładać
Działanie może przejść od zatwierdzania do trybu automatycznego tylko na podstawie dowodów i za Twoją zgodą.
- Zaczynaj wrażliwe działania od zatwierdzenia przez człowieka.
- Oceń wyniki, zanim złagodzisz próg.
- Zmiany w instrukcjach lub narzędziach są zatwierdzane przed wdrożeniem.
Częste pytania
Nie. Zmiany w instrukcjach, narzędziach lub progach wprowadzają ludzie, a przed wdrożeniem są one testowane i zatwierdzane.
Działanie zostaje wstrzymane, a sprawa trafia do uzgodnionej osoby lub kolejki wraz z przyczyną.
Model i dostawcę dobieramy do każdego zadania na etapie analizy, biorąc pod uwagę wymagania dotyczące języka, dokładności, czasu odpowiedzi i przetwarzania danych. Proces nie jest związany z jednym dostawcą, więc dany krok można później zmienić, jeśli zmienią się uzgodnione wymagania.
Rozmowa wstępna
Zacznij od pracy, która Cię spowalnia.
Opowiedz nam o procesie, powtarzających się pytaniach lub dokumentach do obsłużenia. Sprawdzimy, gdzie agenci mają sens i czego wymaga wdrożenie.
Umów rozmowę wstępną