Odpowiedzialność za decyzje
Za skutki działań AI odpowiadają organizacja i wskazani w niej ludzie, nie model. Kontrola polega na tym, by przy cyfrowym pracowniku AI było zapisane, kto za niego odpowiada, w jakich granicach działa i kto zatwierdza operacje wykraczające poza te granice.
- Intencja
- Kontrola wejścia
- Autoryzacjazatwierdza operację
- AI
- Walidacja wyniku
- Człowiekakceptuje wynik
- Dowód
Podświetlone: miejsca przepływu, których dotyczy ten opis. Pomarańczowy znacznik: decyzja człowieka w tym miejscu.
Trzy pytania o odpowiedzialność
Zanim cyfrowy pracownik AI zacznie pracę w procesie, organizacja odpowiada na trzy pytania. W aplikacji AiTrust cyfrowy pracownik AI działa jako agent, a odpowiedzi zapisuje się w paszporcie agenta.
Kto odpowiada za cyfrowego pracownika AI?
Właściciel to osoba, która dopuszcza cyfrowego pracownika AI do pracy i odpowiada za jego konfigurację. W aplikacji AiTrust służy do tego pole „Właściciel (human)” w paszporcie agenta.
Co cyfrowy pracownik AI może zrobić sam?
Granice działania to maksymalna strefa ryzyka, limit operacji w czasie, limit kosztu i przyznane narzędzia. Operacje mieszczące się w tych granicach nie wymagają dodatkowej zgody, o ile organizacja nie ustali inaczej.
Kto decyduje ponad granicą?
Operacje wskazanych klas wymagają decyzji człowieka przed wykonaniem. W przykładowym paszporcie zatwierdzenia wymagają operacje powyżej strefy B.
- Paszport agenta
- Widok w aplikacji AiTrust z kartą cyfrowego pracownika AI, który działa jako agent. Karta zawiera nazwę, typ aktora, daty wystawienia i wygaśnięcia, właściciela, limity oraz uprawnienia.
- Grant narzędziowy
- Uprawnienie cyfrowego pracownika AI do korzystania z konkretnego narzędzia. W pokazanym przykładzie żadne narzędzie nie zostało przyznane.
- Zawieszenie i odwołanie
- Zawieszenie to wstrzymanie paszportu, np. na czas wyjaśnienia nieprawidłowości. Odwołanie to jego unieważnienie.
- Zgoda a zatwierdzenie treści
- Zgoda na wykonanie działania i zatwierdzenie treści konkretnej wersji dokumentu mają różny zakres. W procesie trzeba ustalić, gdzie wymagana jest która decyzja.
Decyzja człowieka występuje też w zwykłej rozmowie: w nagranym przebiegu reklamacji to użytkownik decyduje, czy wysłać do modelu wersję ograniczoną (zob. Granice działania w przebiegu).
Warunki, przejścia i decyzje
Schemat kontrolowanego przebiegu
- Krok 1: DopuszczenieOrganizacja wystawia paszport: właściciel, okres ważności, maksymalna strefa i limity.
- Krok 2: Praca w granicachCyfrowy pracownik AI wykonuje operacje mieszczące się w paszporcie agenta w ramach przyznanych limitów.
- Krok 3: WarunekOperacja powyżej wskazanej strefy albo ze wskazanej klasy czeka na zatwierdzenie.
- Krok 4: Decyzja człowiekaUprawniona osoba zatwierdza albo odrzuca operację i odpowiada za tę decyzję.
- Krok 5: Zawieszenie lub odwołaniePrzy nieprawidłowościach paszport można zawiesić lub odwołać.
Paszport cyfrowego pracownika AI
W aplikacji AiTrust ten widok nazywa się „Paszport agenta”. Zrzut to osobny przykład konfiguracji na danych syntetycznych, niezwiązany z nagranym przebiegiem reklamacji.
„Contract Analysis Agent”
To paszport cyfrowego pracownika AI, który w aplikacji działa jako agent „Contract Analysis Agent”. Widać typ aktora (ai_agent), daty wystawienia i wygaśnięcia, maksymalną strefę B, wymóg zatwierdzenia powyżej strefy B, limity operacji na godzinę i kosztu na dzień oraz przyciski „Zawieś paszport” i „Odwołaj paszport”.
Wartości limitów są przykładowe. Pole „Właściciel (human)” jest w tym przykładzie puste. Przy wdrożeniu warto je uzupełnić, bo bez wskazanej osoby trudno ustalić odpowiedzialność za cyfrowego pracownika AI.
Co pokazują zrzuty
- Pola paszportu i dostępne akcje w tym przykładzie konfiguracji.
Czego zrzuty nie dowodzą
- Zatwierdzania konkretnej operacji ani tego, kto ją zatwierdził.
- Egzekwowania limitów w trakcie pracy cyfrowego pracownika AI.
- Skutków zawieszenia lub odwołania w innych konfiguracjach.
Powiązane obszary
Ustalmy, kto decyduje o działaniach AI
Na prezentacji pokażemy paszport agenta, na podstawie którego działa cyfrowy pracownik AI. Omówimy też, które operacje w Twojej organizacji powinny wymagać zatwierdzenia przez człowieka.