Wróć
Przykład kontroli

Odpowiedzialność za decyzje

Za skutki działań AI odpowiadają organizacja i wskazani w niej ludzie, nie model. Kontrola polega na tym, by przy cyfrowym pracowniku AI było zapisane, kto za niego odpowiada, w jakich granicach działa i kto zatwierdza operacje wykraczające poza te granice.

Miejsca przepływu, których dotyczy ten przykładZobacz cały przepływ
  1. Intencja
  2. Kontrola wejścia
  3. Autoryzacjazatwierdza operację
  4. AI
  5. Walidacja wyniku
  6. Człowiekakceptuje wynik
  7. Dowód

Podświetlone: miejsca przepływu, których dotyczy ten opis. Pomarańczowy znacznik: decyzja człowieka w tym miejscu.

Wyjaśnienie

Trzy pytania o odpowiedzialność

Zanim cyfrowy pracownik AI zacznie pracę w procesie, organizacja odpowiada na trzy pytania. W aplikacji AiTrust cyfrowy pracownik AI działa jako agent, a odpowiedzi zapisuje się w paszporcie agenta.

  • Kto odpowiada za cyfrowego pracownika AI?

    Właściciel to osoba, która dopuszcza cyfrowego pracownika AI do pracy i odpowiada za jego konfigurację. W aplikacji AiTrust służy do tego pole „Właściciel (human)” w paszporcie agenta.

  • Co cyfrowy pracownik AI może zrobić sam?

    Granice działania to maksymalna strefa ryzyka, limit operacji w czasie, limit kosztu i przyznane narzędzia. Operacje mieszczące się w tych granicach nie wymagają dodatkowej zgody, o ile organizacja nie ustali inaczej.

  • Kto decyduje ponad granicą?

    Operacje wskazanych klas wymagają decyzji człowieka przed wykonaniem. W przykładowym paszporcie zatwierdzenia wymagają operacje powyżej strefy B.

Paszport agenta
Widok w aplikacji AiTrust z kartą cyfrowego pracownika AI, który działa jako agent. Karta zawiera nazwę, typ aktora, daty wystawienia i wygaśnięcia, właściciela, limity oraz uprawnienia.
Grant narzędziowy
Uprawnienie cyfrowego pracownika AI do korzystania z konkretnego narzędzia. W pokazanym przykładzie żadne narzędzie nie zostało przyznane.
Zawieszenie i odwołanie
Zawieszenie to wstrzymanie paszportu, np. na czas wyjaśnienia nieprawidłowości. Odwołanie to jego unieważnienie.
Zgoda a zatwierdzenie treści
Zgoda na wykonanie działania i zatwierdzenie treści konkretnej wersji dokumentu mają różny zakres. W procesie trzeba ustalić, gdzie wymagana jest która decyzja.

Decyzja człowieka występuje też w zwykłej rozmowie: w nagranym przebiegu reklamacji to użytkownik decyduje, czy wysłać do modelu wersję ograniczoną (zob. Granice działania w przebiegu).

Schemat

Warunki, przejścia i decyzje

Schemat kontrolowanego przebiegu

  1. Krok 1: DopuszczenieOrganizacja wystawia paszport: właściciel, okres ważności, maksymalna strefa i limity.
  2. Krok 2: Praca w granicachCyfrowy pracownik AI wykonuje operacje mieszczące się w paszporcie agenta w ramach przyznanych limitów.
  3. Krok 3: WarunekOperacja powyżej wskazanej strefy albo ze wskazanej klasy czeka na zatwierdzenie.
  4. Krok 4: Decyzja człowiekaUprawniona osoba zatwierdza albo odrzuca operację i odpowiada za tę decyzję.
  5. Krok 5: Zawieszenie lub odwołaniePrzy nieprawidłowościach paszport można zawiesić lub odwołać.
Schemat poglądowy przejść i decyzji związanych z odpowiedzialnością za cyfrowego pracownika AI, a nie widok działającego systemu.
Osobny przykład

Paszport cyfrowego pracownika AI

W aplikacji AiTrust ten widok nazywa się „Paszport agenta”. Zrzut to osobny przykład konfiguracji na danych syntetycznych, niezwiązany z nagranym przebiegiem reklamacji.

Osobny przykład

„Contract Analysis Agent”

To paszport cyfrowego pracownika AI, który w aplikacji działa jako agent „Contract Analysis Agent”. Widać typ aktora (ai_agent), daty wystawienia i wygaśnięcia, maksymalną strefę B, wymóg zatwierdzenia powyżej strefy B, limity operacji na godzinę i kosztu na dzień oraz przyciski „Zawieś paszport” i „Odwołaj paszport”.

Wartości limitów są przykładowe. Pole „Właściciel (human)” jest w tym przykładzie puste. Przy wdrożeniu warto je uzupełnić, bo bez wskazanej osoby trudno ustalić odpowiedzialność za cyfrowego pracownika AI.

Osobny przykład konfiguracji: paszport agenta ze strefą maksymalną B, zatwierdzaniem powyżej B, zawieszeniem i odwołaniem (dane syntetyczne).

Osobny przykład konfiguracji: paszport agenta ze strefą maksymalną B, zatwierdzaniem powyżej B, zawieszeniem i odwołaniem (dane syntetyczne).

Widok „Paszport agenta” z ustawieniami cyfrowego pracownika AI, który w aplikacji AiTrust działa jako agent „Contract Analysis Agent”. Widać typ aktora ai_agent, daty wystawienia i wygaśnięcia, maksymalną strefę B i wymóg zatwierdzenia powyżej strefy B. Są też limity operacji na godzinę i kosztu na dzień oraz przyciski Zawieś paszport i Odwołaj paszport.

Co pokazują zrzuty

  • Pola paszportu i dostępne akcje w tym przykładzie konfiguracji.

Czego zrzuty nie dowodzą

  • Zatwierdzania konkretnej operacji ani tego, kto ją zatwierdził.
  • Egzekwowania limitów w trakcie pracy cyfrowego pracownika AI.
  • Skutków zawieszenia lub odwołania w innych konfiguracjach.

Ustalmy, kto decyduje o działaniach AI

Na prezentacji pokażemy paszport agenta, na podstawie którego działa cyfrowy pracownik AI. Omówimy też, które operacje w Twojej organizacji powinny wymagać zatwierdzenia przez człowieka.

Umów prezentację AiTrust

Zostaw kontakt. Ustalimy zakres prezentacji i pokażemy, jak AiTrust może wspierać procesy Twojej organizacji.

Administratorem danych podanych w formularzu jest Polski Instytut AI Sp. z o.o. Dane wykorzystamy, aby odpowiedzieć na zgłoszenie i uzgodnić prezentację. Więcej informacji, w tym o Twoich prawach, znajdziesz w dokumentach Klauzula informacyjna RODO i Polityka prywatności.

* pole wymagane

Chcesz podać firmę, telefon albo opis zadania? Otwórz pełny formularz