En agent kan vælge næste trin og bruge værktøjer på baggrund af en opgave. Jo mere den må gøre, desto vigtigere bliver mandat, adgangsstyring og mulighed for at gribe ind.
Skeln mellem forslag og handling
En assistent, der foreslår et svar, er noget andet end en agent, der ændrer en ordre eller skriver til en kunde. Beskriv derfor både de tilladte handlinger og de handlinger, der altid kræver menneskelig godkendelse. Lad ikke teknisk mulighed blive til automatisk tilladelse.
Giv agenten et tydeligt mandat
- Afgræns hvilke systemer og data agenten må tilgå; brug mindst mulig adgang.
- Angiv hvilke værktøjer og handlinger der er tilladt i hver situation.
- Kræv godkendelse før irreversible eller eksternt synlige handlinger.
- Fastlæg grænser for antal forsøg, tid og omkostninger samt en sikker stopvej.
Test også når ting går galt
Et vellykket eksempel er ikke nok. Prøv manglende data, modstridende instruktioner, forældet indhold, afbrudte integrationer og uventede værktøjssvar. Kontroller, at agenten kan sige fra og sende sagen videre i stedet for at gætte.
Log relevante handlinger og beslutningspunkter, så fejl kan undersøges. Logning skal samtidig begrænses og håndteres med hensyn til personoplysninger og adgang.
Rul ud i trin
Lad først agenten observere eller foreslå handlinger, mens et menneske udfører dem. Gå kun videre til begrænset automatisk handling, hvis evalueringen viser, at rammerne fungerer. En ansvarlig ejer skal kunne ændre regler, tilbagekalde adgang og stoppe forløbet.
