När AI blir en aktör i arbetsflödet

Från råd till handling

Ett system som formulerar ett utkast har annat handlingsutrymme än ett som kan ändra en order, skicka ett kundbesked eller boka en betalning. Möjligheten är att koppla samman analys och utförande så att processer blir snabbare och mer sammanhängande. Samma koppling gör att ett fel kan få omedelbar effekt. Beskriv därför konkret vad AI får läsa, vilka verktyg den får anropa, vilka beslut den får förbereda och vilka handlingar den får slutföra. ”Mänsklig kontroll” säger för lite om personen saknar tid, information eller verklig möjlighet att stoppa handlingen.

Gör en handling konkret

Anta att en agent föreslår och kan genomföra en kundkreditering eller en betalning. Om människan får fem sekunder, ser bara AI:s sammanfattning och inte underlaget, och godkännandet sker efter att nästa system redan har agerat är kontrollen i praktiken svag. Mät därför kontrollen i tid, information och faktisk möjlighet att stoppa eller ändra utfallet.

Kontrollpunkter ska påverka utfallet

En människa som godkänner hundratals förslag med ett klick kan bli en skenbar kontroll. En fungerande kontroll visar osäkerhet och underlag, är placerad före en irreversibel handling och ger möjlighet att ändra eller avbryta. För vissa lågkonsekvensfall kan automatisering vara rimligare än meningslös bekräftelse. Kontroll kan också ligga i systemdesignen: begränsade funktioner, beloppsgränser, separata godkännanden i målsystemet, test mot regler, loggning och stoppfunktion. Viktiga behörighetsbeslut bör verkställas nedströms och inte lämnas åt språkmodellens egen bedömning.

Ansvar genom hela kedjan

Verksamheten ansvarar för syfte och resultat, teknikfunktioner för byggdelar och drift, och utsedda roller för de beslut de faktiskt har mandat att fatta. En leverantör kan ha egna skyldigheter, men organisationen behöver fortfarande förstå sin användning och hur den påverkar människor och verksamhet.