Hur får en AI-lösning rätt nivå av prövning?

Pröva användningen – inte ordet AI

Ett bättre gemensamt objekt än en allmän ”AI-risk” är användningsfallet: syfte, berörda personer, data, beslut, handlingsutrymme, leverantörer och möjliga konsekvenser. Då blir det också tydligare vilka funktioner som faktiskt behöver delta. Ett enkelt internt stöd med okänslig information behöver inte samma process som ett system som bedömer arbetssökande eller kan ändra en kundorder. Regler och sektorskrav kan samtidigt sätta absoluta krav som den interna skalan inte får sätta åt sidan.

Två användningar – två helt olika prövningar

Ett internt stöd som sammanfattar okänsliga mötesanteckningar kan rymmas inom ett förhandsbeslutat normalfall. En lösning som bedömer arbetssökande, använder känsliga personuppgifter, ändrar kundorder eller agerar självständigt behöver en annan nivå av prövning. Skillnaden ligger i användningen och konsekvensen – inte i att båda råkar använda AI.

Normalfall, triggerpunkter och fördjupning

Förhandsbeslutade normalfall kan hanteras inom tydliga ramar. När personbedömning, känsliga data, integration, autonom handling eller stor verksamhetskonsekvens passerar en triggerpunkt behövs rätt specialistkompetens. Endast de mest betydande fallen ska behöva en tung gemensam prövning. Detta kräver också kapacitet. Om säkerhet och juridik förväntas granska hundratals initiativ från grunden skapas en kö som verksamheten lär sig att kringgå. Återanvändbar vägledning och gemensamma byggblock är en del av lösningen.

Beslutet behöver ha ett bäst-före-datum

Dokumentera vad som bedömdes, vilka antaganden som gällde, vem som ansvarar och vilka förändringar som ska utlösa en ny prövning. Koppla detta till förteckningen över aktiva AI-lösningar så att gamla ställningstaganden inte följer med en helt förändrad användning.