Bij AI verschuift integriteitsrisico naar het systeem

Aanleiding is de Week of Integrity, die dit jaar leiderschap in het digitale tijdperk centraal stelt. Blom wijst erop dat een mens formeel vaak nog beslist, maar dat technologie al heeft bepaald wat hij te zien krijgt. Denk aan een medewerker die alleen de dossiers ziet die een model als afwijkend markeert. De vraag is dan niet alleen of iemand integer handelt, maar of het systeem zo is ingericht dat dat nog kan. Een algoritme heeft immers geen geweten en kiest niet zelf welke waarde voorgaat als waarden botsen.

Daar ligt volgens Blom de opdracht voor risicomanagers en compliance officers. Een apart AI-raamwerk is niet per se nodig. Met bestaande instrumenten kunnen zij in kaart brengen welke beslissingen AI beïnvloedt en wat er gebeurt als de uitkomst niet klopt. Menselijke tussenkomst moet daarbij echt iets voorstellen, met tijd, informatie en mandaat om af te wijken; juist die afwijkingen zijn waardevolle risicosignalen. Ook horen botsende waarden, zoals fraudepreventie tegenover gelijke behandeling, thuis in de SIRA en de risicobereidheid. Menselijk oordeel wordt daarmee niet minder, maar juist belangrijker.

Dit is een samenvatting van het volledige artikel op de site van Riskworld.