Durf je te vertrouwen op een logische AI-verklaring?

Taalmodellen zijn goed in het geven van plausibele verklaringen, en juist dat is voor finance een risico. De Kok adviseert CFO’s eerst vast te stellen wat AI precies heeft gedaan. Draaide het een voorspellingsmodel, schreef het tekst bij een bestaande analyse, of haalde het zelf data op en paste het aannames aan? Hij geeft een voorbeeld. AI screent maandelijks 10.000 journaalposten en markeert er 75 voor controle. De controller beoordeelt alleen die 75. De overige 9.925 bekijkt niemand, dus fouten die AI ten onrechte goedkeurt, blijven onopgemerkt.

Het risico is dat menselijk toezicht een formaliteit wordt. Na veel foutloze resultaten wordt de beoordelaar minder kritisch en verschuift de controle ongemerkt naar het systeem. De Kok adviseert daarom ook steekproeven te nemen uit posten die AI niet markeert, veranderingen in de selectie van AI te volgen en vast te leggen wanneer medewerkers AI-beslissingen overrulen. De verantwoordelijkheid blijft immers bij het management. Hoe meer AI doet, hoe belangrijker het daarmee wordt om niet alleen te weten wat het systeem doet, maar vooral wat de mens nog controleert.

Dit is een samenvatting van het volledige artikel op de site van CFO.nl.