AI-bias kan beleggingsbeslissingen ongemerkt sturen

De onderzoekers onderscheiden impliciete bias, afkomstig uit trainingsdata en modelarchitectuur, en expliciete bias die ontstaat wanneer een AI-model bijvoorbeeld zelf informatiebronnen of hulpmiddelen selecteert. Daar komt menselijke bias bovenop: de gegevens die een belegger aanbiedt en de manier waarop een prompt wordt geformuleerd, beïnvloeden eveneens de uitkomst. In experimenten kregen verschillende AI-modellen daarom inhoudelijk identieke beleggingssituaties voorgelegd, maar afwisselend positief en negatief geformuleerd. Vooral bij drawdowns, klantbehoud en kredietverliezen bleken de beoordelingen gevoelig voor deze framing.  

Bias volledig uitsluiten is volgens CFA Institute niet realistisch. Wel kunnen vermogensbeheerders het risico beheersbaarder maken met gestructureerde prompts, vergelijkende tests, verschillende AI-modellen en speciale AI-guardrails die mogelijke vooringenomenheid signaleren. Opvallend is dat simpelweg tegen een model zeggen dat het rekening moet houden met bias nauwelijks hielp; het handmatig herformuleren van prompts door mensen werkte het beste.  Menselijk toezicht blijft daarmee essentieel: verantwoord gebruik van AI bij beleggen vraagt niet alleen om betere modellen, maar vooral om controle van de complete samenwerking tussen mens en machine.

Dit is een samenvatting van het volledige artikel op site CFA Institute.