Meerderheid finance professionals kan AI-beslissing niet verantwoorden aan auditor
Meer dan de helft van de finance professionals kan niet volledig uitleggen waarom AI tot een bepaalde beslissing kwam. Onder financieel directeuren ligt dat aandeel nog hoger. Dat blijkt uit de negende FinTech Barometer van creditmanagementspecialist Onguard, onder ruim 300 finance professionals.
Bijna de helft van de finance professionals (45%) zet AI in bij het werk. Daarmee ligt ook de vraag op tafel wat er gebeurt als een auditor of toezichthouder om onderbouwing vraagt. Die vraag wordt urgenter: kredietbeoordeling door AI valt vanaf december 2027 onder de hoogrisico-eisen van de Europese AI-verordening (EU AI Act), met strenge regels rond menselijk toezicht, logging en uitlegbaarheid.
Uitleggen lukt vooral achteraf
Uitgerekend bij de mensen die verantwoording moeten afleggen is de uitlegbaarheid het zwakst: circa drie kwart van de financieel directeuren (CFO’s) kan een AI-beslissing niet volledig herleiden als een auditor daar vandaag naar vraagt (74%). Van alle AI-gebruikers zegt slechts 18% een beslissing over kredietverlening of inning volledig te kunnen onderbouwen richting board, auditor of toezichthouder.
Ruim de helft (52%) kan zo’n beslissing pas met een toelichting achteraf hard maken. Bij 21% is alleen de uitkomst duidelijk en ontbreekt de onderbouwing, en 9% noemt een beslissing nauwelijks of niet uitlegbaar. De uitleg komt er dus vaak wel, maar meestal pas nadat de beslissing al is genomen.
Sneller, maar niet beter onder controle
Dat AI het werk versnelt staat nauwelijks ter discussie; de vraag is wat er met de controle gebeurt. Eén op de vijf (20%) ziet processen sneller gaan én de controle verbeteren. Bij de grootste groep (41%) gaat het werk sneller terwijl de controle op hetzelfde niveau blijft.
Bij bijna een derde (29%) neemt de controle juist af. De snelheidswinst is er dus wel, maar die vertaalt zich zelden in meer grip. Vaker gaat dat ten koste van de controle.
Meekijken is geen vaste stap
Of die grip er is, hangt in de praktijk af van de vraag of er nog een mens meekijkt. Bij 31% is menselijke controle standaard ingebouwd; bij 49% gebeurt dat vaak, maar niet in alle gevallen. Zeven op de tien professionals zien dat AI-beslissingen regelmatig of af en toe leiden tot correcties, uitzonderingen of handmatige beoordeling.
Het knelpunt zit vooral in beslissingen die nergens zijn vastgelegd, het grootste struikelblok dat professionals noemen (34%). Wat via e-mail of losse afspraken loopt, kan AI niet meewegen, en de mens moet opvangen wat het systeem niet ziet.
Grip begint bij een keuze
Bijna de helft (48%) erkent dat AI is ingezet om snelheid te winnen terwijl de onderliggende processen nog niet op orde waren; onder financieel directeuren loopt dat op tot 61%. De snelheid liep daarmee voor op het proces.
“AI is bij finance vooral binnengekomen als versneller, en dat werkt”, zegt Dennis Kromhout van der Meer (managing director bij Onguard). “Maar snelheid is pas winst als je achteraf kunt laten zien waarom een beslissing is genomen. Mijn advies: leg eerst vast welke beslissingen AI zelfstandig mag nemen en welke niet, en bouw de menselijke controle in als vaste stap in het proces, niet als uitzondering.”
