Van losse AI-modellen naar deels zelfsturende beslissystemen: dat was de rode draad tijdens de financiële breakout van SAS Innovate on Tour, op 2 juni in Amsterdam. De kernvraag voor banken en verzekeraars verschuift daarmee van “hoe goed is mijn model?” naar “kan ik de beslissingen van dat systeem vertrouwen?”
Vlak na de lunch opent SAS Benelux risk lead Maurits Bakker de middag met een belofte die op sciencefiction lijkt: een balans die zichzelf continu bijstuurt.
Bakker, ruim twintig jaar actief in risicofuncties bij internationale banken en verzekeraars, begint bij Albert Einstein. “We kunnen onze problemen niet oplossen met dezelfde manier van denken waarmee we ze hebben veroorzaakt”, citeert hij. “Onthoud die naam”, zegt hij, “want die komt terug.”
De zelfsturende balans
Dan snijdt hij het onderwerp asset-liability management aan, volgens Bakker het kloppend hart van de bank: de dagelijkse puzzel van geld dat binnenkomt en uitgaat, waarbij rente, kapitaal en liquiditeit voortdurend in balans moeten zijn.
Hoe kwetsbaar dat systeem is, laat hij zien met een kettingreactie: de olieprijs stijgt, de inflatie loopt op, de rente gaat omhoog. Dat werkt door in hogere hypotheeklasten, wegvloeiend spaargeld en uiteindelijk een dalende rentemarge.
Dat is slechts één scenario, terwijl een bank er duizenden tegelijk zou willen doorrekenen. “Silicon Valley Bank verloor ruim $2 miljard in 36 uur”, memoreert hij. Banken kunnen zulke scenario’s wel doorrekenen, maar het duurt te lang. Bij één klant kostte één scenario drie weken.
Dan klinkt ineens weer de bekende stem door de zaalspeakers: AInstein. Of beter gezegd, Bakkers eigen AI-agent, die ’s nachts het werk doet waar een team normaal weken over zou doen. “Terwijl u sliep, heb ik miljoenen mogelijke balansposities herberekend”, klinkt het door de zaal.
De agent signaleert oplopende kredietspreads, voorspelt druk op de liquidity coverage ratio later die dag en draagt drie maatregelen aan die de weerbaarheid met zo’n 12% zouden verbeteren. Dan volgt de sleutelzin: “Menselijke goedkeuring vereist. Ik wacht op uw beslissing.”
De mens beslist
Volgens Bakker zit daar precies de rol van de mens: niet in het maken van de berekeningen, maar in het vellen van een oordeel en het bewaken van de governance. “Uw baan verdwijnt niet, hij wordt anders”, stelt hij de zaal gerust. Het bepalen van de risk appetite blijft mensenwerk; de agent adviseert, maar beslist niet.
Op de vraag uit de zaal of medewerkers straks niet klakkeloos het advies van de AI-agent zullen volgen, benadrukt Bakker dat vertrouwen verdiend moet worden. “Gebruik de agent als assistent”, zegt hij, “en vertrouw zijn advies pas nadat het grondig is gevalideerd op de eigen data.”
Bakker heeft nog een tip: “Begin klein, met één regulatorisch proces, bewijs daarin de meerwaarde gedurende één volledige cyclus en schaal pas daarna op.”
Waar het risico naartoe verhuist
“Ik heb helaas geen AI-Einstein bij me”, opent de volgende spreker, dr. Ian Brown, Global Head of AI & Data Science bij SAS.
Toch draait ook zijn betoog om die verschuiving. Decennialang ging AI in de financiële sector over het model: krediet, fraude, prijs. Het volgende tijdperk, aldus Brown, wordt niet bepaald door wie de meeste of beste modellen heeft, maar door wie die weet om te zetten in vertrouwde beslissingen en systemen.
Hij schetst een keten van vijf schakels: van een geïsoleerd model naar een beslissing, die deel wordt van een workflow, die bij autonome agents wordt ondergebracht, die samen het grotere systeem vormen. Daar ontstaat geïndustrialiseerde besluitvorming, en daar verhuist het risico.
“Het grootste risico zit niet langer in het model zelf, maar in het systeem eromheen”, stelt Brown. De oude vraag was of een model accuraat was, de nieuwe is wat deze systemen mógen doen.
Zijn bestemming vat Brown samen als “industrialised trust”. Organisaties die opschalen zonder governance belanden in de gevaarlijkste hoek: autonomie zonder verantwoording. “Dat is de categorie met het hoogste risico; daar leeft reputatieschade”, waarschuwt hij.
En het stopt niet na de bouw. Bij systemen die zich blijven aanpassen verschuift de vraag van “is het model accuraat?” naar “gedraagt het zich nog?” Zijn slot laat hij als opdracht achter: “Over een paar jaar zullen stakeholders niet vragen hoeveel AI-modellen je hebt uitgerold. Ze zullen vragen: kun je de beslissingen die die systemen namen, vertrouwen?”
AI als wapen, maar ook als schild
Waar Bakker en Brown de theorie schetsen, brengen Patrick Özer, partner bij KPMG Advisory, en Frederic Hennequin, Head of AI for Risk, Fraud & Compliance bij SAS, die naar de praktijk van fraudebestrijding. Fraude neemt al jaren toe, terwijl AI de wapenwedloop aan beide kanten versnelt.
Özer vertelt over FraudGPT, een taalmodel zonder ethische grenzen dat duizenden overtuigende phishingmails genereert en verrijkt met buitgemaakte data van het dark web. Hennequin vult aan: deepfake-CEO’s die telefonisch om een overboeking van €2 miljoen vragen, en beleggingsscams met AI-vervalste beroemdheden.
Hennequin citeert oud-bankier Mark Thundercliffe, voormalig risicobestuurder bij onder meer Citibank en HSBC: “Fraudeurs hoeven niet meer slim te zijn. Ze hebben alleen een draaiboek en toegang tot GenAI nodig.”
De verdediging loopt achter. Uit het benchmarkonderzoek dat SAS dit voorjaar met anti-fraude-organisatie ACFE publiceerde, voelt slechts 7% zich meer dan matig voorbereid op AI-gedreven fraude. Daarnaast automatiseert 71% niet eens routinematige fraudetaken.
Achterblijvende controles
Bovendien verslijten controles, precies het thema van hun sessie. Dat gaat zelden abrupt, legt Özer uit, maar geleidelijk, over maanden tot jaren. De vroege signalen zijn subtiel: veranderende false-positiveratio’s per scenario, ‘data drift’ waarbij het gedrag in de transactiedata verschuift zoals tijdens corona, en onderzoekers die mogelijke nieuwe fraude ontdekken in wat het systeem identificeerde vanuit een heel ander risicoscenario.
Een van de gevaarlijkste bevindingen is volgens Özer de datagaten in de keten. Komt bijvoorbeeld een gewijzigde transactiecode niet goed door van bron- naar doelsysteem, dan blijven transacties langdurig buiten beeld, met terugkijkoperaties en toezichtrisico’s tot gevolg.
Het antwoord hierop is continue validatie. Özer beschrijft de Fraud Challenger die KPMG en SAS samen ontwikkelen: een onafhankelijk ‘challenger’-model dat, draaiend op een verplaatsbare server binnen de infrastructuur van de klant, de fraudeanalyses van een bank toetst aan onafhankelijke analyses van SAS en KPMG.
Het combineert SAS-technologie met KPMG-domeinkennis en maakt de prestaties van bestaande controles inzichtelijk, met benchmarks en concrete verbeterpunten. De oplossing is nog in ontwikkeling. Een wondermiddel bestaat niet: rule-based, supervised en unsupervised modellen en generatieve AI hebben elk hun eigen sterke punten en blinde vlekken, en vullen elkaar juist aan.
Kloof tussen intentie en actie
Daarmee keert het verhaal terug naar Browns vertrouwensvraag. Uit hetzelfde ACFE-onderzoek noemt 75% bias en oneerlijkheid van modellen een belangrijk punt, maar test slechts 18% daar daadwerkelijk op. Die kloof komt volgens Hennequin voort uit de complexiteit van governance met versnipperde, zelfgebouwde tooling.
“Governance moet vanaf het ontwerp zijn ingebouwd, niet als bijzaak achteraf”, luidt zijn stelregel. “Elke beslissing moet traceerbaar en uitlegbaar zijn, en modellen doorlopend gemonitord op prestaties, bias en drift.”
Ook aan de fraudekant heeft SAS een eigen agent, die Hennequin met een knipoog Maya doopte, naar de vlijtige bij. Anders dan de naam suggereert is Maya geen product maar een demo: een ‘fraud rule suggestion agent’ die toont wat op het SAS Viya-platform mogelijk is. Ze onderzoekt opkomende fraudevormen, stelt detectieregels op, legt uit waarom en levert zelfs de code, alles onder menselijk toezicht.
Net als Bakkers AI-agent doet Maya een voorstel, maar beslist vervolgens de mens. Hennequin noemt dat “gecontroleerde autonomie”: agents die binnen strikte kaders opereren.
Vertrouwen in besluitvorming
Het is, zo kwam uit de drie sessies naar voren, geen kwestie van meer of slimmere modellen. “Detecteren is het probleem niet”, zei Hennequin. “Ik zou alle transacties kunnen markeren en 100% van de fraude vangen, maar dan zouden mijn teams de hele dag bezig zijn met het wegklikken van valse alarmen.”
De echte uitdaging is dan ook vooral de sprong van geïsoleerde modellen naar bestuurde beslissystemen, waarin elke keuze te herleiden, uit te leggen en te controleren valt. Oftewel: niet het aantal modellen bepaalt wie AI naar productie brengt, maar het vertrouwen in de beslissingen die die systemen nemen.