Fair algorithms
Financiële instellingen maken steeds meer gebruik van algoritmen en modellen om hun processen efficiënter te maken en de dienstverlening te personaliseren. Denk bijvoorbeeld aan de inzet van een algoritme dat beslist of een krediet verstrekt wordt aan een klant. De beschikbaarheid van goedkope data storage, en daarmee de zogenaamde “big data” en toegenomen rekenkracht maakt het ook haalbaar om zeer fijnmazige “risicoprofielen” op te stellen via machine & statistical learning technieken.

Bij het gebruik van dergelijke technieken ligt ook onbedoelde discriminatie op de loer. Tot ca. 10 jaar terug werd vaak gedacht dat de inzet van algoritmen zou leiden tot minder discriminatie, omdat technologie waarden-neutraal is. Inmiddels is duidelijk geworden, zie bijv. het boek weapons of math destruction of het rapport grondrechten & algoritmen, dat de automatiseringsslag ook onbedoelde zij-effecten kan hebben. De vraag rijst hoe we algoritmen kunnen “opvoeden”.

Opdracht:

• In kaart brengen van verschillende definities van “fairness” van een algoritme. Reflectie op de bruikbaarheid van deze definities voor een selectie van concrete algoritmen/toepassingen (binnen de Volksbank).
• Onderzoeken welke methoden beschikbaar zijn om de “fairness” van een algoritme te toetsen en deze toepassen op een Volksbank algoritme (o.b.v. gesimuleerde data / echte data).
• Reviewen van de beschikbare methoden om een “fair” algoritme te ontwikkelen (“fairness by design”) en een algoritme van dVB aanpassen zodanig dat deze fair is. Hierbij moeten de kosten van fairness, in termen van een vermindering van ‘performance’, ook in kaart gebracht worden.

• Binns, R. (2018). Fairness in Machine Learning: lessons from political philosophy. In: Proceedingsof Machine Learning Research 81, Conference on Fairness, Accountability, and Transparency.
• Boyd, D. and K. Crawford (2012). Critical questions for big data. Information, Communication & Society 15(5), pp.662-679.
• Caliskan, A., Bryson, J. J., en Narayanan, A. (2017). Semantics derived automatically from language corpora contain human-like biases. Science 356 (6334), pp.183-186.
• Dwork, C.,M. Hardty, T. Pitassiz, O. Reingoldx, and R. Zemel (2011). Fairness through awareness. ITCS `12 Proceedings of the 3rd Innovations in Theoretical Computer Science Conference.
• Kusner, M.J., J. Loftus, C. Russell, and R. Silva (2017). Counterfactual fairness. In: Advances in neural information processing systems 30 (NIPS).’
• Zemel, R., Y.L. Wu, K. Swersky, and T. Pitassi (2013). Learning fair representations. Proceeding of the 30th Internation Conference of Machine Learning.

Wij vragen

• Je volgt een wo-opleiding in de richting van econometrie / mathematische statistiek / machine learning

Wat krijg je van ons?
De Volksbank is anders dan anderen. We zijn een informele organisatie. We kiezen voor een goede balans tussen werk en vrije tijd (zoals Het Nieuwe Werken). Eigen verantwoordelijkheid staat bij ons hoog in het vaandel. Er is volop gelegenheid om te leren en jezelf te ontwikkelen. Verder krijg je een aantrekkelijke stagevergoeding en het allerbelangrijkste: een onwijs uitdagende stageplek!

de Volksbank
De Volksbank gaat met de merken ASN Bank, BLG Wonen, RegioBank en SNS de uitdaging aan om de menselijke maat in bankieren terug te brengen. Samen willen wij het huidige bankenlandschap in Nederland opnieuw vormgeven en oprecht de belangen van onze klanten voorop zetten door verantwoorde keuzes te maken in onze bedrijfsvoering. Met zo’n 3.000 collega’s zijn we vol vertrouwen en optimisme bezig om deze ambitie te verwezenlijken. Heb jij het lef om mee te werken aan een omslag in de bankenwereld? Kom meebouwen aan onze nieuwe bank èn maak het verschil voor onze klanten.

Solliciteren?
Wil je solliciteren naar deze stage? Klik op de sollicitatiebutton en reageer op deze vacature. Laat je motivatie en cv achter en we nemen zo snel mogelijk contact met je op.