Kunstmatige intelligentie (AI) heeft de afgelopen jaren een revolutie teweeggebracht op veel gebieden, waaronder de banksector. Er zijn zowel positieve als negatieve aspecten aan de implementatie ervan geweest, met name de kwestie van algoritmische discriminatie bij kredietverlening.

In Canada en breder over de hele wereld heeft de implementatie van AI binnen grote banken geleid tot een hogere productiviteit en een grotere personalisatie van diensten.

Volgens de IEEE Global Survey zal de adoptie van op AI gebaseerde oplossingen naar verwachting tegen 2025 wereldwijd verdubbelen en 80 procent van de financiële instellingen bereiken.

Sommige banken zijn geavanceerder, zoals BMO Financial Group, die specifieke posities heeft gecreëerd om toezicht te houden op de integratie van AI in zijn digitale diensten om concurrerend te blijven. Als gevolg hiervan zouden de winsten van de mondiale banksector dankzij AI in 2028 de $2 biljoen kunnen overschrijden, wat neerkomt op een groei van bijna negen procent tussen 2024 en 2028.

Als hoogleraar kennis- en innovatiemanagement aan de Laval Universiteit en wetenschapscommunicator werd ik bij het schrijven van deze analyse bijgestaan door Kandet Oumar Bah, auteur van een onderzoeksproject over algoritmische discriminatie, en Aziza Halilem, een expert in bestuur en cyberrisico bij de Franse Prudential Supervision and Resolution Authority.

Hoe verbetert AI de prestaties van banken?

De integratie van AI in de banksector heeft de financiële processen al aanzienlijk geoptimaliseerd, met een winst van 25 tot 40 procent in operationele efficiëntie. Gecombineerd met de groeiende mogelijkheden van big data – bijvoorbeeld de enorme verzameling gegevens – biedt AI krachtige analyses die de foutmarges van financiële systemen al met 18 tot 30 procent kunnen verkleinen.

Het maakt het ook mogelijk om miljoenen transacties in realtime te monitoren, verdacht gedrag te detecteren en zelfs preventief bepaalde frauduleuze transacties te blokkeren. Dit is een van de toepassingen die J.P. Morgan implementeert.

Bovendien helpen platforms zoals FICO, die gespecialiseerd zijn in op AI gebaseerde besluitvormingsanalyses, financiële instellingen om een verscheidenheid aan klantgegevens te benutten en hun kredietbeslissingen te verfijnen via geavanceerde voorspellende modellen.

Verschillende banken over de hele wereld vertrouwen nu op geautomatiseerde ratingalgoritmen die binnen enkele seconden talloze parameters kunnen analyseren, waaronder inkomsten, kredietgeschiedenis en schuldratio's. Op de kredietmarkt verbeteren deze tools de verwerking van aanvragen aanzienlijk, vooral voor “standaard” gevallen, zoals die met expliciete leninggaranties.

Maar hoe zit het met de andere gevallen?

Onrecht formaliseren?

Zoals de Amerikaanse onderzoekers Tambari Nuka en Amos Ogunola benadrukken, vormt de illusie dat algoritmen eerlijke en objectieve voorspellingen produceren een groot risico voor de banksector.

Als ze de wetenschappelijke literatuur doornemen, waarschuwen ze voor de verleiding om de beoordeling van complex menselijk gedrag blindelings te delegeren aan geautomatiseerde systemen. Verschillende centrale banken, waaronder die van Canada, hebben hier ook sterke bedenkingen bij geuit en waarschuwen voor de operationele risico's die gepaard gaan met een te grote afhankelijkheid van AI, met name bij het beoordelen van de kredietwaardigheid en solvabiliteit.

Hoewel algoritmen technisch gezien neutraal zijn, kunnen ze bestaande ongelijkheden vergroten wanneer trainingsgegevens zijn aangetast door historische vooroordelen, met name die welke zijn geërfd van systemische discriminatie van bepaalde groepen. Deze vooroordelen zijn niet alleen het gevolg van expliciete variabelen zoals geslacht of etnische afkomst, maar ook van indirecte correlaties met factoren zoals woonplaats of soort werk.

Ratingsystemen kunnen bijvoorbeeld lagere kredietlimieten aan vrouwen toekennen, zelfs in situaties waarin zij financieel gelijkwaardig zijn aan mannen. Het analyseren van variabelen zoals postcodes en arbeidsverleden kan ook leiden tot de uitsluiting van leden van gemarginaliseerde groepen, zoals raciale individuen, werknemers met onregelmatige inkomens en recente immigranten.

Virginia Eubanks, een professor in de Verenigde Staten en expert op het gebied van sociale rechtvaardigheid, illustreert dit fenomeen goed en laat zien hoe mensen die in historisch achtergestelde buurten wonen of een atypisch carrièrepad hebben, worden gestraft door geautomatiseerde financiële beslissingen op basis van bevooroordeelde gegevens.

Dit roept een cruciale vraag op:hoe kunnen we ervoor zorgen dat de automatisering van financiële beslissingen de ongelijkheid in de toegang tot bankdiensten helpt verkleinen?

Het beperken van fouten door inclusieve financiering

In de wetenschappelijke literatuur worden verschillende mogelijkheden onderzocht als reactie op deze risico's van discriminatie. Nuka en Ogunola stellen bijvoorbeeld een financiële inclusieaanpak voor. Dit omvat het voortdurend verbeteren van statistische modellen door het identificeren en corrigeren van vooroordelen in trainingsgegevens om zo de ongelijkheid in behandeling tussen sociale groepen te verkleinen.

Naast technische oplossingen zijn er onlangs regelgevende kaders ingevoerd om de transparantie en eerlijkheid van algoritmen in gevoelige sectoren zoals de financiële sector te garanderen. De Canadese Artificial Intelligence and Data Act en de Europese EU Artificial Intelligence Act zijn hiervan voorbeelden. Dit laatste, aangenomen in 2024 en geleidelijk geïmplementeerd, stelt strenge eisen aan AI-systemen met een hoog risico, zoals die welke worden gebruikt voor het verstrekken van krediet.

Artikel 13 bevat transparantievereisten om ervoor te zorgen dat systemen controleerbaar zijn en dat hun besluiten door alle belanghebbenden kunnen worden begrepen. Het doel is om algoritmische discriminatie te voorkomen en ethisch en eerlijk gebruik te garanderen. Financiële toezichthouders hebben ook een cruciale rol te spelen bij het waarborgen van de naleving van eerlijke concurrentieregels en het garanderen van prudente en transparante praktijken in het belang van financiële stabiliteit en klantenbescherming.

De druk van bepaalde technologie- en financiële lobby's om de invoering van strikte normen te vertragen, brengt echter een aanzienlijk risico met zich mee:het gebrek aan regelgeving in sommige landen en moeilijkheden bij de handhaving in andere kunnen de ondoorzichtigheid in de hand werken, ten koste van de meest kwetsbare burgers.