Kunstmatige intelligentie transformeert onze wereld en financiële diensten vormen daarop geen uitzondering. AI hervormt de persoonlijke banksector, maar waar staat deze momenteel op het gebied van gendergelijkheid, transparantie en eerlijkheid?

Wanneer iemand vandaag de dag een lening aanvraagt, groeit de kans dat geen mens ooit zijn aanvraag leest. Een datagestuurd algoritme beslist of ze in aanmerking komen, hoeveel ze kunnen lenen en hoe riskant ze worden geacht, vaak binnen enkele seconden en zonder uitleg, en geeft in stilte vorm aan financiële kansen op manieren die de meeste mensen in hun dagelijks leven nooit zien, maar wel voelen.

Deze systemen worden doorgaans gepresenteerd als neutrale instrumenten:sneller dan mensen, consistenter, minder vatbaar voor vooroordelen.

In een sector die al lang wordt bekritiseerd vanwege ondoorzichtigheid en vooringenomenheid, is deze belofte aantrekkelijk en wordt ze vaak weerspiegeld in industriële en beleidsdebatten. Maar die belofte berust op een kwetsbare veronderstelling, die zelden expliciet wordt gemaakt, dat de gegevens waaruit deze systemen leren, ieders leven in gelijke mate weerspiegelen.

In een recent rapport van het EU-Bureau voor de Grondrechten, gebaseerd op veldwerk in vijf lidstaten, werd onderzocht hoe AI-systemen met een hoog risico worden beheerd onder de EU AI Act op gebieden als werkgelegenheid, publieke uitkeringen en wetshandhaving. Er werd een opvallende kloof ontdekt tussen de juridische ambitie en de praktijk:hoewel de risico's van discriminatie algemeen worden erkend, ontberen aanbieders en exploitanten vaak de instrumenten, expertise en begeleiding om deze systematisch te beoordelen. Zelfbeoordelingen zijn doorgaans inconsistent en het toezicht blijft beperkt.

Dit is een belangrijke kwestie. Wanneer de gegevens die deze systemen voeden er niet in slagen de realiteit van het financiële leven van vrouwen met dezelfde diepgang en nauwkeurigheid weer te geven als dat van mannen, is het resultaat niet alleen een technische tekortkoming, maar ook een structurele vertekening, een verstoring die bepaalt wie toegang krijgt tot krediet, onder welke voorwaarden en met welke gevolgen op de lange termijn. Wil AI-gestuurde financiering eerlijk zijn, dan moeten vrouwen eerst ‘zichtbaar’ zijn in de gegevens waarop deze systemen vertrouwen.

Algoritmen beoordelen niet de eerlijkheid en vragen niet of een uitkomst zinvol is, maar schatten wat het meest waarschijnlijk juist zal zijn op basis van de gegevens die ze krijgen, waarbij ze patronen tekenen en deze naar voren projecteren. Wanneer gegevens onvolledig of vervormd zijn, berusten de conclusies van het systeem vanaf het begin op wankele aannames.

Als vrouwen ondervertegenwoordigd zijn, slecht worden gemeten of nooit afzonderlijk van mannen worden geanalyseerd, kan het systeem geen ongelijke uitkomsten zien, en wat het niet kan zien, kan het niet corrigeren. Vooringenomenheid wordt eenvoudigweg overgedragen en routine gemaakt.

Deze dynamiek is gemakkelijk over het hoofd te zien als de discussies op het niveau van modellen en regelgeving blijven, maar de effecten ervan worden duidelijk zodra geautomatiseerde systemen in de praktijk worden waargenomen. Uit onderzoek in verschillende landen blijkt hoe snel ongelijkheid kan worden ingebed in algoritmische beslissingen, niet omdat systemen zijn ontworpen om te discrimineren, maar omdat ze getrouw de vervormingen reproduceren die al aanwezig zijn in de gegevens waarvan ze leren.

Kenia biedt een treffend voorbeeld. Volgens gepubliceerde onderzoeken bood een veelgebruikt digitaal leenalgoritme vrouwen consequent kleinere leningen aan dan mannen, in sommige gevallen met meer dan een derde, ondanks betere terugbetalingsprestaties. Het systeem heeft niet opzettelijk vrouwen uitgekozen:het heeft eenvoudigweg geleerd van gegevens die zijn gevormd door langdurige sociale en economische verschillen, en heeft die patronen vervolgens op grote schaal toegepast.

Het gaat in dit voorbeeld niet om Kenia zelf, maar om wat de casus zichtbaar maakt. Het algoritme deed precies waarvoor het was ontworpen:leren van gedrag uit het verleden en die patronen consequent toepassen, maar zonder het vermogen om onderscheid te maken tussen de uitkomsten van vrouwen en mannen, was er geen manier om te detecteren dat ongelijkheid in realtime werd gereproduceerd. Het probleem was niet de automatisering, maar de blindheid.

Hoe kan de financiële sector de genderblinde vlek overwinnen?

Dat is waar naar geslacht uitgesplitste gegevens essentieel worden. Door financiële gegevens te sorteren op geslacht kunnen toezichthouders, financiële instellingen en technologieontwerpers de impact van geautomatiseerde systemen blootleggen, identificeren wie toegang heeft tot financiering en gebieden aanwijzen waar de uitkomsten uiteen beginnen te lopen. Zonder die zichtbaarheid blijven de genderkloven verborgen, en hebben verborgen verschillen de gewoonte permanent te worden. In digitale financiën zijn data ‘de beste vriend van een meisje’, niet als slogan, maar als praktische voorwaarde voor verantwoording.

De meeste financiële instellingen registreren het geslacht van een klant al als onderdeel van de basisidentificatie. Op papier is de informatie aanwezig, ingebed in routinematige rapportage en basisklantgegevens. In de praktijk is het vastleggen van een variabele echter niet hetzelfde als het gebruiken ervan. In veel landen verschijnt het geslacht van de klant in databases, maar wordt het nooit geanalyseerd, gerapporteerd of gemonitord door toezichthouders, ook niet in kerntoezichtkaders zoals prudentiële rapportage. Te vaak bestaan ​​de gegevens al, maar worden ze verzameld, opgeborgen en vervolgens stilletjes genegeerd. Het probleem ligt niet in wat gedaan kan worden, maar in wat gedaan wordt.

Eerlijker financieren:ontwikkelingslanden lopen voorop

Het beeld ziet er heel anders uit in landen waarvan vaak wordt aangenomen dat ze over minder hulpbronnen beschikken. In delen van Latijns-Amerika en Afrika eisen toezichthouders al jaren naar sekse uitgesplitste rapportage en publiceren ze regelmatig gegevens over de genderkloof in de financiële sector.

In Chili houden de financiële autoriteiten al meer dan twintig jaar de verschillen tussen mannen en vrouwen in leningen en deposito's bij, en publiceren zij regelmatig naar sekse uitgesplitste financiële statistieken.

In Mexico combineren toezichthouders bankgegevens met nationale enquêtes onder huishoudens om inzicht te krijgen in de manier waarop vrouwen en mannen financiële diensten gebruiken en hoe zij presteren als leners.

Die zichtbaarheid heeft praktische gevolgen gehad. In Mexico bleek uit toezichtsgegevens dat vrouwenleningen kleiner maar minder riskant waren, een bewijs dat leidde tot veranderingen in de regels voor voorzieningen voor kredietverliezen.

In Chili lieten de gegevens zien dat gelijke toegang tot rekeningen zich niet vertaalde in gelijke uitkomsten op het gebied van sparen of verzekeren, wat aanleiding gaf tot meer gerichte beleidsreacties. Toen deze hiaten eenmaal zichtbaar werden, werden ze veel moeilijker te negeren.

Vanuit dit perspectief bezien lijkt de situatie in veel economieën met hoge inkomens minder op een technische vertraging en meer op een institutionele aarzeling. In een groot deel van Europa blijven gendergegevens vrijwillig of gefragmenteerd, ondanks geavanceerde data-infrastructuren, een gebrek aan technische capaciteit maar aan institutionele keuze. Mijn komende beleidsnota “Data Are a Girl’s Best Friends:Tackling Digital Financial Inequality Through Sex-Disaggregated Data”, die in mei zal verschijnen, onderzoekt dit.

Naarmate kunstmatige intelligentie dieper verankerd raakt in de financiële besluitvorming, wordt die keuze moeilijker te verdedigen. In een tijd waarin Europa de EU AI Act implementeert en debatteert over de manier waarop algoritmische besluitvorming in de financiële wereld moet worden gereguleerd, roept het ontbreken van systematische gendergegevens een fundamentele vraag op:hoe kan eerlijkheid worden gecontroleerd als de gegevens die nodig zijn om ongelijkheid op te sporen nooit worden geanalyseerd?

Het zichtbaar maken van vrouwen in de data is niet symbolisch. Zonder dit is eerlijke financiering weinig meer dan een claim.

Een wekelijkse e-mail in het Engels met expertise van wetenschappers en onderzoekers. Het biedt een inleiding tot de diversiteit van het onderzoek dat uit het continent komt en behandelt enkele van de belangrijkste kwesties waarmee Europese landen worden geconfronteerd. Ontvang de nieuwsbrief!