Den 20 november börjar EU:s nya konsumentkreditdirektiv att tillämpas.
Den som får ett automatiserat kreditbeslut får då rätt att begära mänsklig prövning, få en förklaring till bedömningen och begära omprövning.
Samtidigt klassar EU:s AI-förordning AI-system för kreditvärdering som högrisksystem. I en ny rapport i serien Fintech 2040 beskriver fintechbolaget Riverty hur långivare kan leva upp till kraven utan att fler konsumenter stängs ute från kreditmarknaden.
Rapporten heter “AI Ethics and Accountability in Hyperindividualized Lending: Pathways to Optimized Consumer Credits”. Den är skriven av AI-styrningsexperten Anita Klingel vid den tyska IPAI-stiftelsen tillsammans med Jan Richard, Roland Frank och Florian Haubold på Riverty, och den är också Rivertys positionsdokument i frågan.
Allt fler långivare använder AI och nya datakällor för att bedöma kreditvärdighet. Det kan öppna kreditmarknaden för personer som saknar lång kredithistorik i landet, till exempel nyanlända eller personer som betalar mycket kontant. Men rapporten varnar för att samma modeller kan diskriminera via indirekta mätvärden. En modell kan vara statistiskt träffsäker och ändå straffa människor för vardagliga beteenden som saknar koppling till betalningsförmågan. I ett fiktivt exempel i rapporten får en taxichaufför högre ränta efter att ett köp av ett par sneakers påverkat hennes kreditbedömning.
Enligt rapporten är konflikten mellan lönsamhet och etik inte oundviklig. Den uppstår när styrningen brister. Rapporten pekar ut tre nyckelfaktorer för ansvarsfull AI-baserad utlåning:
- Kontroll över den egna datan, så att konsumenter får verkligt inflytande över hur deras information används.
- Gemensamma tekniska standarder som gör datadelning säker och öppen.
- En öppen och granskningsbar process, där förklaringar, ansvar och tillsyn finns med genom hela kreditkedjan.
Rapporten blickar också framåt mot agentbaserad AI, där systemen själva fattar beslut, till exempel jämför och förhandlar om kreditvillkor. Den förespråkar “begränsad och omtvistbar autonomi”: agenter kan få större handlingsutrymme, men institutionen som använder dem bär ansvaret för resultatet.
– Artificiell intelligens ger oss nya möjligheter att förbättra kreditbesluten, bredda den finansiella inkluderingen och bättre tjäna våra kunder. Men teknik i sig är aldrig tillräcklig, säger Oliver Kuhaupt, riskchef på Riverty.
Rapporten är den senaste publikationen inom Fintech 2040, Rivertys långsiktiga plattform för tankeledarskap. Där samlas akademiker, branschexperter och beslutsfattare för att utforska de tekniker, styrningsmodeller och regelverk som formar framtidens finansiella tjänster.
Ladda ner rapporten här: https://drive.google.com/file/d/1DGYDC5_s0irvebpzdck0G5iEn23841jf/view?usp=drive_link
