Den 20 november ersätts 2010 års konsumentkreditlag av en ny lag.
Den som nekas kredit av en dator får då rätt att kräva en förklaring och en mänsklig prövning. Regeln är bra, men den löser bara halva problemet, skriver Kristina Hunter Nilsson på fintechbolaget Riverty.
Föreställ dig att du söker ett lån för att laga bilen du behöver för att ta dig till jobbet. Svaret kommer efter några sekunder: avslag, eller en ränta långt över vad du räknat med. När du frågar varför får du veta att din kreditbedömning visar förhöjd risk, och mer än så får du inte veta.
AI används redan i kreditprövningen, och användningen kommer att öka. Den intressanta frågan är vilket ansvar en långivare tar på sig när den låter en algoritm påverka vem som får låna och till vilket pris. AI kan göra kreditprövningen både mer träffsäker och mer inkluderande, till exempel för den som saknar lång kredithistorik i Sverige. Men då måste systemen byggas så att människor kan förstå och ifrågasätta besluten redan från början.
Kreditprövningen ska både hindra att människor lånar mer än de klarar och se till att den som kan betala får låna. Vid årsskiftet hade nästan 450 000 svenskar skulder hos Kronofogden, så det är ingen liten fråga. När allt fler bedömningar görs av modeller som väger samman hundratals datapunkter blir det svårare att se varför ett visst beslut blev som det blev. En modell kan vara statistiskt träffsäker och ändå fatta beslut som inte går att försvara. Om ett köpmönster i historiska data råkar sammanfalla med betalningsproblem kan modellen börja straffa det, trots att köpet inte säger något om betalningsförmågan. Köpet blir ett indirekt mätvärde, och i värsta fall en dold snedvridning mot dem som redan har svårast att få kredit, till exempel personer som betalar det mesta kontant.
Den nya lagen genomför EU:s konsumentkreditdirektiv. Den som får ett automatiserat kreditbeslut kan kräva att få bedömningen förklarad, framföra sin synpunkt och begära att en människa omprövar beslutet. Finansinspektionen har samtidigt föreslagit nya allmänna råd som förtydligar vilka uppgifter som bör ingå i kreditprövningen och hur de ska samlas in och kontrolleras. Svenska långivare får alltså skärpta krav från två håll samma dag, och nu är det deras sak att visa vad en förklaring ska innehålla.
Kristina Hunter Nilsson
En rätt till förklaring är bara värd något om förklaringen går att använda. “Förhöjd risk” hjälper ingen. Jämför med: “Din kreditkortsskuld är hög i förhållande till dina gränser, och efter dina befintliga lån har du för lite pengar kvar varje månad. Om uppgifterna är fel kan du skicka in nya.” Med det beskedet vet låntagaren vad som går att rätta till. En sådan förklaring går inte att skriva i efterhand. Modellen måste vara byggd för att redovisa de faktorer som faktiskt avgjorde beslutet.
Här har branschen ett obekvämt problem. Den långivare som granskar gränsfall manuellt och gör det enkelt att överklaga får högre kostnader än konkurrenten som lovar besked på sekunder, och på kort sikt är det snabbheten som vinner kunderna. Ingen behöver vara oetisk för att det ska gå fel. Det räcker att den som tar ansvar ensam förlorar affärer på det.
Därför räcker det inte att varje bolag gör rätt för sig. Låntagaren behöver kunna välja att dela verifierade uppgifter som kontohistorik och inkomster inför ett specifikt beslut, i stället för att profileras i det tysta. Det kräver gemensamma tekniska standarder för datadelning, så att godkända uppgifter blir billigare att använda än data som samlats in utan kundens vetskap. Om tillsynen ska kunna jämföra hur olika långivares modeller behandlar olika grupper behövs dessutom gemensamma testmetoder.
Det finns också en risk åt andra hållet. Om reglerna bara begränsar vilka uppgifter som får användas kan långivarna inte längre skilja hög risk från låg, och då blir krediten dyrare för just dem som redan står utanför.
En långivare som bygger in förklaringarna i beslutsprocessen får också något tillbaka. Felaktiga beslut upptäcks tidigare, och färre ärenden växer till klagomål. De långivare som lyckas med AI kommer att vara de som kombinerar snabba och träffsäkra beslut med att kunden kan förstå dem, ifrågasätta dem och få dem rättade. Det är där förtroendet för AI i finans börjar.
