"Banker får allt svårare hålla näsan över ytan"

Bank- och finansregleringarna är fler än någonsin. Bara under 2015 skapades globalt över 20.000 nya regulatoriska krav som påverkar finansbranschen. Nästa år införs dessutom bland annat EU:s nya betaltjänstdirketiv PSD2 och nya datakyddslagen GDPR som ersätter svenska personuppgiftslagen (PUL).

Redan i dag går hela tio procent av bankernas totala driftskostnad till att uppfylla regelefterlevnad, enligt IBM.

– Globalt lägger de årligen i snitt 270 miljarder dollar på att vara compliant och de är helt enkelt tvungna att använda ny teknologi för att få ner sina kostnader. I vissa fall kan det handla om så mycket som 50 procent i kostnadsreducering genom att automatisera compliance-processer, säger Örjan Nordund som är med och leder IBM:s utveckling av den finansanpassade versionen av AI-verktyget Watson.

Ställer nya frågor

Han tillägger att nya bankregler skiljer sig en hel del från äldre lagtexter på området.

– Gamla regleringar frågade ofta "vad har du gjort?" och ombad banken att skicka in en rapport som visade dess likviditet, underliggande tillgångar eller vad nu myndigheten var intresserad av, säger Örjan Nordlund till Realtid.se och fortsätter:

– De nya som ofta heter något med "2", till exempel Mifid2 eller PSD2 frågar istället ofta "hur har du gjort och hur gick du tillväga för att komma fram till just de här besluten". Bankerna har aldrig varit så hårt ansatta av regleringar som nu och de får allt svårare att hålla näsan över ytan.

Slog Jeopardy-vinnare

IBM menar att deras finansanpassade version av AI-stödet Watson kan hjälpa finansaktörer med att förenkla och automatisera delar av compliance-arbetet.  Watson i sig är dock inget nytt system. Den första versionen skapades 2011. Men inför lanseringen lät IT-bolaget testa Watson genom att låta det tävla i frågesportsprogrammet Jeopardy.

Det blev en framgång. Watson vann mot några av de främsta Jeopardy-vinnarna. AI-stödet visade sig vara bra på att förstå stora textmassor och att vaska fram relevant information ur stora mängder data – exempelvis räkna ut olika möjliga svar på vem George Washington var.

– Det var ett embryo till ett AI-stöd som vi sedan dess har byggt vidare på. Innan 2011 hade det varit jättesvårt för datorer att svara på frågor av Jeopardy-karaktär, berättar Örjan Nordlund för Realtid.se.

Sedan 2011 har Watson främst används som stöd inom hälso- och sjukvård. Med hjälp av stora mängder data kan systemet hjälpa läkare att ställa främst cancer-diagnoser. Men de senaste åren har IBM:s Watson-utvecklare börjat att fokusera allt mer på bank- och finansvärlden och nu alltså även lanserat en finansanpassad variant.

Flera jurisdiktioner

Flera internationella storbanker, däribland några nordiska, har redan köpt in tjänsten. Men IBM får inte avslöja vilka. Det är dock typiskt sett banker som jobbar inom flera jurisdiktioner som har störst nytta av Watson, enligt Örjan Nordlund. En större nordisk bank drabbas till exempel av en ny lag eller regeländring i snitt var 12 minut, berättar han.

AI-stödet analyserar stora mängder textmassa för att kartlägga vad olika regelverk ställer för krav och ger en bild av hur de kan införas i verksamheten på bästa sätt.

– Det vanligaste tillvägagångsättet är att compliance-avdelningen ombeds ta fram nödvändiga åtgärder när en ny reglering kommer för att sedan sätta upp ett projekt för att implementering. Men när man gjort det med 10-12 olika regelverk så finns det risk för överlappning och att man börjar göra samma saker på olika ställen, menar Örjan Nordlund.

"Change management"

Watson talar om hur en ny lag eller reviderad reglering påverkar banken, så kallad "change management".

– Det gör det enklare att förstå hur ett uppdaterat regelverk eller en ny lagtext skiljer sig från en äldre upplaga eller föregångare, vilket ökar förståelsen. Det är främst stora internationella banker som är intresserade av AI-stöd. De träffas ju av åtskilligt fler regleringar, jämfört med en mindre lokal nationell spelare.

Just nu försöker cirka 600 personer runt om i världen att lära sig om och vidareutveckla finansversionen av Watson. Det rör sig bland om riskhanterings- och regleringsspecialister inom bank- och finansbranschen samt 300 konsulter med bakgrund från olika typer av tillsynsmyndigheter.

– Med hjälp av expertisen ska vi försöka träna upp AI-stödet. Det handlar bland annat att göra det bättre på att tolka lagtexter i sin kontext. Ofta innehåller regleringar ett stort mått av tolkning. Många är dessutom principbaserade och betyder olika saker för olika stater och myndigheter.

Ökad transparens

Ett annat mål är att göra Watson så transparent som möjligt. Något många självlärande algoritmer saknar; inte sällan de som exempelvis används för bildigenkänning, menar Örjan Nordlund. Watson måste däremot redovisa alla beslut som tagits vid olika tidpunkter, enligt Nordlund.

– Det går inte att återskapa besluten i detalj. Men systemet kan styrka varför vissa beslut fattats. Det kallas för "supervise machine learning", säger han.

Han medger dock att det alltid finns en risk för att den person som skapar och tränar algoritmer bygger in sina tillkortakommanden och överför sina egna dåliga egenskaper på systemet.

– Med hjälp av övervakningsfunktioner så kan man åtminstone skapa transparens i algoritmerna och på så sätt få reda på vilken grund beslut fattats på, för att få klarhet i varför systemet ger vissa rekommendationer.

Spola tillbaka bandet

Örjan Nordlund jämför med Apples återställningsfunktion "time machine" på mac-datorer.

– Det handlar om att kunna spola tillbaka bandet så att man kan konstatera att "ja vid den tidpunkten hade jag den datan framför mig" och så vidare.

Han är mycket skeptisk till AI-stöd som saknar denna funktion.

– Om de inte är spårbara kanske man inte ska använda dem överhuvudtaget, säger han.

Har vi generellt en för stor tilltro till algoritmer?

– Ja, vi har i alla fall ofta en övertro på ny teknik. Så fort den introduceras så tror vi att den kan lösa alla våra problem. Och det är lite inställning till algoritmer just nu. De kan lösa en del, men inte allt. Jag tror att när vi börjar att använda algoritmer i bred skala, samtidigt som kunskapen om dem ökar, så lugnar sig sannolikhet diskussionen kring dem också.

Bör AI-system utrustas med "kill switches" så att man kan "döda" dem om de börjar fatta irrationella eller rent av farliga beslut?

– Automatisering sker till priset av förlorad kontroll. Och jag tror inte att det är praktiskt genomförbart att utrusta en intelligent maskin med en "kill switch", för de kommer ju kunna undvika att bli avstängda om de vill det.

Nästa steg i IBM:s AI-utveckling handlar om verktyg för att motverka finansbrott såsom terrofinansiering och penningtvätt.

– Det är också kopplat till att hjälpa banker att bättre lära känna sina kunder. Det kommer nu en rad nya regleringar som ställer höga "know your costumer"-krav. Men bearbetningen för att upptäcka penningtvätt och terrorfinansisering görs i dag manuellt, vilket är oerhört kostsamt.

Svårt att spåra

Det är dessutom väldigt svårt att spåra finansbrott och konsekvensen blir inte sällan saftiga böter och image-skador.

– Med AI-stöd kan vi göra det lättare att upptäcka hantera och övervaka olika typer av transaktioner på ett effektivare sätt. Vi har jobbat med detta i flera år och lanserade i maj ett nytt AI-verktyg som heter "Watson Financial Crimes" som ett antal kunder är i färd med att implementera. Det kan medföra kostnadsbesparingar på så mycket som 50 procent i vissa operationer, säger Örjan Nordlund.