Certifiering av hållbar AI
Artificiell intelligens används inom allt fler områden och skapar stora värden för individ, företag och samhälle. De branscher som har kommit längst med användningen av AI är de sektorer där datan är lättillgänglig. Baksidan med att allt fler organisationer använder sig av artificiell intelligens är att de etiska värderingarna ibland skyms av mål som sätts mot vinst och ökad försäljning. Det behövs därför standarder för hur organisationer ska jobba med artificiell intelligens på ett hållbart sätt menar Anna Felländer, affilierad fakultet vid KTH, medlem i regeringens digitaliseringsråd och senior rådgivare vid på Boston Consulting Group.
Artificiell intelligens används inom allt fler områden och exempelvis handeln har kommit långt medan andra områden som exempelvis sjukvården ligger långt efter.
”Du har en massa data i vårdens olika system som du vill korsbefrukta men det går inte regulatoriskt och sedan är det en betydande kostnad om AI gör fel. Och det finns dessutom en låg acceptans för när robotar och AI gör fel, även fast det i vissa fall är betydligt färre misstag än med mänskligt inblandning. Vi har kommit väldigt långt med självkörande bilar. Här gäller det att börja jobba med förväntningsbilder”, säger Anna Felländer.
En stor anledning till varför e-handeln har kommit så långt är för att man relativt oreglerat har kunnat inhämta stora mängder data från kunderna.
”Handeln är relativt lågt reglerat och inom handeln har du har stora datamängder som kan användas för att spå folks beteende och konsumenterna kan ge ifrån sig den ganska okomplicerat. Det är framförallt Amazon som har drivit utvecklingen. Amazon började tidigt med att digitalt samla in data kring beteenden för att sedan applicera AI – både för att kostnadseffektivisera operationellt och för att skapa personifierande skräddarsydda rekommendationer”, säger Anna Felländer.
Amazon leder utvecklingen
Amazon är ett av världens största detaljhandelsföretag på internet, sett till intäkter och marknadsvärde. Företaget som sannolikt lanseras i Sverige senare under året oroar många svenska e-handlare som förväntas tappa kunder när Amazon levererar samma produkter snabbare och billigare tillsammans med ett gigantiskt utbud av andra produkter. En stor del av Amazons framgång beror på deras arbete med artificiell intelligens.
”Amazon ligger i framkanten gällande AI. De har samlat in mycket data från sina kunder och skapat snabba monopolställningar med höga inträdesbarriärer. Den främsta anledningen till att artificiell intelligens slår igenom nu är tillgången till mer data som kommer från t ex sensorer, ansiktsigenkänning och röstigenkänning. All data kan även lagras och bearbetas billigare i molnet. Amazon fångar sina kunder i ett universum av olika skräddarsydda tjänster. Den nyligen lanserade kundsuccen Echo, en röststyrd högtalare, förutses tillsammans med AI assistenten Alexa revolutionera sökmotormarknaden som e-handeln”, säger Anna Felländer.
Det är inte bara via de personifierade kunderbjudanden som Amazon har en konkurrensfördel. En av de största utmaningarna för många e-handlare är att reducera kostnaden för returnerade varor. Även inom detta område så använder Amazon artificiell intelligens för att optimera sina värdekedjor.
“Returer är dyrt för e-handelsaktörer. Den faktor som minskar returerna är om varorna levereras snabbt. Amazon har numera One-Day Delivery och ibland även One-Hour Delivery. Eftersom de kan spå vad kunderna efterfrågar behöver de inte hålla varan i lager lika länge. Till följd av det breda utbudet kan Amazon dessutom “låsa in” sina kunder i en bekvämlighet som sparar tid. Till exempel om jag får hem en matkasse så kan jag returnera den där borren som jag inte behövde. Detta skapar sammantaget en modell med snabba leveranser och en kundupplevelse som andra företag har svårt att konkurrera med”, säger Anna Felländer.
Banker satsar på artificiell intelligens
Tidigare under sommaren så kom nyheten att det svenska fintechbolaget Izettle såldes till det amerikanska företaget Paypal för 19 miljarder kronor. Affären är den största någonsin inom den svenska fintech sektorn och ett tydligt tecken på värdet av framgångsrika innovationer inom området. Fintech området har varit väldigt konsumentdrivet med fokus på betallösningsappar som tillexempel Klarna, Swish och BankID men nu kommer traditionella banktjänster som betala, låna, spara och försäkra att förbättras med hjälp av artificiell intelligens.
”I ett fysiskt bankmöte där bankkundens kreditvärdighet bedöms utifrån bankens interna data om bankkunden samt en viss grad av subjektiv uppfattning, kan utfallet både bli inkorrekt och fördomsfullt. En algoritm som kan arbeta med alternativ och social data kring en kunds kreditvärdighet blir ofta mer korrekt och mindre fördomsfull. Men, det innebär att banken får tillgång till mycket information och det kan uppfattas integritetskränkande att få ett meddelande som uppmanar bankkunden att ändra eller sluta med tex ett visst konsumtionsmönster. Det finns en balansgång här mellan integritet, bekvämlighet och tidsoptimering som det är viktigt att bankerna tar hänsyn till”, säger Anna Felländer.
För att bemöta konkurrens från nya företag så har de traditionella bankerna genomfört flera samarbeten som lett till innovationer som tillexempel Swish och BankID men samtidigt ser vi att nya aktörer som Izettle och Klarna tar allt större plats i vår vardag.
”Det som driver utvecklingen i fintech är tillit, regelverk och teknologi. Nu har PSD2 öppnat upp för tredje part med kundens acceptans. Du betyder att du får helt andra aktörer och då kan tillexempel Facebook, Amazon eller Google bli en spelare. Det traditionella bankerbjudandet har varit väldigt homogent så det finns en enorm möjlighet för nya aktörer att slå sig in”, säger Anna Felländer.
Artificiell intelligens kan leda till diskriminering
Att artificiell intelligens skapar stora värden för individ, samhälle och företag är tydligt men det finns också en baksida. Amazon har till exempel anklagats för diskriminering när områden i USA där endast svarta bor, inte erbjöds First-Day Delivery. Detta skedde omedvetet och var en följd av att algoritmen hade lärt sig att det inte var kostnadseffektivt att marknadsföra First-Day Delivery under en viss köpkraftsnivå. Detta är enligt Felländer ett exempel på när kunskap om hur artificiell intelligens skalar i en bredare social och etisk kontext, saknas.
”Ett exempel är om du skulle ha ett spelbolag som i sin ledningsgrupp eller styrelse bestämmer att det strider mot deras etiska värderingar att kapitalisera på spelberoende i en finansiellt utsatt situation. Men, oavsiktligt kan denna etiska principen överträdas om en marknadsavdelning använder en algoritm som programmeras mot att optimera försäljningen”, säger Anna Felländer.
“Det behövs bredare kompetens och mer kunskap och förståelse kring vilka konsekvenser AI får i ett samhällsekonomiskt, etiskt och socialt perspektiv.”
“När AI tränas på data som inte reflekterar verkligheten eller den önskade verkligheten ökar dessutom risken för diskriminering och fel. Förlegade könsnormer kan leva vidare och förstärkas om algoritmer arbetar på data som speglar en verklighet baserad på manliga normer”, säger Anna Felländer.
Hållbar AI Certifiering
En studie som genomförts av MIT och Boston Consulting Group visar att företagsledare tycker att det är svårt att styra artificiell intelligens och speciellt när det gäller hur artificiell intelligens styrs etiskt och moraliskt. Det beror på att explicita och implicita antaganden reproduceras av självlärande algoritmer på ständigt förnyade dataset vilket gör att de etiska värderingarna skyms när algoritmerna styrs mot målvariabler som produktivitet, vinst och ökad försäljning. I ett projekt som är finansierat av Vinnova utvecklar Anna Felländer riktlinjer för Hållbar AI.
”På sikt kommer EU utveckla AI-standarder som handlar om transparens, förutsägbarhet och ansvar inom design, process och output. I vårt projekt jobbar vi med att skapa en systematisk approach till hållbar och etisk AI. Det handlar om att undvika oavsiktliga negativa etiska fallgropar, översätta dina existerande etiska principer till AI ramverket samt att förstärka de positiva värderingarna och hållbarhetsprinciperna. Vi vill skapa skalbara kontrollsystem, träning och kommunikation”, säger Anna Felländer.
Målsättningen med projektet är att ta fram en certifiering för hållbar AI. Företag kan använda certifieringen i sin kommunikation gentemot sina kunder för att visa att företaget har en hållbar strategi för hantering av kundernas data. Förhoppningen är att AI ska få en liknande status som socialt ansvarstagande som även kallas för CSR, corporate social responsibility.
”Certifieringen ska kunna användas gentemot kunder som en konkurrensfördel och som ett sätt att mäta upp mot det regelverk som är på gång. Sverige har en unik position i det här, vi har en hög grad av tillit, vi kan samarbeta och jag hoppas att Sverige tar en ledarposition och att det även går att läsa i årsredovisningar om företags hållbara AI, precis som det är med CSR. Där det redovisas hur företaget använder kundernas data på ett etiskt och hållbart sätt”, säger Anna Felländer.
