AI-expert: Oklart vad Ryssland och Kina gör

Det handlar om att artificiell intelligens kommer att användas inom exempelvis autonoma system och bildigenkänning. Nära i tiden ligger också utvecklade identifieringstjänster. Men hotet från en eventuell samordnad it-attack mot hela samhället ligger kanske närmast i tiden och där skulle AI kunna skydda, enligt expertis.

– Det är svårt för människor att föreställa sig kraften av en koordinerad attack mot exempelvis el- och vattenförsörjning och andra system. Man kan orsaka helt kaos i trafiken bara genom att stänga av alla trafikljus. Och jag tror att en motståndare kommer att göra flera sådana saker samtidigt, säger Danica Kragic, professor i datalogi vid Kungliga Tekniska Högskolan, KTH.

Kragic är också direktör för Centrum för autonoma system på KTH och sitter i styrelserna för Saab AB och H&M Group. Och här talar alltså Kragic om det hot gällande AI – hot från angriparen, men också möjlighet för oss när det gäller försvar – som hon bedömer ligger närmast i tiden. Det handlar om att en angripare utför en koordinerad it-attack mot en rad olika verksamheter – exempelvis el, vatten, banker samt logistik-, betal-, trafik- och sjukvårdssystem samtidigt, eller nästan samtidigt.
Och Kragic bild är att de globala aktörer som på något sätt har med krigföring och säkerhet att göra nu arbetar för att vara så förberedda som möjligt inför en eventuell kris. Antingen för att kunna attackera eller försvara sig på it-området om det verkligen blir en konflikt.

Smygande attack

– Jag tror att saker kommer att ske utan att vi märker det, utan att vi ser det, säger Danica Kragic.
Och det är här Kragic säger att artificiell intelligens, AI, kommer in. Att möjligen kunna känna av en samordnad it-attack mot Sverige i ett tidigt skede. Det eftersom teknologin är bra när det gäller att hitta tendenser som på ett eller annat sätt är onormalt i ett dataflöde och som skulle kunna tyda på en förestående cyberattack.

– Konkret handlar det om att leta efter avvikelser. Finns det försök till cyberattacker mot exempelvis banker, samtidigt som det sker mot mataffärer och logistikföretag. Kanske kan du se en tendens, säger Kragic.
Och enligt Kragic är det väldigt svårt att hitta dessa avvikelser mer manuellt.
– Det är många olika system och du måste monitorera många olika saker. Det kräver samordning mellan olika institutioner som är ansvariga för olika system, säger Kragic.

Och professor Kragic tar ett aktuellt exempel som visar hur svårt det är att ta samordnade beslut under kris.
– Nu ser vi under covid, är vi samordnade? Nej, det är vi inte. Det är inte lätt att ta ett informerat beslut även om du vet vad som händer. Vi är helt förlamade, vi har ingen susning, det är svårt att snabbt få människor att samarbeta eftersom resurser inte alltid finns, säger Kragic.

När det gäller just cybersäkerhet ska sägas att det i Sverige finns ett system som Försvarets radioanstalt, FRA, tagit fram på uppdrag av regeringen för cirka tio år sedan. Systemet fungerar som ett avancerat antivirusskydd och kan upptäcka och varna för de mest avancerade angreppen, enligt FRA. Systemet benämns tekniskt detekterings- och varningssystem, TDV, och kan användas av myndigheter och statliga bolag. Och så sent som i mitten på mars 2021 berättade FRA att antalet användare av systemet ökat med 70 procent under 2020.

FRA vill inte kommentera exakt om TDV använder artificiell intelligens eller inte men ger ett generellt svar.
– Det finns möjligheter att använda AI för att analysera händelser i IT-system som gör att man kan upptäcka vissa typer av IT-angrepp. Storleken på händelsedata är sådan att det är väldigt lämpligt att
använda AI i dessa sammanhang, säger Fredrik Wallin, talesperson på FRA.
När det gäller TDV så kan det dock inte användas av privata företag som exempelvis banker, logistikföretag och inte eller kommunala bolag.

Identifieringstjänster på frammarsch

Men AI handlar inte bara om it-säkerhet. Danica Kragic bedömer att utvecklingen inom AI och militära applikationer som exempelvis obemannade farkoster, bildigenkänning, kommunikation, underrättelsetjänst, robotik, beslutsstöd och navigering kommer att flätas in i varandra alltmer framöver. Och att områdena är inflätade i varandra är lätt att förstå när Kragic förklarar den korta versionen av vad AI egentligen är.
– Artificiell intelligens är matematiska tekniker som gör att man kan tolka sensor- eller mätdata. Data kan komma från kameror så att man tolkar bilder, det kan komma från ljud så att man tolkar en dialog eller ett språk, det kan komma från andra typer av sensorer som exempelvis infraröda kameror, det kan handla om gps-data eller laserdata, säger Danica Kragic.
En del av AI är också det som kallas maskininlärning som handlar om att algoritmer används för att hitta mönster i stora mängder data, exempelvis ovan nämnda, som gör det enklare att göra prognoser. Och ju mer data som används tillsammans med erfarenhet, desto bättre kan resultatet bli.

Enligt Kragic förekommer ofta en missuppfattning i diskussionen om vad artificiell intelligens verkligen kan göra när det kommer till att fatta beslut kring något, exempelvis vad som syns på en bild.
– Det behöver inte vara något helautomatiserat beslut utan det kan vara att hjälpa människan att fatta bättre beslut genom att presentera data i ett format som är lättare för människan att förstå, säger Danica Kragic.

Om vi håller oss till tidsperspektivet ungefär fem år framåt så finns ytterligare ett område som kan komma att utvecklas rejält med hjälp av AI, enligt Kragic.
– Det har att göra med system för identifiering. Det kanske kan göras mycket säkrare med bilder och det är kanske lättare att göra mer robust så att ingen kan sno din identitet. Det tror jag väldigt mycket på, att vi kommer att ha mycket bättre system om tre till fem år, säger Danica Kragic.

”Vet inte alls vad Ryssland håller på med”

I ett generellt perspektiv drivs utvecklingen inom AI nu snabbt av stora amerikanska bolag som exempelvis Google, Apple och Microsoft, enligt Kragic. Bolagen har resurser för egen forskning, egna parallelldatorsystem och tillgång till de massiva datamängder som krävs för att kunna göra relevanta beräkningar. Sverige och Europa behöver öka takten för att hänga med. Men samtidigt är det svårt att veta exakt hur olika länder ligger till när det gäller AI.

– Det finns länder som Ryssland och Kina som vi inte alls vet vad de håller på med och de vill inte berätta heller. I Europa och EU så bedriver vi forskning och publicerar åtminstone det mesta, säger Kragic.

– I USA kör de ibland med skrämseltaktik och säger att de har något men det kanske inte finns. Men givetvis ligger de långt fram annars skulle de inte ha de här företagen. Men det är sannolikt lite av en strategi, om du säger att du har en sak så tror alla att du har det och alla vill samarbeta med dig, säger Kragic.

Enligt Kragic är det viktigt att Sverige nu hänger med i utvecklingen inom AI. Inte minst för att kunna använda framtida AI-system och ställa krav på de företag som utvecklar systemen. Enligt Kragic är satsningen på WASP – Wallenberg AI, Autonomous Systems and Software Program – oerhört viktig för Sverige. WASP syftar till att utveckla Sverige till en ledande aktör inom AI och autonoma system och har fem partneruniversitet: Chalmers tekniska universitet, Linköpings universitet, Lunds universitet, KTH och Umeå universitet. En stor del av verksamheten finansieras av Knut and Alice Wallenberg Foundation och resterande av universitet och näringsliv.
Men det behövs fler långsiktiga satsningar.

USA: ”Ska vinna AI-eran”

Och att AI och försvar är en nisch som kommer går nog att säga ganska säkert. Bara som exempel kan nämnas att förre Google-chefen Eric Schmidt – vd, ordförande och teknisk rådgivare i sökjätten mellan åren 2001 och 2020 – nu är ordförande i den amerikanska kommissionen National Security Commission on Artificial Intelligence som ska arbeta med att främja AI och maskininlärning för USA:s säkerhetsbehov och för att vinna ”eran av artificiell intelligens”.

Schmidt är också en av investerarna i det amerikanska företaget Rebellion Defence som enligt egna uppgifter hjälper ”försvars- och säkerhetsmyndigheter med att släppa loss kraften från data inom alla områden” och bolaget beskriver vidare sina tjänster till kunderna med orden ”Med våra produkter kan de förstå komplexa data, fatta bättre beslut och agera snabbare än någonsin tidigare”.

Utan att gå in på specifika bolag gäller det dock, enligt Kragic, att generellt vara lite vaksam på vad nystartade företag inom AI kan hjälpa till med.
– Det är väldigt många olika företag som nu säger: ”Om du har data så hjälper vi dig att tolka den”, säger Kragic.
Men här kommer svårigheten in när det gäller artificiell intelligens. För att resultatet ska bli pålitligt och verkligen vara till hjälp vid beslutsfattande krävs att användaren har god kontroll på den data som används eftersom det är så många parametrar som behöver tas med i systemen.
– I dag finns det ett hav av AI-tekniker som kan användas för att tolka olika typer av data. Frågan är om den data som du har är relevant för den fråga du vill ha besvarad, säger Danica Kragic.

Enligt Kragic har det hittills funnits tendenser att företag i viss mån tagit för lätt på frågan om AI. System som byggs måste vara säkra, data som används måste vara relevant och den som tolkar data måste vara expert inom området för att tunga beslut ska kunna vila på artificiell intelligens. ”Det är inget exjobb för en student”, enligt Kragic.
– Om det ska bli en del av en säker produkt så måste man ta det seriöst, säger Danica Kragic.

Millisekunder viktiga i duell

Rickard Stridh, forskningschef på Försvarsmakten, säger att det är klart att artificiell intelligens kan användas inom en rad områden i försvarssammanhang. Samtidigt betonar Stridh behovet av den stora mängd korrekt och relevant data som krävs i ”upplärningen” av de AI-relaterade systemen.
– För oss viktiga aspekter är att man kan göra en säker AI som stöder oss med det vi vill och som motståndaren verkligen inte kan lura. Mycket av vår egen forskning går ju ut på att lura andras AI och att göra vår egen AI förutsägbar och säker, säger Rickard Stridh.
I sammanhanget nämns också den traditionella ”kontrollfrågan” kring autonomi och artificiell intelligens.
– Vi behöver förstå AI och vi kommer att behöva ha AI för våra egna beslutsstöd och autonoma system. Men om vi ska ha något autonomt så ska det vara autonomt inom vår mänskliga kontroll, säger Rickard Stridh.

Och även här ser Stridh att säkerheten och pålitligheten för artificiell intelligens måste vara stark vid användning i Försvarsmakten jämfört med vissa civila tillämpningar.
– Det är en sak om ett AI väljer fel låt till mig på Spotify men om jag ska använda det för ett beslutsstöd för ett långräckviddigt vapen då ställs helt andra krav, säger Rickard Stridh.

Dessutom säger Stridh att det är viktigt med den etiska aspekten när det gäller artificiell intelligens och militära system. Enligt honom lägger Försvarsmakten kraft på att i internationella samarbeten ha en samsyn om en god etik när det gäller artificiell intelligens och hur tekniken ska användas. Exempelvis när det gäller kraven på mänsklig kontroll. Något som kanske inte är självklart i ett globalt perspektiv.
– Kanske finns det andra aktörer som implementerar AI i autonoma system som har en annan etisk och legal utgångspunkt. Och om systemen ska stödja respektive sida i en duell, och millisekunder blir viktiga, så kan det bli en obalans, säger Rickard Stridh.

Fakta – artificiell intelligens, AI:

”AI är en maskins förmåga att visa människoliknande drag, såsom resonerande, inlärning, planering och kreativitet.” Så lyder en del av definitionen av AI enligt Europaparlamentet som bedömer att AI blir en ”definierande framtidsteknologi”. AI kan delas upp enligt följande exempel: 1) AI/mjukvara – virtuella assistenter, bildanalysverktyg, sökmotorer, igenkänningssystem för röster och ansikten. 2) AI/hårdvara – robotar, självkörande bilar, drönare, Internet of things.

Europaparlamentet har tagit upp några områden där AI används i vardagen och listar då ”näthandel och marknadsföring, webbsökningar, digitala personliga assistenter, automatiska översättningar, smarta hem, städer och infrastruktur, bilar, cybersäkerhet, AI mot covid-19, kamp mot desinformation, hälsa och sjukvård, transporter, tillverkning, livsmedel och jordbruk, offentlig administration och tjänster”.
Källa: Europaparlamentet.

Försvarsmaktens forskningschef Rickard Strid beskriver det framtida slagfältet i nedan video:

Exemplet om ”mördarrobotar” kommer från kampanjorganisationen ”Future of Life” som arbetar för att informera om de risker artificiell intelligens kan medföra för mänskligheten står. Video kan ses i sin helhet, bl.a. här:

https://soff.se/2020/07/02/vad-innebar-ai-for-forsvarssektorn/

https://soff.se/event/briefing-autonoma-vapensystem/