Artificiell intelligens (AI) i säkerhet och försvar – krav och utmaningar

Artificiell Intelligens (AI) är inget nytt begrepp, men det är först på senare år som datorprestanda och tillgången till stora datamängder (Big Data) blivit tillräcklig för att styrkan i AI kan börja utnyttjas. En kombination av snabbare processorer, billiga och snabba minnen, effektiv kommunikation och kostnadseffektiva sensorer har tillsammans skapat helt nya förutsättningar. Utvecklingen går nu mycket snabbt och stater och organisationer tävlar om att kunna uppvisa att de ligger i framkant. Potentialen i AI som del av koncept med självkörande bilar, smarta beslutsstödsystem och medicinska analysmetoder är bara några områden som redan omsätter enorma belopp.

Inom försvarssektorn finns AI-funktioner implementerade i målsökare, analyssystem m m, men den svenska kravbilden på AI-stöd har hittills varit ganska begränsad. En uppenbar nytta med AI i militära sammanhang är att ge avgörande stöd när tiden är alltför knapp, genom att analysera och prioritera bland en mängd handlingsalternativ i situationer när människan själv inte klarar av omfattningen. Andra områden med försvarsanknytning där AI bedöms komma att öka är inom underrättelsetjänst, logistik och underhåll, undervisning, försvarsmedicin samt på bredden inom HMIområdet, dvs människa-maskin-samverkan.

AI i försvarssektorn – nuläge i Sverige

Försvarsmakten har två primära skäl till att fördjupa sitt engagemang i väsentliga nya teknologier. Det ena är att utvecklas i samklang med samhället i övrigt och uppfattas som en intressant arbetsgivare, för att kunna attrahera kompetent personal till alla sina befattningar. Det andra, och objektivt sett primära skälet, är att bibehålla sina förutsättningar att kunna agera med en kvalificerad förmåga och på ett relevant sätt, i såväl strategiskt som taktiskt avseende, gentemot de hot som identifieras och för de uppgifter som statsmakterna föreskriver. Det kan förefalla självklart, men ställer stora krav på förståelsen av vad detta ställer för krav på organisation och processer. Som en följd därav måste försvarsföretag på motsvarande sätt analysera omvärldsutvecklingen såväl som Försvarsmaktens agerande, för att kunna leverera de tjänster som efterfrågas.

Inom försvarsföretagens produktflora finns redan, sedan länge, implementerat en tidig typ av AI och neurala nätverk, i automatiska och semiautomatiska system. Teknikområdet är således inte nytt, men möjligheterna ökar nu snabbt genom tillgången på extremt anpassade processorer, snabba nätverk och nya algoritmer. Flera företag har därför en bra utgångspunkt, men behöver komplettera denna med nya rön, t.ex genom samverkan med universitet och institut. Kopplat till FoT bedrivs nu flera stora AI-forskningsprojekt inom FOI, bl a för Försvarsmaktens behov. Ett av projekten tittar på former för hur AI bredare ska tas in myndighetens forskning. De förväntade tillämpningarna är framförallt att analysera information för bättre situationsmedvetenhet och att ge beslutstöd genom att visa vad som händer i valet mellan olika alternativ. Målet är att förbättra och snabba upp beslutsfattandet, för att kunna agera och värdera fakta bättre än motståndaren.
För analyser av sensordata, stöd till s k kognitiva sensor- och kommunikationssystem och underlag för beslutsstöd i realtid är nu AI en utveckling som efterfrågas av Försvarsmakten som kravställare (i slutänden av dess förband), vilket leder till behov av anpassningsåtgärder inom industrin. Behov av AI-stöd inom simuleringssystem samt bild- och semantiska tolkningssystem förväntas också öka snabbt. Militärt finns ett krav att förstå hela processen som AI möjliggör. Försvarsmakten har ett etiskt ansvar för de verktyg som tillhandahålls till personalen. Därför kommer FoT och utbildning snarast behöva anpassas för att skapa förutsättningar för sådan förståelse.

AI i försvarssektorn – nuläge internationellt

I försvarssektorn kom runt år 2000 konceptet RMA, Revolution in Military Affairs, att få stor inverkan. Några av de amerikanska begrepp som konsultfirman SAIC då etablerade åt Försvarsmakten var ”Information Superiority” och ”Dominant Battlespace Awareness”. De var delar i det nätverksbaserade försvar (NBF) som under mer än ett decennium kom att dominera den svenska ledningssystemvisionen. NBF-inriktningen kom dock några år för tidigt, för idag domineras stormakternas satsningar av begrepp som ”cooperative engagement” eller ”system i samverkan” och allt bygger på digitalisering och att öka hastigheten i den välbekanta OODA-loopen (ett koncept för att analysera militär ledning och beslutsfattande). Då spelar ISR-förmåga (Intelligence, Surveillance and Reconnaissance) en stor roll, varför samverkan med rymdbaserade system och snabb analys av stora datamängder blivit en del av kravbilden. Och där kommer AI in som en avgörande teknologi för att skapa förmågelyft. I Kina, USA, Ryssland, Frankrike m fl nationer med långt driven AI-utveckling är visserligen de civila tillämpningarna de som beskrivs mest i media, men de militära behoven och oron för att halka efter kan anses vara styrande för egna ekonomiska satsningar såväl som för begynnande restriktioner. USA genomför omfattande satsningar inom de Research Labs som försvarsgrenarna driver. Därtill finns banbrytande program med grundläggande forskning kring autonomi, AI och kvantteknologi som beslutas och administreras av DARPA och sedan utförs av universitet och institut. Resultaten av alla dessa satsningar prövas inom försvarsgrenarna, där sekretessen kring implementeringen är betydligt högre än kring innehållet på låg TRL, vilken DARPA presenterar på webben. Det tidigare tydliga amerikanska försteget inom nya teknologier börjar dock alltmera ifrågasättas av andra nationer och den nya situationen utgör en delmängd av den ökande spänningen mellan USA och Kina.

Ryssland har en lång tradition av kvalificerade matematiker, varav många varit kopplade till militära företag och forskningsinstitut. Även om detaljinnehållet är svårt att få grepp om, presenteras fortlöpande beskrivningar av nya system i statligt kontrollerade tidskrifter. Hösten 2019 beskrevs i ryska medier att man börjat driftsätta ett automatiserat ledningssystem, ISBU och Akatsia-M, som utnyttjar AI-metoder som ”samlar information om fiendens aktiviteter, sedan om luft, mark, störning, strålning och övriga NBC-situationer i arméns verkansområde. Det summerar också data avseende tillgänglighet av materiel, tillgänglighet av ammunition, bränsle mm samt även om moral och den psykologiska statusen hos egen personal”. Systemet hämtar data från radio, fasta nät, satellit m fl informationskanaler. Med detta som grund görs ett antal simuleringar och systemet lämnar därefter en prioriterad lista över lämpligaste agerande, som underlag för olika befälhavares beslut. Detta sker på bråkdelar av den tid det tagit i tidigare system och ryska armén hävdar att USA och NATO inte har något liknande framme. Erfarenheten (bl a ekonomiska begränsningar) pekar på att detta ryska system inte kommer att vara spritt på flera år, men det ger ändå en bild av vad som kan förväntas inom stater där demokratiska och folkrättsliga principer ofta kommer i andra hand.

Kinas AI-satsning, såväl monetärt som i antal engagerade människor, bedöms vara den idag mest omfattande och användningen av AI implementeras kraftfullt i uppbyggnaden av deras långt drivna övervakningssamhälle. Efter en period när man skickade ut begåvade forskarstudenter över världen som ”imiterade och tog hem” har man idag intagit en ledande position inom AI och producerar kvalificerad FoU med egna resurser. I kombination med en enorm satsning på att utveckla egna militära system inom stridsflyg, fartyg, ledningssystem, rymd, sensorer och vapen, utgör Kina ett allt större potentiellt hot för USA.

Förväntad utveckling i branschen som helhet

Tillämpningar av AI utgör grunden för de största aktörerna (de flesta amerikanska) som nu dominerar i tillväxttermer. Ledande är Amazon, Google, Apple och i Kina finns t ex Alibaba Group. Dessa företag har muskler att utveckla både hårdvara och mjukvara samt bygga upp enorma databanker som kan utnyttjas som träningsdatabaser för olika nya system. Amazon, Google och Microsoft har idag färdiga moduler för att snabbt börja träna modeller. Det innebär att tillgängligheten samt tröskeln för att sätta igång är relativt låg. I syfte att skapa stora databanker används för civilt bruk insamling av data som även kan inbegripa underlag från allmänheten. Ur militär synvinkel börjar dock den snabba spridningen av mycket kraftfulla algoritmer och tillgång till data som geografiska detaljbilder och foton bli ett bekymmer. Sådana verktyg samt insikten i hur AI kan utnyttjas sprider sig till oönskade grupperingar (icke-statliga aktörer). Så fort det finns en ny förmåga så lägger sådana grupperingar, som även kan vara statsunderstödda, kraft på att skapa verktyg för att störa eller sabotera.

Läs mer i rapporten om trender, krav och utmaningar.