Nationell kraftsamling ska stärka AI-systemens motståndskraft

– Om vi gör oss beroende av AI måste vi också kunna skydda tekniken. Annars riskerar vi att bygga in sårbarheter i samhällets mest grundläggande system, säger Fredrik Heintz, föreståndare för RESIST, en nationell kraftsamling för att utveckla cyberresilienta AI-system.

I RESIST, ett nationellt forskningscentrum för cyberresilient AI, samlas akademi, industri och myndigheter för att utveckla motståndskraftiga AI-system. Centret leds från Linköpings universitet i nära samverkan med forskningsinstitutet RISE och universiteten i Lund och Örebro. Satsningen tar avstamp i ett forskningsläge där fokus länge legat på hur AI kan användas för att stärka cybersäkerhet. RESIST vänder på perspektivet.
– Nu handlar det i stället om cybersäkerhet för AI. Det kräver att två forskningsfält som länge utvecklats parallellt möts på riktigt, säger Fredrik Heintz, professor och föreståndare för centret.
En kartläggning som har genomförts i anslutning till RESIST visar tydliga skillnader mellan fälten. AI-forskare och cybersäkerhetsexperter har i stor utsträckning arbetat var för sig, med olika perspektiv och prioriteringar.
– Det finns ett uppenbart behov av att föra samman de här världarna. Vi vill bygga en kritisk massa och ta ansvar för helheten, säger Fredrik Heintz.
Han framhåller att tidigare satsningar, inte minst WASP-programmet, har lagt grunden för RESIST och byggt upp den kompetens som nu gör det möjligt att samla forskare med rätt expertis i en gemensam miljö.

Tid kritisk faktor
Utmaningarna är flera, men en återkommer i alla diskussioner: tid.
– AI utvecklas extremt snabbt. Forskning och förändringar av regelverk är mer långdragna processer. Vi måste hitta sätt att möta industrins tempo utan att kompromissa med kvaliteten, säger Mikael Asplund, biträdande professor vid Linköpings universitet och en av forskarna i centret.
Han jämför dagens snabba AI-spridning med mjukvarans genombrott för två decennier sedan.
– Då var det få som reflekterade över vilka konsekvenser användningen kunde föra med sig. På liknande sätt tas dagens AI-system i bruk innan riskerna är fullt kartlagda. Det är här arbetet inom RESIST kommer in i bilden.
En grundsten är att centret inte enbart ska producera forskning utan bidra till konkreta lösningar som kan användas av företag och myndigheter.
– Det handlar om att bygga kunskap, men också om att göra skillnad i praktiken. Därför är arbetet inom RESIST uttalat tvärvetenskapligt. Här möts experter inom AI, cybersäkerhet och människa–maskin-interaktion. Den här typen av problem kräver flera perspektiv. Ingen enskild disciplin räcker till, säger Mikael Asplund.

Bygga kunskap
Buse Atli, biträdande universitetslektor, är en del av den nya generation forskare som rör sig mellan AI och cybersäkerhet. Inom RESIST bygger hon upp en egen forskningsmiljö med fokus på cyberresilient och tillförlitlig AI samt rekryterar doktorander till området.
– Det är ett spännande forskningsfält som omfattar både tekniken i sig och hur människor uppfattar och använder den. I dag säger många ”det är AI” så fort de inte litar på något, vilket visar att kunskapen om hur systemen fungerar fortfarande är låg. Ökad kunskap är nyckeln till att förändra synen på AI, säger Buse Atli.
Därför är utbildning en central del av RESIST. Kurser och öppna föreläsningar ska bidra till att höja kunskapsnivån i samhället.
Ett annat viktigt mål är att påverka den nationella forskningsagendan och skapa en långsiktig struktur för samarbeten.
– Vi vill bygga något som lever vidare även efter att finansieringen från Stiftelsen för strategisk forskning har löpt ut. Forskningsresultat är förstås viktiga, men den viktigaste produkten som RESIST kan bidra med är människor. Doktorander och studenter som går vidare och bidrar till samhällsutvecklingen med sina kunskaper, säger Fredrik Heintz.

Samhällsfråga
Centret, som invigdes den 4 maj, har redan väckt stort intresse, både nationellt och internationellt.
– Det visar att frågan är högprioriterad. I en tid där teknikutvecklingen rusar framåt och hotbilden snabbt förändras är motståndskraftiga AI-system inte bara en teknisk angelägenhet, de är en samhällsfråga. Här handlar det ytterst om vår framtida säkerhet.
Om sex år hoppas han att RESIST har etablerat Sverige som en ledande nation inom cyberresilient AI.
– Men viktigast är att vi faktiskt har gjort skillnad. Att de system vi använder är säkrare, mer robusta och bättre rustade för en osäker värld, avslutar Fredrik Heintz.