Generativ AI, digital resiliens och civil beredskap: en kunskapsöversikt

Studien undersöker hur generativ AI kan påverka samhällets digitala resiliens och civila beredskap. Resultat delades in i tre perspektiv: teknik, organisation och styrning.

Projektet: _Generativ AI, digital resiliens och civil beredskap: en kunskapsöversikt_ av Christine Große och Leif Sundberg, publicerad av Luleå tekniska universitet och Umeå universitet i maj 2024. Studien undersöker hur artificiell intelligens (AI), specifikt generativ AI, påverkar samhällets förmåga att stå emot digitala hot och stärka sin civilberedskap

Studien, finansierad av MSB, syftar till att identifiera möjligheter och risker med generativ AI, som exempelvis ChatGPT och DALL-E, i förhållande till digital resiliens och samhällsberedskap. Fokus ligger på teknikens roll inom områden som cybersäkerhet, skadligt innehåll och organisationens styrning och innovation. Totalt granskades 164 vetenskapliga artiklar.

• Generativ AI: Teknologi som kan skapa text, bilder och video baserat på instruktioner. Den kan användas både konstruktivt och destruktivt, exempelvis för deepfakes och desinformation.
  
• Digital Resiliens: Förmågan att upprätthålla kritiska samhällsfunktioner trots störningar i digitala system.
• Civil Beredskap: Samhällets förberedelse och förmåga att hantera och återhämta sig från kriser.

Rapporten identifierar teman under tre huvudsakliga perspektiv: teknik, organisation och styrning.

• Teknik: Generativ AI kan användas för att både skapa och identifiera skadligt innehåll som desinformation. Den är både en möjlighet och ett hot för cybersäkerheten.
• Organisation: AI kan främja innovation och kunskapshantering men måste styras med rätt mekanismer för att säkerställa etisk användning.
• Styrning: AI påverkan på demokrati, lagstiftning och förtroende är avgörande frågor som behöver regleras och hanteras globalt.

Studien avslutar med rekommendationer för framtida forskning och betonar vikten av ansvarsfull AI-användning för att stödja en säker digitalisering och stärka samhällets motståndskraft.

Rapporten går att läsa här: Generativ AI, Digital Resiliens och Civil Beredskap: en kunskapsöversikt. Länk till annan webbplats.