Förklarbar AI för cybersäkerhet: från “black box” till insikt

Vi intervjuade Tanjim Mahmud som ska arbeta med forskning inom projektet “A Novel Explainable Belief Rule-Based Framework to Predict Cybersecurity Threats” som ska utveckla modeller som inte bara upptäcker hot, utan också förklarar varför de uppstår och hur beslut tas. 

Kan du kort beskriva huvudfokus i din forskning inom projekt "A Novel Explainable Belief Rule-Based Framework to Predict Cybersecurity Threats"?
Huvudfokus i denna forskning är att utveckla ett förklarbart och tillförlitligt ramverk för att förutsäga cybersäkerhetshot. Istället för att enbart ge en prediktion förklarar det föreslagna belief rule-based (BRB)-ramverket också varför en specifik aktivitet bedöms som ett hot. Detta hjälper säkerhetsanalytiker att förstå, lita på och agera effektivt utifrån systemets beslut.

Vilket problem inom cybersäkerhet syftar din forskning till att lösa?
Många befintliga cybersäkerhetslösningar bygger på så kallade black-box-modeller inom maskininlärning, som kan vara mycket träffsäkra men svåra att tolka. Denna brist på transparens skapar utmaningar i beslutsfattande, granskning och regelefterlevnad. Vår forskning adresserar detta genom att erbjuda en modell som balanserar prediktionsnoggrannhet med tolkningsbarhet, vilket möjliggör bättre samspel mellan människa och maskin i cybersäkerhetsarbetet.

Vilka är de största tekniska eller praktiska utmaningarna i din forskning?
En stor utmaning är att hantera osäkerhet och ofullständig information, vilket är vanligt i verkliga cybersäkerhetsdata. En annan utmaning är att utforma ett system som är tolkningsbart samtidigt som det uppnår hög prediktiv prestanda. Dessutom kräver integrationen av expertkunskap med datadriven inlärning på ett konsekvent och skalbart sätt noggrann modellutformning och validering.

Vad skiljer ditt angreppssätt från traditionella maskininlärningsmetoder inom cybersäkerhet?
Traditionella maskininlärningsmodeller fokuserar främst på prediktionsprestanda, ofta på bekostnad av transparens. Vårt belief rule-based-ramverk är däremot i grunden förklarbart. Det genererar regler som är läsbara för människor och ger en tillförlitlighetsnivå för varje beslut. Detta gör det möjligt för säkerhetsanalytiker att följa hur slutsatser dras, vilket gör systemet mer lämpligt för praktisk användning där tillit och ansvar är avgörande.

Vilka råd skulle du ge till företag eller organisationer som vill förbättra sitt cybersäkerhetsarbete idag?
Organisationer bör gå bortom enbart reaktiva säkerhetsåtgärder och istället införa intelligenta, förklarbara och proaktiva system. Det är viktigt att kombinera automatiserad hotdetektion med mänsklig expertis och att säkerställa att säkerhetsverktyg ger tydliga insikter, inte bara larm. Regelbunden utbildning, datadrivet beslutsfattande och transparens i säkerhetssystem är avgörande för att bygga robusta cybersäkerhetslösningar.

Vad motiverade dig att arbeta inom cybersäkerhetsområdet?
Jag motiverades av samhällets ökande beroende av digitala system och de växande riskerna kopplade till cyberhot. Cybersäkerhet är inte bara en teknisk utmaning, utan också en fråga om tillit, säkerhet och samhällsansvar. Möjligheten att utveckla lösningar som både är tekniskt robusta och praktiskt relevanta inspirerade mig att forska inom detta område.

Framåt, vilken typ av påverkan hoppas du att din forskning ska ha, både akademiskt och i praktiska tillämpningar?
Akademiskt hoppas jag att denna forskning bidrar till utvecklingen av förklarbar artificiell intelligens inom cybersäkerhet och uppmuntrar vidare arbete med transparenta beslutsmodeller. I praktiken är målet att ramverket ska stödja säkerhetsprofessionella genom att förbättra hotdetektering samtidigt som det stärker tillit, ansvarstagande och välgrundade beslut i operativa miljöer.