Att säkra intelligenta system – perspektiv från industrin
Ali Leylani är Chief AI Officer på Echo Alpha och gästföreläsare på masterprogrammet i cybersäkerhet. Han delar med sig av sina erfarenheter kring AI, autonoma system och strategisk säkerhetsforskning.
Under din föreläsning pratar du om testning och hackning av robotar, berätta!
– Det jag brukar försöka förmedla är att robotar och autonoma system inte bara är AI, utan cyberfysiska system där mjukvara, sensorer, nätverk och verklig fysisk verkan hänger ihop. Det gör att säkerhetsfrågorna blir mer konkreta: manipulerad sensordata, störd kommunikation eller felaktiga beslut i modellen kan i förlängningen få verkliga konsekvenser. Därför handlar testning inte bara om att hitta buggar, utan om att förstå hur ett intelligent system beter sig under press, under osäkerhet och under angrepp.
Varför skulle du rekommendera en master i cybersäkerhet?
– Därför att cybersäkerhet inte längre är ett smalt specialistområde vid sidan av verksamheten – det är en grundförutsättning för att digital infrastruktur ska fungera. En masterutbildning ger inte bara fler verktyg utan också ett djupare sätt att tänka: hur du analyserar risk, bygger robusta system och förstår sambandet mellan teknik och människa. Det är särskilt relevant i ett läge då säkerhet berör allt från molntjänster och industriella system till AI och samhällskritisk verksamhet.
Om du började plugga idag, vilka förmågor och kunskaper skulle du satsa på?
– Då skulle jag fördjupa mig ännu mer i skärningspunkten mellan AI, cybersäkerhet och distribuerade system. Framför allt skulle jag vilja gå djupare i hur autonoma system kan verifieras, testas och styras på ett säkert sätt när de får större handlingsfrihet.
Hur ser efterfrågan på cybersäkerhetsexperter ut inom industrin?
– Efterfrågan är mycket stark, men har också blivit mer krävande. Det räcker inte att bara kunna ett verktyg eller ett ramverk, industrin söker människor som kan kombinera tekniskt djup med omdöme, kommunikation och förståelse för verksamhetsrisk.
Vad måste framtidens cybersäkerhetsexpert kunna?
– Den största förändringen är att säkerhet allt mindre handlar om att skydda traditionella it-system. Framtidens experter måste förstå autonoma system, agentisk AI, cyberfysiska miljöer och säkerheten i hela leveranskedjan.
Tips till den som funderar på en karriär inom cybersäkerhet?
– Bygg först en stark teknisk grund. Lär dig matematik och hur datorer, nätverk och system fungerar innan du jagar titlar eller certifieringar. Var nyfiken nog att skruva isär saker, testa, misslyckas och förstå varför något går sönder. Och kanske viktigast av allt: välj området för att du tycker om att förstå komplexa system och att ta ansvar, inte bara för att det är hett. De som blir riktigt bra är nästan alltid de som kombinerar disciplin med genuin nyfikenhet.
Uppdaterad: