AI i fjärrstyrda luftfarkoster kan både hjälpa och stjälpa i kris

Obemannade luftfartyg med artificiell intelligens kan hjälpa räddningstjänsten att genomföra uppdrag i svåra miljöer. Dock är tekniken sårbar på ett sätt som gör att angripare kan komma åt och manipulera information från farkosterna.

Intresset för att använda obemannade luftfartyg, även kallade UAS, vid olika insatser har ökat inom svensk räddningstjänst. Med hjälp av UAS kan räddningstjänsten få korrekta lägesbilder och information som kan vara avgörande för krishanteringen vid exempelvis bränder. Om farkosterna dessutom utrustas med artificiell intelligens, AI, kommer de kunna fatta beslut på ett sätt som långt överstiger mänsklig intellektuell förmåga.

På uppdrag av Myndigheten för samhällsskydd och beredskap, MSB, har FOI gjort en översikt av vilka möjligheter och hot som finns vid användning av obemannade luftfartyg med AI.

– Det görs mycket forskning i hur AI skulle kunna bli ett viktigt verktyg vid räddningsinsatser. Att få ett helikopterperspektiv med hjälp av UAS är väldigt värdefullt, till exempel för att bedöma skadeverkningar vid bränder och översvämningar eller för att undsätta människor, säger forskaren Erik Zouave vid FOI:s avdelning för försvarsanalys.

Navigering i okända miljöer

Förutom att övervaka stora områden skulle obemannade luftfartyg med AI kunna användas för navigering i okända miljöer och för att kartlägga hinder. Forskning pågår också för att farkosterna i framtiden ska kunna analysera bilder och reducera brus så att de kan upptäcka små objekt på långa avstånd.

Men samtidigt som AI ökar räddningstjänstens förmåga att genomföra uppdrag i svåra miljöer finns det också nackdelar med tekniken. Eftersom AI bygger på komplexa algoritmiska funktioner blir det svårt för människan att förstå vad som egentligen händer.

– AI hittar på och lär sig regler utifrån trender vilket gör det oerhört komplicerat för människan att förstå varför maskinen tar de beslut den gör och att identifiera eventuella fel, säger Erik Zouave.

Detta gör även AI sårbart för angripare som kan lura systemet och orsaka stora skador, förklarar han vidare.

– Om AI byggs in i system som ska användas för samhällsviktig verksamhet, eller räddningstjänst och krishantering, är det viktigt att det görs utifrån rätt säkerhetskrav så att farkosten inte kan manipuleras av utomstående.

Behövs kompetent personal

Kommunala räddningstjänster, som vill använda obemannade luftfartyg med artificiell intelligens, rekommenderas av FOI:s forskare att först analysera i vilka situationer som tekniken främst kan behövas.

– Dessutom krävs det kompetent personal som kan hantera maskinen och underhålla systemet, så det måste man också tänka på, avslutar Erik Zouave.