Användningen av artificiell intelligens i trådlösa kommunikationssystem kan öppna upp för nya typer av attacker – särskilt inom försvarsområdet.
FOI varnar: AI i militära radiosystem kan bli säkerhetsrisk
Joakim K E Johansson
Uppdaterad: 25 mars 2025Publicerad: 25 mars 2025
ANNONS
ANNONS
Mest läst i kategorin
ANNONS
Lär dig av AI-experterna
Det visar en ny rapport från Totalförsvarets forskningsinstitut (FOI), där forskare har analyserat hot kopplade till så kallad ”adversarial machine learning” – attacker riktade mot AI-modeller.
”I radiosystem är det en kedja av algoritmer som används för att bearbeta data, sända data genom luften och sedan avkoda den på mottagarsidan”, säger Erik Axell, laborator på FOI:s avdelning Telekrig i Linköping, i ett pressmeddelande.
Missa inte: Oroväckande upptäckten om trogna AI-användare. Realtid
FOI-rapporten har tagits fram på uppdrag av Försvarsmakten och kartlägger hot- och sårbarheter mot AI-baserade radiosystem.
Ställer andra krav
Forskarna har identifierat åtta kategorier som används för att analysera attackernas egenskaper, däribland var attacken kan ske – digitalt eller fysiskt – samt vilken kunskap angriparen har om systemet.
”Vid en digital attack behöver den som attackerar ha tillgång till indata till AI-modellen. Vid en fysisk attack kan motståndaren påverka indata fysiskt, till exempel sända en radiosignal genom luften”, förklarar Axell.
FI varnar för ny AI-trend bland unga på börsen
FI går nu ut med en varning tillsammans med Europeiska värdepappers- och marknadsmyndigheten, Esma, som riktar sig till särskilt unga på börsen.
ANNONS
Enligt rapporten har mycket av den tidigare forskningen inom AI-säkerhet fokuserat på bild- och språkbehandling, där AI länge varit etablerat.
Attacker mot radiosystem ställer dock andra krav, bland annat på att förstå och modellera radiokanalen på ett realistiskt sätt – något som sällan gjorts hittills.
Missa inte: Oroväckande upptäckten om trogna AI-användare. Realtid
ANNONS
Senaste nytt
Effektiva attacker
Trots att mycket forskning förutsätter att angriparen har full insyn i AI-systemet (så kallat ”whitebox”-scenario), anser FOI att detta är osannolikt i praktiken. Istället är det mer troligt att en angripare har begränsad kunskap.
”Även om en motståndare bara har lite kunskap om en kanal går det att genomföra effektiva attacker. Det är det vi har sett”, säger Axell.
FOI:s slutsats är att det finns reella risker med AI i radiosystem, men att mycket fortfarande är okänt. Huruvida dessa attacker får allvarliga konsekvenser beror både på hur tekniken implementeras och hur väl systemen skyddas, enligt FOI.
Googles AI-assistent löste forskarproblem på två dagar
Mikrobiologer arbetade i tio år för att lösa ett problem, Googles nyligen introducerade forskningsassistent löste det på två dagar.
ANNONS
Läs mer från Realtid - vårt nyhetsbrev är kostnadsfritt:
Joakim K E Johansson
Journalist med fokus på näringsliv, ekonomi och internationella marknader.
Joakim K E Johansson
Journalist med fokus på näringsliv, ekonomi och internationella marknader.
ANNONS
Lär dig av AI-experterna
På Al Unlocked får du en halvdag med fyra av Sveriges mest framstående AI-experter - för dig som vill gå från nyfiken till kunnig.
Boka här
ANNONS
ANNONS
Senaste nytt
ANNONS
ANNONS