Forskare från Umeå universitet i ny FN-rapport om AI: ”Brådskande att samarbeta”

En rapport från FN:s rådgivande organ för artificiell intelligens (AI) visar att oreglerad AI-utveckling innebär risker på samhälleliga och etiska nivåer samt när det gäller global styrning. Något som kräver brådskande åtgärder.

Med i det rådgivande organet sitter forskaren och AI-experten Virginia Dignum vid Umeå universitet.

– Rapporten betonar vikten av globalt samarbete och varnar för att AI-utvecklingen i dag styrs av ett fåtal företag och länder, säger hon.

FN:s rådgivande organ för AI har släppt sin slutrapport, "Governing AI for Humanity", med förslag för att hantera AI globalt och skydda mänskliga rättigheter. Rapporten lyfter fram att nuvarande strukturer är otillräckliga och att det behövs ett globalt, inkluderande system för AI-styrning.

Rapporten ger sju rekommendationer, bland annat att skapa en internationell vetenskaplig panel om AI, starta en global AI-fond för länder med begränsade resurser och utveckla gemensamma standarder för AI-data. Rapporten betonar att ett internationellt samarbete är avgörande.

–Det är brådskande att samarbeta internationellt för att skapa ett ramverk som löser dagens brister, särskilt kring mänskliga rättigheter, rättvis fördelning och minskning av risker. Även om en global styrningsstruktur kan vara svår att skapa, är det viktigt att ha en dialog där länder och regioner kan samarbeta och hitta gemensamma lösningar, säger Virginia Dignum, professor vid Institutionen för datavetenskap vid Umeå universitet.

AI utan styrning har risker

Hon menar att utan styrning medför AI stora risker, särskilt då det kan påverka olika befolkningsgrupper världen över ojämlikt. De flesta styrningsinitiativ i dag kommer från en liten grupp länder och företag, vilket gör att stora delar av världen, speciellt i den globala södern, är underrepresenterade.

– Utan rätt styrning kan AI förvärra ojämlikheter. Men vi måste också undvika att låta rädslan för risker hindra oss från att använda AI för goda syften, säger Virginia Dignum.

För AI kan även ge stora fördelar, som att stödja uppnåendet av FN:s mål för hållbar utveckling, förbättra vård, utbildning och styrning. Det kan stärka lokala samhällen, hjälpa till att lösa komplexa problem och öka produktivitet och innovation.

– Därför är det så viktigt med ett globalt nätverk för AI-utveckling, så dessa fördelar blir tillgängliga för alla, inte bara för några få, säger Virginia Dignum.

Över 50 globala möten

Hon känner att arbetet i det rådgivande organet har varit både utmanande och givande. Det har inneburit samarbete med experter från olika områden och regioner, att ta in olika perspektiv och hitta gemensamma lösningar på AI-utmaningarna.

– Vi genomförde över 50 globala möten och granskade bidrag från hela världen, vilket visade det stora intresset för att forma AI:s framtid. Det gjorde processen väldigt meningsfull, säger Virginia Dignum.

Det finns stora kulturella skillnader i hur olika grupper ser på AI, särskilt kring balansen mellan innovation och reglering samt AI:s roll i samhället. Vissa regioner fokuserar på AI:s potential för ekonomisk tillväxt, medan andra oroar sig mer för etiska frågor och hot mot mänskliga rättigheter.

– Dessa olika perspektiv har berikat våra diskussioner och visar behovet av en global, inkluderande AI-styrning som tar hänsyn till olika behov och värderingar världen över. Min roll var ibland att hålla gruppen fokuserad och påminna om att vi inte får fastna i hypen kring AI, säger Virginia Dignum.

Kontakt:
Virginia Dignum, professor vid Institutionen för datavetenskap vid Umeå universitet.
E-post: virginia.dignum@umu.se
Telefon: 090-786 63 08, 0720-85 08 90