Vi måste skapa säkra regler när AI utvecklas

Människan ska fortsätta att utveckla maskinerna och hålla dem i vår tjänst, men robotarna behöver regler att hålla sig till, säger Magnus Hjelmblom, forskare vid Högskolan i Gävle.

AI kräver regler

Utvecklare av system av robotar eller intelligenta programvaror har mängder av saker att ta hänsyn till.

Bland annat krävs det vissa regler och ett inbyggt system för bevakning av att delarna, de så kallade agenterna, bara gör det de har tillåtelse att göra.

- Min forskning handlar om att reglera agenternas beteende med hjälp av det jag kallar normer, vilket innefattar såväl oskrivna regler som formella regelsystem och lagar, säger Magnus Hjelmblom.

Utvecklat ett ramverk

Det nya är att Magnus utgått från algebra och inte från logik som är det vanliga, och gjort det till ett instrument för att verkligen reglera beteendet på körbara system.

- Det är ett lite nytt angreppssätt och jag har utvecklat det från ett teoretiskt begrepp till något som är praktiskt användbart. Visat att man kan skapa normer som är meningsfulla och som ger ett vettigt resultat.

Algebraiska metoder är matematik i grunden och lämpar sig ofta väldigt väl för bearbetning på dator.

- Jag har utvecklat ett ramverk för att någon annan sedan ska kunna skapa en specifik applikation. För att exemplifiera så har jag också utvecklat ett antal konkreta program/applikationer som illusterar hur detta ramverk fungerar och används.

Simulerar evolutionen

I ett av exemplen används en så kallad genetisk algoritm, som simulerar evolution för att utveckla något som bättre och bättre löser ett problem.

Detta kan man göra dels genom att låta agenternas beteende styras dels av en enkel funktion som talar om vad agenterna vill göra och ett normativt system som talar om vad de får och inte får göra.

- Detta i kombination kan ge ganska kraftfull problemlösningsförmåga.

Maskiner tar över allt mer

Maskiner får mer och mer att säga till om och blir mer och mer avancerade. Maskiner tar över allt mer av människans arbete exempelvis inom vården. Det är lätt förstå vikten av att sådana maskiner har försetts med klara regler för vad de får och inte får göra.

- Så det blir så klart intressant att fundera på hur man kan reglera dessa artificiella agenters beteende.

Människan måste behålla kontrollen

- Maskiner är bra på många sätt och dem ska vi använda för att hjälpa oss. Men det är vi människor som ska fatta de avgörande besluten. Och vi ska utveckla bra hjälpmedel för beslutsfattare så att vi kan säkerställa att besluten blir så bra och rationella som möjligt.

Framåt

Magnus byter nu ämnesområde till Besluts- risk och policyanalys.

- Tidigare har jag nog alltid sett mig själv som lärare. Och när jag disputerat så återgår jag till lärarbanan.

- Men det finns många intressanta spår att följa upp när det gäller min forskning. Jag har också en del andra intressanta projekt på gång som jag har arbetat lite grann med under doktorandtiden. Det handlar om utveckling av datoriserade beslutsstödssystem

Magnus Hjelmblom försvarade sin avhandling "Norm-Regulation of Agent Systems: Instrumentalizing an algebraic approach to agent system norms" vid Stockholms universitet 3 november.

Handledare har varit professor Magnus Bohman, KTH, samt professor Jan Odelstad, Högskolan i Gävle.

För mer information, v v kontakta:
Magnus Hjelmblom, universitetsadjunkt i besluts-, risk- och policyanalys vid Högskolan i Gävle
Telefon: 026-64 86 48
E-post: magnus.hjelmblom@hig.se

Text: Douglas Öhrbom
Foto: Ove Wall