Vägen mot framtidens AI börjar med tillit

Artificiell intelligens – AI – blir en allt större del av vår vardag och enligt många forskare är det bara början. Men den AI som utvecklas behöver vara tillförlitlig i alla lägen. Linköpings universitet koordinerar EU-projektet TAILOR som har tagit fram en färdplan baserad på forskning som ska guida forskningsfinansiärer och beslutsfattare mot framtidens tillförlitliga AI.

– Vi är bara i början av utvecklingen av artificiell intelligens. Kollar vi tillbaka om 50 år på det vi gör i dag, kommer vi tycka att det är ganska primitivt. Med andra ord är det mesta fortfarande kvar att upptäcka. Därför är det viktigt att lägga grunden för en tillförlitlig AI redan nu, säger Fredrik Heintz, professor i artificiell intelligens vid Linköpings universitet och samordnare för EU-projektet TAILOR.

TAILOR är ett av totalt sex forskningsnätverk inrättade av EU för att stärka forskningskapaciteten och utveckla framtidens AI. Inom TAILOR ska grunden för en tillförlitlig artificiell intelligens läggas genom att ta fram ramverk och riktlinjer samt specificera AI-forskningens behov. TAILOR står för Foundations of Trustworthy AI – integrating, learning, optimisation and reasoning, eller integrering, inlärning, optimering och slutsatsdragning på svenska.

Färdplanen som nu presenteras av TAILOR är ett första steg mot en standardisering där tanken är att beslutsfattare och finansiärer ska få en inblick i vad som krävs för att utveckla en tillförlitlig AI. Fredrik Heintz menar att det finns en poäng att visa att det finns en mängd forskningsproblem som behöver lösas för att nå dit.

Forskarna har specificerat tre kriterier för att uppnå tillitsfull AI: den ska följa lagar och regler, uppfylla ett antal etiska principer samt att det ska vara en robust och säker implementering. Enligt Fredrik Heintz innebär det stora utmaningar, framför allt att förverkliga de etiska principerna.

– Ta till exempel rättvisa – innebär det lika fördelning av resurser eller att alla får resurser efter behov för att komma upp på samma nivå? Det är stora och långsiktiga frågor som kommer ta tid att lösa. Definitionen av rättvisa har ju debatterats av filosofer och tänkare i hundratals år, säger Fredrik Heintz.

I fokus ligger till stor del övergripande forskningsfrågorna och att hitta standarder för alla som jobbar med AI att förhålla sig till. Men för att nå dit menar Fredrik Heintz att grundforskningen inom AI måste gå först.

– Ofta ser man på AI som en teknikfråga men det viktiga är egentligen hur vi får samhällsnytta av den. För att få en AI som går att lita på och funkar i samhället behöver den vara människocentrerad, säger Fredrik Heintz.

Inom EU och nationellt skrivs många förslag av jurister. Men enligt Fredrik Heintz saknar de expertkompetens inom AI-området vilket blir ett problem.

– Lagstiftning och standarder behöver vila på vetenskap. Där kommer vi forskare in och kan berätta var forskningsfronten ligger och bli möjliggörare för väl underbyggda beslut. Det är viktigt att låta experter ha inflytande i den här typen av frågor, säger Fredrik Heintz.

Läs hela färdplanen här: Strategic Research and Innovation Roadmap of trustworthy AI

Kontakt

Fredrik Heintz, professor, fredrik.heintz@liu.se, 013-28 24 28