Utblick: digitalisering - Att driftsätta AI är en fråga om etik och tillit

Att artificiell intelligens (AI) kommer att förändra hur företag arbetar råder det inget tvivel om. Redan idag används AI för att förenkla och snabba upp utförandet av olika uppgifter tvärs över en mängd olika branscher. Men vad kommer att krävas för att ta nästa steg mot ett bredare införande av tekniken? Det finns ett antal utmaningar och vi kommer att ta upp några av dessa och förklara hur TCS ser på ämnet.

En av de största utmaningarna är att vi människor ännu inte är helt bekväma med att lita på system som fattar beslut där vi inte kan se det bakomliggande logiska resonemanget. Pålitlig AI måste kunna förklaras, vara opartisk och transparent samt reproducerbar och hållbar. En AI-modell behöver kunna förklara rätt sak för rätt person vid rätt tillfälle.

Är beslutsfattande AI-modeller pålitliga?

AI-system anförtros alltmer att fatta viktiga beslut. Många av dessa beslut har en betydande inverkan inte bara på företag utan också på individer. Utvecklingen av djupinlärning har resulterat i en betydande ökning av noggrannheten i dessa beslut.

Men det mänskliga sinnet är ännu inte bekvämt med att lita på system som bestämmer utan att släppa in oss i det logiska resonemanget bakom sådana beslut. På samma sätt finns det farhågor angående rättvisa och fördomar i AI-system på grund av den data på vilken modellerna tränas eller på själva modelleringsprocessen. Denna brist på insikt i beslutsprocessen tillsammans med tvivel om rättvisa och opartiska beslut är några av de största hindren när det gäller att acceptera AI i en större skala.

Förmåga att förklara

Förklaringsförmågan för AI-system har tagit en central plats i policydebatter mellan forskning, affärsforum och tillsynsorgan. I alla dessa diskussioner är förväntningarna att förklaringarna ska ge tolkningsbarhet, transparens och bestridbarhet.

Den vanligaste formen av förklaringar av vad AI resulterar i är idag kartor över viktiga särdrag och framträdande egenskaper. Olika tekniker finns tillgängliga för att generera egenskapens betydelse eller relevans för ett specifikt beslut eller för modellens övergripande beteende.

Samtidigt är förmågan att ge förklaringar, vilka går mot underliggande fakta, till slutanvändare eller individer om hur ett icke gynnsamt resultat kan omvandlas till ett gynnsamt helt avgörande för pålitliga AI-system.

Fördomar och rättvisa

Fördomar kan smyga sig in i modelleringsprocesser i olika stadier och i olika former. De träningsdata som används kan ha inneboende fördomar på grund av historiska skäl. Fördomar kan också komma in i modellering om dataurvalet inte är enhetlig över olika klasser eller inte representerar olika grupper rättvist.

Reproducerbarhet

Möjligheten att reproducera hela utvecklingscykeln för AI-modellen ingjuter förtroende för den övergripande AI-lösningen och uppmuntrar införande av AI. Att dokumentera steg som databearbetning, modellträning och -anpassning samt modelltestning och -validering gör att vi kan replikera modellutvecklingen, och det hjälper oss att minska riskerna samt spåra och reproducera buggar.

Transparens

Faktorer såsom att publicera detaljer om modeller i beslutssystemet, information om hur de samverkar för att göra den slutliga förutsägelsen, och insikter om hur modellen presterar under olika förhållanden, är avgörande. Tillsammans med modellens förväntade beteende, som variationer i resultaten under olika förhållanden, är avgörande för slutanvändarna. Denna aspekt av transparens ger trovärdighet för utrullningen av AI.

Hållbarhet

Att utveckla AI-lösningar kan leda till en stor miljöpåverkan till följd av bearbetning av stora datamängder, användning av stora beräkningsinstanser och den energi som behövs för att kyla dessa datacenter. Det finns ett behov av att använda resurser optimalt, övervaka resursförbrukning samt optimera AI-lösningar för att minska miljöpåverkan och maximera hållbarhet.

Brist på förståelse och sätt att överbrygga klyftan

De flesta av förklaringarna till AI-modellers resultat presenteras som numeriska värden, diagram, grafer eller heat maps. Det är förklaringar som endast förstås av dataforskare och sällan av slutanvändaren. Detta resulterar i bristande förståelse och oförmåga eller till och med ovilja att agera på AI-beslut.

Att kommunicera förklaringarna

Det är viktigt att kommunicera förklararingar av resultaten till slutanvändare, intressenter och tillsynsmyndigheter i enkel form och på ett enkelt språk. En förklaring i mänskligt uppfattbar form kan räcka långt för att göra AI-beslut mycket mer användbara.

För mer information inklusive exempel på hur detta kan appliceras hittar du på TCS webbplats.

Bilden som illustrerar texten tog vi fram med hjälp av en publik generativ AI-lösning. Prompten vi gav lösningen var att ta fram en bild på en etisk och god AI i ett datacenter.