Etisk tillämpning av AI en växande fråga för företag och organisationer - men hanteringen är ojämn

COVID-19 har satt ökat fokus på etiskt användande av system med artificiell intelligens (AI) samt potentiella risker för diskriminering och särbehandling. Rapporten ”AI and the Ethical Dilemma: How organizations can give smart machines a moral compass to build customer trust” från Capgemini Research Institute visar att antalet företag och organisationer som nu agerar och tar fram etiska riktlinjer för användande av AI snabbt ökar. Företag där ledningen inte agerar och tar frågan på allvar kan komma att drabbas hårt.

Även om företag blir mer medvetna om de etiska dimensioner och frågeställningar som kommer med ökad användning av AI finns brister i hur dessa omhändertas. När det handlar om rättvisa (65 %) och möjlighet att granska utfall och beslut (45 %) har utvecklingen stått stilla sedan den förra rapporten. För området transparens har siffran sjunkit från 73 % till 59 %. Detta trots att 58 % av tillfrågade företag och organisationer säger sig ha arbetat med att informera anställda kring konsekvenser som användande av system med AI kan medföra.

Rapporten visar också att 70 % av kunder kräver att utfall och beslut från system med AI tydligt ska kunna förklaras. De förväntar sig också transparens och rättvisa i kontakten med system från företag som tillämpar AI.

Frågor kring etisk tillämpning är idag grundläggande

Lagstiftning och riktlinjer från bland annat EU och andra organisationer bidrar till att sätta fokus på frågan om etiska principer för användning av AI. Under 2020 etablerade US Federal Trade Commission (FTC) rekommendationer som innebär att system med AI som fattar ett för kunden negativt beslut, till exempel ett avslag på en låneansökan, måste kunna visa kunden vilken data som beslutet grundats på. Kunden ska ha möjlighet att identifiera och korrigera felaktigheter. Inom detta område visar rapporten att utvecklingen går åt fel håll. 2019 informerade 73 % av tillfrågade verksamheter sina kunder om hur de kan påverkas av beslut tagna med hjälp av AI. I årets rapport har denna siffra sjunkit till 59 %.

En orsak till den lägre siffran för 2020 kan vara att COVID-19 både förändrat konsumentbeteenden och medfört ökad komplexitet för systemen. Brist på historiska data från motsvarande situationer som kan användas för att träna system gör att företag idag måste justera sina system utifrån en ny normalbild där konsumenter agerar annorlunda än tidigare. Denna utveckling kan ha bidragit till minskad transparens.

AI som diskriminerar eller ger dålig kundupplevelse kan bli kostsamt

Många företag och organisationer inom offentlig sektor har accelererat sitt användande av AI i sin kamp för att lindra effekterna av COVID-19 och den globala pandemin. I takt med att denna utveckling fortsätter ökar också kraven på verksamheter att se till att kunder känner fortsatt tillit till, och får en god upplevelse i mötet med tjänster som använder AI. Det finns rapporter om fall där social och kulturell särbehandling har färgat data som samlats in för användning i vård och offentlig sektor[1].

Det är inte bara i offentlig sektor som diskriminering rapporterats. Studien visar att 65 % av de tillfrågade beslutsfattarna kände till fall där system med AI uppträtt diskriminerande. Nära 60 % av verksamheter i studien har på något sätt utsatts för rättslig granskning eller upplevt missnöje bland kunder till följd av användning av AI. Missnöjda kunder berättar gärna om negativa upplevelser och avråder andra från att anlita det företag eller organisation man upplever sig dåligt behandlad av (45 %). Nästan lika många (39 %) säger att de aktivt kommer att söka en förklaring till behandlingen eller i framtiden välja att interagera med en person istället (39%) även om det medför en högre kostnad. 27 % säger att de helt skulle avsluta sin relation med en verksamhet som givit dem en negativ upplevelse som följd av diskriminerande AI.

[1] SSIR, “The Problem With COVID-19 Artificial Intelligence Solutions and How to Fix Them,” Juni 2020

Ägarskap och tydligt ansvarstagande för etiska AI-frågor är vägen framåt

Endast 53 % av verksamheterna i studien har idag en roll i organisationen som ansvarar för etiska frågor kopplade till användning av AI. Det kan krävas för att säkerställa att frågan om korrekt etisk tillämpning av artificiell intelligens ska få tillräcklig vikt och uppmärksamhet i ledningen.

Ytterligare en aspekt är frågan om ansvarstagande för beslut och resultat som nåtts med hjälp av AI. Det är viktigt att ledningen för verksamheter som använder AI tar ansvar för eventuella händelser där diskriminering och negativ särbehandling kan påvisas. Endast hälften av de företag och organisationer som ingår i studien har idag formaliserade möjligheter för anställda och kunder att anonymt flagga för incidenter och problem som uppkommit till följd av AI-system.

Rapporten framhåller sju saker som organisationer kan göra för att säkerställa att AI-system utformas och används utan risk för brister gällande etik och särbehandling. Utöver de sju punkterna betonar rapporten också vikten av ledarskap, kultur och interna processer inom området.[2]

Tydliggör syftet med varje AI-system och kartlägg vilka effekter och situationer som kan uppstå till följd av systemets funktion

Arbeta proaktivt med att tillämpa AI där det har positiva effekter för samhälle och miljö

Säkerställ att AI-system hanterar frågor kring mångfald och integration både vid utformning och användning

Använd de tekniska möjligheter som finns för att göra systemen mer transparenta och förståeliga

Skapa en mänsklig upplevelse i kontakt med AI och se till att systemen övervakas av människor

Utforma tekniskt robusta och säkra AI-system

Upprätthåll hög integritet genom att ge människor möjlighet att styra i sin interaktion med AI

”Givet den potential som AI har vore det synd om frågor kring etik begränsas till regelverk för att skydda kunder och användare. Om vi istället placerar de etiska dimensionerna av AI i centrum kan vi skapa funktioner och effekter som på allvar bidrar till ett bättre samhälle. All data vi redan har och den teknik som nu utvecklas kan då användas. Vi ser vilka möjligheter som finns och vill vara med att hjälpa till att driva omställning, säger Ann Hellenius, chef över Capgemini Invent i Sverige och Finland.

För att ladda ner och läsa den fulla rapporten. Klicka här.

Metod

Datainsamlingen till rapporten 2020 har genomförts i april och maj 2020. 2 900 konsumenter i sex länder och 884 beslutsfattare i tio länder (Sverige (70 respondenter), USA, Storbritannien, Tyskland, Frankrike, Italien, Spanien, Nederländerna, Indien, Kina) har besvarat undersökningen. Bland rollerna för studiens beslutsfattare finns IT, AI-utvecklare, dataforskare, sälj- och marknadschefer.

Resultaten har jämförts med tidigare inhämtade data från 5 000 konsumenter och 722 beslutsfattare där en studie utfördes mellan april och juni 2019. Djupintervjuer med ett antal experter och akademiker inom området etisk tillämning av AI har också genomförts i augusti och september 2020.

[2] De sju dimensionerna för etiskt användande av AI baseras sju motsvarande principer som definierats av Europakommissionen.