Vad ska AI inte göra?

Vi arbetar varje dag med att digitalisera styrelsearbete. Just nu lägger vi mycket tid på artificiell intelligens. Vi ser en teknik som kan frigöra människor från administration, göra stora mängder information begripliga och ge oss bättre förutsättningar att göra vårt arbete.

Vi är optimister.

Men ju bättre AI blir, desto mer har en annan fråga börjat tränga sig på: Bara för att något kan automatiseras, betyder det att det bör automatiseras?

Techbranschen har under lång tid haft ett närmast självklart mål: ta bort friktion.

Färre klick. Kortare processer. Automatiserade flöden. Information innan du ens hunnit leta efter den.

Ofta är det fantastiskt.

Ingen människa blir klokare av att ägna tjugo minuter åt att leta efter ett gammalt protokoll. Det finns inget egenvärde i att manuellt sammanfatta ett åttio sidor långt underlag eller skriva samma information i tre olika system. Kan AI göra det arbetet på några sekunder bör vi låta den göra det.

Men all friktion är inte dålig.

Att behöva tänka efter är friktion.

Att formulera en egen ståndpunkt är friktion.

Att lyssna på någon man inte håller med är friktion.

Att väga två dåliga alternativ mot varandra är friktion.

Att fatta ett svårt beslut och sedan stå för det är definitivt friktion.

Och kanske har vi i vår iver att göra människans tillvaro enklare börjat behandla även den sortens friktion som ett tekniskt problem som ska lösas.

Från assistent till beslutsfattare

Skillnaden blir tydlig i det område vi själva arbetar med: styrelser och ledningsgrupper.

Föreställ dig att en styrelse ska fatta ett viktigt beslut.

En AI kan läsa hundratals sidor underlag och sammanfatta dem. Den kan hitta vad styrelsen sagt om frågan tidigare. Den kan uppmärksamma ledamöterna på information de kanske missat och efter mötet hjälpa till att formulera protokollet.

Allt detta kan ge styrelsen mer tid till det viktiga.

Men samma AI kan gå ett steg längre.

Den kan väga alternativen mot varandra, analysera organisationens historik och ekonomiska data och avsluta:

”Baserat på tillgänglig information rekommenderar jag alternativ B.”

På ytan är det bara ännu en effektivisering.

Men något fundamentalt har förändrats.

Tekniken hjälper inte längre människan att fatta beslutet. Den har börjat fatta beslutet åt henne.

Och när rekommendationen dessutom kommer från ett system som på några sekunder analyserat mer information än någon människa skulle kunna läsa, blir det svårt att säga emot.

”Datan visar.”

”AI:n rekommenderar.”

Där finns en risk som vi i techbranschen behöver prata betydligt mer om.

Inte därför att AI är ond, medveten eller har en egen agenda. Utan därför att det är väldigt bekvämt för oss människor att lämna ifrån oss ansvaret.

AI behöver inte göra oss dummare

Debatten om AI hamnar ofta i två ytterligheter.

På ena sidan finns föreställningen om AI som lösningen på nästan allt. På den andra finns rädslan för en framtid där maskinerna ersätter människan.

Vi tror att en betydligt mer intressant fråga finns däremellan.

Vad händer med människan när maskinen blir tillräckligt bra?

GPS gjorde oss inte oförmögna att förflytta oss, men många av oss har blivit betydligt sämre på att hitta.

Sökmotorer gav oss tillgång till nästan all världens information, men förändrade samtidigt vad vi behöver komma ihåg.

Sociala medier gjorde det möjligt för oss att hålla kontakt med fler människor än någonsin, samtidigt som vi fortfarande försöker förstå vad de gjort med vår uppmärksamhet.

Teknik förändrar inte bara vad vi kan göra. Den förändrar också oss.

Med AI handlar det inte längre bara om minne, orienteringsförmåga eller uppmärksamhet. För första gången har vi ett verktyg som på allvar kan ta över delar av det vi brukar kalla tänkande.

Det gör frågan större.

Ansvarsfull AI handlar också om vad vi väljer att inte bygga

När techbranschen talar om ansvarsfull AI handlar samtalet ofta om säkerhet, transparens, integritet, bias och korrekt data.

Allt detta är viktigt.

Men vi tror att ytterligare en princip behöver få större plats:

AI ska stärka människans förmåga att tänka och agera – inte göra det möjligt för henne att slippa.

Det innebär att AI gärna får sammanfatta underlaget. Men människan ska värdera det.

AI får gärna hitta argumenten. Men människorna måste diskutera dem.

AI kan visa vad som beslutats tidigare. Men den ska inte avgöra vad som är rätt beslut idag.

AI kan formulera ett förslag. Men någon människa måste fortfarande kunna säga: Det här tycker jag. Det här beslutet står jag bakom.

För ansvar går inte att automatisera.

Eller åtminstone borde det inte göra det.

Vi behöver bestämma var maskinen ska sluta

För oss som bygger digitala produkter är detta inte en teoretisk diskussion.

Vi fattar sådana beslut varje gång vi utvecklar en ny funktion.

Och vi kommer inte alltid veta var gränsen går.

När övergår en sammanfattning till en tolkning? När blir ett förslag en rekommendation? När hjälper AI en människa att tänka bättre? Och när börjar människan lita så mycket på systemet att hennes eget omdöme försvagas?

Det finns inga enkla svar.

Men det är kanske just därför vi behöver börja ställa frågorna nu.

AI kommer att bli bättre. Den kommer att kunna göra mer av det vi idag betraktar som kvalificerat mänskligt arbete. Därför räcker det inte längre att fråga vad tekniken klarar av.

Vi behöver också fråga vad vi vill använda den till.

För målet kan inte vara maximal automation.

Målet måste vara bättre människor och bättre organisationer.