Hvad skal AI ikke gøre?

Vi arbejder hver dag med at digitalisere bestyrelsesarbejdet. Lige nu bruger vi meget tid på kunstig intelligens. Vi ser en teknologi, der kan frigøre mennesker fra administration, gøre store mængder information forståelige og give os bedre forudsætninger for vores arbejde.

Vi er optimister.

Men jo bedre AI bliver, jo mere trænger et andet spørgsmål sig på. Bare fordi noget kan automatiseres, betyder det så, at det bør automatiseres?

Techbranchen har længe haft et nærmest selvfølgeligt mål: at fjerne friktion.

Færre klik. Kortere processer. Automatiserede flows. Information, før du overhovedet er begyndt at lede efter den.

Ofte er det fantastisk.

Ingen bliver klogere af at bruge tyve minutter på at lede efter et gammelt referat. Det har ingen værdi i sig selv at opsummere firs siders materiale manuelt eller skrive den samme information i tre forskellige systemer. Kan AI klare det arbejde på sekunder, bør vi lade den gøre det.

Men ikke al friktion er dårlig.

At skulle tænke sig om er friktion.

At formulere sit eget standpunkt er friktion.

At lytte til nogen, man er uenig med, er friktion.

At veje to dårlige muligheder op mod hinanden er friktion.

At træffe en svær beslutning og derefter stå ved den er afgjort friktion.

Og måske er vi i vores iver efter at gøre tilværelsen lettere begyndt også at behandle den slags friktion som et teknisk problem, der skal løses.

Fra assistent til beslutningstager

Forskellen bliver tydelig på det område, vi selv arbejder med: bestyrelser og ledelsesgrupper.

Forestil dig, at en bestyrelse skal træffe en vigtig beslutning.

En AI kan læse hundredvis af siders materiale og opsummere det. Den kan finde, hvad bestyrelsen tidligere har sagt om sagen. Den kan gøre bestyrelsesmedlemmerne opmærksomme på information, de måske har overset. Efter mødet kan den hjælpe med at formulere referatet.

Alt dette kan give bestyrelsen mere tid til det vigtige.

Men den samme AI kan gå et skridt videre.

Den kan veje mulighederne op mod hinanden, analysere organisationens historik og økonomiske data og slutte af sådan her:

”Baseret på den tilgængelige information anbefaler jeg mulighed B.”

På overfladen er det bare endnu en effektivisering.

Men noget fundamentalt har ændret sig.

Teknologien hjælper ikke længere mennesket med at træffe beslutningen. Den er begyndt at træffe beslutningen for mennesket.

Og anbefalingen kommer fra et system, der på sekunder har analyseret mere information, end noget menneske kunne nå at læse. Det gør det svært at sige imod.

”Data viser.”

”AI’en anbefaler.”

Der er en risiko, som vi i techbranchen har brug for at tale betydeligt mere om.

Ikke fordi AI er ond, bevidst eller har sin egen dagsorden. Men fordi det er meget bekvemt for os mennesker at give ansvaret fra os.

AI behøver ikke gøre os dummere

Debatten om AI ender ofte i to yderpunkter.

På den ene side står forestillingen om AI som løsningen på næsten alt. På den anden står frygten for en fremtid, hvor maskinerne erstatter mennesket.

Vi tror, at et langt mere interessant spørgsmål ligger derimellem.

Hvad sker der med os, når maskinen bliver god nok?

GPS gjorde os ikke ude af stand til at bevæge os, men mange af os er blevet betydeligt dårligere til at finde vej.

Søgemaskiner gav os adgang til næsten al verdens information og ændrede samtidig, hvad vi har brug for at huske.

Sociale medier gjorde det muligt at holde kontakt med flere mennesker end nogensinde, mens vi stadig forsøger at forstå, hvad de har gjort ved vores opmærksomhed.

Teknologi ændrer ikke kun, hvad vi kan gøre. Den ændrer også os.

Med AI handler det ikke længere kun om hukommelse, stedsans eller opmærksomhed. For første gang har vi et værktøj, der for alvor kan overtage dele af det, vi plejer at kalde tænkning.

Det gør spørgsmålet større.

Ansvarlig AI handler også om, hvad vi vælger ikke at bygge

Når techbranchen taler om ansvarlig AI, handler samtalen ofte om sikkerhed, gennemsigtighed, privatliv, bias og korrekte data.

Alt dette er vigtigt.

Men vi tror, at endnu et princip har brug for mere plads.

AI skal styrke menneskets evne til at tænke og handle, ikke gøre det muligt at slippe udenom.

Det betyder, at AI gerne må opsummere materialet. Men mennesket skal vurdere det.

AI må gerne finde argumenterne. Men menneskene skal diskutere dem.

AI kan vise, hvad der tidligere er besluttet. Men den skal ikke afgøre, hvad der er den rigtige beslutning i dag.

AI kan formulere et forslag. Men et menneske skal stadig kunne sige: Det her mener jeg. Den her beslutning står jeg bag.

For ansvar kan ikke automatiseres.

Det burde det i hvert fald ikke kunne.

Vi skal beslutte, hvor maskinen skal stoppe

For os, der bygger digitale produkter, er det ikke en teoretisk diskussion.

Vi træffer den slags beslutninger, hver gang vi udvikler en ny funktion.

Og vi kommer ikke altid til at vide, hvor grænsen går.

Hvornår bliver et resumé til en fortolkning? Hvornår bliver et forslag til en anbefaling? Hvornår hjælper AI et menneske med at tænke bedre? Og hvornår begynder mennesket at stole så meget på systemet, at menneskets egen dømmekraft svækkes?

Der findes ingen enkle svar.

Men det er måske netop derfor, vi har brug for at stille spørgsmålene nu.

AI bliver bedre. Den vil kunne gøre mere af det, vi i dag betragter som kvalificeret menneskeligt arbejde. Derfor er det ikke længere nok at spørge, hvad teknologien kan klare.

Vi skal også spørge, hvad vi vil bruge den til.

For målet kan ikke være maksimal automatisering.

Målet skal være bedre mennesker og bedre organisationer.