Jeg deler ikke i så høj grad de sædvanlige bekymringer.  

Robotterne vil næppe overtage al arbejdet og gøre os overflødige. Det er ikke umuligt, men ikke sandsynligt.  

Robotterne vil næppe heller overtage magten. I hvert fald skaber de ingen ny problemstilling. Menneskehedens absolutte styrke er vores evne til at høste og skabe kræfter, der er stærkere end os selv. Markedstransaktioner handler om at bytte sig frem til et bedre resultat, end vi selv kunne skabe ved egen kraft. Vores redskaber, husdyr og maskiner kan bevæge sig hurtigere, løfte mere, producere mere og bedre, end vi selv kan. Alle disse kræfter kan i princippet også skade os. Og det kan ikke udelukkes, at det på et tidspunkt kan blive menneskehedens endeligt. Det kan også ske med kunstig intelligens, men hvad tilsiger, at det skulle være mere farligt end uintelligente kræfter? Tværtimod kan uintelligente fænomener som kunstige vira, fejl i (eller menneskelige udløsende faktorer bag) de systemer, som kan udløse atomkrig, lammelse af store dele af infrastrukturen, nanomaskiner, der hæmningsløst reproducerer sig selv osv. ødelægge os uden nogen vilje eller tanke bag.  

Der er også en grænse for, hvor “kloge” IAere kan blive. Det er i princippet altid muligt at finde en matematisk funktion, der beskriver fortiden. På den måde vil en AI kunne om ikke forstå, så beskrive fortiden. Men deri ligger ikke, at den også kan forudsige fremtiden. Det var Karl Poppers pointe i forhold til videnskab. Der kan altid findes en teori, som beskriver hidtidige hændelser, men testen af, om den er videnskabelig, er, om den kan overleve at blive falsificeret af fremtidige hændelser. Og selve det, at fortidige hændelser beskrives, kan implicere et brud med denne sammenhæng i fremtiden. Da man opdagede Phillipskurven med dens historiske sammenhæng mellem inflation og ledighed, og man begyndte at føre økonomisk politik efter den, brød Phillipskurven sammen. Lucas-kritikken generaliserer denne problemstilling. Evnen til at søge efter mønstre i fortiden har altså sine begrænsninger, når det gælder forudsigelsen af fremtiden. Den kunstige intelligens’ komparativ fordel er imidlertid det første. 

Den alvorligste risiko ved kunstig intelligens er måske ikke, at den bliver lige så menneskelig som os, men at vi tværtimod begynder at se mennesker som programmerede maskiner. Jo bedre AIer kan forudsige, hvad folk vil gøre, desto lettere er det at falde for den tro. Hvad f.eks. hvis en AI med stor præcision kan forudsige, at en person vil begå en kriminel handling? Der er jo også en vis usikkerhed knyttet til et retssystem, som dømmer efterfølgende. Og en usikkerhed, vi lever med. Hvad hvis nu risikoen for at forudsige forkert viser sig at være meget mindre ved brug af en AI til at forudsige, end risikoen for at dømme en uskyldig efter forbrydelsen i en domstol? 

Der er naturligvis en kategorisk forskel på at dømme nogen for noget, de faktisk har begået, snarere end for noget, vi tror, de vil begå. Skyld forudsætter handling. Men fristelsen til at dømme på forhånd kan blive stor. Politikernes krav til sociale medier om at fjerne “uønsket” indhold meget hurtigt trækker f.eks. i den retning. Det kræver i bedste fald lynjustits udført af AIer, og mon ikke selskaberne vil begynde på i stigende grad at risikovurdere brugerne? Politikerne kan så dække sig ind under, at det udøves af private selskaber. Det kom frem for nylig, at Twitter efter pres fra amerikanske politikere har manipuleret algoritmen til at sænke spredningen af tweets fra virologer med kritisk holdning til nedlukninger under pandemien. Det kommunistiske diktatur i Kina anvender allerede AIere til at overvåge befolkningen og give hver enkelt karakterer for “ønskeligheden” af deres adfærd. Karakterer, som bestemmer, hvad regimet vil tillade én. Her har man selvfølgelig også en tradition for at udpege befolkningsgrupper som folkefjender alene på grund af deres baggrund, og med AIere kan man komme meget tættere på.  

De fleste teknologier er på et tidspunkt blevet brugt som våben i statens hænder. De fleste rettigheder kommer på et eller andet tidspunkt under pres, fordi de skaber uhensigtsmæssigheder for magthaverne.  

Det var svært ikke at komme til at tænke på Heinleins computer, da AI’en ChatGPT under stor opmærksomhed gik i luften sidst i december. Den besvarer spørgsmål, interagerer, skriver essays og sange i løbet af splitsekunder. Den begår også store brølere – f.eks. at 2 er større end 2,5, eller at der ingen tegn er på, at Rusland har invaderet Ukraine i 2022 (men det gør den næsten mere menneskelig, som én bemærkede). Det skal dog nok rette sig. Mit gæt er, at vi kommer til at se en revolution i anvendelsen af AIer i de kommende år. Måske vil de fleste blogindlæg blive skrevet af maskiner i samarbejde med bloggeren om ikke så længe.

ChatGPT er ikke den eneste bemærkelsesværdige AI. For nylig åbnede elicit.org, som kan systematisere videnskabelige empiriske resultater med imponerende hast og præcision. Det har tidligere taget forskere – og horder af studentermedhjælpere – oceaner af tid at lave den slags. Lidt som det i sin tid tog munke måneder at kopiere en bog, vi i dag kan trykke eller mangfoldiggøre som PDF på ingen tid. Og for nylig færdiggjorde en IA Beethovens 10. symfoni ved at studere Beethovens meget sparsomme skitser, hans arbejdsmetoder ved de foregående 9 symfonier og ved at samarbejde med en kreds af komponister. For ikke længe siden havde computere svært ved bare at genkende ansigter.

Men uanset at AIerne minder stadig mere om Heinleins computer, er vi fortsat meget langt fra noget, der har menneskelig bevidsthed. Der er snarere tale om, at computerne er blevet så meget bedre til at interagere med os, at de virker menneskelige. Søgemaskiner har længe været forbløffende til at gennemtrawle informationsmængder og finde det frem, vi ønsker. Men de præsenterer resultaterne på en “maskinel” måde. Google afleverer de hits, dens algoritme beregner er tættest på, hvad vi leder efter. Algoritmerne fortolker i stigende vores spørgsmål, bl.a. i lyset af, hvem vi er. Netreklamer og eksponering for opslag på SoMe er også i stigende grad tilpasset os som personer. Men hvor disse algoritmer mere fungerer som usynlige tjenestefolk (eller manipulatorer), som diskret betjener os i baggrunden, giver ChatGPT oplevelsen af at interagere direkte. Derfor virker den meget mere menneskelig, og det er let også at komme til at opfatte den som bevidst. Ja, det er næsten ikke til at undgå, når man chatter med den. Man får en ubændig trang til at diskutere med den, når den siger noget forkert, og glemmer let, at den blot organiserer en mængde information på en skræddersyet måde.

Vi er imidlertid meget langt fra, at robotterne har noget, vi ville kalde bevidsthed. Bag den kunstige intelligens ligger i realiteten blot, at regnekraften er blevet så stor, at computerne kan regne ufatteligt mange data i gennem og søge efter mønstre, og at de “selv” kan opbygge og styre søgeprocesserne. Når en robot oversætter en tekst fra dansk til engelsk, ved den ikke, hvad der står, men hvordan lignende tekster er blevet oversat tidligere (prøv at se kvalitetsforskellen på Google translate mellem dansk-engelsk og dansk-græsk – med henholdsvis meget stort og mere begrænset erfaringsgrundlag). Når en computer kan slå verdensmesteren i skak – og det er ikke længe siden, at det var en sensation – skyldes det grundlæggende, at den er i stand til at regne utroligt mange trækkombinationer i gennem, og at den har regnekraften til at genkende mønstre, ikke at den “forstår” spillet.

Den fundamentale årsag til fremvæksten af de nye AIs er, at prisen for at lagre information er konstant faldende (kendt som Moores lov). Derfor kan man lede ufattelige mængder information igennem for at søge efter mønstre. Hvis man havde en abe, der kunne skrive ufatteligt hurtigt på maskine, ville den ved ren tilfældighed kunne producere nye skuespil på niveau med Shakespeare (og med AI har vi måske snart en abe, der kan skrive nye sådanne værker).  

De potentielle gevinster ved kunstig intelligens er til at få øje på. Lige som der sidder en chip i din bil og hjælper dig med ikke at komme i en ulykke og en chip i din cykelhjelm, som udløser en airbag, når den kan se, du falder, vil vi få systemer, der kan overvåge vores helbred og udbedre sygdomme i realtid. Meget intellektuelt arbejde vil blive udført af AIs – eller i hvert fald med AIs.

Og så er der det kæmpe potentiale, der endnu ikke er til at få øje på. Ting kun folk som Heinlein har drømt om.

Foreløbig tror jeg dog, at vi i mange tilfælde vil foretrække ikke at få sammenskrevne svar fra en AI på de spørgsmål, vi stiller, men at få lov til at vurdere kilderne selv. Google kunne i princippet skrive de ti første hits ved en søgning sammen til ét dokument, men er det ikke bedre at kunne se de underliggende hjemmesider og tage stilling til deres relevans og troværdighed?

Hvad med skyggesiderne ved kunstig intelligens? Dem ser jeg på næste gang.