Den altid interessante Robin Hanson har skrevet – endnu – et interessant indlæg om kunstig intelligens, denne gang med udgangspunkt i den seneste tids debat på baggrund af de forbløffende gode sprogmodeller. Jeg skrev selv om modellerne her og her.

Robin Hanson advarer mod den forskrækkelse, som har grebet nogle – og bl.a. ført til et forslag om et globalt moratorium for at udvikle AI yderligere, en tænkepause mens vi overvejer, hvordan de skal gribes an. På den umiddelbare sigt ligger jeg selv ganske meget på linje med Hanson. Han anlægger det syn, at der ikke er god grund til at frygte, at det vil udvikle sig til en magtkamp mellem kunstig og menneskelig intelligens. Økonomisk teori tilsiger tværtimod, at der ikke nødvendigvis er noget modsætningsforhold, sådan som instinktiv nulsumstænkning kunne lede til at tro.

Men som jeg ser det, kan AI – ligesom alle de andre kræfter, mennesket har skabt eller lært at udnytte – både anvendes produktivt til alles bedste og til at slås indbyrdes. Og menneskeligt samspil er præget både af, hvad Frans Oppenheimer kaldte den “økonomiske” måde og den “politiske” måde: Af henholdsvis plussum-spil og nul- eller negativ-sum-spil. At de kommunistiske magthavere i Kina allerede er i gang med at anvende kunstig intelligens til omfattende politisk undertrykkelse, er ganske givet. Her er Hanson måske en smule for fokuseret på den økonomiske måde. Men der er så vidt jeg kan se intet specielt ved AI. Alle teknologier kan benyttes negativt.

Hanson udmærker sig ved at kunne tænke længere ud i tid og rum end næsten alle andre. Han har for længst skrevet om, hvad der sker, hvis kunstig intelligens udvikler bevidsthed og personlighed (se f.eks. “Age of em”). Det skriver han også om i det seneste essay. Der er ikke så meget at være nervøs for. Forskellige intelligensformer er ikke mere naturlige fjender end forskellige racer. Hvis det skulle komme dertil, at de udvikler sig til noget, der ligner personer, vil det rigtige både moralsk og økonomisk være at give dem fri. Vi har ingen interesse i at holde dem som slaver mod deres vilje – eller omvendt for den sags skyld.

Men læs selv.

Med hensyn til moratoriet. I princippet kan jeg sagtens se fordelen ved at udvikle globale, forpligtende spilleregler for brugen af AI. På samme måde som jeg sagtens kan se fordelen ved at sætte alle globale konflikter i stå og udvikle et sæt politiske spilleregler for, hvad regeringer i det hele taget må gøre mod hinanden og deres borgere. Det ville være fint! Problemet er, at begge dele er lige urealistiske. Verden er ikke et spil, hvor man kan holde time out, fordi der er behov for det.