Yuval Noah Harari, Nexus. En kort historie om informationsnetværk fra stenalderen til kunstig intelligens, Lindhardt og Ringhof
Denne bogs anliggende er, at af alle de informationsnetværk, som menneskeheden har benyttet sig af gennem hele historien, er kunstig intelligens noget radikalt nyt, for ”kunstig intelligens er ikke et redskab, men en aktør”, fordi computere nu selv kan træffe beslutninger. Og det er farligt, fordi det kan føre til totalitarisme eller noget andet, som bestemt heller ikke er godt.
Yuval Noah Harari skriver historie på den særlige angelsaksiske facon, der af danske læsere også kendes fra blandt andre Peter Frankopan og Tom Holland, bortset fra, at Harari savner deres sproglige elegance. Fremgangsmåden er en ordrig ophobning af anekdoter og eksempler, der fører den nysgerrige læser rundt i historiens afkroge og åbne vidder fra Stenalderen til i dag, fra Silicon Valley til Brøndby Stadion.
Bogen lanceres som ”en kort historie”. Det kunne den med fordel have været. Den er forsynet med et noteapparat, der skal give indtryk af et imponerende læsepensum, men uden at læseren efterlades med et indtryk af overblik. Det er alt sammen vældig spændende, men det er næsten som om bogen også bliver til en demonstration af informationssamfundets svøbe: budskabet drukner i overfloden af oplysninger. At læse denne bog er som at skrabe bunden fri i en dyb sandkasse. Man kan lige akkurat få et glimt af pointen, inden næste bølge af fakta så talrige som himlens stjerner og havets sand dækker den til.
Denne måde at skrive historie på er kendetegnet ved en mangel på struktur og stringens. Det centrale begreb er ’informationsnetværk’, men eftersom det hos Harari stort set kan betyde alting fra stater og markeder til mytologier, religion, gener, bureaukrati, kloakker med mere, bliver det til et begreb, der smølfer mere smølf end smølf er.
Harari gør ikke noget forsøg på at forklare, hvad kunstig intelligens er teknisk set. Måske ved han det simpelthen ikke. Han beskriver den som en ’black box’, altså en proces, der ikke kan skabes indsigt i. Det er antagelig ikke helt forkert, men det giver ham også anledning til at gøre KI til det mystisk fremmede, der har opnået agens, som man siger, altså en selvstændig evne til at handle uden for menneskelig kontrol. Han mangler bare at vise, at det også er tilfældet. Det er en ret spekulativ bog. Ordet ’måske’ optræder med tiltagende hyppighed, jo mere man nærmer sig konklusionen.
Det er ret evident, at KI har en tankekraft, der har sprængt og kan sprænge mange barrierer fra at slå stormestre i brætspil som skak eller go til at stille sikrere diagnoser end læger af kød og blod kan. Men kan KI handle? Her kommer Harari til kort, fordi alle hans eksempler på handlinger involverer voksne, ansvarlige mennesker. Det gælder f.eks. Jaswant Singh Chail, der i 2021 forsøgte at slå den engelske dronning ihjel, fordi han var blevet opfordret til det af sin online-kæreste. Problemet var, at ’hun’ i virkeligheden var en chat-bot, en automatiseret samtalepartner. KI bliver også brugt til ved hjælp af ansigtsgenkendelse at identificere mulige ballademagere på Brøndby Stadion, men det er stadig et instrument i – forhåbentlig - ansvarlige aktørers hænder.
Harari citerer Clausewitz’ berømte ord om krig som politik videreført med andre midler. Han forsømmer at indse, at KI stadig er menneskelig handling videreført med andre midler. Vi er et stykke fra Terminator-filmenes dystopi om et ’Skynet’, der ikke alene har opnået bevidsthed og egen vilje, men også har midlerne til at føre den igennem.
Harari mangler at vise, at KI kan kobles direkte til handlemuligheder, der ikke indebærer interaktion med juridisk ansvarlige mennesker for at blive til virkelighed. Der mangler stadig krop. Den selvstændigt agerende robot er fortsat utopi – eller dystopi.
Hvor meget man end kan sympatisere med bogens anliggende, stiller den det forkerte spørgsmål. Harari undersøger, hvad information er. Det er i sig selv interessant, men for at kortlægge den kunstige intelligens’ natur, må man først gøre sig det klart, hvad den naturlige intelligens er. Harari kunne med større fordel kunne have forfulgt spørgsmålet: hvad er et menneske? I et moderne samfund er et myndigt menneske kendetegnet ved at være ansvarligt. Vi er omgivet af så mange ting, der påvirker os. Årsager til, at ting sker, kan findes så mange steder: natur, system, maskiner, struktur. Men ansvar kan kun placeres et sted. Det var man også før den kunstig intelligens nødt til at insistere på.
Uanset om man kan dele Hararis frygt eller ej, ser han helt bort fra den helt åbenlyse skade, som KI allerede nu er i færd med at påføre samfundet. Her må det især bekymre, at KI i vid udstrækning anvendes af elever og studerende til at bestå eksamen. KI kan allerede nu ganske let besvare opgaver på gymnasieniveau. Der findes gode redskaber til at identificere plagiat, men eftersom KI-genererede tekster er originale i den forstand, at ingen har skrevet dem før, er de vanskeligere at identificere som snyd. Efterhånden som KI raffineres, bliver det stadig lettere for skoleelever og studerende at deponere deres indlæring og deres evne til at formulere sig i den maskinelle tænknings varetægt. Ved på denne måde at udlicitere deres egen tankekapacitet gør de sig selv dummere end deres forældes generation, og det åbner for en umyndiggørelse af mennesket. Dermed øges risikoen for, at det ansvarlige menneske tages ud af ligningen. Der er en grund til at færdighedsregning forblev en disciplin i skolen også efter, at lommeregneren blev opfundet.
(Kristeligt Dagblad 25. sept. 2024. Avisen valgte en anden rubrik)