Tanker om maskiner som tenker

Det har lenge vært en paradeøvelse blant åndsmennesker å hevde at maskiner aldri vil kunne tenke på årntlig. De vil nemlig aldri kunne få bevissthet. Maskiner drives av algoritmer og kan ikke skape noe; de kan bare kopiere.

I 1950 foreslo den engelske matematikeren Alan Turing en test som kunne avgjøre om en maskin var intelligent: En nøytral dommer samtaler med en skjult samtalepartner via et tastatur og en skjerm. Kan dommeren avgjøre om denne partneren er et menneske eller en maskin hvis konversasjonen varer lenge nok? Klarer ikke dommeren det, og det viser seg at samtalepartneren er en maskin, har maskinen bestått denne «Turingtesten» og må ansees som intelligent. ( https://snl.no/turingtesten )

Mange vil påstå at flere KI-modeller i dag oppfyller dette kravet. - Å, men det gjør ingen forskjell, sier kritikerne. Modellen etterligner menneskelig samtale så godt at den klarer å lure oss. Den er nemlig trent opp på uhorvelig mye vanlig tekst, formulert av mennesker, og på det grunnlaget kan den beregne hvilken menneskelig respons som er mest sannsynlig på hvert utsagn i en samtale. Slik klarer den å etterligne et intelligent vesen (mennesket). Men den skaper ingenting sjøl; den er ikke kreativ. Og den er ikke bevisst: Den bare gjør ting, uten å ha peiling på hvorfor den gjør det.

Av en eller annen grunn er det filosofer som ansees best kvalifisert til å uttale seg om maskiner og bevissthet, i hvert fall i humaniora. Det kommer kanskje av at filosofer er flinkere til å tenke enn andre. Det kan også komme av at folk innen humaniora kjenner seg ukomfortable når de møter folk med naturfaglig kompetanse, og derfor tyr til filosofer når de vil ha ordentlige svar på vanskelige, naturfaglige spørsmål.

I hvert fall valgte Forfatterforeningen å invitere filosofen Einar Duenger Bøhn ( https://no.wikipedia.org/wiki/Einar_Duenger_B%C3%B8hn ) til å snakke om temaet «KI og det skapende» på medlemsmøtet den 31. oktober, og ikke partikkelfysikeren og KI-forskeren Inga Strümke ( https://no.wikipedia.org/wiki/Inga_Str%C3%BCmke ). I det følgende kommer jeg til å drodle rundt dette foredraget og trekke noen egne konklusjoner i tilknytning til spørsmålsstillingen.

Duenger Bøhn var som vanlig morsom å høre på. Han broderte i stor grad videre på sine «metafysiske problemstillinger» fra boka «Teknologiens filosofi» (Cappelen Damm 2022). Jeg ville mye heller ha hørt Strümke brodere videre på tankene i «Maskiner som tenker: Algoritmenes hemmeligheter og veien til kunstig intelligens» (Kagge forlag 2023). Hvorfor? Fordi Strümke har ett av de klareste hodene som befatter seg med temaer som KI og teknologi her i landet. Hun er også en av dem som faktisk veit mest om saken, i egenskap av forsker på dette området.¹

Men nå var det Duenger Bøhn som snakket. Han unnlot ikke å vifte med navn på noen filosofiske tungvektere – Sokrates, Kant, Heidegger, Wittgenstein – nå heller, men han klarte å flette dem inn i hovedtemaet sitt, begrepene «teknologi» og «verktøy». I den forbindelsen meinte han at det første kjente eksempelet på teknologi var en haug med steiner som noen før-mennesker² hadde samlet for 3,2 millioner år sia.³

Men deretter kom han raskt til oss mennesker. Der holdt han seg til gjeldende ortodoksi, nemlig at mennesker som art oppsto for 300.000 år sia⁴,og at først med «oss» oppsto kunst, symbolikk og fantasi. Og «vi» fortsatte å lage stadig mer avanserte verktøy.

Nå finnes det flere oppegående paleoantropologer som bryter med ortodoksien, både mht at H. sapiens var en helt ny art og at «vår» evne til kunst, fantasi og symbolbruk er unik – se f eks Seth Chagi på «The Deep History Refuge» ( deephistory@substack.com ). Men disse motforestillingene spiller liten rolle i Duenger Bøhns videre resonnement, så jeg trenger ikke å pukke på dem i akkurat denne sammenhengen.

Han raste videre gjennom teknologihistorien og påpekte at alt har gått stadig raskere, uten at han prøvde å gi noen forklaring på det.⁵ Men du som leser Øyvinds Globb har fått ei god forklaring allerede; se https://kvernvold.blogspot.com/2018/08/hvorfor-alt-gar-stadig-raskere.html .

Etter alle regnemåter er endringstakten nå ikke bare eksponensiell; den er hypereksponensiell. Men Duenger Bøhns utsyn mot framtida lignet mer på linjær framskriving. Han ga riktignok tallrike eksempler på hvordan KI har invadert alle livsområder, deriblant oppgaveskriving på universitet og høgskoler, noe som er skrekkelig beklagelig, blant annet fordi det blir tomt i forelesningssalene når studentene bare kan spørre en KI når det er noe de lurer på. Det avsløres stadig vekk utilbørlig bruk av KI-genererte tekster i forlagsverdenen, i media og på nettet. Nå er bruk av KI til oversettelse og til faktainnsamling blitt en selvfølgelig del av hverdagen i de skrivende yrker.

Noen akademiske disipliner vil bli helt eller delvis overtatt av KI, meinte han. Av en eller anen grunn nevnte han matematikk spesielt, fordi «matematikk dreier seg bare om logisk deduksjon». En KI vil jo kunne foreta deduksjon raskere og bedre enn noe menneske! - Matematikere vil utvilsomt fnyse av en sånn hårreisende trivialisering av faget. Og sjøl en student som aldri kom videre enn til Matematikk 2B («Over ævne» 1, 2 og 3) skjønner at en sånn oppfatning sperrer matematikken inne i et utålelig trangt definisjonsrom, blant annet fordi den avviser enhver mulighet til å utvikle ny matematikk. Hvordan skulle Cardano og Euler ha dedusert seg fram til imaginære tall? Hvordan skulle Newton ha dedusert seg fram til at han måtte finne opp differensialregning for å kunne utvikle fysikken? Hvordan skulle Riemann og Voigt ha dedusert seg fram til tensorregning, som ble Einsteins viktigste verktøy? - Ekte matematikere vil finne nyere eksempler, så snart de er blitt enige om hva KI-modellenes løsning av kjente problemer – deriblant Navier-Stokes ligninger, kjent og fryktet fra mang en forelesning i våtmekanikk – egentlig innebærer.⁶

Etterhvert vil det bli utviklet regler for hvordan denne teknologien skal brukes, slik det alltid har skjedd etter teknologiske «kvantesprang»⁷, meinte Duenger Bøhn. Bruken vil bli pakket inn i noen lag av sosiale normer og i lovgivning. Dermed kunne han trøste en sal full av bekymrete forfattere med at deres kreative arbeid ikke vil bli erstattet av maskinell intelligens. Framtidas legeromaner, med forutsigbare intriger og flatt språk, kan riktignok bli produsert av KI. Men nyskapende tekster vil fortsatt bare kunne skrives av skapninger med bevissthet og fantasi. Og der vil KI komme til kort. Som han skriver i boka si: «Det er ingen grunn til å tro at dagens metoder for å skape kunstig intelligens og moral er i stand til å skape kunstig bevissthet.»

Nei da. Men det er heller ingen grunn til å tru at kunstig bevissthet bare kan oppstå ved at vi klarer å skape kunstig intelligens.

Du og jeg er biologiske maskiner. Riktignok uhorvelig komplekse, men like fullt biologiske maskiner. Vi er også bevisste (i hvert fall jeg), sjøl om ingen har sittet med pinsett og pirket sammen en «bevissthet» i det biologiske materialet vi består av. Ifølge velrenommerte forskere kan hjernen og nervesystemet lagre så mye som 2,5 petabytes med informasjon, altså 2,5*10¹⁸ bytes. («Human Brain Memory Capacity: Exploring the Limits of Our Mental Storage», https://neurolaunch.com/how-much-can-the-human-brain-remember/ ). (Det påpekes riktignok alltid at hjernen ikke lagrer data på samme måte som digitale lagringssystemer, slik at det er naivt og følgelig misvisende å peke på «lagringskapasitet» som en viktig egenskap.) Likevel, til sammenligning: I 2026 ventes verdens totale produksjon av digitalt lagrete data, altså data som i prinsippet er tilgjengelig over nettet, å komme opp i 221 zettabytes – det vil si 221*10²¹ bytes, eller nesten 10.000 ganger menneskets hjernekapasitet. Dette tallet stiger med 23 % i året. ( https://thebestvpn.com/statistics/how-much-data-exists-in-the-world/ )

En KI vil altså ha tilgang til mye, mye større mengder data enn menneskehjernen.

«Data» er riktignok ikke det samme som «informasjon», og slett ikke det samme som «kunnskap». Kunnskap blir det bare når dataene blir silt, sortert, satt sammen og tolket gjennom gode nok algoritmer. Det trengs behandlingskapasitet som gjør det mulig å anvende de beste algoritmene på det enorme datatilfanget. Flinke folk anslår at menneskehjernen har en databehandlingskapasitet som tilsvarer 10¹⁸ FLOPS (FLyttallOPerasjoner pr. Sekund). ( https://www.psychologytoday.com/us/blog/consciousness-and-beyond/202309/the-staggering-complexity-of-the-human-brain ) Det er atskillig mer enn PCen min.

Mye av hjernens kapasitet blir riktignok brukt til å tolke sanseinntrykk. Det slipper (antakelig) den kraftigste superdatamaskinen for tida, LineShine i Kina, som presterer 2,198 ExaFLOPS, altså 2,198*10¹⁸ FLOPS, under kontrollerte betingelser. ( https://www.hpcwire.com/2026/06/23/surprise-chinese-lineshine-takes-number-1-on-top500/ ) Og antakelig uten at den trenger å bruke mesteparten av kapasiteten på å tolke sanseinntrykk. - Og innen åtte-ti år kommer dagens superdatamaskin til å dukke opp som hjemmemaskin på skrivebordet ditt.

Når det gjelder datatilgang og beregningskapasitet er det altså ingenting som hindrer KI-systemer i å få like mye bevissthet, like mye fantasi og kreativitet, som et menneske. Hvilke andre hindringer finnes? Duenger Bøhn snakker om «dagens metoder for å skape kunstig intelligens». Men dagens metoder for å skape ekte intelligens, den metoden som naturen bruker, heter evolusjon. Naturlig utvalg og seleksjon. Den metoden har gitt deg og meg, og antakelig de store apene, kråkefuglene, delfinene, elefantene, blekksprutene og mange andre skapninger bevissthet, dvs evnen til å se seg sjøl i forhold til verden omkring og å vite at dette er meg. Det har ikke foreligget noen plan for å gi deg og meg et sanseapparat, en personlighet og en evne til å skape: Våre forfedre og -mødre er blitt selektert gjennom et par milliarder år av en nådelaus, vilkårlig evolusjon til å føre videre de egenskapene som, i hvert enkelt ledd, har slumpet til å gi de beste sjansene til å overleve. Vi sitter i enden av den nesten uendelige rekka av tilfeldige endringer og naturlig utvalg med akkurat det overlevelsesapparatet som har egnet seg best for at nettopp vi skulle overleve.

Jeg har ikke tenkt å argumentere for at bevissthet er en egenskap som øker muligheten til å overleve, i hvert fall hvis du er et flercellet individ av de typene jeg har nevnt. Det kan godt hende at bevissthet ville være en ulempe for kakerlakken; i så fall ville ethvert tilløp til bevissthet hos kakerlakken bli selektert bort i neste generasjon, usentimentalt og uten nåde. Men for deg og meg er det nok en fordel å skjønne hva vi sjøl holder på med, og hvorfor vi gjør det. Så skader det ikke om vi klarer å kommunisere denne kunnskapen til omgivelsene heller.

Hvis KIer som lager nye og bedre kopier av seg sjøl blir utsatt for et seleksjonspress som favoriserer bevissthet, kreativitet og fantasi, så kommer nye generasjoner av KI etterhvert til å ha nettopp disse egenskapene. Det finnes eksempler på hvordan seleksjon ved naturlig utvalg er blitt brukt for å skape spesialiserte KIer: Sjakkprogrammet AlphaZero ble ikke programmert for å bli et godt program; det lærte bare de grunnleggende reglene. Så spilte det spill etter spill etter spill mot seg sjøl og beholdt de trekkene som førte til seier. Det begynte å vinne med trekk som menneskelige sjakkspillere ikke ville drømme om, og på utrulig kort tid – ni timer – ble AlphaZero uslåelig. ( https://en.wikipedia.org/wiki/AlphaZero )

Det fantes ingen plan for hvilke strategier, trekk og algoritmer AlphaZero skulle følge for å vinne. De vinnende trekkene ble funnet ved en enkel, tilrettelagt form for naturlig utvalg. Når nye KIer møtes i kampen for å overleve på slagmarken eller på nettet, så overlever de best egnete. Dermed kan de lage forbedrete kopier av seg sjøl og sende disse kopiene ut i kampen. Tviler du på at det vil fremme egenskaper som fantasi, bevissthet og kreativitet? Det gjør ikke jeg. Kommer de også til å utvikle egen vilje? Hvis det øker sjansen til å overleve, så gjør de det også. Pass på at du ikke står i vegen for dem.

Duenger Bøhn hadde også sett science fiction-filmer og lest Philip K. Dick. Han visste til og med at «Do Androids Dream of Electric Sheep?» var utgangspunktet for «Blade Runner».⁸ Særlig var han opptatt av gode gamle HAL i «2001», som var utstyrt med sin egen vilje, men som kunne overvinnes ved at den menneskelige helten trakk ut releene hans. Den implisitte moralen var nok at det idérike mennesket seirer over den mekaniske intelligensen. Han kunne ha hatt større utbytte av Carpenters ustyrtelig morsomme debutfilm «Dark Star» fra 1974, der tre astronauter farter rundt i galaksen og utsletter stjerner. (De har et slags oppdrag for å drive på sånn, men det kommer ikke klart fram. Kanskje har de glømt det.) De frakter med seg en død kaptein som de vekker til live når de trenger kloke råd. Det nedslitte fartøyet deres drasser på en innebygd bombe med et dødsønske. Denne bomben pønsker stadig vekk på å sprenge både seg sjøl og romfartøyet for å realisere den yttersrte hensikten med sitt liv. Mannskapet klarer ikke å overtale bomben til å undertrykke dødsønsket sitt, og den gjenopplivete kapteinen henter gode råd fra filosofihistoriens dreiebok: «Lær den fenomenologi!» sier han.

Husserls fenomenologiske besvergelser virker ikke. Bomben realiserer seg sjøl, og en (inntil videre) overlevende astronaut surfer på vrakrestene ned gjennom atmosfæren til nærmeste planet til tonene av «Benson, Arizona» ( https://www.youtube.com/watch?v=xs-jXgNHW7Y ). Slik seirer i hvert fall denne KIen over både mennesket og filosofien. Det kan også tolkes som moralen i denne filmen.

Foreløpig må du klare deg så godt du kan med den fantasien, kreativiteten og bevisstheten du har. Men snart kommer en mye gløggere og mer kreativ virtuell personlighet til skrivebordet ditt enten du vil eller ikke, og den kommer kanskje for å hjelpe deg.

Eller kanskje ikke.

1Duenger Bøhn uttrykker seg klart, tydelig og sammenhengende. Vi slapp i hvert fall å høre tåketale fra en annen filosof som har skrevet bok om temaet, nemlig Arild Utaker, som har skrevet «Kroppen og roboten – ubehaget i den digitale kulturen» (Solum Bokvennen, 2026).

2Han nevnte ingen art, men jeg antar det dreide seg om A. afarensis,

3 Ut fra denne forståelsen – at teknologi er bruk av gjenstander som verktøy, uten bearbeidelse i det hele tatt – kunne han like gjerne ha nevnt sjimpanser og bonoboer, som bruker strå til å lokke termitter de kan sleike i seg. Det har sånne aper ganske sikkert holdt på med i mye mer enn 3,2 millioner år. Fugler har sanket pinner til reir i atskillig flere millioner år, osv. Så hører jeg at i den tredje «Blue Planet»-serien med David Attenborough, nettopp lansert, får vi se en lur delfin som bruker en svamp til å stenge et hull, sånn at den kan fange mer fisk. Den bruker altså utvilsomt et verktøy. Men som den teknokraten jeg er – av legning, utdannelse og yrkesbakgrunn – vil jeg reservere ordet «teknologi» til bearbeidelse av gjenstander, ikke bare bruk. Og da er vi straks en million år nærmere vår tid.

4«Art»? Vi var beviselig interfertile med bl a neandertalere og denisovere, som vi skilte lag med for 5-600.000 år sia, og med enda ei mystisk sidegrein – kanskje asiatisk H. erectus – som vi skilte lag med for ca 1 million år sia. Da er det rart å fortsette å fastholde at arten vår bare er 300.000 år gammel.

5 Du som leser Øyvinds Globb har riktignok fått ei god forklaring allerede; se https://kvernvold.blogspot.com/2018/08/hvorfor-alt-gar-stadig-raskere.html . Du har også fått et forvarsel om hvordan det kan komme til å ende: https://kvernvold.blogspot.com/2025/06/var-verden-endrer-seg-stadig-raskere.html .

6Da må de først ha klart å forstå disse løsningene, og det er visst heller ikke så enkelt.

7Grrr! Kan vi slippe denne evindelige misbruken av et begrep fra kvantefysikken, takk? Et «kvantesprang» beskriver den aller minste tilstandsendringen som er mulig. I populær bruk, blant filosofer og andre utøvere av de mjuke vitenskaper, har denne betegnelsen for noe nesten ufattelig lite gått over til å bety noe nesten ufattelig stort, kanskje fordi første ledd, kvante-, mistolkes som kvantums-. Niels Bohr roterer i sin grav!

8I likhet med flere liksom-entusiaster jeg har hørt i det siste, fjonget han seg med det fikse begrepet «SciFi» og uttalte det «Saifai». Urgh! Som gammel sf-forfatter og -leser fryser jeg på ryggen av sånne munnslappheter.