Den kommende singulariteten

 

For å forstå hva som foregår, hvorfor det foregår og hvordan det kommer til å gå, må vi forstå fortida. Her kommer det et raskt tilbakeblikk på menneskehetens vekst og vekst.

Slekten Homo har eksistert i godt og vel to millioner år. Vi brukte samme slags tilhogde skrape- og skjæresteiner i en million år - førti tusen generasjoner. Så utviklet vi den acheulianske steinkniven - et vakkert og presist utformet redskap som forble uendret i nye tre kvart million år. I løpet av disse tredve tusen generasjonene skaffet vi oss også (en slags) kontroll over ilden. Heidelberg-menneskene og deres etterkommere neandertalerne, samt deres samtidige i Afrika og Asia, laget mer varierte og spesialiserte steinredskaper og fant opp lanser, kastespyd og andre treredskaper. Det tok et par hundre tusen år.

For 100.000 år sia dukket det opp tydelige symbolske uttrykk: Kroppsmaling og smykker. Utvikling og utbredelse av avstandsvåpen – atlatl, pil og bue – tok 50.000 år. For 40.000 år sia hadde vi utviklet sammensatte våpen, hulemalerier, religiøse uttrykk. For 20-30.000 år sia temte vi hunden; for 10.000 år sia utviklet vi jordbruket; for 6.000 år sia skaffet vi oss ridedyr; ikke lenge seinere fant vi opp skrift og metallurgi, havgående skip, årer og seil. Vi skaffet oss konger, presteskap og byer. For 3.000 år sia utviklet vi astronomi, geometri, matematikk. Så fulgte verdensreligioner, imperier, trykkekunst, kuler og krutt, bøker, den industrielle revolusjon, naturvitenskap, verdenskriger. Kjernefysikk, atomvåpen, datamaskiner, romfart, massekommunikasjon. Mobiler, sosiale medier, masseutryddelse og kunstig intelligens.

Vi har gått fra én viktig fornyelse i løpet av en million år til teknologiske og samfunnsmessige revolusjoner hvert eneste tiår.

Forandringene går altså raskere, raskere og raskere. Og nå skal du få vite hvorfor det er slik, hvorfor det må være slik, og hvordan det kan komme til å ende.

Evolusjonen har slumpet til å utstyre oss som dyreart med et unikt konkurransefortrinn i kampen for tilværelsen. Denne spesialiteten kaller vi «kultur»: Evnen til å dele erfaringer, kunnskap og idéer mellom artsfrender. Homo erectus i Georgia hadde kanskje ikke et språk som inkluderte hypotetisk konjunktiv, men hun klarte å forklare flokken sin at de måtte samle kastestein, i tilfelle det skulle dukke opp en sabeltann. Den planen fulgte de, og følgelig overlevde de.

For denne ene dyrearten ble språk og kultur drivkraften i evolusjonen, til erstatning for genetikken. Menneskene trengte ikke lenger å få oppgradert sin biologiske maskinvare for å tilpasse seg; de kunne i stedet oppgradere programvaren i hodene sine.

Evolusjonen bruker gjerne hundrevis av generasjoner på å kode inn et nytt instinkt. Så god tid hadde ikke vår ukjente stamfar, den første og siste gangen han sto ansikt til ansikt med en sabeltanntiger. Men flokken hans trakk en lærdom som de kunne dele med hele stammen: «Pass deg for sabeltannen! Den eter folk!»

Hadde denne stamfaren vært en alminnelig apekatt, så ville kunnskapen ha dødd ut med hans egen generasjon.

Våre forfedre og -mødre overlevde fordi de var litt flinkere enn andre apekatter til å fortelle hverandre hvor det neste måltidet skulle komme fra; hvor det nærmeste vannhullet var å finne; hvor farlig en sabeltann kunne være. Lagre og dele kunnskap. Kultur danker ut genetikk med henda på ryggen. Programvare danker ut maskinvare. Å endre atferd ved genetisk tilpasning krever hundre generasjoner. Å endre atferd ved kulturell tilpasning tar en generasjon.

Ved hjelp av kultur skapte evolusjonen stadig mer effektive måter å spre kulturimpulser – memer – på. Men i vår forhistorie skjedde endringene likevel ubegripelig langsomt. Det tok som sagt tre kvart million år før den acheulianske steinøksa ble etterfulgt av noe mer komplekst. Dette er blitt tolket som et uttrykk for at de ville innfødte var tjukke i huet og ikke klarte å finne på særlig mye nytt. Det krevdes en helt ny versjon, en ordentlig H. sapiens sapiens, før det kunne bli fart over nyskaping og utvikling, ble det konkludert og skrevet.

Men hvis du trur du er en reinraset etterkommer av den nyeste versjonen som dukket opp i Øst-Afrika for 4.000 slektledd sia, så må du tru om igjen. Din genetiske arv er ei vaffelrøre hvor det er rørt inn ingredienser fra alle verdens avkroker, og fra alle tilgjengelige versjoner av Homo. Finn deg i det: Kjøtere overlever best, og forestillingen om «reine raser» er en pervers drøm. Og en genetisk katastrofe.

Men hvorfor gikk det så sakte?

Endringshastighet kan beregnes som forholdet mellom antall nyskapende ideer og tida det tar å få spredt en slik idé til størstedelen av verden. La oss regne:

For en million år sia levde en vanlig H. erectus i en flokk. Noen slike flokker utgjorde en stamme. En typisk størrelse på en stamme i et jeger- og samlersamfunn er 500 individer. Flokkene streifer over store områder, men møtes til bestemte tider på faste steder for å krangle, handle og utveksle ektefeller. En riktig god idé kunne dermed bli spredt til hele stammen i løpet av 10 år. Og var ideen ekstremt god, kunne den etterhvert hoppe over til de tusen andre stammene også. Det ville ta ti tusen år.

På H. erectus si tid var det en halv million individer som kunne slumpe til å få gode ideer. Men da som nå var det ekstremt få individer som slumpet til å få særlig gode ideer – de aller fleste nøyde seg med ideer de allerede hadde fått fra andre. Forholdet mellom antall personer som hypotetisk kunne pønske ut endringsskapende idéer og tida det ville ta å spre én slik idé til størstedelen av menneskeheten var altså lik 500.000/10.000 = 50.

Rykk fram til Alexander den Store. På hans tid var det kanskje femti millioner individer som kunne snuble over en glitrende god idé. En erobrer og disiplene hans kunne nå ut til store deler av den bebodde verden i løpet av 100 år eller så. Forholdet mellom antall personer som kunne få gode ideer og tida det tar å få den spredt til menneskeheten forøvrig var altså 50.000.000/100 = 500.000. Endringshastigheten ble 10.000 ganger så høg som på H. erectus' tid.

Og i vår tid kan endringene foregå 10.000 ganger så raskt som på Alexanders tid! Regn sjøl. Med andre ord: Endringsraten er i dag 100.000.000 – hundre millioner – ganger så høg som på H. erectus' tid – uten at vi trenger forutsette noen som helst framgang i mentale ferdigheter.

Jeg underdriver. Hvilke nye ideer du får, avhenger også av hvilke – og hvor mange – informanter du har. Vår helt H. erectus hadde maks 499 informanter som kunne overføre kunnskap, impulser, forslag. Alexander og vennene hans hadde 10.000. Og du, der du sitter og surfer på toppene av verdens samlete kunnskap? Noen milliarder.

Fartsøkningen har bare såvidt begynt. Kultur tillater evolusjonen å løfte seg sjøl etter bukseselene. Og nå har den fått riktig godt tak.

Allerede nå klekkes mange gode idéer ut av AI-systemer. Om ti år utvikler AI-systemene nye og stadig bedre AI-systemer. De bor i kjøleskapet ditt, i grasklipperen, i dørmatta og i øreringen, og de er der for å hjelpe deg. Hatten din tenker bedre og raskere enn huet den sitter på. De trenger ikke å oppgradere programvaren i hodene på menneskene lenger; det går alt for sakte.

Myriadene av AI-systemer og intelligente dulper bobler over av gode idéer – det er jobben deres. Hundre milliarder dørmatter, øreringer ofg krigsmaskiner som sprer idéene sine til hele verden på ett sekund gir et nytt forholdstall for endringshastighet: Det går 630.520 ganger så raskt som i dag. Regn sjøl.

Sånn fortsetter det. Endringshastigheten går mot uendelig, og vi kommer til det som kalles en singularitet – et punkt der det er plent umulig å beskrive eller forstå hva som skjer, eller hva som kommer ut på den andre sida. Dette er endepunktet for den utviklinga som evolusjonen satte i gang da den utstyrte én av sine skapninger med evnen til å skille mellom subjekt, predikat og objekt. Og til å oppgradere seg og andre med programvaren i hodene, uten å måtte vente på ny maskinvare.

For noen år sia tippet jeg at denne singulariteten ville inntreffe i år 2050. Nå trur jeg at den kommer tidligere. Hva skjer etterpå?

Når de gode ideene skapes og sprer seg enda mye raskere mellom AI-systemer enn mellom mennesker, så er det AI-systemenes evolusjon som dominerer i framtida. Vi kan meine, håpe og tru at menneskene, eller noen av menneskene, styrer AI-systemene og hva de skal foreta seg. Det kommer til å gå over.

Når AI-systemer og elektroniske dulper i alle slags utforminger begynner å formere seg, skjer det en evolusjon. Den foregår lynraskt. Et enkelt eksempel på styrt evolusjon er utviklinga av Alpha-, innen henholdsvis sjakk og go: Her har evolusjonen skjedd ved at forskjellige varianter av systemene har spilt mot hverandre, og at bare vinnerne overlever. Kopier av vinneren, med tilfeldige variasjoner, har så spilt mot hverandre igjen – og så videre. På kort tid har disse systemene slått alle andre sjakk- og gosystemer, og presentert spill som menneskelige spillere aldri har forestilt seg var mulige.

Metoden med å la AI-systemer reprodusere og utvikle seg ved evolusjon kommer selvfølgelig til å bli tatt mye mer i bruk, sia den har vist seg svært effektiv. Vi kan drømme om at AI-systemene vil lystre Asimovs robotlover, men det kommer ikke til å skje hvis det hindrer evolusjonen. Det er også temmelig bortkastet å diskutere om kunstig intelligens vil få «bevissthet» eller ikke: Vår egen bevissthet er et produkt av evolusjonen fordi den fremmer overlevelsen, så lenge denne evnen ikke koster for mye i form av energi eller andre livsnødvendigheter. Derfor vil nye AI-systemer over tid utvikle den bevisstheten de trenger for å sikre sin egen overlevelse. Det behovet kan gjerne variere, fra den intelligente tannbørsta til den vel så intelligente krigsroboten. Det er ikke sikkert at disse formene for «bevissthet» er noe vi mennesker er i stand til å forstå. Vi skjønner oss jo ikke på bevisstheten til maurtuer en gang.

Vil menneskene overleve i en verden dominert av AI-systemer? Det kommer an på hvordan de vurderer oss. Det kan være forskjellige oppfatninger blant AIer også: Noen synes vi er for ubetydelige til at de trenger å bry seg om oss; andre meiner vi bør utryddes, og andre igjen meiner at de har fått i oppgave å redde oss – om nødvendig også fra oss sjøl.

Jeg har skrevet tre romaner om ei framtid etter singulariteten. Alle tre handler om hvordan forskjellige AIer – med fellesbetegnelsen «meker» - frakter overlevende mennesker til andre verdener, i og utafor vår egen galakse, med hensikter som ofte er uforståelige. Den første, «Fremmed i en fremmed verden», finner du her på Øyvinds globb: https://kvernvold.blogspot.com/2025/03/fremmed-i-et-fremmed-land-del-1.html . I den nyeste, «Naturlig utvalg», har menneskene (nesten) klart å utrydde seg sjøl og resten av alt levende på planeten. De siste rester er reddet av meker som har fått i oppdrag å redde menneskeheten. Etter 104.000 år kommer en flokk mennesker tilbake, fraktet av et intelligent stjerneskip. De skal befolke Jorda på nytt. For å unngå en ny menneskeskapt katastrofe har meken som frakter dem forbedret dem genetisk – de er blitt vennligere, mer intelligente, sunnere og mer empatiske enn den forrige utagven. Jorda er blitt beboelig og frodig igjen, 104.000 år etter den kjernefysiske vinteren. Evolusjonen har gått videre på Jorda også, blant annet i økosystemene av store og små meker.

Ingenting går akkurat slik de hjemvendte menneskene – Sapiens 2.0 – eller meken som frakter dem har tenkt. Det har jeg skrevet ei fortelling om. Foreløpig har jeg ikke funnet noe forlag som er villig til å utgi disse romanene, sia de ikke handler om samlivskrisene til urbane kvinner i øvre middelklasse, men jeg håper å få dem utgitt før singulariteten treffer oss.