Pred vami je drugi del članka iz serije "Počakaj, kako je vse to lahko resnično, zakaj se o tem še vedno ne govori na vsakem vogalu." V prejšnji seriji je postalo znano, da se eksplozija inteligence postopoma prikrade do ljudi na planetu Zemlja, poskuša se razviti od ozko usmerjene v univerzalno inteligenco in končno do umetne superinteligence.
"Morda se soočamo z izjemno težkim problemom in ni znano, koliko časa je namenjenega njegovi rešitvi, vendar je prihodnost človeštva lahko odvisna od njegove rešitve." - Nick Bostrom.
Prvi del članka se je začel dovolj nedolžno. Pogovarjali smo se o ozko usmerjeni umetni inteligenci (AI, ki je specializirana za reševanje enega posebnega problema, kot je določanje poti ali igranje šaha), v našem svetu ga je veliko. Nato so analizirali, zakaj je tako težko razvijati splošno usmerjeno umetno inteligenco (AGI ali AI, ki se po intelektualnih sposobnostih lahko primerja s človekom pri reševanju katerega koli problema). Ugotovili smo, da eksponentna stopnja tehnološkega napredka nakazuje, da bo AGI kmalu za vogalom. Na koncu smo se odločili, da se lahko takoj, ko stroji dosežejo človeško inteligenco, zgodi naslednje:
Kot ponavadi gledamo v zaslon in ne verjamemo, da se lahko v našem življenju pojavi umetna superinteligenca (ISI, ki je veliko pametnejša od katere koli osebe), in izbiramo čustva, ki bi najbolje odražala naše mnenje o tem vprašanju.
Preden se potopimo v posebnosti ISI, se spomnimo, kaj za stroj pomeni superinteligentnost.
Glavna razlika je med hitro superinteligenco in kakovostno superinteligenco. Pogosto prva stvar, ki mi pride na misel pri razmišljanju o superinteligentnem računalniku, je, da lahko razmišlja veliko hitreje kot človek - milijone krat hitreje in v petih minutah bo dojel, kaj bi človeku vzelo deset let. ("Poznam kung fu!")
Sliši se impresivno in ISI bi res moral razmišljati hitreje kot kateri koli od ljudi - vendar bo glavna ločitev kakovost njegove inteligence, ki je popolnoma drugačna. Ljudje smo veliko pametnejši od opic, ne zato, ker razmišljajo hitreje, ampak zato, ker njihovi možgani vsebujejo številne domiselne kognitivne module, ki izvajajo kompleksne jezikovne predstave, dolgoročno načrtovanje, abstraktno razmišljanje, česar opice niso sposobne. Če opičje možgane pospešite tisočkrat, ti ne bodo postali pametnejši od nas - tudi po desetih letih ne bo mogel sestaviti konstruktorja po navodilih, kar bi človeku vzelo največ nekaj ur. Opice se ne bodo nikoli naučile, ne glede na to, koliko ur preživi ali kako hitro delujejo možgani.
Poleg tega opica ne ve, kako človeško, saj njeni možgani preprosto ne morejo spoznati obstoja drugih svetov - opica morda ve, kaj je oseba in kaj je nebotičnik, vendar nikoli ne bo razumela, da je nebotičnik zgradil ljudi. V njenem svetu vse pripada naravi in makaka ne samo, da ne more zgraditi nebotičnika, ampak tudi razume, da ga lahko sploh zgradi kdorkoli. In to je posledica majhne razlike v kakovosti inteligence.
V splošni shemi inteligence, o kateri govorimo, ali preprosto po merilih bioloških bitij, je razlika v kakovosti inteligence med ljudmi in opicami majhna. V prejšnjem članku smo biološke kognitivne sposobnosti postavili na lestvico:
Če želite razumeti, kako resen bo superinteligenten stroj, ga postavite dve stopinji višje od osebe na tej lestvi. Ta stroj je morda le malo preveč inteligenten, vendar bo njegova superiornost nad našimi kognitivnimi sposobnostmi enaka kot naša - nad opicami. In tako kot šimpanz nikoli ne bo dojel, da je mogoče zgraditi nebotičnik, morda nikoli ne bomo razumeli, kaj bo razumel stroj nekaj stopnic višje, tudi če nam bo stroj poskušal to razložiti. Toda to je le nekaj korakov. Pametnejši stroj bo v nas videl mravlje - leta nas bo učil najpreprostejših stvari s svojega položaja in ti poskusi bodo popolnoma brezupni.
Vrsta superinteligence, o kateri bomo danes govorili, je daleč onkraj te lestvice. To je eksplozija inteligence - ko postane avto pametnejši, hitreje lahko poveča svojo inteligenco in postopoma povečuje zagon. Morda bodo trajale leta, da bo takšen stroj po inteligenci presegel šimpanze, morda pa nekaj ur, da bi nas presegel za nekaj zarez. Od tega trenutka lahko avto že vsako sekundo skoči čez štiri stopnice. Zato bi morali razumeti, da se lahko zelo kmalu po pojavu prvih novic, da je stroj dosegel raven človeške inteligence, soočimo z resničnostjo sobivanja na Zemlji z nečim, kar bo na tej lestvici veliko višje od nas (ali morda, in milijone krat višje):
In ker smo ugotovili, da je popolnoma nesmiselno poskušati razumeti moč stroja, ki je le dva koraka nad nami, opredelimo enkrat za vselej, da ne moremo razumeti, kaj bo ISI naredil in kakšne bodo posledice to bo za nas. Kdor trdi nasprotno, preprosto ne razume, kaj pomeni superinteligenca.
Evolucija je v več sto milijonih let počasi in postopoma razvijala biološke možgane, in če bomo ljudje ustvarili superinteligentni stroj, bomo v nekem smislu presegli evolucijo. Ali pa bo del evolucije - morda evolucija deluje tako, da se inteligenca razvija postopoma, dokler ne doseže prelomnice, ki oznanja novo prihodnost za vsa živa bitja:
Zaradi razlogov, o katerih bomo razpravljali kasneje, velik del znanstvene skupnosti meni, da vprašanje ni, ali bomo prišli do te prelomne točke, ampak kdaj.
Kam bomo po tem končali?
Mislim, da nihče na tem svetu, niti jaz niti ti, ne bo mogel povedati, kaj se bo zgodilo, ko bomo dosegli prelomno točko. Oxfordski filozof in vodilni teoretik AI Nick Bostrom verjame, da lahko vse možne rezultate razvrstimo v dve široki kategoriji.
Najprej, če pogledamo zgodovino, o življenju vemo naslednje: vrste se pojavljajo, obstajajo za določen čas, nato pa neizogibno odpadejo iz ravnotežnega žarka in izumrejo.
"Vse vrste izumirajo" je bilo v zgodovini enako zanesljivo pravilo kot "vsi ljudje nekoč umrejo". 99,9% vrst je padlo iz dnevnika življenja in povsem jasno je, da če bo vrsta predolgo visela na tem hlodu, bo sunek naravnega vetra ali nenaden asteroid obrnil hlod. Bostrom izumrtje imenuje stanje atraktorja - mesta, kjer se vse vrste uravnovesijo, da ne padejo, kjer se še nobena vrsta ni vrnila.
In čeprav večina znanstvenikov priznava, da bo ISI sposoben obsoditi ljudi na izumrtje, mnogi tudi verjamejo, da bo uporaba zmogljivosti ISI omogočila posameznikom (in vrsti kot celoti), da dosežejo drugo stanje atraktorja - nesmrtnost vrste. Bostrom verjame, da je nesmrtnost vrste prav tako privlačna kot izumrtje vrste, torej če bomo prišli do tega, bomo obsojeni na večni obstoj. Tako tudi če so vse vrste doslej padle s te palice v vrtinec izumrtja, Bostrom verjame, da ima hlod dve plati in na Zemlji preprosto ni bilo takšne inteligence, ki bi razumela, kako pasti na drugo stran.
Če imajo Bostrom in drugi prav in sodeč po vseh informacijah, ki so nam na voljo, so to morda res, moramo sprejeti dve zelo šokantni dejstvi:
Pojav ISI prvič v zgodovini bo vrsti odprl pot do nesmrtnosti in izpadanja iz usodnega cikla izumrtja.
Pojav ISI bo imel tako nepredstavljivo velik vpliv, da bo najverjetneje potisnil človeštvo s tega dnevnika v eno ali drugo smer.
Možno je, da ko evolucija doseže tako prelomnico, vedno konča odnos ljudi s tokom življenja in ustvari nov svet z ljudmi ali brez njih.
To pripelje do zanimivega vprašanja, ki si ga le neprijeten ne bi zastavil: kdaj bomo prišli do te prelomne točke in kam nas bo to postavilo? Nihče na svetu ne ve odgovora na to dvojno vprašanje, a mnogi pametni ljudje so to poskušali ugotoviti že desetletja. Za preostanek članka bomo ugotovili, od kod prihajajo.
* * *
Začnimo s prvim delom tega vprašanja: kdaj naj dosežemo prelomno točko? Z drugimi besedami: koliko časa je še ostalo, dokler prvi stroj ne doseže superinteligence?
Mnenja se razlikujejo od primera do primera. Mnogi, med njimi profesor Vernor Vinge, znanstvenik Ben Herzel, soustanovitelj Sun Microsystems Bill Joy, futurist Ray Kurzweil, so se strinjali s strokovnjakom za strojno učenje Jeremyjem Howardom, ko je na TED Talku predstavil naslednji graf:
Ti ljudje se strinjajo, da bo ISI kmalu prišel - ta eksponentna rast, ki se nam danes zdi počasna, bo v naslednjih nekaj desetletjih dobesedno eksplodirala.
Drugi, na primer soustanovitelj Microsofta Paul Allen, raziskovalni psiholog Gary Marcus, računalniški strokovnjak Ernest Davis in tehnološki podjetnik Mitch Kapor, menijo, da misleci, kot je Kurzweil, resno podcenjujejo obseg problema in menijo, da nismo niti približno tako blizu. točka preloma.
Kurzweilovo taborišče trdi, da je edino podcenjevanje, ki se zgodi, zanemarjanje eksponentne rasti, dvomljive pa lahko primerjamo s tistimi, ki so leta 1985 gledali počasi rastoči internet in trdili, da to v bližnji prihodnosti ne bo vplivalo na svet.
Dvomi se lahko uprejo, da je napredek težje narediti vsak naslednji korak, ko gre za eksponentni razvoj inteligence, ki nevtralizira tipično eksponentno naravo tehnološkega napredka. Itd.
Tretji tabor, v katerem je Nick Bostrom, se ne strinja ne s prvim ne z drugim, trdi, da se a) vse to lahko zgodi v bližnji prihodnosti; in b) ni zagotovila, da se bo to sploh zgodilo ali da bo trajalo dlje.
Drugi, na primer filozof Hubert Dreyfus, verjamejo, da vse tri skupine naivno verjamejo, da bo sploh prišlo do prelomnice in da najverjetneje nikoli ne bomo prišli do ISI.
Kaj se zgodi, ko združimo vsa ta mnenja?
Leta 2013 je Bostrom izvedel raziskavo, v kateri je na sestankih konferenc intervjuval na stotine strokovnjakov za umetno inteligenco na naslednjo temo: "Kakšne bodo vaše napovedi za doseganje AGI na človeški ravni?" in nas prosil, naj navedemo optimistično leto (v katerem bomo imeli AGI z 10 -odstotno možnostjo), realno predpostavko (leto, v katerem bomo imeli AGI s 50 -odstotno verjetnostjo) in prepričljivo predpostavko (najzgodnejše leto AGI se bo pojavil od 90 -odstotne verjetnosti). Tu so rezultati:
* Povprečno optimistično leto (10%): 2022
* Povprečno realno leto (50%): 2040
* Povprečno pesimistično leto (90%): 2075
Povprečni anketiranci menijo, da bomo čez 25 let imeli AGI in ne. 90 -odstotna verjetnost, da se bo AGI pojavil do leta 2075, pomeni, da se bo to zgodilo v vašem življenju, če ste zdaj še precej mladi.
Ločena študija, ki jo je nedavno opravil James Barratt (avtor priznane in zelo dobre knjige Our Latest Invention, odlomki iz Bralcem sem predstavil pozornost Hi-News.ru) in Ben Hertzel na letni konferenci AGI na konferenci AGI sta preprosto pokazala mnenja ljudi o letu, v katerem pridemo na AGI: 2030, 2050, 2100, pozneje ali nikoli. Tu so rezultati:
* 2030: 42% vprašanih
* 2050: 25%
* 2100: 20%
Po letu 2100: 10%
Nikoli: 2%
Podobno kot rezultati Bostroma. Po Barrattovi anketi več kot dve tretjini vprašanih meni, da bo AGI tu do leta 2050, manj kot polovica pa meni, da se bo AGI pojavil v naslednjih 15 letih. Presenetljivo je tudi, da le 2% vprašanih načeloma ne vidi AGI v naši prihodnosti.
Toda AGI ni prelomnica kot ISI. Kdaj bomo po mnenju strokovnjakov imeli ISI?
Bostrom je strokovnjake vprašal, kdaj bomo dosegli ASI: a) dve leti po doseganju AGI (torej skoraj takoj zaradi eksplozije inteligence); b) po 30 letih. Rezultati?
Povprečno mnenje je, da se bo hiter prehod iz AGI v ISI zgodil z 10% verjetnostjo, čez 30 let ali manj pa s 75% verjetnostjo.
Iz teh podatkov ne vemo, na kateri datum bi anketiranci rekli 50 -odstotna verjetnost za ASI, vendar na podlagi zgornjih dveh odgovorov predpostavimo, da je to 20 let. To pomeni, da vodilni svetovni strokovnjaki za AI menijo, da se bo prelomnica zgodila leta 2060 (AGI se bo pojavil leta 2040 + za prehod z AGI na ISI bo potrebnih 20 let).
Seveda so vsi zgoraj navedeni statistični podatki špekulativni in preprosto predstavljajo mnenje strokovnjakov s področja umetne inteligence, kažejo pa tudi, da se večina zainteresiranih strinja, da bo do leta 2060 verjetno prispela AI. V samo 45 letih.
Preidimo na drugo vprašanje. Ko pridemo do prelomne točke, katera stran usodne izbire nas bo določila?
Superinteligenca bo imela najmočnejšo moč, kritično vprašanje za nas pa bo naslednje:
Kdo ali kaj bo nadzoroval to moč in kaj bo njihova motivacija?
Odgovor na to vprašanje bo odvisen od tega, ali bo ISI dobil neverjetno močan razvoj, neizmerno grozljiv razvoj ali kaj vmes.
Seveda tudi strokovna skupnost poskuša odgovoriti na ta vprašanja. Bostromova raziskava je analizirala verjetnost možnih posledic vpliva AGI na človeštvo in izkazalo se je, da bo s 52 -odstotno možnostjo vse potekalo zelo dobro, s 31 -odstotno možnostjo pa bo šlo vse slabo ali izredno slabo. Približno enake rezultate je pokazala tudi anketa, priložena na koncu prejšnjega dela te teme, dragi bralci Hi-News. Za relativno nevtralen izid je bila verjetnost le 17%. Z drugimi besedami, vsi verjamemo, da bo AGI velika stvar. Omeniti velja tudi, da se ta raziskava nanaša na pojav AGI - v primeru ISI bo odstotek nevtralnosti nižji.
Preden se poglobimo v razmišljanje o dobrih in slabih straneh vprašanja, združimo obe strani vprašanja - "kdaj se bo to zgodilo?" in "je to dobro ali slabo?" v tabelo, ki zajema stališča večine strokovnjakov.
Čez minuto se bomo pogovarjali o glavnem taboru, vendar se najprej odločite o svojem položaju. Verjetno ste na istem mestu kot jaz, preden sem začel delati na tej temi. Obstaja več razlogov, zakaj ljudje sploh ne razmišljajo o tej temi:
* Kot je bilo omenjeno v prvem delu, so filmi resno zmedli ljudi in dejstva ter predstavili nerealne scenarije z umetno inteligenco, kar je pripeljalo do tega, da AI sploh ne bi smeli jemati resno. James Barratt je to situacijo primerjal z izdajo Centrov za nadzor bolezni (CDC) z resnim opozorilom o vampirjih v naši prihodnosti.
* Zaradi tako imenovanih kognitivnih pristranskosti zelo težko verjamemo, da je nekaj resnično, dokler nimamo dokazov. Lahko si samozavestno predstavljamo, da so računalničarji iz leta 1988 redno razpravljali o daljnosežnih posledicah interneta in o tem, kaj bi lahko postal, vendar ljudje komaj verjamejo, da jim bo to spremenilo življenje, dokler se to v resnici ne zgodi. Samo računalniki leta 1988 tega niso vedeli, ljudje pa so samo pogledali svoje računalnike in pomislili: »Res? Ali bo to spremenilo svet? Njihova domišljija je bila omejena s tem, kar so se naučili iz osebnih izkušenj, vedeli so, kaj je računalnik, in težko si je predstavljati, česa bi bil računalnik sposoben v prihodnosti. Enako se zdaj dogaja z AI. Slišali smo, da bo to resna stvar, a ker se z njo še nismo srečali in na splošno opažamo precej šibke manifestacije umetne inteligence v našem sodobnem svetu, težko verjamemo, da se bo radikalno spremeniti naše življenje. Številni strokovnjaki iz vseh taborišč in zainteresirani nasprotujejo tem predsodkom, ki poskušajo pritegniti našo pozornost skozi hrup vsakdanjega kolektivnega egocentrizma.
* Tudi če bi verjeli v vse to - kolikokrat ste danes razmišljali o tem, da boste preostanek večnosti preživeli v niču? Malo, se strinjam. Tudi če je to dejstvo veliko pomembnejše od vsega, kar počnete iz dneva v dan. To je zato, ker so naši možgani običajno osredotočeni na majhne, vsakdanje stvari, ne glede na to, kako dolgotrajne razmere se znajdejo v zavajanju. Samo mi smo narejeni.
Eden od ciljev tega članka je, da vas izvleče iz tabora z naslovom "Rad razmišljam o drugih stvareh" in vas postavi v strokovni tabor, tudi če samo stojite na razpotju med dvema črtkanima črtama na trgu zgoraj, popolnoma neodločeno.
Med raziskovanjem postane očitno, da se mnenja večine ljudi hitro odpravijo proti "glavnemu taboru", tri četrtine strokovnjakov pa sodijo v dva podtabora v glavnem taboru.
Oba tabora bova v celoti obiskala. Začnimo z zabavo.
Zakaj bi bile prihodnost naše največje sanje?
Ko raziskujemo svet umetne inteligence, v svoji coni udobja najdemo presenetljivo veliko ljudi. Ljudje na zgornjem desnem kvadratu brenčijo od navdušenja. Verjamejo, da bomo padli na dobro stran hloda, in tudi verjamejo, da bomo do tega neizogibno prišli. Prihodnost je zanje le najboljše, o čemer se lahko le sanja.
Bistvo, ki te ljudi razlikuje od drugih mislecev, ni v tem, da želijo biti na srečni strani - ampak v tem, da so prepričani, da nas čaka ona.
To zaupanje izhaja iz polemik. Kritiki menijo, da prihaja iz bleščečega navdušenja, ki zasenči potencialne negativne plati. Toda zagovorniki pravijo, da so mračne napovedi vedno naivne; tehnologija se nadaljuje in nam bo vedno bolj pomagala kot škodila.
Prosto lahko izberete katero koli od teh mnenj, vendar pustite stran skepticizmu in si dobro oglejte srečno stran ravnovesja, poskušajte sprejeti dejstvo, da se je vse, o čemer berete, morda že zgodilo. Če bi lovcem in nabiralcem pokazali naš svet udobja, tehnologije in neskončnega obilja, bi se jim to zdelo čarobna fikcija - in obnašamo se precej skromno, ne moremo priznati, da nas v prihodnosti čaka ista nerazumljiva preobrazba.
Nick Bostrom opisuje tri poti, ki jih lahko sprejme nadinteligentni sistem AI:
* Preročišče, ki lahko odgovori na vsako natančno vprašanje, vključno s težkimi vprašanji, na katera ljudje ne morejo odgovoriti - na primer, "kako narediti avtomobilski motor učinkovitejši?" Google je primitivna vrsta "preročišča".
* Duh, ki bo izvedel kateri koli ukaz na visoki ravni - z uporabo molekularnega asemblerja za ustvarjanje nove, učinkovitejše različice avtomobilskega motorja - in bo čakal na naslednji ukaz.
* Suveren, ki bo imel širok dostop in zmožnost svobodnega delovanja v svetu, sprejemanja lastnih odločitev in izboljšanja procesa. Izumil bo cenejši, hitrejši in varnejši način zasebnega prevoza od avtomobila.
Ta vprašanja in naloge, ki se nam zdijo težke, se bodo superinteligentnemu sistemu zdele, kot da bi nekdo prosil, naj izboljša situacijo, "moj svinčnik je padel z mize", v katerem bi ga preprosto vzeli in postavili nazaj.
Eliezer Yudkowski, ameriški specialist za umetno inteligenco, je to dobro povedal:
»Ni težkih težav, samo težave, ki so težke za določeno stopnjo inteligence. Pojdite korak višje (v smislu inteligence) in nekatere težave se bodo nenadoma premaknile iz kategorije "nemogoče" v tabor "očitnih". Korak višje - in vsi bodo postali očitni."
Obstaja veliko nestrpnih znanstvenikov, izumiteljev in podjetnikov, ki so za našo mizo izbrali cono samozavestnega udobja, vendar potrebujemo le enega vodnika, da bi hodili do najboljšega v tem najboljšem svetu.
Ray Kurzweil je dvoumen. Nekateri idolizirajo njegove ideje, nekateri ga prezirajo. Nekateri ostanejo na sredini - Douglas Hofstadter, ki je razpravljal o zamislih Kurzweiljevih knjig, je zgovorno opozoril, da je "kot da si vzel veliko dobre hrane in malo pasjega kakca, nato pa vse zmešal tako, da je nemogoče razumeti" kaj je dobro in kaj slabo."
Ne glede na to, ali so vam njegove ideje všeč ali ne, jih ne morete prenesti brez sence zanimanja. Izumljati je začel že kot najstnik, v naslednjih letih pa je izumil več pomembnih stvari, med drugim prvi ploski skener, prvi skener za pretvorbo besedila v govor, znani glasbeni sintetizator Kurzweil (prvi pravi električni klavir) in prvi komercialno uspešen prepoznavalec govora. Je tudi avtor petih senzacionalnih knjig. Kurzweil je cenjen zaradi svojih drznih napovedi, njegov uspeh pa je precej dober - v poznih 80. letih, ko je bil internet še v povojih, je napovedal, da bo do leta 2000 splet postal svetovni pojav. Wall Street Journal je Kurzweila označil za "nemirnega genija", Forbes za "globalni misleči stroj", Inc. Revija - "Edisonov zakoniti dedič", Bill Gates - "najboljši od tistih, ki napovedujejo prihodnost umetne inteligence". Leta 2012 je soustanovitelj Googla Larry Page povabil Kurzweila na mesto tehničnega direktorja. Leta 2011 je soustanovil Univerzo Singularity, ki jo gosti NASA, delno pa jo sponzorira Google.
Njegova biografija je pomembna. Ko Kurzweil govori o svoji viziji prihodnosti, se sliši noro noro, a res noro je, da še zdaleč ni nor - je neverjetno pameten, izobražen in razumen človek. Morda mislite, da se moti v svojih napovedih, vendar ni bedak. Kurzweilove napovedi delijo številni strokovnjaki za območje udobja, Peter Diamandis in Ben Herzel. To je tisto, kar misli, da se bo zgodilo.
Kronologija
Kurzweil meni, da bodo računalniki do leta 2029 dosegli raven splošne umetne inteligence (AGI), do leta 2045 pa ne bomo imeli le umetne superinteligence, ampak tudi popolnoma nov svet - čas tako imenovane singularnosti. Njegova kronologija AI še vedno velja za nezaslišano pretirano, toda v zadnjih 15 letih je hiter razvoj visoko usmerjenih sistemov umetne inteligence (AI) prisilil številne strokovnjake, da se postavijo na stran Kurzweila. Njegove napovedi so še vedno bolj ambiciozne od napovedi Bostromove raziskave (AGI do leta 2040, ISI do leta 2060), vendar ne veliko.
Kurzweil pravi, da singularnost leta 2045 poganjajo tri hkratne revolucije v biotehnologiji, nanotehnologiji in, kar je še pomembneje, AI. Toda preden nadaljujemo - in nanotehnologija natančno sledi umetni inteligenci - si vzemimo trenutek k nanotehnologiji.
Nekaj besed o nanotehnologiji
Običajno imenujemo nanotehnološke tehnologije, ki se ukvarjajo z manipulacijo snovi v območju 1-100 nanometrov. Nanometer je milijarditi del metra ali milijoninka milimetra; v razponu od 1 do 100 nanometrov se lahko namestijo virusi (s premerom 100 nm), DNA (širina 10 nm), molekule hemoglobina (5 nm), glukoza (1 nm) in drugi. Če nam bo nanotehnologija kdaj postala predmet, bo naslednji korak manipulacija posameznih atomov, ki so manjši od enega reda velikosti (~, 1 nm).
Da bi razumeli, kje ljudje naletijo na težave, ko poskušajo manipulirati z materijo v takem obsegu, skočimo na večji obseg. Mednarodna vesoljska postaja je 481 kilometrov nad Zemljo. Če bi bili ljudje velikani in bi z glavo udarili v ISS, bi bili 250.000 -krat večji kot so zdaj. Če 250.000 krat povečate karkoli od 1 do 100 nanometrov, dobite 2,5 centimetra. Nanotehnologija je enakovredna človeku, ki kroži okoli ISS in poskuša manipulirati z velikostmi zrna peska ali zrkla. Da bi prišel na naslednjo stopnjo - nadzor posameznih atomov - bo moral velikan previdno postaviti predmete s premerom 1/40 milimetra. Navadni ljudje potrebujejo mikroskop, da jih vidijo.
Richard Feynman je prvič govoril o nanotehnologiji leta 1959. Nato je rekel: "Načela fizike, kolikor lahko povem, ne govorijo proti možnosti, da bi stvari nadzorovali atom za atomom. Načeloma bi lahko fizik sintetiziral katero koli kemikalijo, ki jo je kemik zapisal. Kako? S postavitvijo atomov tam, kjer kemik pravi, da dobimo snov. " To je celotna preprostost. Če znate premikati posamezne molekule ali atome, lahko naredite skoraj vse.
Nanotehnologija je postala resno znanstveno področje leta 1986, ko je inženir Eric Drexler predstavil svoje temelje v svoji knjigi Machines of Creation, vendar sam Drexler meni, da bi morali tisti, ki želijo izvedeti več o sodobnih idejah v nanotehnologiji, prebrati njegovo knjigo iz leta 2013. Full Abadance (Radikal Obilje).
Nekaj besed o "sivi goo"
Poglobimo se v nanotehnologijo. Zlasti tema "siva goo" je ena izmed ne ravno prijetnih tem na področju nanotehnologije, ki je ni mogoče prezreti. Starejše različice teorije nanotehnologije so predlagale metodo nanosestave, ki vključuje ustvarjanje bilijonov drobnih nanorobotov, ki bi skupaj ustvarili nekaj. Eden od načinov za ustvarjanje bilijonov nanorobotov je ustvariti takega, ki se lahko sam ponovi, to je od enega do dveh, od dveh do štirih itd. V enem dnevu se bo pojavilo več bilijonov nanorobotov. To je moč eksponentne rasti. Smešno, kajne?
Smešno je, a vse dokler ne pripelje do apokalipse. Težava je v tem, da zaradi moči eksponentne rasti, zaradi česar je zelo priročen način za hitro ustvarjanje bilijona nanobotov, dolgoročno postane samopodvajanje strašljivo. Kaj pa, če se sistem zruši in namesto da bi za nekaj bilijonov zaustavili podvajanje, se nanoboti še naprej razmnožujejo? Kaj pa, če je ves ta proces odvisen od ogljika? Biomasa Zemlje vsebuje 10 ^ 45 ogljikovih atomov. Nanobot bi moral biti velikosti 10 ^ 6 ogljikovih atomov, zato bo 10 ^ 39 nanobotov požrlo vse življenje na Zemlji v samo 130 ponovitvah. Ocean nanobotov ("siva goo") bo poplavil planet. Znanstveniki menijo, da se lahko nanoboti ponovijo v 100 sekundah, kar pomeni, da lahko preprosta napaka ubije vse življenje na Zemlji v samo 3,5 urah.
Lahko bi bilo še slabše - če bi teroristi in neugodni strokovnjaki prišli v roke nanotehnologije. Lahko bi ustvarili več bilijonov nanobotov in jih programirali, da se v nekaj tednih tiho razširijo po svetu. Potem bodo s pritiskom na gumb v samo 90 minutah sploh pojedli vse, brez možnosti.
Čeprav se o tej grozljivki že dolgo razpravlja, je dobra novica, da je le grozljivka. Eric Drexler, ki je skoval izraz "siva goo", je pred kratkim dejal naslednje: "Ljudje imajo radi grozljivke in to je ena izmed grozljivk zombija. Ta ideja sama po sebi že poje možgane."
Ko pridemo do dna nanotehnologije, jo lahko uporabimo za ustvarjanje tehničnih naprav, oblačil, hrane, bioproizvodov - krvnih celic, borcev proti virusom in raku, mišičnega tkiva itd. In v svetu, ki uporablja nanotehnologijo, stroški materiala ne bodo več vezani na njegovo pomanjkanje ali kompleksnost njegovega proizvodnega procesa, temveč na kompleksnost njegove atomske strukture. V svetu nanotehnologije je lahko diamant cenejši od radirke.
Tam še nisva niti blizu. In ni povsem jasno, ali podcenjujemo ali precenjujemo kompleksnost te poti. Vse pa gre do tega, da nanotehnologija ni daleč. Kurzweil predvideva, da jih bomo imeli do leta 2020. Svetovne države vedo, da lahko nanotehnologija obljubi veliko prihodnost, zato vanj vlagajo številne milijarde.
Zamislite si le, kakšne možnosti bi imel superinteligenten računalnik, če bi prišel do zanesljivega sestavljalnika na nanometru. Toda nanotehnologija je naša ideja in mi jo poskušamo voziti, težko nam je. Kaj pa, če so za sistem ISI samo šala, sam ISI pa se pojavi s tehnologijami, ki bodo večkrat močnejše od vsega, kar načeloma lahko domnevamo? Dogovorili smo se: nihče si ne more predstavljati, česa bo zmožna umetna superinteligenca? Menijo, da naši možgani ne morejo predvideti niti najmanj, kaj se bo zgodilo.
Kaj bi lahko AI naredil za nas?
Oborožen s superinteligenco in vso tehnologijo, ki bi jo superinteligenca lahko ustvarila, bo ISI verjetno lahko rešil vse težave človeštva. Globalno segrevanje? ISI bo najprej ustavil emisije ogljika z iznajdbo številnih učinkovitih načinov za pridobivanje energije, ki niso povezani s fosilnimi gorivi. Nato bo predstavil učinkovit in inovativen način za odstranjevanje presežka CO2 iz ozračja. Rak in druge bolezni? Ni problem - zdravstvo in medicina se bosta spremenila na nepredstavljive načine. Svetovna lakota? ISI bo z nanotehnologijo ustvaril meso, ki je identično naravnemu, iz nič pravega mesa.
Nanotehnologija bo lahko kup smeti spremenila v kozarec s svežim mesom ali drugo hrano (ne nujno niti v njeni običajni obliki - zamislite si velikansko jabolčno kocko) in vso to hrano razdelila po vsem svetu z naprednimi transportnimi sistemi. Seveda bo to odlično za živali, ki jim za hrano ni treba več umirati. ISI lahko naredi tudi veliko drugih stvari, na primer ohranjanje ogroženih vrst ali celo vračanje izumrlih iz shranjene DNK. ISI lahko reši naše najtežje makroekonomske težave - najtežje gospodarske razprave, etična in filozofska vprašanja, svetovno trgovino - vse to bo ISI boleče očitno.
Toda ISI bi lahko za nas naredil nekaj zelo posebnega. Privlačno in mučno bi spremenilo vse: ISI nam lahko pomaga pri spopadanju s smrtnostjo … S postopnim razumevanjem sposobnosti AI boste morda premislili vse svoje ideje o smrti.
Ni bilo razloga, da bi evolucija podaljšala našo življenjsko dobo dlje kot zdaj. Če živimo dovolj dolgo, da rojevamo in vzgajamo otroke do te mere, da se sami lahko spopadejo, je evolucija dovolj. Z evolucijskega vidika je 30+ let dovolj za razvoj in ni razloga, da bi mutacije podaljšale življenje in zmanjšale vrednost naravne selekcije. William Butler Yates je našo vrsto imenoval "duša, vezana na umirajočo žival". Ni prav zabavno.
In ker nekoč vsi umremo, živimo z mislijo, da je smrt neizogibna. Sčasoma razmišljamo o staranju - še naprej se premikamo in tega procesa ne moremo ustaviti. Toda misel na smrt je zahrbtna: pozabljeni nanjo pozabimo živeti. Richard Feynman je napisal / a:
"V biologiji je čudovita stvar: v tej znanosti ni ničesar, kar bi govorilo o nujnosti smrti. Če želimo ustvariti večni motor, se zavedamo, da smo v fiziki našli dovolj zakonov, ki bodisi kažejo na to, da tega ni mogoče, bodisi da so zakoni napačni. Toda v biologiji ni ničesar, kar bi kazalo na neizogibnost smrti. To me vodi k prepričanju, da to ni tako neizogibno in da je le vprašanje časa, kdaj bodo biologi odkrili vzrok tega problema, te strašne univerzalne bolezni, da bo ozdravljen."
Dejstvo je, da staranje s časom nima nič skupnega. Staranje je, ko se fizični materiali telesa obrabijo. Tudi avtomobilski deli se razgradijo - a je staranje neizogibno? Če avto popravljate, ko se deli obrabijo, bo trajal večno. Človeško telo ni nič drugače - samo bolj zapleteno.
Kurzweil govori o inteligentnih nanobotih, povezanih z Wi-Fi v krvnem obtoku, ki bi lahko opravljali nešteto nalog za zdravje ljudi, vključno z rednim popravljanjem ali zamenjavo obrabljenih celic kjer koli v telesu. Izboljšanje tega procesa (ali iskanje alternative, ki jo predlaga pametnejša ASI) ne bo samo ohranilo zdravega telesa, ampak bo tudi obrnilo staranje. Razlika med telesom 60-letnika in 30-letnika je peščica fizičnih težav, ki bi jih lahko odpravili s pravo tehnologijo. ISI bi lahko zgradil avto, v katerega bi človek vstopil, ko je star 60 let, in odšel, ko je star 30 let.
Tudi degradirane možgane bi lahko obnovili. ISI bi zagotovo vedel, kako to storiti, ne da bi to vplivalo na možganske podatke (osebnost, spomine itd.). 90-letni moški, ki trpi zaradi popolne degradacije možganov, bi se lahko preusposobil, obnovil in vrnil na začetek svojega življenja. Morda se zdi absurdno, a telo je peščica atomov in ISI bi z njimi zagotovo lahko manipuliral, kakršne koli atomske strukture. To ni tako absurdno.
Kurzweil tudi meni, da se bodo umetni materiali s časom vse bolj vključevali v telo. Za začetek bi lahko organe zamenjali s super naprednimi različicami strojev, ki bi trajale večno in nikoli ne bi odpovedale. Potem bi lahko naredili celotno preoblikovanje telesa in rdeče krvne celice nadomestili s popolnimi nanoboti, ki se premikajo sami, kar bi popolnoma odpravilo potrebo po srcu. Lahko bi tudi izboljšali svoje kognitivne sposobnosti, začeli razmišljati milijarde krat hitreje in dostopali do vseh informacij, ki so na voljo človeštvu prek oblaka.
Možnosti za razumevanje novih obzorij bi bile resnično neskončne. Ljudem je uspelo spolnosti podariti nov namen, to počnejo zaradi užitka, ne le zaradi razmnoževanja. Kurzweil meni, da lahko enako storimo s hrano. Nanoboti bi lahko prinesli idealno prehrano neposredno v celice telesa, kar bi omogočilo prehod nezdravih snovi skozi telo. Teoretik nanotehnologije Robert Freitas je že razvil nadomestek za krvne celice, ki mu lahko, ko se vnese v človeško telo, ne dovoli dihati 15 minut - in to je izumil človek. Predstavljajte si, kdaj bo ISI pridobil moč.
Konec koncev Kurzweil verjame, da bodo ljudje dosegli točko, ko bodo postali popolnoma umetni; čas, ko gledamo biološke materiale in razmišljamo o tem, kako primitivni so bili; čas, ko bomo brali o zgodnjih fazah človeške zgodovine, presenečeni nad tem, kako bi lahko klice, nesreče, bolezni ali preprosto starost ubili osebo proti njeni volji. Konec koncev bodo ljudje premagali lastno biologijo in postali večni - to je pot do srečne strani ravnovesja, o kateri smo govorili že od vsega začetka. In ljudje, ki verjamejo v to, so tudi prepričani, da nas takšna prihodnost čaka zelo, zelo kmalu.
Verjetno ne boste presenečeni, da so Kurzweilove ideje naletele na močno kritiko. Njegova edinstvenost leta 2045 in kasnejše večno življenje za ljudi se je imenovalo "vnebovzet nerdavcev" ali "inteligentno ustvarjanje ljudi z IQ 140". Drugi so podvomili o optimističnem časovnem okviru, razumevanju človeškega telesa in možganov, spomnili na Moorejev zakon, ki še ni izginil. Za vsakega strokovnjaka, ki verjame v Kurzweilove ideje, obstajajo trije, ki mislijo, da se moti.
Najbolj zanimivo pri tem pa je, da večina strokovnjakov, ki se z njim ne strinjajo, na splošno ne trdi, da je to nemogoče. Namesto da bi rekli "sranje, to se nikoli ne bo zgodilo", rečejo nekaj takega "vse se bo zgodilo, če pridemo do ISI, vendar je to problem." Bostrom, eden priznanih strokovnjakov za umetno inteligenco, ki opozarja na nevarnosti umetne inteligence, priznava tudi:
»Skoraj ni več nobenega problema, ki ga superinteligenca ne bi mogla rešiti ali nam celo pomagati pri reševanju. Bolezni, revščina, uničevanje okolja, trpljenje vseh vrst - vso to superinteligenco s pomočjo nanotehnologije je mogoče rešiti v trenutku. Superinteligenca nam lahko daje tudi neomejeno življenjsko dobo, tako da ustavi in obrne proces staranja z nanomedicino ali da nas lahko naloži v oblak. Superinteligenca lahko ustvari tudi priložnosti za neskončno povečanje intelektualnih in čustvenih sposobnosti; lahko nam pomaga ustvariti svet, v katerem bomo živeli v veselju in razumevanju, se približali svojim idealom in redno uresničevali svoje sanje."
To je citat enega od kritikov Kurzweila, ki priznava, da je vse to mogoče, če lahko ustvarimo varen ASI. Kurzweil je preprosto določil, kaj naj bi umetna superinteligenca postala, če je le mogoče. In če je dober bog.
Najbolj očitna kritika zagovornikov cone udobja je, da se lahko prekleto motijo, ko ocenjujejo prihodnost ISI. Kurzweil je v svoji knjigi The Singularity namenil 20 strani od 700 potencialnih groženj ISI. Vprašanje ni, kdaj pridemo do ISI, vprašanje je, kaj bo njegova motivacija. Kurzweil na to vprašanje odgovarja previdno: »ISI izhaja iz številnih različnih prizadevanj in bo globoko vključen v infrastrukturo naše civilizacije. Pravzaprav bo tesno vpeta v naše telo in možgane. Odražal bo naše vrednote, ker bo eno z nami."
Če pa je odgovor, zakaj toliko pametnih ljudi na tem svetu skrbi za prihodnost umetne inteligence? Zakaj Stephen Hawking pravi, da bi razvoj ISI "lahko pomenil konec človeštva"? Bill Gates pravi, da "ne razume ljudi, ki jih to ne moti". Elon Musk se boji, da "kličemo demona". Zakaj mnogi strokovnjaki menijo, da je ISI največja grožnja človeštvu?
Naslednjič se bomo o tem pogovarjali.
