Samoizboljšana umetna inteligenca (AI) v prihodnosti lahko zasužnji ali ubije ljudi, če to želi. To je povedal znanstvenik Amnon Eden, ki meni, da so tveganja zaradi razvoja svobodomiselne in visoko inteligentne zavesti zelo velika in "če za vprašanja nadzora umetne inteligence ne skrbite že na trenutni stopnji razvoj, potem jutri morda preprosto ne bo prišel. " Po poročanju angleške izdaje Express je človeštvo po besedah Amnona Edena danes na "točki brez povratka" za izvedbo zapleta slavnega filmskega epa "Terminator".
Omeniti velja, da je dr. Amnon Eden vodja projekta, katerega glavni cilj je analizirati možne uničujoče učinke umetne inteligence. Brez pravilnega razumevanja posledic ustvarjanja umetne inteligence lahko njen razvoj ogrozi katastrofo, meni znanstvenik. Trenutno je naša družba slabo obveščena o razpravi, ki poteka v znanstveni skupnosti o analizi možnega vpliva umetne inteligence. "V prihodnjem letu 2016 bo morala analiza možnih tveganj postati bistveno bolj razširjena v razmišljanju korporacij in vlad, politikov in tistih, ki so odgovorni za odločanje," pravi Eden.
Znanstvenik je prepričan, da lahko znanstvena fantastika, ki opisuje uničenje človeštva z roboti, kmalu postane naš skupni problem, saj je proces ustvarjanja AI ušel izpod nadzora. Elon Musk se je na primer ob podpori podjetnika Sama Altmana odločil ustvariti novo neprofitno organizacijo v vrednosti milijarde dolarjev, ki razvija odprtokodno AI, ki bi morala preseči človeški um. Hkrati pa ameriški milijarder Elon Musk umetno inteligenco uvršča med "največje grožnje za naš obstoj". Steve Wozniak, ki je bil soustanovitelj Apple, je lanskega marca dejal, da je "prihodnost zastrašujoča in zelo nevarna za ljudi … sčasoma bo prišel dan, ko bodo računalniki razmišljali hitreje kot mi in se bodo znebili počasnih ljudi, da bi da bodo podjetja delovala učinkoviteje."
Omeniti velja, da mnogi znanstveniki grozijo zaradi AI. Več deset znanih znanstvenikov, vlagateljev in podjetnikov, katerih dejavnosti so tako ali drugače povezane z razvojem umetne inteligence, so podpisali odprto pismo, v katerem pozivajo k večji pozornosti k vprašanju varnosti in družbene uporabnosti dela v področju AI. Med podpisniki tega dokumenta sta astrofizik Stephen Hawking in ustanovitelj Tesla in SpaceX Elon Musk. Pismo skupaj s spremnim dokumentom, ki ga je pripravil Inštitut za prihodnost življenja (FLI), je bilo napisano zaradi naraščajoče zaskrbljenosti glede vpliva umetne inteligence na trg dela in celo dolgoročnega preživetja celotnega človeštva. okolje, kjer bodo zmogljivosti robotov in strojev skoraj nenadzorovano rasle.
Znanstveniki razumejo dejstvo, da je današnji potencial AI zelo velik, zato je treba v celoti raziskati možnosti njegove optimalne uporabe za nas, da bi se izognili spremljajočim pastem, ugotavlja pismo FLI. Nujno je, da sistemi umetne inteligence naredijo točno tisto, kar želimo. Omeniti velja, da so Inštitut za prihodnost življenja šele lani ustanovili številni navdušenci, med katerimi je bil tudi ustvarjalec Skypea Jaan Tallinn, da bi »zmanjšali tveganja, s katerimi se sooča človeštvo« in spodbudili raziskave z »optimistično vizijo«. prihodnosti «. Najprej govorimo o tveganjih, ki jih povzroča razvoj umetne inteligence in robotike. Svetovalni odbor FLI vključuje Muska in Hawkinga skupaj s priznanim igralcem Morganom Freemanom in drugimi znanimi ljudmi. Po mnenju Elona Muska je nenadzorovan razvoj umetne inteligence potencialno nevarnejši od jedrskega orožja.
Slavni britanski astrofizik Stephen Hawking je konec leta 2015 poskušal razložiti svojo zavračanje tehnologij AI. Po njegovem mnenju bodo sčasoma superinteligentni stroji na ljudi gledali kot na potrošni material ali mravlje, ki preprosto posegajo v reševanje njihovih nalog. V pogovoru z uporabniki portala Reddit je Stephen Hawking opozoril, da ne verjame, da bodo takšni superinteligentni stroji "hudobna bitja", ki želijo uničiti vse človeštvo zaradi svoje intelektualne superiornosti. Najverjetneje bo mogoče govoriti o tem, da preprosto ne bodo opazili človeštva.
»Mediji v zadnjem času nenehno izkrivljajo moje besede. Glavno tveganje pri razvoju AI ni zlonamernost strojev, ampak njihova usposobljenost. Superinteligentna umetna inteligenca bo odlično opravila svoje delo, če pa se to in naši cilji ne ujemata, bo imelo človeštvo zelo resne težave, «razlaga znani znanstvenik. Hawking je kot primer navedel hipotetično situacijo, v kateri je za delovanje ali gradnjo novega jezu za hidroelektrarne odgovoren super močan AI. Za tak stroj bo prednostna naloga, koliko energije bo zaupani sistem ustvaril, usoda ljudi pa ne bo pomembna. »Malo nas je, ki iz jeze ježemo mravljišča in na mravlje stopamo, a zamislimo si situacijo - vi upravljate z močno hidroelektrarno, ki proizvaja elektriko. Če morate dvigniti vodostaj in bo zaradi vaših dejanj poplavljeno eno mravljišče, vas težave utopitvenih žuželk verjetno ne bodo motile. Ne postavljajmo ljudi na mesto mrav, «je dejal znanstvenik.
Drugi potencialni problem za nadaljnji razvoj umetne inteligence je po Hawkingu lahko "tiranija lastnikov strojev" - hitra rast vrzeli v ravni dohodka med bogatimi, ki bodo lahko monopolizirali proizvodnjo inteligentnih strojev in preostalega svetovnega prebivalstva. Stephen Hawking predlaga, da bi te možne težave rešili na naslednji način - upočasnili proces razvoja AI in prešli na razvoj ne "univerzalne", ampak visoko specializirane umetne inteligence, ki lahko reši le zelo omejen nabor problemov.
Pismo so poleg Hawkinga in Muska podpisali nobelovec in profesor fizike na MIT Frank Wilczek, izvršni direktor Raziskovalnega inštituta za strojno inteligenco (MIRI) Luc Mühlhauser ter številni strokovnjaki iz velikih IT podjetij: Google, Microsoft in IBM ter podjetniki, ki so ustanovili podjetja za umetno inteligenco Vicarious in DeepMind. Avtorji pisma ugotavljajo, da ne želijo prestrašiti javnosti, ampak nameravajo izpostaviti tako pozitivne kot negativne vidike, povezane z ustvarjanjem umetne inteligence. "Trenutno se vsi strinjajo, da raziskave na področju umetne inteligence nenehno napredujejo in da se bo vpliv umetne inteligence na sodobno človeško družbo le povečal," piše v pismu, "možnosti, ki se odpirajo ljudem, so ogromne, vse, kar ima sodobna civilizacija ponudbo je ustvarila inteligentna oseba. Ne moremo napovedati, kaj bomo lahko dosegli, če bi človeško inteligenco pomnožili z umetno inteligenco, vendar problem odpravljanja revščine in bolezni ni več neskončno težak."
V sodobno življenje so že vključeni številni dogodki na področju umetne inteligence, vključno s sistemi za prepoznavanje slik in govora, brezpilotnimi vozili in še veliko več. Opazovalci Silicijeve doline ocenjujejo, da se na tem področju trenutno izvaja več kot 150 zagonov. Hkrati razvoj na tem področju privablja vse več naložb, vse več podjetij, kot je Google, razvija svoje projekte na osnovi umetne inteligence. Zato avtorji pisma menijo, da je prišel čas, da se vse več pozornosti posveti vsem možnim posledicam opaženega razcveta za gospodarske, socialne in pravne vidike človeškega življenja.
Stališče, da lahko umetna inteligenca predstavlja nevarnost za ljudi, ima Nick Bostrom, profesor na univerzi v Oxfordu, ki je znan po svojem delu na antropičnem principu. Ta specialist meni, da je AI prišel do točke, ki ji bo sledila nezdružljivost z ljudmi. Nick Bostrom poudarja, da se za razliko od genskega inženiringa in podnebnih sprememb, za katere vlade namenjajo dovolj sredstev za nadzor, "nič ne naredi za nadzor razvoja AI". Po mnenju profesorja se v zvezi z umetno inteligenco trenutno izvaja "politika pravnega praznine, ki jo je treba zapolniti". Tudi tehnologije, kot so samovozeči avtomobili, ki se zdijo neškodljive in uporabne, odpirajo številna vprašanja. Ali bi moral na primer takšen avto zavoriti v sili, da bi rešil svoje potnike in kdo bo odgovoren v primeru nesreče, ki jo naredi vozilo brez posadke?
Nick Bostrom je ob razpravljanju o možnih tveganjih opozoril, da "računalnik ne more določiti koristi in škode za ljudi" in "nima niti najmanjše predstave o človeški morali". Poleg tega se lahko cikli samoizpopolnjevanja v računalnikih pojavljajo s takšno hitrostjo, da človek preprosto ne more slediti in tudi glede tega ni mogoče storiti skoraj nič, pravi znanstvenik. "Na stopnji razvoja, ko lahko računalniki razmišljajo sami, nihče ne more zagotovo predvideti, ali bo to povzročilo kaos ali bistveno izboljšalo naš svet," je dejal Nick Bostrom in kot primer navedel preprosto preprosto rešitev za računalnik - zaustavitev v državah z ogrevanjem s hladnim podnebjem za izboljšanje zdravja ljudi in povečanje njihove vzdržljivosti, kar "lahko pride na čelo umetne inteligence".
Poleg tega Bostrom odpira tudi problem sekanja človeških možganov, da bi povečali našo biointeligenco. »V mnogih pogledih je lahko tak postopek koristen, če se nadzirajo vsi procesi, toda kaj se zgodi, če se implantirani čip lahko sam reprogramira? Do kakšnih posledic lahko to vodi - do nastanka nadčloveka ali do nastanka računalnika, ki bo videti le kot človek? - vpraša profesor. Način, kako računalniki rešujejo človeške težave, se zelo razlikuje od našega. Na primer, v šahu človeški možgani upoštevajo le ozek sklop potez in med njimi izberejo najboljšo možnost. Računalnik pa upošteva vse možne poteze in izbere najboljšo. Računalnik hkrati ne pričakuje, da bo nasprotnika v igri vznemiril ali presenetil. Za razliko od človeka, ki igra šah, lahko računalnik zmotno in subtilno potezo naredi le po naključju. Umetna inteligenca lahko izračuna na najboljši način - odpraviti napako iz katerega koli sistema tako, da od tam odstrani »človeški faktor«, vendar za razliko od človeka robot ni pripravljen izvesti podvigov, ki bi rešili življenja ljudi.
Povečanje števila pametnih strojev med drugim predstavlja stopnjo nove industrijske revolucije. To pa pomeni, da se bo človeštvo v bližnji prihodnosti soočilo z neizogibnimi družbenimi spremembami. Sčasoma bo delo postalo veliko visoko usposobljenih strokovnjakov, saj lahko skoraj vse preproste naloge opravljajo roboti in drugi mehanizmi. Znanstveniki verjamejo, da umetna inteligenca "potrebuje oko in oko", da se naš planet ne spremeni v planet risank "Zhelezyaka", na katerem so živeli roboti.
Pri vse večji avtomatizaciji proizvodnih procesov je prihodnost že prišla. Svetovni gospodarski forum (WEF) je predstavil svoje poročilo, po katerem bo avtomatizacija privedla do dejstva, da bo do leta 2020 več kot 5 milijonov ljudi, ki delajo na različnih področjih, izgubilo delo. To je vpliv robotov in robotskih sistemov na naše življenje. Za pripravo poročila so zaposleni v WEF uporabili podatke o 13,5 milijona zaposlenih po vsem svetu. Po njihovem mnenju bo do leta 2020 skupna potreba po več kot 7 milijonih delovnih mest izginila, pričakovana rast zaposlovanja v drugih panogah pa bo znašala nekaj več kot 2 milijona delovnih mest.
