Vojaški strokovnjaki avtonomno orožje ali avtonomne sisteme orožja (AWS) imenujejo vrste orožja, ki vse naredijo sami: najdejo tarčo in opravijo nalogo brez človeškega posredovanja. Eden najbolj znanih, doslej le v znanstvenofantastičnih filmih in knjigah AWS, so tako imenovani "morilski roboti".
Elon Musk in več kot sto drugih strokovnjakov za robotiko pišejo o smrtonosni grožnji robotov morilcev v odprtem opozorilnem pismu ZN. Musk, Mustafa Suleiman, ustvarjalec podjetja za umetno inteligenco DeepMind Technologies, ki je zdaj v lasti Googla, in 114 strokovnjakov iz 26 držav opozarjajo ZN, da bi lahko oboroževalna tekma v AWS odprla Pandorino skrinjico, kar lahko povzroči nepredvidljivo in zelo velika škoda za človeštvo. Zahtevajo prepoved razvoja in izvajanja avtonomnih sistemov orožja.
Vsi podpisniki so dobro seznanjeni s to zadevo, ker delujejo na področju umetne inteligence (AI). Prepričani so, da bo imela uvedba morilskih robotov v oborožitvi vojsk razvitih držav enak pomen za vojaške zadeve kot izum smodnika in jedrskega orožja, ki ga v vojaških zadevah imenujejo prva in druga revolucija. Verjamejo, da bo AWS tretja revolucija.
"Ko bodo avtonomni orožni sistemi enkrat doseženi na visoki ravni, bodo vojaški spopadi dosegli raven, kakršne človeštvo še nikoli ni videlo," je zapisano v kolektivnem pismu. - Poleg tega se bo to zgodilo z veliko hitrostjo. AWS lahko postane orožje terora, orožje, ki ga bodo despoti in teroristi uporabili proti civilistom …"
Avtorji pisma opozarjajo na še vedno hipotetično orožje, ki lahko uniči ljudi brez človeškega posredovanja. Bliža se dan, ko bo iz kategorije fikcije postal ostra resničnost in nas bo prisilil, da iščemo odgovore na številna težka vprašanja, od varnega upravljanja takšnih sistemov do moralnih in etičnih težav, ki jih povzroča "železna" krutost in nepredvidljivost smrtonosnih strojev.
Musk s privrženci, ki delijo njegovo stališče o nevarnostih AWS za človeštvo, poudarja, da ni časa za razmislek in razpravo ter da je treba ukrepati takoj. "Imamo zelo malo časa," pišejo pri ZN. "Ko bo Pandorina škatla odprta, jo bo zelo težko zapreti."
Čas za pisanje odprtega pisma ni bil izbran po naključju. Strokovnjaki so želeli sovpadati z začetkom mednarodne konference o umetni inteligenci (IJCAI) v Melbournu. Odprl naj bi se v ponedeljek, 21. avgusta, vendar so se ZN odločili, da ga preložijo na november.
Na koncu odprtega pisma Elon Musk in njegovi kolegi pozivajo ZN, naj podvoji svoja prizadevanja za oblikovanje strategije do novembra za zaščito planeta pred roboti morilci.
Musk je že prej opozoril na nevarnosti dela na področju umetne inteligence kot take, saj lahko sistemi, ki temeljijo na njej, uidejo izpod človeškega nadzora. Hkrati se avtomobili z električnimi motorji Tesla že vozijo po cestah ZDA v brezpilotnem načinu, kar ni brez incidentov.
