Drugi u nizu postova o glavnim mitovima robotike i ulozi znanstvenofantastične uloge...
Drugi u nizu postova o glavnim mitovima robotike i ulozi znanstvene fantastike u njihovom stvaranju i širenju. Prethodne, odnosno prethodne teme: Roboti su jaki, mit o robotskoj hiperkompetenciji i roboti su zli, mit o strojevima ubojicama.
Godine 1993. Vernor Vinge napisao je rad o kraju svijeta.
“U roku od trideset godina imat ćemo tehnološka sredstva za stvaranje nadljudske inteligencije”, piše Vinge. "Ubrzo nakon toga, ljudska era će biti okončana."
U to je vrijeme Vinge bio dvostruka prijetnja - informatičar na Državnom sveučilištu San Diego, kao i priznati pisac znanstvene fantastike (iako će njegove nagrade Hugo stići kasnije). Taj posljednji dio je važan. Jer papir, napisano za a NASA simpozij, čita se kao briljantna mješavina zadivljujuće znanstvene fantastike i svjetovnog proročanstva.
“The Coming Technological Singularity” ocrtava računicu koja dolazi, kada će sve brži dobici procesorske snage propasti odmah iza umjetne inteligencije—sustava s ljudskom kognicijom i osjećajem—i dovode do hiperinteligentnih strojevi.
To je ono što je Vinge nazvao Singularnost, točka u našoj kolektivnoj budućnosti koja će biti potpuno i nesvjesno transformirana brzim tempom tehnologije. Singularnost—koju Vinge istražuje u dubinu, ali skromno potiče od pionira matematičara Johna von Neumanna—futuristički je ekvivalent crna rupa, opisujući način na koji će se sam napredak nastaviti ubrzavati, krećući se sve brže što se više približava zori strojnog super inteligencija. Nakon što umjetna inteligencija (AI) bude ostvarena, globalna transformacija mogla bi trajati godinama ili samo satima. Naime, Vinge navodi SF kratku priču Grega Beara kao primjer potonjeg ishoda, poput proroka koji svoj argument o nadolazećim posljednjim vremenima podupire odlomcima iz Svetog pisma.
Ali stvar je jednostavna - Singularnost će stići kroz zamah. Pametna umjetna inteligencija izrodit će genijalne umjetne inteligencije, kibernetički poboljšani postljudi formirat će goleme umove košnice, a ovi veliki digitalne moći ne samo da će učiti i dijeliti svaki djelić dostupnih podataka, već će redefinirati kako se informacije uče i podijeljeno. "Fizičko izumiranje ljudske rase jedna je od mogućnosti", piše Vinge, iako također dopušta budućnost koju nadzire "dobroćudni bogovi". On oslikava živopisan niz opcija, raspravljajući o psihološkim zamkama digitalne besmrtnosti (navodeći još još SF priča, ovaj Larryja Nivena), i mogućnost da se Internet iznenada budi u kolektivnom, košmarnom osjećaju. Bez obzira na ishod, svijet kakvog poznajemo će završiti.
Da biste vjerovali u Singularnost, morate vjerovati u jedan od najvećih mitova koje je ikada ispričala znanstvena fantastika — da su roboti pametni.
Najhitnija značajka Singularnosti je njezina kratkoročna izvjesnost. Vinge je vjerovao da će se pojaviti do 2023. ili najkasnije 2030. godine. Ray Kurzweil, uspješni futurist, autor (njegova knjiga iz 2006 “Singularnost je blizu” popularizirao teoriju) i nedavno zaposlenje u Googleu, odredio je 2029. kao godinu kada će računala dostići i premašiti ljudsku inteligenciju. Ovisno o tome s kojim se svjetiljkom slažete, to ljudima daje negdje između 9 i 16 dobrih godina prije nego što panteon božanstava strojeva odluči što će s nama.
Ako se pitate zašto ljudska rasa s tako mirnom pribranošću nosi vijest o svojoj nadolazećoj irelevantnosti, moguće je da vrsta jednostavno poriče. Možda nismo voljni prihvatiti teške istine koje propovijedaju Vinge, Kurzweil i drugi bistri umovi.
Međutim, jednako je moguć i drugi oblik poricanja. Možda nikoga na vlasti nije briga za Singularnost, jer je prepoznaju kao znanstvenu fantastiku. To je teorija koju je predložio SF pisac. Njegove su posljedice sadržane u slikama i jeziku SF-a. Da biste vjerovali u Singularnost, morate vjerovati u jedan od najvećih mitova koje je SF ikada ispričao — da su roboti pametni i da su uvijek na rubu da postanu pametniji od nas.
Više od 60 godina istraživanja umjetne inteligencije pokazuje drugačije. Evo zašto Singularnost nije ništa više ili manje od zanos za štrebere.
* * *
Uz svu pažnju koju posvećuju detaljima, pisci SF-a imaju čudnu naviku napustiti prostoriju tijekom rađanja strojnog osjećaja.
Uzmimo novelu Vernora Vingea iz 1981. Prava imena, i njegov AI antagonist gladan energije. Zove se Mailman, zbog svoje interakcije s drugim hakerima bliske budućnosti (u početku se maskira kao jedan od njih) poput puževe pošte, a za izradu jednog odgovora treba dan ili više. Kad se grabežljivi softver konačno bori s malom skupinom hakera u kibernetičkom prostoru, Vingeov opis proteže se na stranice, jer oboje strane zapovijedaju kolektivnom procesorskom snagom cijelog umreženog svijeta, ostavljajući rasprostranjene prekide rada i tržišne padove u svojim probuditi.
Pa ipak, podrijetlo Mailmana - prvog stvarno samosvjesnog računalnog sustava na svijetu - potisnuto je u nekoliko odlomaka tijekom posljednje scene novele. AI koju je deset godina ranije stvorila NSA, AI je bio nepromišljeni sigurnosni program, automatizirani uspavani agent dizajniran da sjedi u određenoj računalnoj mreži i postupno prikuplja podatke i svijest. Vlada je ubila projekt, ali je slučajno ostavila komadić koda. Kao što jedan haker objašnjava: "Tijekom godina polako je rastao - i zbog svojih prirodnih tendencija i zbog povećane snage mreža u kojima je živio."
To je to. Najveće postignuće u području umjetne inteligencije događa se slučajno i neprimjećeno.
Da budemo pošteni prema Vernoru Vingeu, ovo je jedno od najčešćih izbjegavanja u robotskom SF-u. U filmu iz 1970 Colossus: Projekt Forbin, kao i roman iz 1966. na kojem se temelji, prava umjetna inteligencija je spontani nusprodukt susreta dvaju skoro umjetnih umjetnika. Colossus, automatizirani obrambeni sustav zadužen za američki nuklearni arsenal, počinje dijeliti informacije sa svojim sovjetskim parnjakom, Guardianom. No što god dva programa imala za reći, publika to nikada ne vidi niti čuje, kao ni ljudski likovi. Sustavi se miješaju i za nekoliko minuta nastaju kao jedan, sveznajući entitet. Isto vrijedi i za Colossovog duhovnog nasljednika, Skynet. Godine 1984 Terminator, saznajemo da je genocidni vojni sustav jednostavno "postao pametan". Slučaj zatvoren. Nastavak iz 1991. dodaje još nekoliko detalja, navodeći da je Skynet postao samosvjestan otprilike 25 dana nakon što je uključen. Kasnije, manje utjecajan Terminator nastavci bi razradili nagli uspon sustava i dokazali da je, iz narativne perspektive, neke negativce bolje ostaviti u sjeni. Ali prva dva filma odlučna su skrenuti pogled s fiktivne mehanike osjećaja stroja.
Međutim, u svim tim pričama poruka je identična: dolazak umjetne inteligencije je predodređen. Logika to zahtijeva, na temelju jednostavnog, nepobitnog opažanja da se računala tako brzo poboljšavaju. Uz sav taj zamah, neizbježno je da će se automatizirani sustavi strmoglavo strmoglaviti u razum. Tako je gotov zaključak da će svako površno pretraživanje weba proizvesti niz sličnih tvrdnji ne-fiktivnih istraživača umjetne inteligencije.
Nažalost, ti isti rezultati pretraživanja otkrivaju koliko su istraživači umjetne inteligencije loši u predviđanju budućnosti. Najgori prijestupnici su dva diva na terenu. Godine 1957. računalni znanstvenik i budući dobitnik Nobelove nagrade Herbert Simon predvidio je da će psihologija do 1967. bilo bi uvelike kompjutorizirano polje i to bi računalo pobijedilo svjetskog prvaka od krvi i mesa šah. S potonjom tvrdnjom kasnio je 30 godina, a prva je danas jednako mistificirajuća kao što je bila 1957. godine. Ali Simon je bio u igri, te je 1965. najavio da će "strojevi za dvadeset godina biti sposobni obavljati svaki posao koji čovjek može obavljati."
Marvin Minsky, suosnivač Laboratorija za umjetnu inteligenciju MIT-a, bio je još optimističniji umjetna opća inteligencija (AGI), najčešći izraz unutar istraživanja umjetne inteligencije za stroj na razini čovjeka pameti. Godine 1970. Minsky je procijenio da će stići za samo tri do osam godina.
Budite uvjereni, AGI se nije tajno pojavio 1978. ili 1985. i počeo gutati podatke u terabajtu. Ali to nije spriječilo ljude poput Vingea i Kurzweila da izdaju vlastite rokove. Također nije u potpunosti razotkrio Singularnost kao ponavljanje bezgraničnog, nepotkrijepljenog optimizma koji desetljećima je iscrpljivalo financiranje istraživanja umjetne inteligencije (počevši, sasvim slučajno, ubrzo nakon Minskyjevog 1970. predviđanje). Kao uhvaćeni likovi Terminatorvremenske petlje, čini se da smo osuđeni ponoviti isti ciklus proročanstava i neugodnosti, te ponoviti središnju pogrešku Simona i Minskyja.
Da biste vidjeli da je AGI neizbježan, morate učiniti kao što SF često čini, i zamisliti robote kao monstruozne ili mesijanske genije koji čekaju da se dogode, a ljude kao hrpu glupana.
* * *
Ako ste jedan od istinskih vjernika Singularityja, vjerojatno ste naoružani šokantnom količinom žargona posuđenog iz sjecišta istraživanja umjetne inteligencije i neuroznanosti. Poput svih velikih proročkih jezika, ove riječi zapaljuju um, čak i bez elaboracije. Neuronske mreže. Neuromorfni sustavi. Računalni mozgovi funkcioniraju kao i naši, i to na određenoj razini već desetljećima. Postoje i obećavajući projekti iz stvarnog života koje treba navesti, poput EU-ovog Projekta ljudskog mozga vrijednog 1,3 milijarde dolara, čiji ambiciozni ciljevi uključuju stvaranje potpune, digitalne simulacije biološkog mozga i korištenje tog modela do voziti fizičke robote. Zasigurno, Singularnost je pred nama.
No uz nekoliko iznimaka, put do strojne hiperinteligencije prolazi izravno kroz ljudski mozak. A svatko tko tvrdi da razumije biološku inteligenciju je budala ili lažac.
Neuroznanost je postigla nevjerojatan napredak u izravnom promatranju mozga i povezivanju električne i neurokemijske aktivnosti s nekim oblicima ponašanja. Ali što više približavamo um, to se njegove strukture i obrasci čine složenijima. Svrha Projekta ljudskog mozga, kao i inicijative BRAIN Sjedinjenih Država, je pozabaviti se činjenicom da znamo zapanjujuće malo o tome kako i zašto ljudska bića razmišljaju o bilo čemu. Ovi projekti nisu znakovi trijumfa nad našom biologijom ili pokazatelji da je cilj blizu. Oni su priznanja poniznosti.
U međuvremenu, zagovornici Singularnosti i dalje vjeruju da se inteligencija može grubo natjerati na postojanje, kroz čistu procesorsku snagu. Nema veze što su Simon i Minsky mislili isto i pokazalo se da su potpuno, neugodno u krivu, ili da jedini dokaz da ovaj pristup djeluje uopće nisu dokazi, već znanstvena fantastika. U tim pričama AGI je toliko izvediv da praktički želi sam sebe nastati.
"Svatko tko se bavi pravom znanošću, bilo da je riječ o laboratorijskoj laboratorijskoj znanosti ili kodiranju, zna da nije kao da pritisnete kompajlirati i odjednom vaš program radi savršeno, i samopokrećući se do božanstva,” kaže Ramez Naam, SF pisac, tehnolog, nositelj AI patenta i ironično, predavač na Singularity Sveučilište. Iako Naamovi vlastiti romani uključuju umrežavanje i učitavanje ljudske svijesti, on je postao jedan od najvećih glasni kritičari Singularnosti. Pretpostavka teorije o neizbježnosti AGI-ja, tvrdi on, ne razlikuje se od naših najzastarjelijih očekivanja AI-ja.
“Kad biste nekoga prije 50 godina pitali kako bi izgledalo prvo računalo koje je pobijedilo čovjeka u šahu, zamislili bi opću umjetnu inteligenciju”, kaže Naam. “To bi bila osjećajna umjetna inteligencija koja bi također mogla pisati poeziju i imati koncepciju dobra i zla. I nije. Nije uopće ništa slično." Iako je nadigrao Garryja Kasparova 1997., IBM-ov Deep Blue nije ništa bliži osjećaju od prijenosnog računala ThinkPad. I unatoč svojoj sposobnosti Jeopardy, "IBM-ov Watson ne može igrati šah ili voziti jedan od Googleovih robotskih automobila", kaže Naam. “Ionako zapravo ne težimo općoj umjetnoj inteligenciji. Samo gradimo sve bolje i bolje specijalizirane sustave.”
Čak i ako biste nespretno ukalemili različite specijalizirane sustave jedan na drugi, oni ne bi doprinijeli AGI-ju. Zapravo, to bi moglo funkcionirati u SF-u, gdje se čini da AGI igraju prema istim pojednostavljenim pravilima kao i hollywoodska verzija hakera, sposobnih zanemariti oštre razlike u programskim jezicima i podatkovnim protokolima, i početi crpiti i manipulirati informacijama poput neke čarobnjačke tajne, bezgranične resurs. Pod uvjetom da možete objediniti skup pametnih strojeva u jedan sustav, on i dalje ne bi magično iznjedrio kreativnu, prilagodljivu spoznaju ili sposobnost učenja (umjesto pamćenja). Iako ljudska inteligencija tek treba biti kvantificirana, barem znamo da je duboko nelinearna. Sinaptička aktivnost može teći kroz golema, naizgled nepovezana područja mozga, žrtvujući brzinu i učinkovitost za petlju, slobodnu fleksibilnost. A naša sjećanja su podatna i nepotpuna, kao ništa u kodiranom ili mehaničkom svijetu. Jesu li to greške u dizajnu koje se traže da ih se popravi? Ili su to značajke i dokaz da je inteligencija crna kutija koju još uvijek nemamo alate za pravilno otvaranje? To su pitanja na koja tek treba odgovoriti, prije nego što netko može napraviti prvo, primitivno pokušaji izgradnje AGI od nule, ili nekako spajanje ljudi i strojeva u hibrid koji iznosi na to.
Ne tvrdim da je osjećaj stroja nemoguć. Proboji se ne mogu zanemariti prije nego što dobiju priliku da se materijaliziraju iz ničega. Ali vjeru u Singularnost treba prepoznati kao ono što jest - sekularni sustav vjerovanja utemeljen na SF-u. Ne pokušavam biti škrt u usporedbi s proročanstvom, kao ni sa znanstvenom fantastikom. U nedostatku dokaza o nadolazećoj eksploziji strojne inteligencije i namjernom ignoriranju AGI rokova koji su dolazili i prolazili, Singularity se umjesto toga oslanja na mahanje rukom. To je SF-govor za neodređeni tehnološki skok. No postoji još jedan naziv za tu vrstu prečaca. To se zove vjera.
