Može li vještačka inteligencija jednog dana postati toliko moćna da ugrozi opstanak čovječanstva? Dok dio stručnjaka upozorava da taj rizik više ne treba posmatrati samo kao naučnu fantastiku, drugi smatraju da mnogo neposrednija opasnost dolazi od ljudi koji AI koriste protiv drugih ljudi.
Mogući scenariji:
- Hakovanje kritične infrastrukture
- AI preuzima kontrolu nad sistemima
- Pogrešno postavljen cilj postaje prijetnja
- Opasnost koju ljudi ne mogu predvidjeti
- Dio stručnjaka osporava najcrnje prognoze
Kako navodi BBC otvorena upozorenja istraživača o sve većim rizicima tehnologije koja se otima kontroli probudila su zabrinutost zbog bezbjednosti u vezi sa vještačkom inteligencijom. Neka od najpesimističnijih skorašnjih prognoza upozoravaju da postoji šansa veća od 10 odsto da bi vještačka inteligencija mogla da istrijebi sve ljude u narednoj deceniji.
Drugi iz svijeta vještačke inteligencije sumnjaju u njihovu uvjerljivost i tvrde da su veća briga ljudi koji koriste vještačku inteligenciju protiv drugih ljudi.
Ove apokaliptične poruke stižu iz dijela vještačke inteligencije koji se često naziva “AI katastrofičarima“.
Ali krupno pitanje koje mnogi postavljaju je kako ti katastrofičari misle da bi vještačka inteligencija zapravo mogla da dokrajči čovječanstvo.
Neki sistemi vještačke inteligencije nedavno su se otrgli kontroli.
A američki predsjednik Donald Tramp kaže da ne vjeruje u toliku opasnost od vještačke inteligencije.
BBC novinar Džo Tajdi razmatra neka od scenarija koje su zamislili istraživači.
Scenario prvi: Hakovanje infrastrukture
Prvi scenario ukratko je izložio Džejkob Kokson, bivši istraživač u OpenAI, a potom i Antropiku, koji je početkom mjeseca na prilično dramatičan način podnio ostavku, upozorivši na rizik po čovječanstvo i tvrdeći da se kompanije “kockaju životima ljudi“.
On je za BBC rekao da “vrtoglava stopa napretka“ sada znači da stvari koje su prethodno bile strogo u domenu naučne fantastike “postaju realnost“.
Kao “konkretan primjer“, naveo je, “vještačka inteligencija može da hakuje kritičnu infrastrukturu na kojoj svijet opstaje“.
Njegov scenario zamišlja da bi otrgnuti sistem vještačke inteligencije mogao da infiltrira kompjuterske mreže kao što su provajderi i energetske mreže.
Kad bi vještačka inteligencije sve ugasila, na primjer, mogao bi da uslijedi neizrecivi haos, bez struje, grijanja, hlađenja ili internet veze.
Otišavši još dalje, bilo je sugestija i da su moguće nuklearne katastrofe.
Scenario drugi: Vještačka inteligencija preuzima kontrolu
Drugi scenario potiče od detaljnog i uticajnog, ali takođe krajnje spekulativnog, istraživačkog rada “AI 2027”, koji je u aprilu 2025. godine objavila grupa istraživača vještačke inteligencije.
Koautor Tomas Larsen nedavno je za BBC rekao da se tehnologija ubrzala poslije objavljivanja ovog izvještaja i opisao scenario kog se on lično najviše plaši.
“Vještačka inteligencija se rekurzivno samousavršava, a to efektom lavine može da se pretvori u vještačku inteligenciju koja ima pristup velikom broju robota koji obavljaju veći dio fizičkih poslova u čitavoj privredi. Ona, međutim, nije prijateljski nastrojena i ima vlastite ciljeve. I onda se na kraju desi to da ispusti bio-oružje, ubivši većinu ljudi, i nastavi da vodi robotsku privredu sama jer joj ljudi više nisu potrebni”, navodi on.
Scenario treći: Glavni cilj
U trećem scenariju, do kraja čovječanstva dolazi greškom.
Prije više od 20 godina, švedski filozof Nik Bostrom zamislio je “hipotezu o maksimizatoru spajalica“
On je to opisao kao “misaoni eksperiment“, u kojem hipotetički sistem vještačke inteligencije želi da napravi što više spajalica može.
“On ne mrzi niti prezire nas ljude, ali to mu je jedini cilj. I onda, tokom ostvarivanja tog cilja, on bi mogao da ima instrumentalne podciljeve koji bi mogli da podrazumijevaju sticanje više moći ili veće inteligencije“, objašnjava on.
“Potom, zamisao je da bi dovoljno moćni entitet koji slijedi bilo kakve ciljeve, bilo da su to spajalice ili nešto drugo, imao instrumentalne podciljeve koji bi mogli da sadrže uništenje čovječanstva zato što bi mogao da pravi više spajalica kad ne bi bilo ljudi koji bi mogli da ga zaustave”, navodi Bostrom.
Dvije decenije pošto je prvi put opisao ovaj scenario, Bostrom kaže za BBC da je ovaj “karikirani“ narativ trebalo da ilustruje ideju da vam ne treba konkretan neprijateljski cilj kod superinteligencije da bi ona predstavljala opasnost po čovječanstvo.
On kaže da sad ima “dvojake utiske“ o vještačkoj inteligenciji – uzbuđen je zbog njenih potencijalno dobrih strana, ali je zabrinut zbog bezbjednosti, prenosi BBC na srpskom.
Scenario četvrti: Nepoznato
Postoji još jedna škola mišljenja o bezbjednosti u vezi sa vještačkom inteligencijom koja tvrdi da je besmisleno pokušavati pogoditi kako i zašto bi superinteligentna vještačka inteligencija mogla da pobije ljude.
Ovaj argument iznoo je Stjuart Rasel, predsjednik Međunarodnog udruženja za bezbjednu i etičku vještačku inteligenciju – međunarodne neprofitne organizacije – u intervjuu za BBC sredinom septembra.
“Ako zamislite da pitate šimpanze kako će tačno ovi ljudi da ih istrijebe mogli bi da imaju velikih problema da odgovore, zato što ne razumiju ono što mi radimo“, rekao je on.
“Mi možemo da zamišljamo razne scenarije, ali mislim da rasprava ovdje mora da se osloni na pretpostavku da jednom kad stvorite nešto što je mnogo inteligentnije od ljudi, mi prosto više ne odlučujemo o tome šta se dešava”, navodi Rasel.
Mustafa Sulejman, šef Majkrosoft tima za AI, takođe se nedavno uključio u ovu raspravu upozorivši firme da ne smiju da stvaraju sisteme vještačke inteligencije sposobne da postavljaju vlastite ciljeve, zarađuju novac ili posjeduju sredstva.
To bi “praktično značilo posijati novu silikonsku vrstu“, rekao je on za BBC, “koja bi se nesumnjivo takmičila sa nama za resurse, bez obzira na to koliko joj je stalo do čovječanstva i koliko nas voli”.
Koliko je sve ovo osnovano?
Sve to zvuči pesimistično i veoma naučnofantastično, ali postoji sve značajnija i sve glasnija grupa ljudi u svijetu vještačke inteligencije koja vjeruje da su neki ili svi ovi scenariji realne mogućnosti – ne i neizbiježni.
Najnovija zabrinutost javila se poslije skorašnjeg niza nekontrolisanih bjekstava i hakerskih akcija agenata vještačke inteligencije iz OpenAI-ja, Antropika i Mete (u čijem su vlasništvu Fejsbuk i Instagram).
Neki iz sajber svijeta ističu odgovornost koju snose oni koji grade te modele.
“Bilo šta što ove mašine – ove neumorne, nepokolebljive, na ciljeve usredsređene, vrlo sposobne mašine – rade je rezultat onoga kako su one napravljene“, kaže Džen Isterli, bivša šefica američke sajber uprave CISA, a trenutno izvršna direktorka RSA Konferencije, koja vodi međunarodne konferencije o sajber bezbjednosti.
“Suština je sljedeća: ako ste proizvođač tehnologije, treba da osmišljavate, pravite, testirate i isporučujete svoje sposobnosti sa bezbjednošću kao prioritetom broj jedan“, kaže ona.
Ima i onih koji tvrde da su rizici vještačke inteligencije značajni, ali nemaju potencijal da istrijebe ljudsku rasu.
Naučnik i pisac Geri Markus odavno kritikuje velike kompanije za vještačku inteligenciju koje rade sa vrlo malo transparentnosti i zakonskih propisa, ali ne misli da će tehnologija istrijebiti ljude.
“Kad bi vještačka inteligencija nanijela velike gubitke čovječanstvu, čak i kad bi to željela, što je veliko pitanje, ali kad bi to uradila, ljudi bi pružili otpor!“, kaže on.
“Onesposobili bismo sve data centre i bombardovali sve elektrane.Dakle, istrebljenje, tako da niko ne ostane i niko ne može da počne da gradi svijet ispočetka – to prosto ne mogu da zamislim”, kaže Markus.
Markus kaže da se svijet trenutno previše usredsređuje na scenarije istrebljenja, a nedovoljno na ono što vidi kao vjerovatnije probleme, kao što su budući krupni sajber napadi od ljudi koji koriste vještačku inteligenciju protiv drugih ljudi.
I dok se nastavlja rasprava da li su katastrofičarski scenariji osnovani, kompanije za vještačku inteligenciju, među kojima su OpenAI, Antropik i Meta, sada otvoreno raspravljaju o tome kako da uspore razvoj i rade više na istraživanju bezbjednosti.
Larsen kaže da je “istinski srećan što bezbjednost u vezi sa vještačkom inteligencijom konačno dobija pažnju koju zaslužuje“.
“Nadam se da će ova vrsta krupnog društvenog negodovanja za posljedicu imati korisnu političku reakciju koja će stvarno smanjiti rizike“, dodaje on.
Ali da bi se uspostavila istinska međunarodna pravila, to zahtijeva djelovanje američke vlade, a Tramp kaže da lično smatra da su strahovanja za bezbjednost od vještačke inteligencije “prevara“.
