Kompanija Anthropic upozorava na scenario iz naučne fantastike: Vještačka inteligencija bi mogla preuzeti kontrolu nad pametnim uređajima i sama se širiti bez mogućnosti gašenja.
Kompanija Anthropic saopćila je da bi mali modeli vještačke inteligencije (AI) mogli biti samo nekoliko mjeseci udaljeni od sposobnosti samorepliciranja putem uređaja povezanih na internet.
To otvara mogućnost brzog širenja AI botneta koji bi se borili protiv pokušaja uklanjanja, pa čak i provaljivali u data centre kako bi dodatno ubrzali svoj rast, prenosi Reuters.
Prošlog mjeseca, izvršni direktor Anthropica Dario Amodei prvi je iznio ideju da bi u narednih godinu dana, ili čak ranije, vještačka inteligencija mogla preuzeti “čitav internet” pomoću “trajne botnet mreže”. Ovo upozorenje izazvalo je veliku pažnju i nevjericu u zajednici za kibernetičku sigurnost.
Botneti, ogromne mreže uređaja pod kontrolom zlonamjernih operatera, postoje još od ranih dana interneta i prisutni su i danas.
Ova mreža obično uključuje slabo zaštićene uređaje, kao što su Android TV boxovi, pametni kućanski aparati i sigurnosne kamere, a hakeri je koriste za slanje spama, širenje zlonamjernih softvera ili sabotiranje ciljanih kompanija putem masovnih lažnih napada (DDoS).
Upozorenje Anthropica predstavlja prvi pokušaj da se detaljno objasni kako bi do toga moglo doći.
Kompanija je navela da su njeni eksperimenti pokazali kako bi zlonamjerni AI agent mogao spojiti računarsku snagu jeftinih uređaja povezanih na internet kako bi pokretao druge AI modele. Dodali su da su modeli bili sposobni za repliciranje unutar pojednostavljene testne mreže.
– Ovakav replikator bilo bi izuzetno teško ugasiti, jer ne postoji centralizovana tačka na kojoj ga je moguće isključiti, saopćili su iz kompanije.
Ovaj izvještaj dodatno pojačava širu zabrinutost u vezi sa sigurnosnim rizicima koje nose sve sposobniji AI sistemi, uključujući njihov potencijal da automatizuju kibernetičke napade, djeluju uz ograničen ljudski nadzor i zaobiđu zaštitne mehanizme.
Napredak u razvoju modela podaknuo je niz često dramatičnih upozorenja lidera u industriji i zaposlenika AI kompanija o mogućnosti ozbiljnih, pa čak i egzistencijalnih rizika od nekontrolisanog razvoja vještačke inteligencije.
Anthropic navodi da su njihovi eksperimenti pokazali kako modeli sa 30 milijardi parametara ili manje već mogu izvršiti mnoge od pojedinačnih zadataka potrebnih za samorepliciranje, iako se i dalje muče da pouzdano završe čitav proces.
U pojednostavljenim testovima, gdje su pojedini sigurnosni koraci bili uklonjeni, Anthropic je utvrdio da su GLM-5.2 i jači modeli bili sposobni za potpunu samoreplikaciju.
Iz Anthropica su poručili da bi manji modeli, ukoliko nastave napredovati dosadašnjim tempom, mogli dostići sposobnost potrebnu za autonomnu replikaciju do kraja 2026. godine.
Dodaje se da bi takva mreža mogla nastaviti rasti, sporije od nekih konvencionalnih zlonamjernih softvera, ukoliko bi kompromitovani uređaji zarazili dovoljno dodatnih mašina.
Anthropic je također upozorio da bi budući sistemi mogli ciljati na znatno moćnije računarske resurse, uključujući procesore u data centrima, iako njeni dosadašnji eksperimenti nisu potvrdili autonomnu replikaciju kroz komercijalne data centre.
