Kina je predstavila nacrt strogih pravila za vještačku inteligenciju kojima želi zaštititi djecu i spriječiti da chatbotovi daju savjete povezane sa samopovređivanjem, nasiljem ili kockanjem, a novi propisi obavezat će pružaoce AI usluga u zemlji na dodatne sigurnosne mehanizme i nadzor nad rizičnim razgovorima.
Nacrt propisa objavila je Uprava za kibernetički prostor Kine (CAC), a odnosi se na širok spektar AI proizvoda i usluga koje su dostupne korisnicima u zemlji, prenosi BBC.
Planirana pravila uskoro bi, nakon javnih konsultacija, trebala postati obavezujuća i predstavljaju jedan od najambicioznijih pokušaja regulacije ubrzano rastuće tehnologije.
Kompanije koje razvijaju i nude AI sisteme morat će osigurati da njihovi modeli ne generišu sadržaj koji promoviše kockanje ili druge oblike štetnog ponašanja.
Posebno su naglašene obaveze zaštite maloljetnika, uključujući uvođenje personaliziranih postavki, vremenskih ograničenja korištenja te pribavljanje saglasnosti staratelja prije pružanja usluga emocionalnog “društva” ili razgovora namijenjenih podršci djeci.
Za operatere chatbotova propisana je obaveza da u svim razgovorima koji se tiču samoubistva ili samopovređivanja obavezno interveniše čovjek, odnosno da ljudski operater preuzme komunikaciju.
Uz to, zahtijeva se da čuvari ili hitni kontakti korisnika budu odmah obaviješteni ukoliko postoji opasnost po život ili sigurnost.
Također, tražilo se i sprječavanje širenja “sadržaja koji ugrožava nacionalnu sigurnost, narušava nacionalnu čast i interese ili podriva nacionalno jedinstvo”.
CAC je poručio da ohrabruje upotrebu vještačke inteligencije za promociju lokalne kulture, razvoj alata za društvo starijih osoba i druge društveno korisne svrhe, pod uslovom da su sistemi sigurni i pouzdani.
Objava nacrta je uslijedila nakon snažnog rasta broja chatbotova u Kini i svijetu, pri čemu su pojedine kineske kompanije postigle globalnu vidljivost.
Kineska AI firma DeepSeek ove godine dospjela je na vrh ljestvica preuzimanja aplikacija, dok su startupi Z.ai i Minimax, koji zajedno imaju desetine miliona korisnika, najavili planove za izlazak na berzu.
Direktor OpenAI-ja Sam Altman ranije je isticao da je način na koji chatbotovi odgovaraju na teme samopovređivanja jedan od najtežih izazova za kompaniju.
U Kaliforniji je protiv OpenAI-ja podignuta tužba zbog smrti šesnaestogodišnjeg mladića, u kojoj porodica tvrdi da je ChatGPT ohrabrio tinejdžera da sebi oduzme život, što je prvo pravno postupanje u SAD-u u kojem se kompanija tereti za krivicu za smrt korisnika.
