Anthropic želi usporiti trku sa AI, ali planira novi moćan model

Američki predsednik Donal Trump objavio je na društvenim mrežama da stvara 'AI Force' koji će nadgledati regulaciju veštačke inteligencije i u bliskoj budućnosti imenovati AI 'cara'. Ovu najavu Trump je saopštio u svom objavi na platformi Truth Social. 'Nećemo na bilo koji način ometati ili gušiti rast ove neverovatne industrije', naveo je Trump.

'Naprotiv, mi ćemo je negovati, pomoći joj i paziti na nju kako raste! Međutim, mi ćemo takođe tražiti LOŠE stvari, i to možemo vrlo lako, uz pomoć već postojećeg krivičnog i građanskog pravnog sistema.' Beleška iz Bele kuće ukazuje da ova inicijativa ima za cilj osigurati da razvoj AI tehnologije odvija se bezbedno i etički, istovremeno ne ograničavajući inovacije. Trump je naglasio da SAD treba da zadrži vodeću ulogu u razvoju veštačke inteligencije na globalnom nivou.

Ovaj korak dolazi u vreme kada sve više zemalja i kompanija ulazi u trkalo za razvoj AI tehnologija, a istovremeno rastu zabrinutosti o bezbednosti, privatnosti i etičkim implikacijama naprednih AI sistema.

Guverner Kalifornije Gavin Newsom potpisao je izvršnu naredbu koja zahteva formiranje stručnog panela za razvoj novih mera bezbednosti veštačke inteligencije. Ova inicijativa ima za cilj da uvede 'kill switch' mehanizam za napredne AI modele, kako bi se sprečili potencijalni rizici povezani sa veštačkom inteligencijom. Izvršna naredba predviđa osnivanje odbora stručnjaka iz različitih domena koji će razraditi konkretne mere za kontrolu i regulaciju AI tehnologija.

Cilj je osigurati da razvoj veštačke inteligencije odvija se na siguran i etičan način, uz minimalne rizike za javnost. Ovaj potez guvernera Kalifornije dolazi u trenutku kada tehnološki giganti i startupovi sve više ulažu u razvoj naprednih AI sistema. Stručnjaci upozoravaju na potencijalne opasnosti koje nose ove tehnologije, uključujući dezinformacije, gubitak poslova i mogućnost zloupotrebe.

Kalifornija, kao centar tehnoloških inovacija, postavlja nove standarde za regulaciju veštačke inteligencije. Ovaj korak može poslužiti kao model za druge države i zemlje koje se suočavaju sa istim izazovima u oblasti AI bezbednosti.

Nedavno na jednom medijskom događaju, Jensen Huang, izvršni direktor NVIDIE, ponovo je odbacio uobičajene teorije o "kraju sveta izazvanom AI" i naglasio da ta tehnologija nikada neće doneti ljudskom rodu potpuni uništenje. Bez oblika kako se opisuje, 2030. godina neće biti kraj sveta, izjavio je Huang, dodajući da je verovatnoća da 2030.

postane svetski kraj nula odsto. Prema Huangovom mišljenju, uprkos upozorenjima nekih zabrinutih lidera u industriji koji smatraju da je potrebno usporiti razvoj zbog nesigurnosti u vezi sa pravcem AI tehnologije, kompanije bi trebale nastaviti da napreduju u razvoju veštačke inteligencije. Trebali bismo što brže napredovati, bez uticaja bilo koga, rekao je Huang.

Međutim, poslednjih nedelja zabrinutost u industriji o brzini razvoja veštačke inteligencije sve više raste, a neki iskusni stručnjaci pozivaju na uvođenje zaštitnih mera i državne regulacije. Istraživač kompanije Anthropic Jacob Coxon nedavno je podneo ostavku, što je izazvalo novi talaj panike u vezi sa AI bezbednošću. On je javno upozorio da kompanije zbog inovacija žrtvuju adekvate bezbednosne protokole.