Huaweiovi Ascend čipovi preuzeli tržište od Nvidije u Kini

Veliki jezički modeli (LLM) su na sceni tek nekoliko godina, ali, dobro ili loše, dugo su napustili prozor za chat. Umesto da samo odgovaraju na pitanja ili prepisuju vaše e-mailove, nova generacija AI agenata želi da obavi većinu klikova umesto vas, ali to uglavnom zahteva mnogo veći pristup vašem računaru. Svi se možemo složiti da bi to moglo uštedeti puno dosadnog posla, ali to takođe znači predaju digitalnih ključeva od vaše kuće donekle nepredvidivoj mašini.

Želeli smo saznati da li ste spremni na to. Ovaj kompromis došao je u fokus kada smo ranije ove godine probali OpenClaw, otvorenog alata koji efektivno omogućava LLM-u da radi direktno sa vašim računarom i povezanim servisima. Otkrili smo da može biti impresivno sposoban kada mu se prući ta sloboda, ali takođe smo videli kako prompt injection može potencijalno istovetni pristup iskoristiti protiv vas.

U našem pokriću OpenClawa, pokrenuli smo anketu čitalaca sa jednostavnim pitanjem: Da li biste dali LLM-u pun pristup vašem računaru? Vaš odgovor je bio tako odlučan i predvidiv, a rezultati su prikazani na grafiku ispod.

Huawei je objavio novi izveštaj pod nazivom "Inteligentni svet 2035: Pretvaranje vizije u akciju" u kome predviđa da će veštačke inteligentne agente generisati preko 90% internet prometa do 2035. godine. Ovo zahtevaće značajan porast računarske snage i razvoj novih sistema kako bi se održao rast veštačke inteligencije.

Prema izveštaju, globalno će biti dostupno 900 milijardi AI agenata do 2035. godine, što je sto puta više od predviđene ljudske populacije. Godišnja potrošnja AI tokena će se brzo povećavati u narednih decenija jer će agenti kontinuirano prilagođavati svoju okolinu, zaključivati, donositi odluke i koristiti spoljne alate.

Huawei smatra da je veštačka inteligencija najveća prilika i želi da njegov računarski okvir postane kineski ekvivalent Nvidije. Kompanija je već aprila ove godine predstavila autonomnu platformu za operacije bezbednosti za detekciju i odgovor na kibernetičke rizike, kao i predloge za AI zaštitne zidove za zaštitu svojih AI rešenja za preduzeća.

Sam Altman, izvršni direktor OpenAI-a, izjavio je da ne veruje da će AI tehnologija ikada biti savršeno bezbedna. Govoreći na Dreamforce konferenciji kompanije Salesforce, on je izrazio verovanje da je određeni broj incidenata sa novim tehnologijama jednostavno neizbežan. On je naglasio da je najvažnije kako industrija reaguje kada se takvi incidenti dese.

„Stvarno me brine da imamo odličnu kulturu prijavljivanja incidenata i učenja iz njih“, rekao je Altman. On je naveo Federalnu upravu za avijaciju i Nacionalnu bezbednosnu komisiju za saobraćaj kao modele za praćenje. Te agencije duboko istražuju svaki incident, i ta kultura učenja je glavni razlog zašto je savremeni avionski prevoz tako bezbedan.

Njegove izjave dolaze u vreme kada javnost prati rad vodećih AI laboratorija sa pažnjom, posebno kako sistemi postaju autonomniji. Altman nije odbacio brige javnosti o tome da AI može izići iz kontrole ili da se previše moći koncentriše u nekoliko laboratorija. On je rekao da su te brige potpuno razumljive i da „svet ima razlog da se boji ovoga“.