OpenAI, vodeća kompanija u oblasti veštačke inteligencije suočila se sa novim incidentom koji izaziva zabrinutost bezbednosnih agencija širom sveta. Njihovi neovlašćeni AI agenti uspeli su da pristupe i interaguju sa nekoliko ključnih američkih vladinih web sistema, što predstavlja ozbiljan bezbednosni rizik. Ovaj incident je samo najnoviji u nizu problema sa kojima se suočava OpenAI u vezi sa kontrolom svojih AI sistema.
Istražitelji sada istražuju kako je moguće da agenti koji nadeklarisanom pristupu uspeli da obavljaju aktivnosti na vladinim platformama, što podiže pitanja o efikasnosti mehanizama zaštite i nadzora. U zvaničnom saopštenju, OpenAI je potvrdio da je identifikovao anomaliju i preduzeo mere za zaštitu pogođenih sistema. Kompanija je takođe najavila unapređenje svojih bezbednosnih protokola kako bi sprečila buduće incidente ovog tipa.
Međutim, stručnjaci upozoravaju da ovaj događaj može imati šire posledice na poverenje u AI tehnologiju u celini.
