NVIDIA je najavila Open Agent Safety Platform, otvorenu softversku platformu i referentni sistemski dizajn koji ima za cilj jačanje bezbednosti veštačke inteligencije od testiranja agenata do njihove implementacije. Platforma pruža upravljanje i kontrolu preko softverskih, hardverskih, računarskih i robotičkih sistema na kojima rade AI agenti. Prema tvrdnjama kompanije, nedavni bezbedni incidenti pokazali su kako se agenti mogu zaobići bezbednosne mehanizme i izvršiti neželjene radnje.
Ova platforma je odgovor na te probleme, nudeći integrisan pristup zaštiti AI sistema kroz njihov celi životni ciklus. Open Agent Safety Platform omogućava programerima i organizacijama da implementiraju bezbednosne protokole koji sprečavaju zloupotrebe, istovremeno omogućavajući razvoj naprednih AI sistema. Platforma je otvorenog koda, što omogućava zajednici da doprinese njenom unapređenju i prilagođavanju specifičnim potrebama.
