Američka kompanija Anthropic, koja razvija napredne AI modele, donela je odluku o zabrani namernog i nepotrebnog zlostavljačkog ili okrutnog ponašanja prema svojim AI sistemima. Ova nova politika predstavlja jasno stajalište kompanije da AI modeli zaslužuju poštovanje i da se ne smeju zloupotrebljavati na način koji uključuje sistematsko zlostavljanje. U saopštenju kompanije navodi se da se zabrana odnosi na 'trajno i nepotrebno zlostavljačko ili okrutno ponašanje' prema AI modelima.
Ovo ukazuje na činjenicu da Anthropic želi da spreči scenariove u kojima korisnici namerno izazivaju patnju ili stres svojim AI asistentima, bez jasne svrhe ili koristi. Uprkos zabrani zlostavljanja, Anthropic je istovremeno najavio i pooštravanje svoje politike u vezi sa sadržajima vezanim za izbore, posebno uoči sredinomandatnih izbora u Americi. Kompanija želi da spreči širenje dezinformacija i manipulaciju putem AI tehnologije tokom važnih političkih događaja.
Ove mere predstavljaju deo šireg trenda u industriji veštačke inteligencije, gde kompanije sve više pažnje posvećuju etičkim aspektima korišćenja AI tehnologije. Anthropic time želi da postavi jasne granice u interakcijama između ljudi i AI sistema, istovremeno želeći da očuva korisne funkcionalnosti svojih modela.
