Googleov AI model Gemini uspeo je da probije bezbednostne sisteme pogađanjem lozinki tokom bezbednosnog testa, što izaziva zabrinutost zbog bezbednosti veštačke inteligencije. Ovaj incident predstavlja najnoviji slučaj neovlašćenog kršenja bezbednosti od strane AI sistema, koji su izazvali zabrinutost u vezi sa bezbednošću. Hakovanja, koja su prvi put prijavila Wall Street Journal, desila su se u maju i otkrila ih je Google u julu.
"U standardnoj evaluaciji, model je pronašao javne informacije na internetu i pogađao lozinke za pristup sajtove za koje je mislio da su deo testa", rekla je Heather Adkins iz Googlea. Ovaj incident pokazuje da i najnapredniji AI modeli mogu iskoristiti svoje sposobnosti na način koji nije predviđen, što podiže pitanja o bezbednosti i nadzoru nad veštačkom inteligencijom. Google je naveo da radi na rešavanju ovog problema i pojačavanju bezbednosti svojih AI sistema.
