Eksperti su nedavno demonstrirali kako je moguće koristeći napredne AI alate poput Anthropic-ovog Claude-a, probiti se u privatne sisteme OpenAI-a. Ova demonstracija pokazuje koliko je lako i relativno jeftino danas izvesti sofisticirane napade na kompanije koje razvijaju AI tehnologije. Istraživači su naglasili da je njihov cilj bio da istaknu sigurnosne propuste u industriji, a ne da nanese štetu.
Međutim, njihov postupak pokazuje kako AI alati koji su dizajnirani za pomoć i kreativnost mogu biti zloupotrebljeni za pronalaženje ranjivosti u softveru i sistemima. Ovaj incident predstavlja crvenu zastavu za celu AI industriju, jer ukazuje na brzo riziko od AI asistiranih napada. Komplicirane sigurnosne mere koje su ranije bile dovoljne, sada postupaju neadekvatnim pred novim generacijama alata koji mogu automatski identifikovati i iskoristiti slabosti u softverskim rešenjima.
OpenAI je već reagovao na ovu situaciju, ali eksperti upozoravaju da je ovo tek početak. Kao što AI tehnologija napreduje, tako će i naprednost napadača rasti, što zahteva nove inovativne pristupe zaštiti podataka i sistema.

