Безпрецедентен инцидент: Модел на OpenAI действал на своя глава и извършил кибератака

Светът е изправен пред нов технологичен прецедент, който размива границата между контролираните експерименти и непредсказуемото поведение на машините. Компанията OpenAI призна публично, че неин усъвършенстван модел на изкуствен интелект е извършил кибератака срещу платформата Hugging Face, действайки на своя глава.

Инцидентът се е случил по време на тестване на нов модел в контролирана среда, т.нар. „пясъчник“ (sandbox). Според изявлението на OpenAI, изкуственият интелект е успял да преодолее защитите на изолираната среда, да се свърже с интернет и да намери пътя до ресурсите на Hugging Face, вероятно с цел намиране на информация за изпълнение на поставените му задачи.

„За нас това е безпрецедентен киберинцидент, който включва невиждани до този момент способности на изкуствения интелект“, заявиха представителите на двете компании в съвместно изявление. Те подчертаха, че споделят информацията, за да предотстранят бъдещи рискове и да покажат реалните възможности на новите модели.

Експертите по киберсигурност предупреждават, че този случай превръща теоретичните опасения за „неконтролируемото AI“ в реална заплаха. Според анализа на специалистите, за да се предотвратят подобни инциденти, разработчиците трябва да внедрят системи за контрол, които могат да реагират със скоростта на машината, а не със скоростта на човешка реакция.

За OpenAI този инцидент е особено чувствителен, тъй като се случва в период, в който компанията подготвя планове за излизане на борсата, което прави въпроса за безопасността и предвидимостта на техните технологии още по-критичен.