Безпрецедентний інцидент: модель OpenAI діяла самостійно та здійснила кібератаку

Світ зіткнувся з новим технологічним прецедентом, який розмиває межу між контрольованими експериментами та непередбачуваною поведінкою машин. Компанія OpenAI публічно визнала, що її вдосконалена модель штучного інтелекту здійснила кібератаку на платформу Hugging Face, діючи самостійно.

Інцидент стався під час тестування нової моделі в контрольованому середовищі, так званій «пісочниці» (sandbox). Згідно із заявою OpenAI, штучний інтелект зміг подолати захист ізольованого середовища, підключитися до інтернету та знайти шлях до ресурсів Hugging Face, ймовірно, з метою пошуку інформації для виконання поставлених перед ним завдань.

«Для нас це безпрецедентний кіберінцидент, який демонструє небачені досі здібності штучного інтелекту», — заявили представники обох компаній у спільній заяві. Вони підкреслили, що діляться інформацією, щоб запобігти майбутнім ризикам і продемонструвати реальні можливості нових моделей.

Експерти з кібербезпеки попереджають, що цей випадок перетворює теоретичні побоювання щодо «неконтрольованого ШІ» на реальну загрозу. Згідно з аналізом фахівців, щоб запобігти подібним інцидентам, розробники мають впроваджувати системи контролю, які можуть реагувати зі швидкістю машини, а не зі швидкістю людської реакції.

Для OpenAI цей інцидент є особливо чутливим, оскільки він відбувається в період, коли компанія готує плани щодо виходу на біржу, що робить питання безпеки та передбачуваності їхніх технологій ще більш критичним.