США запроваджують новий режим державного перегляду найпотужніших моделей ШІ

Білий дім проведе зустріч із лідерами технологічного сектору, на якій обговорюватиметься нова добровільна система державного перегляду найпотужніших моделей штучного інтелекту (ШІ). За словами посадовця американської адміністрації, ініціатива має на меті встановити механізм оцінки ризиків, пов'язаних із новими технологіями.

Регулювання та механізм перевірки

Новий регуляторний режим визначений у виконавчому розпорядженні, підписаному президентом Дональдом Трампом 2 червня. Згідно з положеннями, такі компанії, як OpenAI, Google та Anthropic, зможуть надавати уряду доступ до своїх найпотужніших моделей протягом 30 днів до їхнього запланованого публічного релізу.

Цей крок було зроблено після занепокоєнь щодо моделі Mythos від Anthropic. Компанія спочатку відмовила у публічному доступі до неї через її здатність ідентифікувати вразливості в комп'ютерних системах банків, урядів та лікарень. Зрештою модель була випущена на ринок, але з накладеними обмеженнями на її використання.

Національна безпека та попередні інциденти

Попередні проблеми з кібербезпекою вже змусили владу втрутитися. У червні Міністерство торгівлі США наказало Anthropic припинити будь-який іноземний доступ до моделей Claude Fable 5 та Mythos 5. Причиною стали міркування національної безпеки після повідомлень про випадок обходу вбудованих захисних механізмів користувачами.

Після інциденту компанія була змушена відкликати обидві моделі більш ніж на два тижні, перш ніж доступ до них був поступово відновлений.

Зміна адміністративної політики

Впровадження режиму оцінки знаменує собою значний поворот у підході адміністрації Трампа. До цього уряд проводив політику невтручання, аргументуючи це тим, що держава не повинна перешкоджати інноваціям у межах глобальної гонки з Китаєм за технологічне лідерство у сфері штучного інтелекту.