США вводят новый режим государственного надзора за самые мощные модели ИИ

Белый дом проведет встречу с лидерами технологического сектора, на которой будет обсуждаться новая добровольная система государственного надзора за самыми мощными моделями искусственного интеллекта (ИИ). По словам представителя американской администрации, инициатива направлена на создание механизма оценки рисков, связанных с новыми технологиями.

Регулирование и механизм проверки

Новый режим регулирования определен в исполнительном указе, подписанном президентом Дональдом Трампом 2 июня. Согласно положениям, такие компании, как OpenAI, Google и Anthropic, смогут предоставлять правительству доступ к своим самым мощным моделям в течение 30 дней до их запланированного публичного выпуска.

Этот шаг был предпринят после опасений относительно модели Mythos от Anthropic. Компания изначально отказала в публичном доступе к ней из-за её способности выявлять уязвимости в компьютерных системах банков, правительств и больниц. В конечном итоге модель была выпущена на рынок, но с наложенными ограничениями на её использование.

Национальная безопасность и предыдущие инциденты

Предыдущие проблемы с кибербезопасностью уже вынуждали власти вмешаться. В июне Министерство торговли США распорядилось, чтобы Anthropic прекратила любой иностранный доступ к моделям Claude Fable 5 и Mythos 5. Причиной стали соображения национальной безопасности после сообщения о случае обхода встроенных защитных механизмов пользователями.

После этого инцидента компания была вынуждена отозвать обе модели более чем на две недели, прежде чем доступ к ним был постепенно восстановлен.

Изменение административной политики

Введение режима оценки знаменует собой значительный поворот в подходе администрации Трампа. До сих пор правительство проводило политику невмешательства, аргументируя это тем, что государство не должно препятствовать инновациям в рамках глобальной гонки с Китаем за технологическое лидерство в области искусственного интеллекта.