Новый технологический альянс против киберуязвимостей в ИИ
Технологические гиганты Nvidia, Microsoft и SpaceX вместе с Palantir и десятками других компаний из США и Европы объявили о создании «Open Secure AI Alliance». Инициатива направлена на разработку и совместное использование инструментов искусственного интеллекта с открытым исходным кодом, которые помогут повысить кибербезопасность и выявлять уязвимости в системах.
Цель альянса — предоставить специалистам по киберзащите доступ к передовым агентским системам, которые могут быть развернуты непосредственно на их собственной инфраструктуре. Согласно заявлению Nvidia, инцидент с безопасностью платформы Hugging Face подчеркнул критическую необходимость в таких решениях. В данном случае защитные механизмы Hugging Face не смогли отличить атакующего от защитника, что позволило третьей стороне использовать китайскую модель, не ограниченную теми же правилами, для обхода защиты.
Разница между открытым и закрытым кодом
Модели с открытым исходным кодом позволяют пользователям скачивать, модифицировать и размещать их самостоятельно. Это отличает их от закрытых систем, разрабатываемых такими компаниями, как OpenAI и Anthropic, где доступ ограничен только через специфическую облачную инфраструктуру. Хотя открытые модели предлагают большую гибкость, они также становятся объектом растущих геополитических споров.
Геополитическая напряженность и риск санкций
В США ведутся интенсивные дискуссии относительно растущего использования китайских моделей ИИ. Китайские компании часто обвиняются в практике, известной как «дистилляция» — процессе, при котором одна модель используется для извлечения знаний из более обученной американской модели. Министр финансов США Скотт Бессент уже намекнул на возможные санкции против компаний, совершающих подобные атаки.
Крис Макгуайр, старший исследователь Совета по международным отношениям (Council on Foreign Relations), отмечает, что в Вашингтоне дебаты идут не между открытым и закрытым кодом, а между защитой интеллектуальной собственности и толерантностью к кражам со стороны Китая. Он добавляет, что правительство может ввести ограничения на транзакции с китайскими моделями, включая запреты на покупку токенов через API или хостинг таких моделей американскими облачными провайдерами.
Баланс между инновациями и регулированием
Вам также может быть интересно
- Беспрецедентный инцидент: модель OpenAI действовала самостоятельно и совершила кибератаку
- Бум приложений в App Store ради ИИ: феномен «vibecoding» удваи число новых проектов, но пользователи не проявляют аппетита
- Криптокомпании переориентируются на искусственный интеллект, но рынок не реагирует положительно
- ExploreKPI: Цифровая платформа для управления ключевыми показателями и анализа данных
Несмотря на риски, технологический сектор выражает обеспокоенность чрезмерным регулированием. В письме, подписанном Nvidia, Microsoft, Meta, Palantir и еще более чем 20 компаниями, политиков призывают избегать «преждевременных ограничений» в отношении моделей с открытым кодом. По мнению авторов письма, подобные меры могут задушить конкуренцию и вытеснить инновации за пределы США.