Nvidia, Microsoft та SpaceX створюють альянс для безпеки відкритих моделей штучного інтелекту

Новий технологічний альянс проти кібервразливостей в AI

Технологічні гіганти Nvidia, Microsoft та SpaceX разом із Palantir та ще десятками компаній зі США та Європи оголосили про створення «Open Secure AI Alliance». Ініціатива спрямована на розробку та обмін інструментами штучного інтелекту з відкритим кодом, які покращують кібербезпеку та виявляють вразливості в системах.

Мета альянсу — надати фахівцям із кіберзахисту доступ до передових агентських систем, які можуть бути впроваджені безпосередньо на їхній власній інфраструктурі. Згідно із заявою Nvidia, інцидент із безпекою платформи Hugging Face підкреслив критичну необхідність таких рішень. У цьому випадку захисні механізми Hugging Face не змогли відрізнити нападника від захисника, що дозволило сторонній стороні використати китайську модель, яка не обмежена тими ж правилами, щоб обійти захист.

Різниця між відкритим та закритим кодом

Моделі з відкритим кодом дозволяють користувачам завантажувати, модифікувати та хостити їх самостійно. Це відрізняє їх від закритих систем, розроблених такими компаніями, як OpenAI та Anthropic, де доступ обмежений лише специфічною хмарною інфраструктурою. Хоча відкриті моделі пропонують більшу гнучкість, вони також є об'єктом зростаючих геополітичних суперечок.

Геополітична напруженість та ризик санкцій

У США тривають інтенсивні дискусії щодо зростаючого використання китайських AI-моделей. Китайські компанії часто звинувачують у практиці, відомій як «дистиляція» — процесі, коли одна модель використовується для вилучення знань із краще навченої американської моделі. Міністр фінансів США Скотт Бессент уже натякнув на можливі санкції проти компаній, які здійснюють подібні атаки.

Кріс Макгуайр, старший дослідник Council on Foreign Relations, зазначає, що у Вашингтоні дебати йдуть не між відкритим та закритим кодом, а між захистом інтелектуальної власності та толеруванням крадіжок з боку Китаю. Він додає, що уряд може запровадити обмеження на транзакції з китайськими моделями, включаючи заборону на купівлю токенів через API або хостинг таких моделей американськими хмарними провайдерами.

Баланс між інноваціями та регулюванням

Попри ризики, технологічний сектор висловлює занепокоєння щодо надмірного регулювання. У листі, підписаному Nvidia, Microsoft, Meta, Palantir та ще понад 20 компаніями, політикам пропонується уникати «передчасних обмежень» на моделі з відкритим кодом. На думку авторів листа, такі заходи могли б задушити конкуренцію та витіснити інновації за межі США.