Nvidia, Microsoft и SpaceX създават алианс за сигурност на отворените модели с изкуствен интелект

Нов технологичен алианс срещу киберуязвимостите в AI

Технологичните гиганти Nvidia, Microsoft и SpaceX заедно с Palantir и още десетки компании от САЩ и Европа обявиха създаването на „Open Secure AI Alliance“. Инициативата е насочена към разработването и споделянето на инструменти с изкуствен интелект с отворен код, които да подобрят киберсигурността и да разкриват уязвимости в системите.

Целта на алианса е да предостави на специалистите по киберзащита достъп до авангардни агентни системи, които могат да се внедряват директно върху собствената им инфраструктура. Според изявление на Nvidia, инцидентът със сигурността на платформата Hugging Face е подчертал критичната необходимост от такива решения. В този случай защитните механизми на Hugging Face не успяха да разграничат нападателя от защитника, което позволи на външна страна да използва китайски модел, който не е ограничен от същите правила, за да заобиколи защитата.

Разликата между отворен и затворен код

Моделите с отворен код позволяват на потребителите да ги изтеглят, модифицират и хостват самостоятелно. Това ги отличава от затворените системи, разработвани от компании като OpenAI и Anthropic, при които достъпът е ограничен само чрез специфична облачна инфраструктура. Въпреки че отворените модели предлагат по-голяма гъвкавост, те са и обект на нарастващи геополитически спорове.

Геополитическо напрежение и риск от санкции

В САЩ се води интензивна дискусия относно нарастващото използване на китайски AI модели. Китайските компании често са обвинявани в практика, известна като „дистилация“ – процес, при който един модел се използва за извличане на знания от по-добре обучен американски модел. Американският министър на финансите Скот Бесънт вече загатна за възможни санкции срещу компании, извършващи подобни атаки.

Крис Макгуайър, старши изследовател в Council on Foreign Relations, посочва, че в Вашингтон дебатът не е между отворен и затворен код, а между защитата на интелектуалната собственост и толерирането на кражби от страна на Китай. Той добавя, че правителството може да наложи ограничения върху трансакциите с китайски модели, включително забрани за закупуване на токени чрез API или хостване на такива модели от американски облачни доставчици.

Баланс между иновации и регулации

Въпреки рисковете, технологичният сектор изразява опасения от прекомерни регулации. В писмо, подписано от Nvidia, Microsoft, Meta, Palantir и още над 20 компании, се призовава политиците да избягват „преждевременни ограничения“ върху моделите с отворен код. Според авторите на писмото, подобни мерки биха могли да задушат конкуренцията и да изтласкат иновациите извън САЩ.