Рискът от AI е сравним с разпространението на балистични ракети – предупреждение от шефа на JPMorgan

Джейми Даймън, изпълнителният директор на JPMorgan Chase & Co., изрази сериозна загриженост относно бъдещето на изкуствения интелект и рисковете, свързани с достъпа до най-мощните технологични модели. По време на иновационен саммит в Пенсилвания, Даймън направи остро сравнение, заявявайки, че предоставянето на неограничен достъп до системи като Mythos на Anthropic може да бъде равносилно на „предоставянето на балистични ракети на отделни лица“.

В центъра на дебата стои моделът Claude Mythos, разработен от Anthropic. Макар компанията да го използва в рамките на защитната инициатива „Project Glasswing“ за сканиране на софтуерни уязвимости с участието на технологични гиганти като Google, Microsoft и Apple, въпросът за това колко „мощен“ трябва да бъде един модел и кой трябва да има достъп до него, остава отворен и обект на правителствени разследвания.

Според Anthropic, тяхната роля е двойна: да помогнат на софтуерната индустрия да се адаптира към новите заплахи и едновременно с това да осигурят инструменти за откриване и поправяне на критични пропуски в сигурността. Проектът вече обхваща близо 150 организации, които се опитват да предвидят атаките, извършени от „враждебен“ изкуствен интелект.

Anthropic, основана от бивши служители на OpenAI, се утвърди като един от най-влиятелните играчи в сектора. Компанията наскоро премина границата от 965 милиарда долара пазарна оценка, като се подготвя за потенциално мащабно публично предлагане на акции (IPO). Въпреки огромния икономически успех, дискусиите около киберсигурността и контрола върху AI моделите поставят новите регулаторни предизвикателства пред световните правителства.