Риск ИИ сопоставим с распространением баллистических ракет — предупреждение главы JPMorgan

Джейми Даймон, исполнительный директор JPMorgan Chase & Co., выразил серьезную обеспокоенность будущим искусственного интеллекта и рисками, связанными с доступом к самым мощным технологическим моделям. Во время инновационного саммита в Пенсильвании Даймон провел резкое сравнение, заявив, что предоставление неограниченного доступа к таким системам, как Mythos от Anthropic, может быть равносильно «предоставлению баллистических ракет отдельным лицам».

В центре дискуссии находится модель Claude Mythos, разработанная Anthropic. Хотя компания использует ее в рамках защитной инициативы «Project Glasswing» для сканирования уязвимостей программного обеспечения при участии таких технологических гигантов, как Google, Microsoft и Apple, вопрос о том, насколько «мощной» должна быть модель и кто должен иметь к ней доступ, остается открытым и является предметом правительственных расследований.

По словам Anthropic, их роль двойственна: помочь индустрии программного обеспечения адаптироваться к новым угрозам и одновременно предоставить инструменты для обнаружения и устранения критических пробелов в безопасности. Проект уже охватывает почти 150 организаций, которые пытаются предвидеть атаки, совершаемые «враждебным» искусственным интеллектом.

Компания Anthropic, основанная бывшими сотрудниками OpenAI, утвердилась в качестве одного из самых влиятельных игроков в секторе. Недавно компания преодолела порог рыночной оценки в 965 миллиардов долларов, готовясь к потенциально масштабному первичному публичному размещению акций (IPO). Несмотря на огромный экономический успех, дискуссии вокруг кибербезопасности и контроля над моделями ИИ ставят новые регуляторные задачи перед мировыми правительствами.