Ризик ШІ порівнян із розповсюдженням балістичних ракет – попередження глави JPMorgan

Джеймі Даймон, головний виконавчий директор JPMorgan Chase & Co., висловив серйозну занепокоєність щодо майбутнього штучного інтелекту та ризиків, пов'язаних із доступом до найпотужніших технологічних моделей. Під час інноваційного саміту в Пенсильванії Даймон провів різке порівняння, заявивши, що надання необмеженого доступу до таких систем, як Mythos від Anthropic, може бути еквівалентним «наданню балістичних ракет окремим особам».

В центрі дискусії перебуває модель Claude Mythos, розроблена Anthropic. Хоча компанія використовує її в межах захисної ініціативи «Project Glasswing» для сканування вразливостей програмного забезпечення за участю таких технологічних гігантів, як Google, Microsoft та Apple, питання про те, наскільки «потужною» має бути модель і хто повинен мати до неї доступ, залишається відкритим і є предметом урядових розслідувань.

За словами Anthropic, їхня роль є подвійною: допомогти програмній індустрії адаптуватися до нових загроз і водночас забезпечити інструменти для виявлення та усунення критичних прогалин у безпеці. Проєкт уже охоплює близько 150 організацій, які намагаються передбачити атаки, здійснені «ворожим» штучним інтелектом.

Anthropic, заснована колишніми співробітниками OpenAI, утвердилася як один із найвпливовіших гравців у секторі. Компанія нещодавно перетнула межу ринкової оцінки у 965 мільярдів доларів, готуючись до потенційно масштабного публічного розміщення акцій (IPO). Попри величезний економічний успіх, дискусії навколо кібербезпеки та контролю над моделями ШІ створюють нові регуляторні виклики для світових урядів.