Ryzyko związane z AI jest porównywalne z rozprzestrzenianiem rakiet balistycznych – ostrzeżenie szefa JPMorgan

Jamie Dimon, dyrektor generalny JPMorgan Chase & Co., wyraził poważne zaniepokojenie przyszłością sztucznej inteligencji oraz ryzykiem związanym z dostępem do najpotężniejszych modeli technologicznych. Podczas szczytu innowacji w Pensylwanii, Dimon dokonał ostrego porównania, stwierdzając, że zapewnienie nieograniczonego dostępu do systemów takich jak Mythos od Anthropic może być równoznaczne z „przekazaniem rakiet balistycznych jednostkom”.

W centrum debaty znajduje się model Claude Mythos, opracowany przez Anthropic. Choć firma wykorzystuje go w ramach inicjatywy obronnej „Project Glasswing” do skanowania podatności oprogramowania przy udziale gigantów technologicznych, takich jak Google, Microsoft i Apple, pytanie o to, jak „potężny” powinien być dany model i kto powinien mieć do niego dostęp, pozostaje otwarte i jest przedmiotem rządowych dochodzeń.

Według Anthropic ich rola jest podwójna: pomaganie branży oprogramowania w adaptacji do nowych zagrożeń oraz jednoczesne dostarczanie narzędzi do wykrywania i naprawiania krytycznych luk w zabezpieczeniach. Projekt obejmuje już blisko 150 organizacji, które starają się przewidzieć ataki przeprowadzane przez „wrogą” sztuczną inteligencję.

Anthropic, założone przez byłych pracowników OpenAI, ugruntowało swoją pozycję jako jeden z najbardziej wpływowych graczy w sektorze. Firma niedawno przekroczyła barierę 96,5 miliarda dolarów wyceny rynkowej, przygotowując się do potencjalnie wielkiego debiutu giełdowego (IPO). Mimo ogromnego sukcesu ekonomicznego, dyskusje wokół cyberbezpieczeństwa i kontroli nad modelami AI stawiają nowe wyzwania regulacyjne przed rządami na całym świecie.