USA wprowadzają nowy tryb państwowego przeglądu najpotężniejszych modeli AI

Biały Dom przeprowadzi spotkanie z liderami sektora technologicznego, podczas którego zostanie omówiony nowy, dobrowolny system państwowego przeglądu najpotężniejszych modeli sztucznej inteligencji (AI). Według urzędnika amerykańskiej administracji, inicjatywa ma na celu ustanowienie mechanizmu oceny ryzyka związanego z nowymi technologiami.

Regulacje i mechanizm weryfikacji

Nowy reżim regulacyjny został zdefiniowany w rozporządzeniu wykonawczym podpisanym przez prezydenta Donalda Trumpa 2 czerwca. Zgodnie z przepisami, firmy takie jak OpenAI, Google i Anthropic będą mogły zapewnić rządowi dostęp do swoich najpotężniejszych modeli na okres 30 dni przed ich planowanym publicznym udostępnieniem.

Krok ten został podjęty po obawach dotyczących modelu Mythos firmy Anthropic. Firma początkowo odmówiła publicznego dostępu do niego ze względu na jego zdolność do identyfikowania podatności w systemach komputerowych banków, rządów i szpitali. Ostatecznie model został wprowadzony na rynek, ale z nałożonymi ograniczeniami użytkowania.

Bezpieczeństwo narodowe i wcześniejsze incydenty

Wcześniejsze problemy z cyberbezpieczeństwem już zmusiły władze do interwencji. W czerwcu Departament Handlu USA nakazał firmie Anthropic zaprzestanie wszelkiego zagranicznego dostępu do modeli Claude Fable 5 i Mythos 5. Powodem były kwestie bezpieczeństwa narodowego po zgłoszeniu przypadku obejścia wbudowanych mechanizmów zabezpieczających przez użytkowników.

Po tym incydencie firma została zmuszona do wycofania obu modeli na ponad dwa tygodnie, zanim dostęp do nich został stopniowo przywrócony.

Zmiana w polityce administracyjnej

Wprowadzenie trybu oceny oznacza znaczący zwrot w podejściu administracji Trumpa. Do tej pory rząd stosował politykę nieingerencji, argumentując, że państwo nie powinno hamować innowacji w ramach globalnego wyścigu z Chinami o technologiczne przywództwo w dziedzinie sztucznej inteligencji.