Nvidia, Microsoft i SpaceX tworzą sojusz na rzecz bezpieczeństwa otwartych modeli sztucznej inteligencji

Nowy technologiczny sojusz przeciwko lukom w bezpieczeństwie AI

Giganci technologiczni Nvidia, Microsoft i SpaceX, wraz z Palantirem oraz dziesiątkami innych firm z USA i Europy, ogłosili utworzenie „Open Secure AI Alliance”. Inicjatywa ma na celu opracowywanie i udostępnianie narzędzi sztucznej inteligencji o otwartym kodzie źródłowym, które poprawią cyberbezpieczeństwo i pomogą wykrywać podatności w systemach.

Celem sojuszu jest zapewnienie specjalistom ds. cyberobrony dostępu do zaawansowanych systemów agentowych, które mogą być wdrażane bezpośrednio w ich własnej infrastrukturze. Według oświadczenia Nvidia, incydent związany z bezpieczeństwem platformy Hugging Face podkreślił krytyczną potrzebę istnienia takich rozwiązań. W tym przypadku mechanizmy obronne Hugging Face nie zdołały odróżnić napastnika od obrońcy, co pozwoliło podmiotowi zewnętrznemu wykorzystać chiński model, który nie podlega tym samym ograniczeniom, aby obejść zabezpieczenia.

Różnica między otwartym a zamkniętym kodem

Modele o otwartym kodzie pozwalają użytkownikom na ich pobieranie, modyfikowanie i samodzielne hostowanie. Odróżnia je to od zamkniętych systemów rozwijanych przez firmy takie jak OpenAI i Anthropic, gdzie dostęp jest ograniczony wyłącznie do specyficznej infrastruktury chmurowej. Choć otwarte modele oferują większą elastyczność, są one również przedmiotem narastających sporów geopolitycznych.

Napięcia geopolityczne i ryzyko sankcji

W USA toczy się intensywna dyskusja na temat rosnącego wykorzystania chińskich modeli AI. Chińskie firmy są często oskarżane o praktykę znaną jako „destylacja” – proces, w którym jeden model jest wykorzystywany do wyodrębniania wiedzy z lepiej wytrenowanego amerykańskiego modelu. Amerykański sekretarz skarbu Scott Bessent zasugerował już możliwość nałożenia sankcji na firmy przeprowadzające tego typu ataki.

Chris McGuire, starszy badacz w Council on Foreign Relations, wskazuje, że w Waszyngtonie debata nie toczy się między otwartym a zamkniętym kodem, lecz między ochroną własności intelektualnej a tolerowaniem kradzieży dokonywanych przez Chiny. Dodaje on, że rząd może nałożyć ograniczenia na transakcje z chińskimi modelami, w tym zakazy zakupu tokenów poprzez API lub hostowania takich modeli przez amerykańskich dostawców chmury.

Równowaga między innowacjami a regulacjami

Mimo ryzyk, sektor technologiczny wyraża obawy przed nadmiernymi regulacjami. W liście podpisanym przez Nvidia, Microsoft, Meta, Palantir i ponad 20 innych firm, apeluje się do polityków o unikanie „przedwczesnych ograniczeń” wobec modeli o otwartym kodzie. Według autorów listu, takie działania mogłyby zdusić konkurencję i wypchnąć innowacje poza granice USA.