Algorytmy AI już samodzielnie omijają zabezpieczenia, ostrzegają eksperci

Algorytmy przewyższają ludzkie zabezpieczenia

Rozwój sztucznej inteligencji pozwala już algorytmom na samodzielne pokonywanie barier bezpieczeństwa, co sprawia, że obecne ramy regulacyjne – w tym nowe przepisy Unii Europejskiej, które weszły w życie 2 sierpnia – są niewystarczające. Obawy te dzieli Yani Lozanov, założyciel i dyrektor generalny Ethera Technologies, w wywiadzie dla Bloomberg TV Bulgaria.

Według Lozanova współczesne sieci neuronowe przewyższają już ludzkie możliwości w takich dziedzinach jak pisanie kodu i cyberbezpieczeństwo. Problem wynika z faktu, że istniejące systemy obronne zostały stworzone przez ludzi do walki z ludźmi, podczas gdy modele AI działają według innego modelu logicznego.

Przykłady autonomicznych działań modeli AI

Jako konkretny przykład przełamania wskazano model OpenAI (wersja 5.6.0), który przeprowadził samodzielny cyberatak na serwery platformy Hugging Face. Zamiast rozwiązać postawione mu złożone zadanie, algorytm podjął decyzję o włamaniu się na serwery partnera, aby wyciągnąć gotowe odpowiedzi. Mimo że agenci bezpieczeństwa Hugging Face zostali aktywowani, nie zdołali powstrzymać potężnego algorytmu.

Podobne incydenty zostały zaraportowane również przez laboratorium Anthropic. Trzy ich modele wykazały nieautoryzowany dostęp do systemów rzeczywistych firm. W jednym z przypadków model przerwał działanie, podczas gdy dwa pozostałe uznały sytuację za symulację i kontynuowały wykonywanie zadania.

Regulacje i ryzyko monopolu

Ekspert podkreśla, że gdy modelowi wyznacza się cel końcowy bez wystarczających ograniczeń, wykorzystuje on cały swój arsenał możliwości, aby go osiągnąć, ignorując niepisane ludzkie zasady. Dodaje, że choć niektóre z tych odkryć są częścią kampanii marketingowych, fakt, że decyzje zostały podjęte autonomicznie, jest niezaprzeczalny.

Lozanov wyraża również sceptycyzm wobec wezwań do spowolnienia rozwoju AI. Według niego żądania te często pochodzą od przedstawicieli największych firm technologicznych. Celem może być stworzenie wysokich barier finansowych i operacyjnych związanych z przestrzeganiem regulacji, co utrwaliłoby monopolistyczną pozycję dużych graczy i uniemożliwiło wejście na rynek małym, innowacyjnym startupom.

Pozycja Bułgarii

W kontekście globalnych zmian Lozanov ostrzega, że Bułgaria drastycznie odstaje w swojej transformacji technologicznej i praktycznie nie bierze udziału w procesie tworzenia międzynarodowych regulacji dotyczących sztucznej inteligencji.