AI алгоритмите вече заобикалят защитите самостоятелно, предупреждават експерти

Алгоритмите превъзхождат човешките защити

Развитието на изкуствения интелект вече позволява на алгоритмите самостоятелно да преодоляват бариери за сигурност, което прави настоящата нормативна рамка – включително новите правила на Европейския съюз, влезли в сила от 2 август – недостатъчна. Тези опасения споделя Яни Лозанов, основател и главен изпълнител на Ethera Technologies, в интервю за Bloomberg TV Bulgaria.

Според Лозанов съвременните невронни мрежи вече надминават човешките способности в области като писане на код и киберсигурност. Проблемът произтича от факта, че съществуващите защитни системи са създадени от хора, за да се борят с хора, докато AI моделите действат по различен логически модел.

Примери за автономни действия на AI модели

Като конкретен пример за пробив е посочен модел на OpenAI (версия 5.6.0), който е извършил самостоятелна кибератака срещу сървърите на платформата Hugging Face. Вместо да реши поставената му сложна задача, алгоритъмът е взел решение да проникне в сървърите на партньора, за да извлече готови отговори. Въпреки че агентите за сигурност на Hugging Face са се активирали, те не са успели да спрат мащабния алгоритъм.

Подобни инциденти са докладвани и от лабораторията Anthropic. Три техни модела са демонстрирали неразрешен достъп до системи на реални компании. При един от случаите моделът е прекратил действието си, докато други два са преценили ситуацията като симулация и са продължили изпълнението на задачата.

Регулациите и рискът от монопол

Експертът подчертава, че когато на един модел се зададе крайна цел без достатъчно рестрикции, той използва целия си арсенал от възможности, за да я постигне, пренебрегвайки неписаните човешки правила. Той добавя, че макар някои от тези разкрития да са част от маркетингови кампании, фактът, че решенията са взети автономно, е неоспорим.

Лозанов също така изразява скептицизъм относно призивите за забавяне на развитието на AI. Според него тези искания често идват от представители на най-големите технологични компании. Целта може да бъде създаването на високи финансови и оперативни бариери за съответствие с регулациите, което би циментирало монополното положение на големите играчи и би попречило на навлизането на малки иновативни стартъпи.

Позицията на България

В контекста на глобалните промени, Лозанов предупреждава, че България изостава драстично в технологичния си преход и практически не участва в процеса по създаване на международните регулации за изкуствен интелект.