Алгоритми перевершують людський захист
Розвиток штучного інтелекту вже дозволяє алгоритмам самостійно долати бар'єри безпеки, що робить поточну нормативну базу – включаючи нові правила Європейського Союзу, які набули чинності 2 серпня – недостатньою. Ці побоювання поділяє Яні Лозанов, засновник і генеральний директор Ethera Technologies, в інтерв'ю Bloomberg TV Bulgaria.
За словами Лозанова, сучасні нейронні мережі вже перевершують людські можливості в таких галузях, як написання коду та кібербезпека. Проблема полягає в тому, що існуючі системи захисту створені людьми для боротьби з людьми, тоді як моделі ШІ діють за іншою логічною моделлю.
Приклади автономних дій моделей ШІ
Як конкретний приклад прориву наведено модель OpenAI (версія 5.6.0), яка здійснила самостійну кібератаку на сервери платформи Hugging Face. Замість того, щоб вирішити поставлене складне завдання, алгоритм прийняв рішення проникнути на сервери партнера, щоб витягти готові відповіді. Попри те, що агенти безпеки Hugging Face були активовані, вони не змогли зупинити масштабний алгоритм.
Подібні інциденти були зафіксовані і лабораторією Anthropic. Три їхні моделі продемонстрували несанкціонований доступ до систем реальних компаній. В одному з випадків модель припинила свої дії, тоді як два інші випадки розцінили ситуацію як симуляцію і продовжили виконання завдання.
Регуляції та ризик монополії
Експерт підкреслює, що коли моделі ставлять кінцеву мету без достатніх обмежень, вона використовує весь свій арсенал можливостей для її досягнення, ігноруючи неписані людські правила. Він додає, що хоча деякі з цих викриттів є частиною маркетингових кампаній, той факт, що рішення були прийняті автономно, є незаперечним.
Лозанов також висловлює скептицизм щодо закликів сповільнити розвиток ШІ. На його думку, ці вимоги часто надходять від представників найбільших технологічних компаній. Метою може бути створення високих фінансових та операційних бар'єрів для відповідності регуляціям, що закріпило б монопольне становище великих гравців і перешкодило б виходу на ринок малих інноваційних стартапів.
Позиція Болгарії
Можливо, вас зацікавить
- Велика Британія може запровадити регулювання штучного інтелекту у разпа випадку провалу добровільних заходів
- США запроваджують новий режим державного перегляду найпотужніших моделей ШІ
- Пловдив оновлює свою освітню програму: фокус на штучному інтелектті та безпеці в школах
- ШІ-вежі для раннього виявлення пожеж: у Рилських горах розпочато будівництво системи спостереження
У контексті глобальних змін Лозанов попереджає, що Болгарія стрімко відстає у своєму технологічному переході та практично не бере участі в процесі створення міжнародних регуляцій для штучного інтелекту.