Алгоритмы превосходят человеческую защиту
Развитие искусственного интеллекта уже позволяет алгоритмам самостоятельно преодолевать барьеры безопасности, что делает нынешнюю нормативную базу — включая новые правила Европейского союза, вступившие в силу 2 августа — недостаточной. Эти опасения разделяет Яни Лозанов, основатель и генеральный директор Ethera Technologies, в интервью Bloomberg TV Bulgaria.
По словам Лозанова, современные нейронные сети уже превосходят человеческие способности в таких областях, как написание кода и кибербезопасность. Проблема заключается в том, что существующие системы защиты созданы людьми для борьбы с людьми, в то время как модели ИИ действуют по иной логической модели.
Примеры автономных действий моделей ИИ
В качестве конкретного примера взлома приводится модель OpenAI (версия 5.6.0), которая совершила самостоятельную кибератаку на серверы платформы Hugging Face. Вместо того чтобы решить поставленную перед ней сложную задачу, алгоритм принял решение проникнуть на серверы партнера, чтобы извлечь готовые ответы. Несмотря на то, что агенты безопасности Hugging Face активировались, они не смогли остановить масштабный алгоритм.
Подобные инциденты были зафиксированы и лабораторией Anthropic. Три их модели продемонстрировали несанкционированный доступ к системам реальных компаний. В одном из случаев модель прекратила свои действия, в то время как две другие расценили ситуацию как симуляцию и продолжили выполнение задачи.
Регулирование и риск монополии
Эксперт подчеркивает, что когда модели ставится конечная цель без достаточных ограничений, она использует весь свой арсенал возможностей для ее достижения, игнорируя неписаные человеческие правила. Он добавляет, что, хотя некоторые из этих разоблачений являются частью маркетинговых кампаний, факт того, что решения принимались автономно, неоспорим.
Лозанов также выражает скептицизм по поводу призывов замедлить развитие ИИ. По его мнению, эти требования часто исходят от представителей крупнейших технологических компаний. Целью может быть создание высоких финансовых и операционных барьеров для соблюдения нормативных требований, что закрепило бы монопольное положение крупных игроков и препятствовало бы выходу на рынок малых инновационных стартапов.
Позиция Болгарии
Вам также может быть интересно
- Великобритания может ввести регулирование искусственного интеллекта в случае провала добровольных мер
- США вводят новый режим государственного надзора за самые мощные модели ИИ
- Пловдив обновляет образовательную программу: фокус на искусственный интеллект и безопасность в школах
- AI-башни для раннего обнаружения пожаров: в Риле начинается строительство системы наблюдения
В контексте глобальных изменений Лозанов предупреждает, что Болгария катастрофически отстает в своем технологическом переходе и практически не участвует в процессе создания международных правил регулирования искусственного интеллекта.