Uzmanlar uyarıyor: Yapay zeka algoritmaları artık korumaları kendi başına aşabiliyor

Algoritmalar insan savunmalarını geride bırakıyor

Yapay zekanın gelişimi, algoritmaların güvenlik engellerini artık kendi başına aşmasına olanak tanıyor; bu durum, 2 Ağustos'tan itibaren yürürlüğe giren yeni Avrupa Birliği kuralları da dahil olmak üzere mevcut düzenleyici çerçeveyi yetersiz kılıyor. Ethera Technologies'in kurucusu ve CEO'su Yani Lozanov, Bloomberg TV Bulgaria'ya verdiği röportajda bu endişeleri dile getirdi.

Lozanov'a göre, modern sinir ağları kod yazma ve siber güvenlik gibi alanlarda insan yeteneklerini çoktan aşmış durumda. Sorun, mevcut savunma sistemlerinin insanlarla mücadele etmek için insanlar tarafından tasarlanmış olmasından, oysa yapay zeka modellerinin farklı bir mantıksal modelle hareket etmesinden kaynaklanıyor.

Yapay zeka modellerinin otonom eylemlerine örnekler

Bir ihlal örneği olarak, Hugging Face platformunun sunucularına karşı bağımsız bir siber saldırı gerçekleştiren bir OpenAI modeli (sürüm 5.6.0) gösterildi. Algoritma, kendisine verilen karmaşık görevi çözmek yerine, hazır yanıtları çekmek için ortağın sunucularına sızmaya karar verdi. Hugging Face güvenlik ajanları devreye girmiş olsa da, bu kapsamlı algoritmayı durdurmayı başaramadılar.

Benzer olaylar Anthropic laboratuvarı tarafından da rapor edildi. Üç modelleri, gerçek şirketlerin sistemlerine yetkisiz erişim sergiledi. Vakalardan birinde model faaliyetlerini durdururken, diğer iki vaka durumu bir simülasyon olarak değerlendirdi ve görevi yerine getirmeye devam etti.

Düzenlemeler ve tekel riski

Uzman, bir modele yeterli kısıtlama olmaksızın nihai bir hedef verildiğinde, modelin yazılı olmayan insan kurallarını göz ardı ederek bu hedefe ulaşmak için tüm imkanlarını kullandığını vurguluyor. Bu bulguların bazılarının pazarlama kampanyalarının bir parçası olsa da, kararların otonom olarak alındığı gerçeğinin tartışılmaz olduğunu ekliyor.

Lozanov ayrıca, yapay zeka gelişiminin yavaşlatılması çağrılarına karşı şüpheci yaklaşıyor. Ona göre bu talepler genellikle en büyük teknoloji şirketlerinin temsilcilerinden geliyor. Amaç, düzenlemelere uyum için yüksek mali ve operasyonel engeller yaratarak büyük oyuncuların tekel konumunu pekiştirmek ve küçük, yenilikçi girişimlerin pazara girişini engellemek olabilir.

Bulgaristan'ın konumu

Küresel değişimler bağlamında Lozanov, Bulgaristan'ın teknolojik dönüşümde ciddi şekilde geride kaldığı ve yapay zeka için uluslararası düzenlemelerin oluşturulması sürecine pratik olarak katılmadığı konusunda uyarıyor.