Nvidia, Microsoft ve SpaceX, açık kaynaklı yapay zeka modelleri için bir güvenlik ittifakı kuruyor

Yapay Zekadaki Siber Zafiyetlere Karşı Yeni Teknoloji İttifakı

Teknoloji devleri Nvidia, Microsoft ve SpaceX; Palantir ile birlikte ABD ve Avrupa'dan onlarca şirketle birlikte "Open Secure AI Alliance"ın kurulduğunu duyurdu. Girişim, siber güvenliği artırmak ve sistemlerdeki zafiyetleri ortaya çıkarmak için açık kaynaklı yapay zeka araçlarının geliştirilmesini ve paylaşılmasını hedefliyor.

İttifakın amacı, siber savunma uzmanlarına doğrudan kendi altyapıları üzerinde konuşlandırabilecekleri ileri düzey ajan sistemlerine erişim sağlamaktır. Nvidia'nın açıklamasında, Hugging Face platformunda yaşanan güvenlik olayının bu tür çözümlere olan kritik ihtiyacı vurguladığı belirtildi. Bu olayda, Hugging Face'in savunma mekanizmaları saldırganı savunucudan ayırt edemedi ve bu durum, dış bir tarafın aynı kurallara tabi olmayan Çin yapımı bir modeli kullanarak korumayı aşmasına olanak tanıdı.

Açık Kaynak ve Kapalı Kaynak Arasındaki Fark

Açık kaynaklı modeller, kullanıcıların bunları indirmesine, değiştirmesine ve bağımsız olarak barındırmasına olanak tanır. Bu durum, erişimin yalnızca belirli bir bulut altyapısı üzerinden sınırlandırıldığı OpenAI ve Anthropic gibi şirketler tarafından geliştirilen kapalı sistemlerden ayrılmalarını sağlar. Açık modeller daha fazla esneklik sunsa da, artan jeopolitik tartışmaların da odağında yer alıyorlar.

Jeopolitik Gerilim ve Yaptırım Riski

ABD'de Çin yapay zeka modellerinin artan kullanımı konusunda yoğun bir tartışma yürütülüyor. Çinli şirketler sıklıkla "distilasyon" olarak bilinen bir uygulama ile suçlanıyor; bu, bir modelin daha iyi eğitilmiş bir Amerikan modelinden bilgi çıkarmak için kullanıldığı bir süreçtir. ABD Hazine Bakanı Scott Bessent, bu tür saldırıları gerçekleştiren şirketlere yönelik olası yaptırımların sinyalini verdi.

Council on Foreign Relations'da kıdemli araştırmacı olan Chris McGuire, Washington'daki tartışmanın açık ve kapalı kaynak arasında değil, fikri mülkiyetin korunması ile Çin tarafından gerçekleştirilen hırsızlıkların hoş görülmesi arasında olduğunu belirtiyor. McGuire, hükümetin Çin modelleriyle yapılan işlemlere kısıtlamalar getirebileceğini, buna API üzerinden token satın alma yasakları veya bu modellerin Amerikan bulut sağlayıcıları tarafından barındırılmasının engellenmesi de dahil olduğunu ekliyor.

İnovasyon ve Düzenleme Arasındaki Denge

Risklerin yanı değin, teknoloji sektörü aşırı düzenlemeler konusunda endişelerini dile getiriyor. Nvidia, Microsoft, Meta, Palantir ve 20'den fazla şirketin imzaladığı bir mektupta, politikaçılara açık kaynaklı modeller üzerindeki "erken kısıtlamalardan" kaçınmaları çağrısında bulunuluyor. Mektubun yazarlarına göre, bu tür önlemler rekabeti boğabilir ve inovasyonu ABD dışına itebilir.