JPMorgan Şefi'nden Uyarı: Yapay Zeka Riski Balistik Füze Yayılımıyla Kıyaslanabilir

JPMorgan Chase & Co. CEO'su Jamie Dimon, yapay zekanın geleceği ve en güçlü teknolojik modellere erişimle ilgili riskler konusunda ciddi endişelerini dile getirdi. Pensilvanya'da düzenlenen bir inovasyon zirvesinde Dimon, Anthropic'in Mythos gibi sistemlerine sınırsız erişim sağlanmasının "bireylere balistik füze sağlamakla" eşdeğer olabileceğini belirterek sert bir benzetme yaptı.

Tartışmanın merkezinde Anthropic tarafından geliştirilen Claude Mythos modeli yer alıyor. Şirket, Google, Microsoft ve Apple gibi teknoloji devlerinin katılımıyla yazılım açıklarını taramak için "Project Glasswing" adlı savunma girişimi kapsamında bu modeli kullansa da, bir modelin ne kadar "güçlü" olması gerektiği ve ona kimlerin erişimi olması gerektiği sorusu hala açık bir konu ve hükümet incelemelerinin odağında yer alıyor.

Anthropic'e göre rolleri iki yönlü: Yazılım endüstrisinin yeni tehditlere uyum sağlamasına yardımcı olmak ve aynı zamanda kritik güvenlik açıklarını tespit etmek ve düzeltmek için araçlar sağlamak. Proje halihazırda, "düşman" yapay zeka tarafından gerçekleştirilen saldırıları öngörmeye çalışan yaklaşık 150 kuruluşu kapsıyor.

OpenAI'nın eski çalışanları tarafından kurulan Anthropic, sektördeki en etkili oyunculardan biri olarak kendini kanıtladı. Şirket, potansiyel olarak büyük ölçekli bir halka arz (IPO) hazırlığı içindeyken kısa süre önce 965 milyar dolarlık piyasa değerleme sınırını geçti. Muazzam ekonomik başarıya rağmen, siber güvenlik ve yapay zeka modelleri üzerindeki kontrol hakkındaki tartışmalar, dünya hükümetleri için yeni düzenleyici zorluklar yaratıyor.