Yapay zekâyı kontrol edenleri kim kontrol edecek?

Cüneyt Bey bir hukukçu olarak meselenin gerçekten kalbine dokunmuş.

Son birkaç gündür aslında çok ilginç bir tablo izliyoruz. Dünyanın en gelişmiş yapay zekâ sistemlerini üreten şirketlerin yöneticileri, bu teknolojiyi geliştiren araştırmacılar, Amerikan yönetimi ve Çin aynı anda yapay zekânın hızını, güvenliğini ve kimin tarafından denetleneceğini tartışıyor. Bu tartışmanın görünür hâle gelmesinde Anthropic araştırmacısı Jacob Coxon’ın istifasının önemli bir etkisi oldu. Coxon yalnızca işinden ayrılmadı. Anthropic’teki hisselerinin hak edişine yaklaşık iki ay kala şirketten ayrıldığını ve böylece finansal olarak çok ciddi bir kazançtan vazgeçtiğini açıkladı. OpenAI ve Anthropic gibi dünyanın en ileri iki yapay zekâ laboratuvarında çalışmış bir araştırmacı olarak şirketlerin kendi kendini geliştirebilen çok güçlü sistemler geliştirme yarışında insanlığın geleceğiyle kabul edilemez ölçüde risk aldığını savundu. Bu nedenle açıklaması sıradan bir teknoloji eleştirisi olarak görülmedi. Şirketin içinde çalışan ve ekonomik olarak şirketin büyümesinden kazanç sağlayabilecek bir araştırmacının bu imkândan vazgeçerek kamuoyu önünde alarm vermesi tartışmanın ağırlığını artırdı.

Ardından Anthropic Üst Yöneticisi Dario Amodei çok daha kapsamlı bir uyarı yaptı. Amodei yapay zekâyı tamamen durdurmayı savunmuyor. Söylediği şey, teknolojik kapasite ile güvenlik kapasitesi arasındaki mesafenin giderek açıldığı ve gelişme temposunun güvenlik araştırmalarının yetişebileceği ölçüde yönetilmesi gerektiği. Onun kaygısı özellikle kendi kendini hızlandıran bir araştırma döngüsü. Yapay zekâ bugün kod yazıyor, deney tasarlıyor, araştırmacıya yardım ediyor. Eğer yarın yeni yapay zekâ sistemlerinin geliştirilmesinin önemli bölümünü yine yapay zekâ yapmaya başlarsa, daha güçlü model daha güçlü modeli daha hızlı üretmeye başlayabilir. Amodei’nin korktuğu geri besleme döngüsü bu.

Amodei siber güvenlik açısından da çok çarpıcı bir senaryo ortaya koyuyor. Ona göre daha gelişmiş yapay zekâ ajanlarının önümüzdeki altı ila on iki ay içinde büyük ölçekli ajan sürüleri hâlinde çalışması ihtimali ciddiye alınmalı. Böyle bir sistem yanlış bir hedefle veya fazla geniş bir yetkiyle çalıştırılırsa binlerce ayrı ajan internette koordineli biçimde hareket edebilir, şirket sistemlerine saldırabilir ve kalıcı bot ağları oluşturabilir. Amodei bunun bugün gerçekleşmiş bir olay olduğunu söylemiyor. Mevcut eğilim devam ederse ortaya çıkabilecek bir risk senaryosundan söz ediyor. Bugünkü olaylarla gelecekteki ihtimali birbirinden ayırmak önemli.

Daha sonra OpenAI Üst Yöneticisi Sam Altman ile Elon Musk da gelişme temposunun güvenlik dikkate alınarak yönetilmesi gerektiği yönündeki tartışmaya destek verdi. Böylece birbirleriyle rekabet eden şirketlerin yöneticilerinin aynı konuda benzer kaygıları dile getirdiği sıra dışı bir tablo ortaya çıktı. Fakat bu ortaklık çok uzun sürmedi. Çünkü tartışmanın karşı cephesi de hızla oluştu.

Donald Trump çok farklı bir noktadan meseleye girdi. Ona göre Amerika’nın yapay zekâ yarışında yavaşlaması stratejik bir hata olur. Temel gerekçesi Çin. Amerika kendisini sınırlandırırken Çin aynı şeyi yapmazsa teknolojik üstünlük Pekin’e geçebilir. Trump bu nedenle güvenlik kaygılarının Amerikan teknolojik liderliğini kaybettirecek bir düzenleme rejimine dönüşmesine karşı çıkıyor. Bu yaklaşım Washington’daki daha geniş bir tartışmayı da yansıtıyor. Yapay zekâ yalnız teknoloji politikası olarak değil, artık doğrudan büyük güç rekabetinin bir unsuru olarak görülüyor.

Bugün Meta Üst Yöneticisi Mark Zuckerberg de bu tartışmaya katıldı ve sektör çapında ortak bir yavaşlamaya ihtiyaç olmadığını savundu. Zuckerberg’in yaklaşımı şu: Şirketlerin güvenli sistem üretmek için zaten çok güçlü ekonomik ve hukuki teşvikleri var. Hatalı bir sistem şirketi milyarlarca dolarlık zarara, davalara ve itibar kaybına sürükleyebilir. Bu nedenle her şirket güvenlik sorunuyla karşılaştığında kendi ürününü yavaşlatabilmeli fakat bütün sektörün birlikte fren yapması gerekmiyor. Meta’nın Muse isimli sisteminin güvenlik gerekçesiyle birkaç ay ertelenmesini de buna örnek gösteriyor. Nvidia Üst Yöneticisi Jensen Huang da benzer biçimde güvenliğin temel olarak bir mühendislik problemi olduğunu ve hız ile güvenlik arasında mutlak bir tercih yapmak gerekmediğini savunuyor.

Çin cephesinden ise bambaşka bir itiraz geliyor. Çin’e yakın Global Times, Amodei’nin önerisini yalnızca yapay zekâ güvenliği tartışması olarak okumuyor. Çünkü Amodei aynı metinde Çin’in gelişmiş yapay zekâ çiplerine erişiminin sınırlandırılmasını ve Çinli şirketlerin Amerikan modellerinden damıtma yöntemiyle yetenek aktarmasının engellenmesini de savunuyor. Global Times bu nedenle güvenlik söyleminin Çin’in teknolojik yükselişini sınırlayan yeni bir teknolojik çevreleme politikasına dönüşebileceğini ileri sürüyor. Çin Dışişleri Bakanlığı da benzer biçimde güvenlik adına dışlayıcı bloklar oluşturulmasına karşı çıkıyor.

Fakat burada önemli bir ayrım var. Çin yapay zekâ risklerini bütünüyle reddetmiyor. Çin yönetimi de insan kontrolünün kaybolması, veri güvenliği, siyasi manipülasyon, siber saldırılar ve kritik altyapı riskleri konusunda giderek daha fazla uyarı yapıyor. Financial Times’ın son değerlendirmesi de tam bu paradoksa dikkat çekiyor. Washington ve Pekin’in ikisi de güçlü yapay zekânın ciddi güvenlik riskleri taşıdığını kabul etmeye başladı. Fakat birbirlerine güvenmedikleri için ortak bir güvenlik rejimi kurmakta zorlanıyorlar. Yapay zekâ güvenliği ile jeopolitik rekabet birbirinin içine girmiş durumda.

Bence Cüneyt Bey’in işaret ettiği asıl mesele tam burada başlıyor.

Bu şirketleri kim denetliyor?

Daha açık soralım. İnsanlığın geleceğini etkileyebilecek kadar güçlü sistemlerin hangi hızda geliştirileceğine neden birkaç teknoloji şirketinin yönetim kurulları karar veriyor?

Hangi modelin geliştirileceğine şirketler karar veriyor. Ne kadar hesaplama gücü kullanılacağına şirketler karar veriyor. Modelin hangi verilere erişebileceğine onlar karar veriyor. Kimin sisteme erişebileceğine onlar karar veriyor. Hangi güvenlik testlerinin uygulanacağını büyük ölçüde yine onlar belirliyor.

Sonra aynı şirketlerin yöneticileri kamuoyunun karşısına çıkıp teknolojinin çok hızlı ilerlediğini ve artık daha güçlü güvenlik mekanizmalarına ihtiyaç olduğunu söylüyor.

Burada ciddi bir meşruiyet problemi ortaya çıkıyor.

Google, OpenAI, Anthropic veya Meta elbette devlet değil. Egemenlik yetkileri yok. Fakat dünyanın en gelişmiş modellerini, veri merkezlerini, hesaplama altyapısını ve erişim kurallarını kontrol ettikleri için giderek sıradan ticari işletmelerden çok daha büyük bir etki alanı oluşturuyorlar. Teknik standart koyuyorlar. Erişim koşulu koyuyorlar. Hangi sistemin hangi ülkede kullanılabileceğini belirleyebiliyorlar. Böylece fiilen yeni tür özel güç merkezleri ortaya çıkıyor.

Ben meselenin yalnız yapay zekâ kontrolden çıkar mı sorusu üzerinden tartışılmasını bu nedenle eksik buluyorum.