Yapay zekâ güvenliği mi, teknoloji hegemonyası mı?

Yapay zekâ güvenliği mi, teknoloji hegemonyası mı?

Anthropic araştırmacısı Jacob Coxon’ın istifasıyla başlayan tartışma birkaç gün içinde yapay zekânın yavaşlatılması, bağımsız denetime açılması ve küresel kurallara bağlanması çağrısına dönüştü. Coxon, OpenAI ve Anthropic’te çalıştıktan sonra şirketlerin kendi kendisini geliştirebilecek süper zekâya doğru yarıştığını ve insanların hayatıyla kumar oynadığını savundu. Yapay zekâyı geliştiren insanların bu sistemlerin bu on yıl bitmeden insanlığın tamamını öldürebilecek bir risk taşıdığına gerçekten inandığını söyledi.

Ardından Anthropic Üst Yöneticisi Dario Amodei, ileri modellerin gelişim hızının düşürülmesini, bağımsız değerlendiricilerin şirketlerin içine yerleştirilmesini ve belirli kapasite eşiklerine ulaşan modellerin ortak güvenlik kurallarına bağlanmasını önerdi. Yapay zekânın kontrolünü nükleer silahların sınırlandırılmasında kullanılan mekanizmalarla karşılaştırdı. Fakat aynı metinde gelişmiş yapay zekâ çiplerinin ve yarı iletken üretim araçlarının Çin’e verilmemesini, Çinli şirketlerin Amerikan modellerinden yararlanmasının engellenmesini ve model ağırlıklarının korunmasını da istedi. Bu politikaların Çin’in ilerlemesini yavaşlatarak ABD’nin üstünlüğünü önümüzdeki üç ila beş yılda artırabileceğini açıkça yazdı.

Ben bunu bir oyun olarak görüyorum. Yapay zekâ şirketleri insanları yapay zekâ insanlığı kıyamete sürükleyecek, öldürecek, bitirecek, yok edecek söylemiyle korkutarak kendilerine bir tekel oluşturmak, bir hegemonya kurmak istiyor. Önce yapay zekâyı nükleer teknoloji kadar tehlikeli bir alana dönüştürecekler. Sonra hangi şirketin hangi seviyeye kadar model geliştirebileceğini, hangi hesaplama kapasitesinin kullanılabileceğini, kimlerin hangi çiplere ulaşabileceğini ve hangi ülkenin yapay zekâ geliştirebileceğini belirleyen bir düzen kurmak isteyecekler.

Bugün hedefte Çin var. Ama mesele Çin değil. Yapay zekâ konusunda ilerleyen herkesi durdurmak istiyorlar. Çin bugün Amerikan şirketleriyle rekabet edebildiği için hedefte. Yarın kendi modelini, veri merkezini, bulut altyapısını ve hesaplama kapasitesini geliştiren Türkiye de aynı sistemin karşısına çıkabilir.

Bu kaygı yalnız dışarıdan yapılan bir yorum değil. Avrupa’daki yapay zekâ şirketleri de Amerikan şirketlerinin yavaşlama çağrılarının mevcut liderlerin konumunu güçlendirebileceği ve yeni oyuncuların önünde giriş engeline dönüşebileceği uyarısında bulunuyor. Aynı Anthropic’in küresel yavaşlama çağrısından günler sonra OpenAI karşısında yeni bir modeli piyasaya sürmeyi değerlendirmesi de dikkat çekici. Bir tarafta yavaşlayalım deniliyor, diğer tarafta model, yatırım ve pazar payı yarışı devam ediyor.

Çin Devlet Güvenlik Bakanı Chen Yixin’in yaklaşımı tam burada önem kazanıyor. Chen, yapay zekâyı küresel teknoloji rekabetinin ana sahalarından ve büyük güçlerin stratejik mücadelesinin yeni alanlarından biri olarak görüyor. Ona göre yapay zekâ yalnız ekonomik bir teknoloji değil; siyasi güvenlik, siber güvenlik, veri ve istihbarat güvenliği, teknoloji egemenliği ve askerî dönüşüm aynı güvenlik mimarisinin parçaları.

Chen’in kullandığı en önemli kavramlardan biri bilişsel savaş. Yapay zekâyla üretilen sahte ses ve görüntülerin, sentetik içeriklerin ve otomatik hesap ağlarının siyasi söylenti üretmek, toplumsal karşıtlıkları büyütmek ve kamuoyunu etkilemek amacıyla kullanılabileceğini belirtiyor. Yapay zekâyı doğrudan kamuoyu savaşı ve bilişsel savaş aracı olarak değerlendiriyor.

Ancak Chen aynı metinde başka bir tehdide daha dikkat çekiyor. Bazı ülkelerin yapay zekâdaki temel araştırma, model mimarisi ve hesaplama gücü avantajlarını millî güvenlik gerekçesiyle teknoloji kontrolüne dönüştürdüğünü; yaptırım listeleri, teknoloji kısıtlamaları, sektör standartlarının tekelleştirilmesi ve kapalı teknoloji ekosistemleri yoluyla diğer ülkelerin teknolojik gelişimini sınırladığını söylüyor. Çin yapay zekânın denetimsiz bırakılmasını savunmuyor. Şi Cinping de yapay zekânın güvenli ve insan denetiminde olması gerektiğini söylerken millî güvenlik kavramının aşırı genişletilmesine ve bir ülkenin güvenliğinin diğerlerinin üzerine çıkarılmasına karşı çıktı.

Bu noktadan Gazze’ye gelmek gerekiyor. Çünkü yapay zekânın gelecekte ne yapabileceğini tartışırken bugün ne yaptığını görmezden gelemeyiz.

Benim asıl itirazım burada. Yapay zekânın tehlikeli olduğunu bugün keşfetmedik. Yapay zekâ 7 Ekim 2023’ten beri tehlikeli.

İsrail ordusunun Gazze’de kullandığı Lavender, Gospel ve Where’s Daddy? sistemlerinin hedef belirleme, kişileri sınıflandırma, saldırılacak yapıların listelerini oluşturma ve hedeflerin konumunu tespit etme süreçlerinde kullanıldığı belgelendi. Human Rights Watch, Lavender ve Gospel’in makine öğrenmesine dayandığını, eksik veriler ve yaklaşık hesaplamalarla çalışan bu sistemlerin siviller açısından ölümcül sonuçlara yol açabileceğini belirtiyor.

Yapay zekâ bu ölümcül hedefleme mimarisinin içindeyken niye insanları korkutmadılar? Niye yapay zekâyı durduralım demediler? Niye yapay zekâ insanlığın en büyük tehdididir denmedi? Gelecekte bir süper zekânın insanlığı yok etme ihtimali üzerinden bütün dünya alarma geçiriliyor ama bugün yapay zekânın savaşta, gözetlemede, siber saldırıda ve bilişsel savaşta oynadığı rol aynı küresel aciliyetle tartışılmıyor.

Türkiye açısından mesele tam burada teknoloji egemenliğine dönüşüyor. Selçuk Bayraktar’ın veri güvenliği, açık kaynak, bağımsız altyapı ve dijital egemenlik üzerinde durması boşuna değil. Bayraktar küresel teknoloji tekellerinin ulusal egemenlik açısından tehdit oluşturabileceğini, açık kaynaklı ve denetlenebilir sistemlerin geliştirilmesi gerektiğini savunuyor. Sanayi ve Teknoloji Bakanı Mehmet Fatih Kacır da yapay zekâ geliştirme kapasitesinin birkaç ülke ve birkaç şirketin elinde toplanmasını insanlığın geleceği açısından tehdit olarak değerlendiriyor.

Çünkü veri başkasınınsa, model başkasınınsa, bulut başkasınınsa, hesaplama gücü başkasınınsa yapay zekâ da tam anlamıyla sizin değildir. Türkiye’nin yapay zekâ bağımsızlığı bir teknoloji tercihi değil, egemenlik meselesidir.

Türkiye’nin yol haritası da somut olmalı. Egemen yapay zekâ kapasitesi kurulmalı. Yerli veri merkezi ve bulut altyapısı büyütülmeli. Kritik kamu verileri ülke içinde tutulmalı. Yerli büyük dil modelleri ve açık kaynak sistemleri desteklenmeli. Kamu ve kritik altyapılarda kullanılan yabancı modellerin veri, model ve bulut bağımlılıkları görünür hale getirilmeli. Yapay zekâ için bağımsız test, sertifikasyon ve denetim kapasitesi kurulmalı. Türkiye Yapay Zekâ Eylem Planı’nın veri merkezi kapasitesini büyütme, uzman yetiştirme ve yerli kapasiteyi güçlendirme hedefi bu yolun altyapısını oluşturuyor.

Çözüm yapay zekâyı denetimsiz bırakmak değil. Çözüm, yapay zekâyı yapay zekâ şirketlerinin denetlemesi de değil. Yapay zekâyı devletler denetleyecek. Hukuku devletler koyacak. Bağımsız kamu kurumları şirketleri denetleyecek. Uluslararası kurallar birkaç Amerikan teknoloji şirketinin kendi arasında belirlediği sınırlar üzerinden değil, devletlerin ve çok taraflı kurumların katıldığı bir sistem üzerinden oluşturulacak.

Yapay zekâ yarışı artık yalnız en güçlü modeli geliştirme yarışı değil. Kimin model geliştirebileceği, hangi ülkenin hangi teknolojiye ulaşabileceği ve hangi modelin güvenli sayılacağı da tartışılıyor. Yapay zekâ çağının kurallarını kimin yazacağı, teknoloji üzerindeki üstünlük mücadelesinin merkezine yerleşiyor.

@Selcuk

@arthurmensch

@MistralAI

@timnitGebru

@mer__edith

@_KarenHao

@AINowInstitute

#YapayZeka #YapayZekaGüvenliği #TeknolojiEgemenliği #DijitalEgemenlik #VeriEgemenliği #BilişselSavaş #MilliTeknolojiHamlesi #Gazze #AISafety #TechSovereignty #AIRegulation