UNIDIR, otonom silahlarda bağlayıcı anlaşma çağrısını yineledi

Birleşmiş Milletler Silahsızlanma Araştırmaları Enstitüsü (UNIDIR) Direktörü Robin Geiss, 20 Ekim'de New York'taki BM Genel Merkezi'nde yaptığı açıklamada, askeri yapay zekâ kullanımının insan muhakemesine bırakılan alanı daralttığını söyledi. Geiss, ölümcül otonom silah sistemlerine ilişkin hukuken bağlayıcı bir anlaşma yapılması çağrısını yineledi. Açıklama, kabul edilmiş yeni bir anlaşmayı veya yürürlüğe girmiş bir yasağı duyurmuyor; uluslararası düzenleme ihtiyacını gündeme getiriyor.

Otonom silahlar, hedefi insanın doğrudan komutu olmadan seçip vurabilen sistemlerdir. Askeri yapay zekâ, yalnızca kendi başına hedefe yönelen silahlardan oluşmuyor. İstihbarat verilerinin incelenmesi, hedeflerin belirlenmesi, insansız araçlar ve siber operasyonlar da tartışmanın içinde. Bu araçlar karar sürecini hızlandırırken, insanların önerileri hangi bilgiye dayanarak değerlendireceği ve gerektiğinde müdahale edip edemeyeceği sorusu öne çıkıyor.

UNIDIR, aynı dönemde hükümetler, şirketler ve diğer ilgili kesimler arasında görüşme zeminini genişletmeye yönelik çalışmalarını da açıkladı. BM İnsan Hakları Yüksek Komiserliğiyle yürütülen sanayi sorumluluğu çalışması, askeri yapay zekâ geliştiren şirketler için gönüllü ilkeler hazırlamayı amaçlıyor. Bağlayıcı anlaşma çağrısıyla bu gönüllü çalışma birbirinden farklı. İlki devletlerin üzerinde uzlaşacağı hukuki çerçeveyi, diğeri teknolojiyi tasarlayanların uygulamalarını ele alıyor.

Karar hızlandıkça denetimin içeriği önem kazanıyor

Geiss'in uyarısı, insanların karar sürecinde görünür biçimde bulunmasının her zaman yeterli olmayabileceğine işaret ediyor. Anadolu Ajansının aktardığı değerlendirmede, karar döngülerinin makine hızına yaklaşması ve sistemlerin şeffaf olmayan yapısı öne çıkıyor. Kısa sürede gelen çok sayıda öneriyi onaylamak, bu önerilerin gerekçelerini incelemekle aynı şey değil.

Bu nedenle insan denetiminin nasıl tanımlandığı önem taşıyor. Operatöre hangi bilgiler sunuluyor, hatalı öneri nasıl fark ediliyor ve müdahale için ne kadar zaman kalıyor? Bunlar bir sistemin yalnızca teknik performansını değil, sorumluluğun nerede ve kim tarafından üstlenildiğini de belirleyen sorular.

Tasarım kararları sahadan önce veriliyor

UNIDIR'in 28 Ekim'de yayımladığı değerlendirme, şirketlerin rolünü sistemin kullanımından çok daha erken bir aşamaya yerleştiriyor. Bir modelin hangi verilerle geliştirildiği, nasıl sınandığı ve ne ölçüde kendi başına çalışabildiği, tasarım sırasında alınan kararlara bağlı. Kurum, yazılım ve donanım geliştirilirken hukuki kuralların da tasarıma yansıtılmasını savunuyor.

Bu gönüllü çalışma, şirketler, devletler ve diğer ilgili kesimler için ortak beklentiler belirlemeyi amaçlıyor. UNIDIR'in açıklamasına göre bu çalışma; geliştirme, kullanım ve bakım gibi aşamalarda sorumlu davranışın ne anlama geldiğini somutlaştıracak. Çalışmaya katılmak, tek başına bağlayıcı bir taahhüt altına girmek veya bir ürünün hukuka uygunluğunun onaylanması anlamına gelmiyor.

Şirketlerin teknik rolünün büyümesi, devletlerin sorumluluğunu ortadan kaldırmıyor. UNIDIR'in değerlendirmesi bu noktayı özellikle ayırıyor. Sistemi geliştirenle kullanan arasındaki sözleşme, kamu otoritesinin hangi yükümlülükleri taşıdığı sorusunun yerine geçemez.

Ortak kurallar için ortak dil gerekiyor

Askeri yapay zekâ başlığı altında çok farklı araçların konuşulması, düzenleme tartışmasını zorlaştırıyor. Bir lojistik tahmin sistemiyle insanı hedef alabilen otonom bir silahın doğurduğu riskler aynı değil. Kapsam açıklanmadan yapılan genel vaatler, hangi kullanımın hangi denetime tabi tutulacağını belirsiz bırakabilir.

Denetimin uygulanabilirliği için kayıtların kim tarafından inceleneceği ve sistem beklendiği gibi çalışmadığında hangi yetkilinin devreye gireceği de önceden belirlenmeli. Aksi hâlde genel ilke, olay anında kullanılabilecek bir yönteme dönüşmeyebilir.

UNIDIR'in girişimleri bu nedenle hem uluslararası görüşme zemini hem uygulama düzeyindeki teknik sorular bakımından izlenmeli. Bağlayıcı bir anlaşmayı destekleyen açıklamalar, anlaşmanın yapıldığı anlamına gelmez. Gönüllü ilkeler de uygulanmaları ve sonuçları görülmeden etkili bir denetim düzeni sayılmaz.

Türkiye açısından tartışma, savunma teknolojilerinin geliştirilmesiyle bunların nasıl sınanacağı ve denetleneceğinin birlikte ele alınmasını gerektiriyor. Yazılımın hangi koşullarda güvenilir olduğu, hata kayıtlarının tutulması ve insanın müdahale yetkisi, ürünün sonuna eklenen ayrıntılar olarak görülemez. Geiss'in çağrısının asıl ağırlığı, bu kararların teknoloji yaygınlaşmadan önce açıklığa kavuşturulması ihtiyacında yatıyor.