Yeni teknoloji, insanları ölümcül güç kullanma kararları üzerindeki kontrolü bırakmaya yönlendirebilir. Yapay zeka ilerledikçe, makinelerin bağımsız olarak hedefleri seçip onlara ateş edebilme olasılığı hızla yaklaşıyor . “Katil robotlar” olarak da bilinen tamamen otonom silahlar, hızla bilim kurgu dünyasından gerçeğe doğru ilerliyor.
Karada, havada veya denizde çalışabilen bu silahlar, silahlı çatışmalarda ve kolluk kuvvetlerinde ürkütücü şekillerde devrim yapma tehdidinde bulunuyor. Savunucuları, modern muharebe çok hızlı hareket ettiği ve robotların dövüşmesinin askerleri ve polis memurlarını tehlikeden uzak tutacağı için bu katil robotların gerekli olduğunu söylüyorlar . Ancak insanlığa yönelik tehditler, herhangi bir askeri veya kolluk kuvveti yararından daha ağır basacaktır.
İnsanları hedefleme kararından çıkarmak tehlikeli bir dünya yaratacaktır. Makineler, insan kontrolü dışında ölüm kalım belirlemeleri yapacaktı. Orantısız zarar veya sivillerin hatalı hedeflenmesi riski artacaktır. Hiç kimse sorumlu tutulamaz.
Tamamen otonom silahların ahlaki, yasal ve hesap verebilirlik riskleri göz önüne alındığında, bunların geliştirilmesini, üretilmesini ve kullanılmasını engellemek bekleyemez. Bu tehdidi ele almanın en iyi yolu, anlamlı insan kontrolünden yoksun silahlara uluslararası, yasal olarak bağlayıcı bir yasak koymaktır.
Empati ve yargıyı korumak
En az 20 ülke, BM toplantılarında , hedeflerin seçimini ve katılımını insanların dikte etmesi gerektiği inancını dile getirdi. Birçoğu , baş yazarı olduğum yeni bir raporda ortaya konan argümanları tekrarladı. Rapor, Nisan ayında , tamamen özerk silahların yasaklanması için kampanya yürüten iki kuruluş olan İnsan Hakları İzleme Örgütü ve Harvard Hukuk Okulu Uluslararası İnsan Hakları Kliniği tarafından yayınlandı.
İnsanların silahlar üzerindeki kontrolünü elinde tutmak ahlaki bir zorunluluktur . Empatiye sahip oldukları için, insanlar başka bir bireye zarar vermenin duygusal ağırlığını hissedebilirler. İnsan onuruna saygıları, öldürme konusunda bir kontrol işlevi görebilir – ve olmalıdır.
Buna karşın robotlar, şefkat de dahil olmak üzere gerçek duygulardan yoksundur. Ayrıca cansız makineler, almayı seçtikleri herhangi bir insan yaşamının değerini tam olarak anlayamadılar. Ne zaman güç kullanacaklarını belirlemelerine izin vermek, insan onurunu zedeleyecektir.
İnsan kontrolü, sivilleri ve askerleri aynı şekilde korumak için tasarlanmış uluslararası hukuka uyumu da teşvik eder. Örneğin, savaş yasaları, beklenen sivil zararın beklenen askeri avantajdan daha ağır bastığı orantısız saldırıları yasaklar . İnsanlar geçmiş deneyimlere ve ahlaki değerlendirmelere dayanarak yargılarını uygulayabilir ve orantılılık konusunda duruma göre kararlar verebilirler.
Bununla birlikte, bu yargıyı tamamen özerk silahlarda tekrarlamak neredeyse imkansız olurdu ve tüm senaryoları işlemek için önceden programlanamazlardı. Sonuç olarak, bu silahlar, karmaşık ve öngörülemeyen durumların üstesinden gelmek için geleneksel yasal standart olan “ makul komutanlar ” olarak hareket edemezdi.
Ek olarak, insan kontrolünün kaybı, bir hedefin keyfi olarak yaşamdan mahrum bırakılmama hakkını tehdit edecektir . Bu temel insan hakkının korunması, askeri operasyonların yanı sıra kolluk kuvvetleri sırasında da bir zorunluluktur. Bir saldırının gerekliliğini değerlendirmek için yargılama çağrıları gerekir ve insanlar bunları yapmak için makinelerden daha iyi konumlanmıştır.
Hesap verebilirliği teşvik etmek
Güç kullanma kararlarında bir insanı döngüde tutmak, yasa dışı eylemler için hesap verebilirliğin mümkün olmasını sağlar. Uluslararası ceza hukuku uyarınca, bir insan operatör çoğu durumda bağımsız olarak hareket eden bir silahın neden olduğu zarardan sorumluluktan kaçar. Bir suç işlemek için kasten tam otonom bir silah kullanmadıkça, operatörün ne engelleyebileceği ne de cezalandıramayacağı bir robotun eylemlerinden operatörü sorumlu tutmak adaletsiz ve yasal olarak sorunlu olacaktır.
Mağdurun, suç işlediği iddia edilen bir kişiye karşı dava açtığı, medeni hukuk kapsamında sorumlu programcıların ve tam otonom silah üreticilerinin bulunmasının önünde ek engeller vardır. Örneğin Amerika Birleşik Devletleri çoğu silah üreticisine dokunulmazlık sağlıyor . Ayrıca, bir ürünün kusurlu olduğunu kanıtlamak için üreticiyi yasal olarak sorumlu kılacak şekilde yüksek standartlara sahiptir. Her halükarda, diğer ülkelerden gelen mağdurlar büyük olasılıkla yabancı bir varlığı dava etmek için erişim ve paraya sahip olmayacaklardır. Hesap verebilirlikteki boşluk, yasa dışı eylemlerin caydırıcılığını zayıflatacak ve mağdurları, birinin çektikleri acılardan dolayı cezalandırıldığı konusunda tatminsiz bırakacaktır.
Yakalamak için bir fırsat
Nisan ayında Cenevre’deki bir BM toplantısında, 94 ülke “ölümcül otonom silah sistemleri” hakkında resmi görüşmelerin başlatılmasını tavsiye etti. Görüşmelerde, bu sistemlerin , yanıcı silahlar ve kör edici lazerler de dahil olmak üzere diğer birçok silah türünü düzenleyen veya yasaklayan bir silahsızlanma anlaşması olan Konvansiyonel Silahlar Sözleşmesi kapsamında kısıtlanıp kısıtlanmaması gerektiği ele alınacak. Anlaşmaya katılan ülkeler, gelecekteki çalışmalar için gündemlerini belirlemek üzere bir gözden geçirme konferansı için Aralık ayında bir araya gelecekler. Üyelerin 2017 yılında ölümcül otonom silah sistemleri konusunda resmi bir süreç başlatmayı kabul etmeleri çok önemli.
Silahsızlanma yasası, silahlar üzerinde insan kontrolü gerektiren emsal teşkil etmektedir. Örneğin, uluslararası toplum, biyolojik silahları , kimyasal silahları ve kara mayınlarını büyük ölçüde, insanların etkileri üzerinde yeterli kontrol sağlayamaması nedeniyle yasaklayan geniş çapta kabul gören anlaşmaları kabul etti. Ülkeler şimdi, eşit veya daha büyük bir insani risk oluşturabilecek tamamen özerk silahları yasaklamalıdır.
Aralık ayındaki gözden geçirme konferansında, Konvansiyonel Silahlar Sözleşmesi’ne katılan ülkeler bu hedefe yönelik somut adımlar atmalıdır. Tamamen özerk silahlara yönelik yeni bir uluslararası anlaşmanın müzakerelerini başlatmalı ve genel endişe ifadelerinin ötesine geçerek belirli eylemlere geçmelidirler. 2017’de – en az birkaç hafta – önemli müzakereler için yeterli zaman ayırmalılar.
Uluslararası hukuk oluşturma süreci herkesin bildiği gibi yavaş olsa da, ülkeler tamamen özerk silahların tehditlerini ele almak için hızlı hareket edebilir. İnceleme konferansının sunduğu fırsatı değerlendirmeliler çünkü alternatif kabul edilemez: Teknolojinin diplomasiyi geride bırakmasına izin vermek, korkunç ve benzersiz insani sonuçlar doğuracaktır.