12.000’den fazla önde gelen kişi tarafından imzalanan ve aynı zamanda BM’nin yasaklanması argümanlarıyla bağlantılı, yapay zekalı katil robotların yasaklanması çağrısında bulunan açık mektup , yanlış yönlendirilmiş ve hatta belki de pervasız.
Bekle, yanlış yönlendirildin mi? Pervasız? Biraz bağlam sunayım. Ben bir robotik araştırmacısıyım ve kariyerimin çoğunu askeri robotlar hakkında okuyarak ve yazarak geçirdim ve şu anda şiddetle karşı çıktığım çok korkutucu kampanyayı körükledim.
Hatta tartışmanın ilk günlerinde Uluslararası Robot Silahlarının Kontrolü Komitesi’ne ( ICRAC ) ve Katil Robotları Durdurma Kampanyasına destek veren yüzlerce kişiden biriydim .
Ama fikrimi değiştirdim.
Neden radikal fikir değişikliği? Kısacası, aşağıdakileri fark ettim.
insan bağlantısı
İmzacılar, “onlarca değil, yıllar” içinde yakınınızdaki bir savaş alanına geleceğini söyledikleri “insan müdahalesi olmadan hedefleri seçen ve ateş eden” otonom silahları yasaklamaya çalışan sadece korku tellalları.
Ancak, eleştirel olarak düşündüğünüzde, hiçbir robot insan müdahalesi olmadan gerçekten öldüremez. Evet, robotlar muhtemelen zaten insanlar tarafından kullanılanlara benzeyen karmaşık mekanizmalar kullanarak insanları öldürme yeteneğine sahiptir, bu da insanların ölümcül bir sistemi kullanımdayken denetlemesi gerekmediği anlamına gelir. Ancak bu, döngüde insan olmadığı anlamına gelmez.
Beyni, insanın öğrenmesini ve karar vermesini, bu sistemlerin insanları öldürmeye yaratıcı çözümler üretme yeteneğine sahip göründüğü noktaya kadar modelleyebiliriz, ancak insanlar bu sürece çok fazla dahil olurlar.
Gerçekten de, programcıların, bilişsel bilim adamlarının, mühendislerin ve bu otonom sistemlerin inşasında yer alan diğerlerinin rolünü gözden kaçırmak akıl almaz olurdu. Ve yapsak bile, sistemi kullanma kararını veren komutan, askeri güç ve hükümet ne olacak? Onları da gözden kaçırmalı mıyız?
Zaten otomatik öldürme makinelerimiz var
Yasaklanmak istenen türden silahlarımız zaten var.
Örneğin Avustralya Donanması, uzun yıllardır yakın silah sistemleri ( CIWS ) biçiminde yüksek düzeyde otomatikleştirilmiş silahları başarıyla konuşlandırdı . Bu sistemler esasen, bilgisayar kontrollü bir sistem aracılığıyla otonom olarak veya manuel kontrol altında dakikada binlerce mühimmat ateşleyebilen silahlardır ve su üstü gemilerine gemi karşıtı füzelere karşı son bir savunma sağlamak üzere tasarlanmıştır.
CIWS’ler otonom olarak devreye girdiklerinde arama, tespit, tehdit değerlendirmesi, edinme, hedefleme ve hedef imha dahil olmak üzere normalde diğer sistemler ve kişiler tarafından gerçekleştirilen işlevleri yerine getirir.
İmzacıların mantığını izleseydik, bu sistem açık mektupta verilen tanımın kapsamına girerdi. Ama bu sistemlere karşı çıkan kimseyi duymuyorsunuz. Neden? Niye? Çünkü denizde çok uzaklarda ve yalnızca bir nesnenin düşmanca yaklaştığı, genellikle gemi yönünde hızlı bir şekilde alçaldığı durumlarda kullanılırlar.
Yani, yalnızca masum bir sivili öldürme riskinin normal savaştan çok daha az olduğu ortamlarda ve bağlamlarda kullanılırlar.
Öyleyse neden en özel ve dar koşullarda kullanılmasını şart koşan mevcut yasalara odaklanamıyoruz?
Asıl korku, var olmayan düşünen robotlardır.
Görünüşe göre 12.000’den fazla kişiyi robot karşıtı dilekçeyi imzalamaya motive eden asıl endişe, insan müdahalesi olmadan hedefleri seçen ve onlara saldıran makineler değil, daha ziyade duyarlı robotların gelişimi ile ilgili.
Geçen yüzyılda teknolojideki gelişmeler göz önüne alındığında, düşünen robotlardan korkmak cazip geliyor. 70 yıldan daha kısa bir süre içinde ilk motorlu uçuştan uzay uçuşuna sıçradık, öyleyse neden gerçekten akıllı bir robot (ya da sadece bir insanı sorumlu tutamayacak kadar özerk ama robotun kendisini sorumlu tutacak kadar özerk olmayan bir robot) yaratamıyoruz? ) biraz daha zamanımız varsa?
Bunun asla olmaması için birkaç iyi sebep var. Bir açıklama, bir makine tarafından kopyalanamayan bir ruhumuz olabilir. Bu, manevi tiplerin favorisi olma eğiliminde olsa da, başka doğal açıklamalar da var. Örneğin, belirli beyin süreçlerinin doğası gereği hesaplamalı veya algoritmik olmadığını ve bu nedenle gerçekten kopyalanmasının imkansız olduğunu öne süren mantıklı bir argüman var .
İnsanlar, bugün düşünebileceğimiz herhangi bir sistemin -öğrenme yeteneğine sahip olsun ya da olmasın- programcılarına ve sistem tasarımcılarına kadar uzanan programlama ve yapay zeka programlarının ürünü olduğunu bir kez anladıklarında ve asla olmayacağız. Gerçek düşünen robotlara sahipseniz, katil robotların tamamen yasaklanması argümanının sallantılı bir zemine dayandığı netlik kazanmalıdır.
Kim kurallarına göre oynuyor?
BM yasakları da neredeyse işe yaramaz. Yakın zamanda döşenen bir anti-personel mayına bacağını kaybeden herkese sorun . İşin acı gerçeği, “kötü adamlar”ın oyunu kuralına göre oynamamasıdır.
Artık fikrimi neden değiştirdiğimi anladığınıza göre, katil robot dilekçesine imza atanları bu noktaları not etmeye, konumlarını yeniden gözden geçirmeye ve gerçekten çok yüksek olan şeylerin daha etkili ve pratik bir şekilde düzenlenmesini savunurken “karanlık tarafta” bana katılmaya davet ediyorum. otomatik sistemler.