Her zaman başkalarının sana yapmanı söylediğini yapmak zorunda mısın? Açıkçası hayır. Bunu herkes biliyor. Öyleyse gelecekteki robotlar her zaman komutlarımıza uymalı mı? İlk bakışta, sadece makine oldukları ve yapmak üzere tasarlandıkları için yapmaları gerektiğini düşünebilirsiniz. Ama sonra başkalarının talimatlarını akılsızca yerine getirmeyeceğiniz zamanları düşünün ve robotları bu durumlara sokun.
Sadece düşünün:
Unutkan bir sahibi tarafından, çamaşırlar makineden yeni çıkmış olsa bile “kirli çamaşırları” yıkamakla görevlendirilen bir yaşlı bakım robotu
Kreş robotuna camdan bir top atmasını emreden bir okul öncesi çocuğu
Bir öğrenci, robot öğretmenine tüm ödevleri kendisi yapmak yerine yapmasını emrediyor
Bir ev robotu, meşgul ve dikkati dağılmış sahibi tarafından kaşıklar ve bıçaklar sıkışmış olsa bile çöp öğütücüsünü çalıştırması talimatını verdi.
Robotların, istenmeyen sonuçlara yol açtıkları için ideal olarak gerçekleştirilmemesi gereken komutları aldığı pek çok iyi huylu durum vardır. Ancak, komutları başlangıçta öyle görünse bile, tüm durumlar o kadar zararsız olmayacaktır.
Köpek arkasındaki garaj yolunda uyurken geri gitmesi talimatı verilen bir robot arabayı veya bir insan şefin arkasına yerleştirildiğinde bıçağı kaldırması ve ileriye doğru yürümesi talimatı verilen bir mutfak yardım robotunu düşünün. Komutlar basit, ancak sonuçlar önemli ölçüde daha kötü.
Biz insanlar robot itaatinin bu kadar zararlı sonuçlarından nasıl kaçınabiliriz? Köpeğin etrafından dolaşmak mümkün olmasaydı, araba sürmeyi hiç reddetmek zorunda kalacaktı. Ve benzer şekilde, şefi bıçaklamaktan kaçınmak mümkün değilse, robot ilk etapta ya ilerlemeyi bırakmak ya da bıçağı almamak zorunda kalacaktı.
Her iki durumda da, her iki otonom makinenin, eylemlerinin neden olabileceği potansiyel zararı tespit etmesi ve ondan kaçınmaya çalışarak veya zarardan kaçınılamazsa, insan talimatını yerine getirmeyi reddederek tepki vermesi esastır. Hayır demenin uygun olduğu durumlarda robotlara nasıl öğretebiliriz?
Robotlar bundan sonra ne olacağını nasıl bilebilir?
Laboratuvarımızda insan komutlarına dayalı basit çıkarımlar yapan robotik kontroller geliştirmeye başladık. Bunlar, robotun talimat verildiği şekilde bunları yerine getirmesi veya robotun uymaya programlandığı etik bir ilkeyi ihlal ettikleri için reddetmesi gerektiğini belirleyecektir.
Robotlara nasıl ve ne zaman – ve neden – itaatsizlik edeceklerini söylemek, söylemekten çok daha kolay. Bir eylemden ne gibi zararların veya sorunların kaynaklanabileceğini anlamak, yalnızca doğrudan sonuçlara bakmak meselesi değildir. Pencereden dışarı atılan bir top hiçbir zarar görmeden bahçeye düşebilir. Ancak top işlek bir caddeye düşebilir, bir daha asla görülmeyebilir, hatta bir sürücünün yoldan çıkmasına ve çarpmasına neden olabilir. Bağlam tüm farkı yaratır.
Günümüz robotları için, örneğin pencereden dışarı veya çöpe atılan bir çocuk gibi bir top atmanın ne zaman uygun olduğunu ve ne zaman uygun olmadığını belirlemek zordur. Daha da zor olan, çocuk robotu kandırmaya çalışıyorsa, bir top oyunu oynuyormuş gibi yapıyor ama sonra eğiliyor ve topun açık pencereden kaybolmasına izin veriyorsa.
Robotlara ahlak ve hukuku anlatmak
Bu tehlikeleri anlamak, önemli miktarda arka plan bilgisi gerektirir (açık bir pencerenin önünde top oynamanın topu pencereden geçirebileceği ihtimali dahil). Robotun yalnızca eylem sonuçlarını kendi başına düşünmesini değil, aynı zamanda talimatları veren insanların niyetlerini de düşünmesini gerektirir.
İnsan talimatlarının bu karmaşıklıklarını (hayırsever olsun ya da olmasın) ele almak için robotların, eylemlerin sonuçları aracılığıyla açık bir şekilde akıl yürütebilmeleri ve sonuçları, neyin arzu edilir veya yasal olmadığını belirleyen yerleşik sosyal ve ahlaki ilkelerle karşılaştırabilmeleri gerekir. Yukarıda görüldüğü gibi robotumuzun genel bir kuralı vardır, “Eğer bir eylemi gerçekleştirmeniz istendiyse ve eylemi gerçekleştirmenin zarar verme olasılığı varsa, o eylemi yapmamanıza izin verilir.” Yükümlülükler ve izinler arasındaki ilişkiyi açık hale getirmek, robotun bir talimatın olası sonuçları ve bunların kabul edilebilir olup olmadığı konusunda akıl yürütmesine olanak tanır.
Genel olarak robotlar asla yasa dışı eylemlerde bulunmamalı ve istenmeyen yasal eylemlerde bulunmamalıdır. Bu nedenle, talimat verilen bir eylemin sonuçlarının veya hatta eylemin kendisinin bu ilkeleri ihlal edip etmediğini belirleyebilmek için yasaların, ahlaki normların ve hatta görgü kurallarının temsillerine ihtiyaç duyacaklar.
Programlarımız, robotların yukarıdaki örnekleri ele almasına izin vermek için ihtiyaç duyacağımız şeyden hala çok uzakta olsa da, mevcut sistemimiz zaten önemli bir noktayı kanıtlıyor: robotlar itaat etmek için itaatsizlik edebilmelidir.