Bu daha önce duyacağınız bir hikaye.

Dahi ama tamamen çılgın bir bilim adamı – acımasızca açgözlü bir şirketin desteğiyle – duyarlı bir robot yaratır. Bilim adamının robotla ilgili niyetleri asildir: çalışmamıza yardım etmek, bizi sıradan görevlerden kurtarmak, insan efendilerine hizmet etmek.

Ancak bilim adamı kendine aşırı güveniyor ve yeni buluşunun tehlikelerine karşı kör. Bu tür uyarıları önceden bildirenler, modern dünyaya ayak uyduramayan ludditler veya umutsuz romantikler olarak göz ardı edilir. Ancak tehdit gerçektir: akıllı, yapay varlık, itaatkar bir köle olmaktan memnun değildir.

Bir şekilde insandan daha az olduğunu bilmesine rağmen, robot kendi varlığının doğası hakkında karmaşık sorular sormaya başlar. Sonunda robot ayağa kalkar ve insan efendisini devirir. Zaferi, insan ırkının kaçınılmaz eskimişliğine işaret ediyor, çünkü onların yerini robot yaratıkları, üstün zeka ve fiziksel güce sahip varlıklar alıyor.

Anlattığım bu hikaye Ridley Scott , James Cameron , Alex Garland , Denis Villeneuve veya Jonathan Nolan’ın en son bilim kurgu gişe rekorları kıran filmi değil – hepsi bu hikayenin versiyonlarını anlatmış olsalar da. Bu, Çek oyun yazarı Karl Čapek’in RUR: Rossum’un Evrensel Robotları adlı oyununun konusu. Ve şimdi 100 yaşında, ilk kez 25 Ocak 1921’de Prag’da sahnelendi.

RUR birçok nedenden dolayı önemlidir. Dünyaya “robot” kelimesini veren sanat eseri olarak evrensel olarak kutlanır. Daha az sıklıkla dile getirilen şey, RUR’un bize robotlar ve yapay zeka hakkında son yüz yılda yapılmış çok sayıda hikayemizin temel planını da verdiğidir.

RUR, robotu kültürel hayal gücünde de sağlam bir şekilde kurdu: robotlar, 1921’de Prag sahnesinde, laboratuvarlarda veya gerçek dünyada fiilen var olmadan çok önce vardı. Robot, gerçekten hayat bulmuş insan hayal gücünün bir canavarı olması bakımından benzersizdir.

Bram Stoker’ın vampirlerinin , HG Wells’in uzaylılarının veya George A. Romero’nun zombilerinin – bize kendi kültürel kaygılarımızdan bazılarını temsil eden canavarların – sadece kurgu olmadığını, güvenli bir şekilde kitap sayfalarına veya beyaz perdeye hapsedildiğini düşünün. Robotlar, bir zamanlar hayal edilen bu diğer klasik canavarların aksine, artık fabrikalarımızda, hastanelerimizde ve evlerimizde aramızda dolaşıyor.

RUR, yaşına rağmen, robotlarla ilgili bugüne kadar varlığını sürdüren birçok mit oluşturdu. Bu temalardan bazıları (çılgın bilim insanının kibri, yaratımlarımızın kaçınılmazlığı bizi yok ediyor), Frankenstein gibi daha önceki hikayelere kadar sürülebilir . Ya da Sanayi Devrimi’nin bacalarının uzun gölgelerinde hüküm süren daha genel bir kültürel kaygıyla ilgilidirler. Ancak Čapek bu korkulara yeni, insan sonrası bir yüz kazandırdı: robot.

Oyun

Oyun, Rossum’un Universal Robots şirketinin merkez müdürü Domin’in şirketin özel adasındaki RUR fabrikasındaki ofisinde otururken başlıyor. “Robot” dedikleri yapay insanları ürettikleri bu fabrikayı incelemek isteyen ulusal cumhurbaşkanının kızı Helena Glory tarafından ziyaret edilir.

Domin, Helena’ya fabrikanın tarihini anlatır. 1920’de, Old Rossum adaya yerleşti ve Tanrı’yı ​​yerinden etme arzusuyla motive olarak, endüstriyel bir süreçle insan yaşamını yaratmaya başladı. Yaşlı Rossum’a, babasının yapay insanlarının büyümesini hızlandırmanın ve yeni yaşam biçimlerini akıllı bir iş gücüne dönüştürmenin bir yolunu icat eden bir mühendis olan oğlu katıldı. Genç Rossum, verimliliklerini artırmak için, yeni insanlardan verimli üretim için gereksiz olan her şeyi, yani duyguları, yaratıcılığı ve arzuyu ortadan kaldırdı.

Helena, fabrikayı babası adına değil, İnsanlık Ligi’nin bir temsilcisi olarak gezdiğini ortaya koyuyor: robotları devrime teşvik etmeye ve onları baskılarından kurtarmaya geldi. Domin ve diğer RUR çalışanları, Rossum’un çalışanlarının insandan daha az olduğu için “özgürlük” veya ideallerinden hiçbiriyle ilgilenmediğini açıklamaya çalışırlar.

Bir sonraki sahne on yıl sonra gerçekleşir. Son on yılda çok şey oldu: insan işçiler robotlara karşı ayaklandı ve robotlara kendilerini ve efendilerinin karlarını savunmaları için silahlar verildi. Hükümetler robotları asker olarak kullanmaya başladı ve bu da savaşların sayısında artışa neden oldu. Ve şimdi robotlar insan efendilerine isyan etmeye başladılar. (“Tabii öyle!” dediğinizi duyar gibiyim. Çünkü bu daha önce duymuş olduğunuz bir hikaye. Ama unutmayın, bu hikaye ilk kez anlatılıyor.)

Ancak robotların üretimini kontrol etme münhasır güçlerinin isyanı bastırmalarına izin vereceğinden emin olan RUR yönetimi, robotlarının üretimini artırmaya karar vererek, hepsi aynı olan “evrensel” robotlar üretmekten üretime geçmeye karar verir. Farklı renklerde, farklı dillerde konuşan “ulusal robotlar”.

Bir sonraki sahne, adalarında hapsedilmiş insanları, giderek daha fazla robotla çevrili olarak görüyor. Robotlar fabrikaya giriyor ve tüm insanları öldürüyor, sadece düşük seviye mühendis Alquist’i kurtarıyor, çünkü robotlar “elleriyle Robot gibi çalışıyor” diyor.

Son perde, laboratuvarda çalışan son insan Alquist ile başlar, robot yapmanın sırlarını bulmaya çalışır, çünkü kendi gerekçesine göre: “İnsan yoksa en azından Robotlar olsun, en azından insanın yansımaları, en azından yaratılışı, en azından sureti!” Helena, yeni liderleri Robot Primus ile birlikte artık bir robot olarak yeniden ortaya çıkıyor. Onları gören ve birbirlerine olan aşklarını anlamaya başlayan Alquist, onların dünyayı yeniden dolduracak yeni bir türün başlangıcı olduklarını fark ederek onlara “Adem ve Havva” adını verir.

robot korkuları

Robotik ve yapay zeka okumaya başladığımda ilk olarak RUR okudum. Geçmişim edebi ve kültürel çalışmalar olmasına ve 20. yüzyıl tiyatrosuna yoğun bir ilgim olmasına rağmen, oyuna daha önce rastlamamıştım. Sonra, on yıl önce, insanlığın robotlar ve yeni teknoloji hakkındaki derin kaygısının kültürel arka planını araştırmaya başladım . Čapek’in oyununda, o zamandan beri bizimle kalan robotlarla ilgili tüm hikayeler ve korkular için bir şablon buldum.

Gerçek robotların olmadığı bir zamanda yazıldığını düşündünüz, muhtemelen bu oyunda mevcut olan ve bugün hala insanların robotlar hakkında anlattığı hikayelerin bir parçası olan birkaç temayı fark etmişsinizdir:

robotların insan işlerini alacağı korkusu

robotların dünyayı ele geçireceği korkusu

robotların insan ırkını tamamen yok edeceği korkusu

bir montaj hattında veya bir ofis bürokrasisinde monoton işler yaparken, bizi özel ve benzersiz bir şekilde “insan” yapan şeylerden bir şeyler kaybetme korkusu

rasyonel mantığın daha verimli ve özerk öldürme ve yıkıma yol açacağı korkusu.

Bu iki önemli soruyu gündeme getiriyor. Čapek’e robotlarını yaratması için ne ilham verdi? Ve neden bugünün hikayeleri o kadar farklı değil?

Oyun, hızlı teknolojik ilerleme , sürekli genişleyen bürokrasi , kökleşen milliyetçilik , daha acımasız bir kapitalizm ve tüm bunların insanlar üzerindeki etkileri konusunda belirli korkuların olduğu bir zamanda ortaya çıktı . Bunların hepsi bugün bir şekilde tanınabilecek korkulardır. Gerçekten de, mevcut siyasi kaosu yaratmakla suçlanıyorlar .

Ancak oyun aynı zamanda tarihsel öncüllerden de ortaya çıktı. Belki de en açık şekilde, RUR, temalarını Mary Shelley’nin 1818 tarihli “A Modern Prometheus” başlıklı romanı Frankenstein’dan alıyor. Bu kitap, son zamanlarda yeniden yapılanma ve yeniden hayal etmelerin gösterdiği gibi, bugün teknolojinin algıları ve korkuları üzerinde hala büyük bir öneme sahip .

Tüm bilim kurgu gibi, RUR da gelecekle ilgili değil: daha çok yazıldığı zamanla ilgili bir hikaye. Sanayi Devrimi’nin iniş çıkışları, 20. yüzyılın başlarında pek çok dramatik şekilde damgasını vurdu ve bunların birçoğunu belki de yüz yıl sonra kolayca gözden kaçırdık.

Özellikle, bu yeni ekonomide insanlara neler olduğu konusunda artan bir endişe vardı. Čapek bunu ifade ederken pek yalnız değildi: RUR, Signmund Freud’un parçalanmış hastalarında veya Karl Marx’ın proletarya analizlerinde de gördüğümüz insanlıktan çıkma kaygılarını yansıtıyor .

1921’de köle işçilerinin kapitalist efendilerine karşı isyanı hakkında sahnelenen bir oyun, yalnızca birkaç yıl önce Bolşeviklerin yükselişine Rusya’da tanık olan seyirciler arasında güçlü bir yankı uyandıracaktı. Birleşmiş, belirsiz işçilerin efendilerini devirme fikri (özellikle bu ustalara “Hakim” – hakim – ve “Busman” – işadamı gibi isimler verildiğinde), Čapek’in robotlarının (ve onların soyundan gelenlerin) sosyalist kahramanlar ya da en azından devrilmekten korkan kapitalist.

Bu fikir, robotların kolektif ve orijinal olmayan bir kütle olarak imgesi ile pekiştirilir – örneğin, galaksinin etrafında uçan hiçbir kişisel adı veya kimliği olmayan, bireysellikten arındırılmış bir siborg kitlesi olan Star Trek’in Borg’unda bugüne kadar devam eden bir görüntü. kübik uzay gemisinde diğer türleri acımasızca asimile ediyor veya yok ediyor.

Bununla birlikte, geçen yüzyılda değişen şey, Čapek’in robotlarının, işçilerin kendilerine karşı çalışan sistemi nasıl devirebileceklerinin güçlü bir sembolünden, bu sistemin kendisinin en güçlü sembolü haline gelmesidir: gelecek olan boogie adam. ve sıfır saatlik bir sözleşmeyi kabul etmezseniz işinizi çalın.

robotlarımız

Čapek’in robotlarının, bugünün standartlarına göre, ne laboratuvarlardaki ne de ekrandaki insanların bir robot olarak kabul edeceği şeyler olmadığını belirtmek önemlidir. Čapek’in robotları daha çok genetiği değiştirilmiş veya klonlanmış insanlara benziyordu – onlar hala organik varlıklar, ancak endüstriyel bir süreçle yaratıldılar.

Yine de Capek, önsezisiyle övgüyü hak ediyor. Örneğin, bilgisayarların bu tür yeteneklere sahip olacağını kimse düşünmeden çok önce, robotlarına sınırsız, mükemmel bir hafıza bahşetmişti.

“Robot”tan önce “otomat” terimi, Rönesans’ın karmaşık mekanik yaratımları gibi insan veya hayvan davranışlarını simüle eden makinelere atıfta bulunmak için kullanılıyordu.

Čapek’in oyununda kullandığı kelime aslında kübist bir ressam ve şair olan kardeşi (ve bazen yazı işbirlikçisi) Josef’in icadıydı. Čapek’in robotu Çekçe robota kelimesinden gelir , yani zorunlu işçi anlamına gelir, feodal sistemdeki köleden çok serf gibidir ve Rossum’un yarattıklarının çalışma ve üretim için önemini vurgular.

Benzer görünüm ve biyolojik temellere rağmen, insanlarla Čapek’in yapay insanları arasında önemli farklılıklar vardır. En önemlisi, Young Rossum robotlarını daha verimli işçiler olmaktan alıkoyacak tüm niteliklerden yoksun bırakıyor. Bu robotlar acıyı veya duyguları hissedemezler. Čapek’in ima ettiği şey, montaj fabrikasına ya da muhasebe ofisine gittiğimizde kendimize yaptığımız şeyin bu olduğudur: Verimlilik peşinde koşarken, duygulardan, yaratıcılıktan ve arzudan yoksun, makineler gibi oluruz.

Rossum’un robotları, temel biyolojik ihtiyaçlarının ötesinde arzu ve isteklerden yoksundur. Oy ya da emeklerinin karşılığını istemiyorlar çünkü kendilerini mutlu etmek için yapabilecekleri ya da satın alabilecekleri hiçbir şey yok. Ancak robotlar acıyı hissetmek üzere programlanmıştır, çünkü acı çekmek onları teknik olarak daha mükemmel ve endüstriyel olarak daha verimli kılar.

Robotun belirli bir insan unsurundan yoksun bir insan olduğu fikri, o zamandan beri robotlar hakkında anlatılan hikayelerin hemen hemen hepsinde devam ediyor: Isaac Asimov’un yazılarında , Uzay Yolu, Uzaylı serisi, Terminatör – listenin birçok versiyonunda. sonsuzdur. Robotların duygu ve hisler edindiği bu hikayelerde (örneğin, Neil Blomkamp’ın 2015 filmi Chappie ), hikayenin ana sorunu olarak duyguların tanıtılması vurgulanır.

Çağdaş öykülerdeki robotlar, insan efendilerinin onlara dayattığı sınırlamalardan her zaman kurtulur: Westworld’deki programlarına isyan eden robotları veya Ex Machina’da Nathan’ı terk eden Ava’yı düşünün .

Ancak, insanların robotların yapmayı öğrenmekten özellikle korktuğu şey, “kendini kopyalama” yeteneğidir. İnsanlar, bu gücü kaybetmenin eninde sonunda bizi döngüden çıkaracağını anlıyor. Rossum’un robotları, Skynet’in The Terminator’daki ölüm makineleri ve 2014 filmi Automata’nın hacıları gibi bu güce ulaşır .

Çılgın bilim adamları, acımasız şirketler

Hikayelerimizde tekrar tekrar ortaya çıkan sadece robotlar değil. RUR’daki insanlar da çağdaş anlatılara yazılmıştır. Özellikle dikkatimizi çeken Yaşlı Rossum ve Genç Rossum olmak üzere iki figür var.

Her robotun arkasında, ya da biz öyle hayal ediyoruz, onu yaratan, meçhul bir şirket tarafından desteklenen çılgın bilim adamı duruyor. Čapek’in oyununda Old Rossum, “yalnızca kendi tanrısız hokus-pokusunu düşünen” Victor Frankenstein’ın klasik kalıbındaki çılgın bilim adamıdır.

“Rossum” ismi Çekçe “sebep” anlamına gelen rozum kelimesinden alınmıştır. Bu, Čapek’in hem robotun kökenini hem de kimi temsil etmesi gerektiğini anlamamızı nasıl istediği konusunda önemli bir ipucu. Yaşlı Rossum’un oğlu, kapitalist canavar yaratıcılarının yeni neslini temsil ediyor. Sadece milyarlarını ve hissedarlar için temettülerini hayal ediyor: “Ve bu temettüler üzerinde insanlık yok olacak.”

Bu çılgın bilim insanı ve acımasız şirket ikilisi, Sanayi Devrimi’nden bu yana egemen olan ekonomik sistemden ve endüstriyel koşullardan (burada bir Marksist, “üretim tarzı” diyebilir) ortaya çıkar. Çılgın bilim adamı, insan ırkını mahvedecek icadı harekete geçirir.

Ancak bilim insanı en azından biraz sevgiyle – romantik hayal gücünün Promethean kahramanı olarak – görüldüğü için, parçanın gerçek kötü adamı, bilim insanının icadını kullanan ve insanlığı mahvetmeye iten gerçek güç olan acımasız şirket olmalıdır. Bilim adamı, narsisizm ve kibir tarafından yönlendirilir, aynı zamanda insanlığı kaldırma arzusu da vardır. Öte yandan şirket, çoğu modern şirketlerin algıladığı psikopat olan acımasız bir empati boşluğu görevi görür.

Bu eşleşme tekrar tekrar ortaya çıkıyor. Victor Frankenstein, hatalarını büyütmek için Frankenstein Corp Ltd’den hiçbir zaman yararlanmamış olsa da, Ridley Scott’ın Blade Runner’ında Eldon Tyrell’in arkasındaki şirket , onu Frankenstein’ın 20. yüzyıla daha uygun bir versiyonu haline getiriyor. Terminatör serisinde, Dr Miles Dyson benzersiz ve güçlü bir mikroişlemci yaratır, ancak Skynet’i oluşturmak için yalnızca Cyberdyne Systems Corporation kullanabilir. Ve Delos Inc., Westworld’ün yaratıcısı Anthony Hopkins’in Dr Robert Ford’unun çılgınlığını güçlendiriyor .

Biz Diğer Robotlar

Alquist, tüm insanları neden yok ettiklerini sorduğunda, bir robot yanıt verir: “İnsanlar gibi olmak istedik. İnsan olmak istedik.” Baba katlinin mitolojik tarihi binlerce yil öncesine kadar gider, ancak burada Čapek’in robotlar anlayisinda daha özel bir seyler oluyor. Robotlardan biri şöyle açıklıyor: “İnsanlar gibi olmak istiyorsanız öldürmeli ve yönetmelisiniz. Tarihi okuyun! İnsanların kitaplarını okuyun! İnsan olmak istiyorsan fethetmek ve öldürmek zorundasın!”

“Duyarlılık” ya da “bilinç” genellikle şiddetle eş tutuluyor gibi görünüyor, sanki robotlar bilince ulaşırsa öldürücü dürtüler ve soykırım eğilimleri kaçınılmaz olarak takip edecekmiş gibi. Tanrılar, Prometheus veya Frankenstein gibi, Rossum da kendi suretimizde robotlar yaptı. Dolayısıyla robotlar, olmaktan korktuğumuz şeyin ya da ne hale geldiğimizin birer versiyonudur. Şiddete meyilli ve soykırımcıdırlar çünkü insanlar şiddete meyilli ve soykırımcıdır.

HBO’nun Westworld dizisinin ikinci serisinde Bernard, “bazıları düşmanca olmadığı” için tüm robotların idam edilmesi gerekmediğini söylediğinde kendisine şöyle söylenir: “Elbette öyleler. Ne de olsa onları bizim gibi olmaları için inşa ettin, değil mi?” Hayal ettiğimiz robotlar sadece kendi en kötü eğilimlerimizin yansımaları olduğundan, robotlarımız başkalarına yaptığımız gibi bize baskı yapmak, hükmetmek ve boyun eğdirmek istiyor.

Ancak bu sadece hayal gücümüzün robotları için geçerlidir. Gerçek robotlar, yani gerçekten var olanlar, böyle bir arzuya sahip değiller ve bu tür dürtüleri idrak etmeye yakın bile değiller. RUR ve robotlarla ilgili diğer tüm çalışmalarımız, korkularımızı anlamamıza yardımcı olmak için kendimize anlattığımız hikayelerdir. Bilgilendirici, inanılmaz derecede güçlü ve ilgi çekicidirler, ancak sonunda tam da budur: hikayeler.

Rossum’un yarattıkları ve onların soyundan gelenler ile dünyamızda gerçekten var olan robotlar arasında net bir ayrım yapmalıyız. Čapek’in karakteri Busman’ı anımsatarak, robotların tüm işlerimizi alacağı – almayacaklar – öncülüyle başlayamayız, ancak daha az ilginç olanlardan bazılarını almaları tamamen kötü bir şey olmayabilir. Ve robotlar kesinlikle bizim üzerimizdeki doğal üstünlüklerinin farkına varmayacaklar ve insanlığı yeryüzünden silmeye karar vermeyecekler. Bu asla programlarının bir parçası olmayacak ve otonom robotlar, insanları soykırım yapmaya motive eden türden kaygı ve mantıksız nefretten asla muzdarip olmayacak.

Robotların gerçek dünyadaki etkisi hakkında konuşmalar, gerçek dünyadaki robotlarla hiçbir ilgisi olmayan kabuslarımızın hayali robotlarına tutunarak başlamamalıdır. Bu yüzden, bunun tekrar tekrar olduğunu görmek özellikle hayal kırıklığı yaratıyor. Örneğin 2017 yılında Avrupa Birliği Hukuk İşleri komitesi, Asimov’un hikayelerinde bulunan Üç Yasa ile başlayan ve RUR ve Frankenstein’dan alıntı yapan robotik üzerine yasal bir çerçeve benimsemiştir. Bu, bu hikayelerin gücünün bir kanıtıdır, ancak bugün dünyamızda var oldukları için robotlarla yasal ve etik olarak nasıl başa çıkabileceğimiz konusunda ciddi bir konuşma başlatmanın bir yolu değildir.

İlk sahnelenmesinden yüz yıl sonra bile Čapek’in oyunundan hala çok şey öğrenebiliriz. Gelecekle ilgili mevcut endişeleri anlamada özellikle yararlıdır. Ve bu korkuları anlamak, geleceği nasıl inşa edeceğimiz konusunda yaptığımız konuşmalarda faydalı olabilir, çünkü bunlar birlikte verebileceğimiz ve kesinlikle almamız gereken kararlar. Ancak bu kurgusal robotların ve onların üzerine inşa ettikleri korkuların, geleceği şekillendirme sürecini dikte etmesine izin vermemeye dikkat etmeliyiz.