Yıldız fizikçi Stephen Hawking, güçlü yapay zeka (AI) sistemlerinin yükselişinin insanlığın sonunu getirebileceğine dair endişelerini yineledi. 19 Ekim’de Cambridge Üniversitesi’nin İstihbarat Geleceği Merkezi’nin açılışında yaptığı konuşmada, AI’nın başımıza gelebilecek en iyi şeylerden biri olma potansiyeline eşit derecede sahip olduğunu kabul etti.
Peki, insanlığı varoluşsal riske atabilecek süper akıllı makineler yaratmanın eşiğinde miyiz ?
Yapay zekanın insanlık için bir patlama olacağına, sağlık hizmetlerini ve üretkenliği artıracağına ve ayrıca bizi sıradan görevlerden kurtaracağına inananlar var. Bununla birlikte, akademi ve endüstrideki en sesli liderler, kendi yaratımlarımızın bize sırt çevirme tehlikesinin gerçek olduğuna ikna olmuş durumda. Örneğin Tesla Motors ve SpaceX’in kurucusu Elon Musk, şeytani bir yapay zekanın insanlığın sonunu getirmesini önlemek için Amazon gibi teknoloji devlerinin katkılarıyla milyar dolarlık kar amacı gütmeyen bir şirket kurdu . Berkeley , Oxford ve Cambridge gibi üniversiteler sorunu çözmek için enstitüler kurmuştur. Bill Joy, Bill Gates ve Ray Kurzweil gibi armatürler alarmı yükseltti .
Bunu dinlerken, çok geç olmadan harekete geçmezsek, sonumuz gerçekten yakın gibi görünüyor.
Teknoloji endüstrisinin rolü
Yoksa bilim kurgu ve endüstri kaynaklı yutturmaca daha iyi muhakemenin üstesinden gelmiş olabilir mi? Sinik, AI kıyamet vizyonunun dini oranlar aldığını söyleyebilir. Tabii ki, kıyamet vizyonları genellikle bir kurtuluş yolu ile gelir. Buna göre Kurzweil , anılarımızı dijitalleştirecek nanobotlar aracılığıyla yakında neredeyse ölümsüz olacağımızı iddia ediyor . Ve Musk kısa süre önce, Matrix’e benzer bir bilgisayardaki simülasyonlar olduğumuzun neredeyse kesin olduğunu ve “programlarımızın” yüzyıllarca korunabileceği ve yeniden yapılandırılabileceği daha zengin bir kapsayıcı gerçeklik olasılığını sunduğunu ilan etti.
Teknoloji devleri, kendilerini ya insanlığı yok etme ya da parlaklıklarıyla bizi ölümsüz kılma gücüne sahip modern tanrılar olarak konumlandırdılar. Bu ikili vizyon, egoları beslediği için teknoloji dünyasında şamandıra – bir kişinin çalışmasının, bildiğimiz şekliyle tarihin sona ereceği kadar hızlı bir yeniliği başlatabileceğine inanmaktan daha büyük bir kibir olabilir mi? Artık teknoloji figürleri sadece iş liderleri olarak değil, insanlığın ve ötesinin geleceğini belirleyecek seçilmiş birkaç kişi olarak gösteriliyor.
Kıyamet Günü araştırmacıları için, “varoluşsal tehdit” ilanları sadece bir eylem çağrısı değil, aynı zamanda cömert fonlar ve teknoloji seçkinleriyle omuz omuza verme fırsatı da çekiyor.
Peki, akıllı makinelerin bizi öldürmesi , kurtarması veya sadece bizi işe götürmesi daha mı muhtemel ? Bu soruyu cevaplamak için bir adım geri atıp AI’da gerçekte neler olduğuna bakmak yardımcı olur.
yutturmaca altında
Google’ın DeepMind tarafından Go oyununda bir insan uzmanı yenmek için yakın zamanda kullanılanlar gibi temel teknolojiler, 1980’lerde geliştirilen teknolojilerin basitleştirilmesidir. Yaklaşımda niteliksel bir gelişme olmamıştır. Bunun yerine, performans kazanımları daha büyük eğitim setlerine (büyük veri olarak da bilinir) ve artan işlem gücüne bağlanabilir. Değişmeyen şey, çoğu makine sisteminin bir tür hedefi maksimize ederek çalışmasıdır. Bir oyunda amaç basitçe kazanmaktır, ki bu resmen tanımlanmış (örneğin satrançta şahı ele geçirmek). Oyunların (dama, satranç, Go) yapay zekanın dayanak noktası olmasının bir nedeni budur – amaç fonksiyonunu belirlemek kolaydır.
Diğer durumlarda, hedefi tanımlamak daha zor olabilir ve işte bu noktada yapay zeka yanlış gidebilir. Bununla birlikte, AI’nın kötülükten ziyade yetersizlik nedenleriyle yanlış gitmesi daha olasıdır. Örneğin, Soğuk Savaş sırasında ABD nükleer cephaneliğinin Sovyetler Birliği’nin sinsi saldırısını engellemek için bir yapay zekanın kontrolü altında olduğunu hayal edin. Sovyetler Birliği’nin hiçbir müdahalesi olmadığı için cephanelikte bir nükleer reaktör erimesi meydana gelir ve elektrik şebekesi geçici olarak çöker. AI’nın sensörleri, kesintiyi ve serpintiyi algılayarak sistemin bir saldırının devam ettiğini anlamasını sağlar. Başkan, sisteme titrek bir sesle geri çekilmesini söyler, ancak AI sorunlu sesi başkanın zorlandığına kanıt olarak alır. Füzeler serbest bırakıldı. İnsanlığın sonu.
AI sadece programlamasını takip ediyordu ve bu da feci bir hataya yol açtı. Bu tam olarak Soğuk Savaş sırasında insanların neredeyse yaptığı ölümcül hatalardır . Yıkımımız, kötü bir AI’nın bize karşı dönmesinden ziyade kendi beceriksizliğimize atfedilebilir – bir jumbo jette arıza yapan ve talihsiz yolcularını kıyamete gönderen bir otomatik pilottan farklı değil. Buna karşılık, insan pilotlar yolcularını bilerek öldürdüler, bu yüzden belki de kendi kendini süren arabaları memnuniyetle karşılamalıyız.
Elbette insanlar öldürmek için yapay zeka tasarlayabilirler, ama yine bu, kendini bilen bir makine değil, insanlar birbirini öldürüyor. Batılı hükümetler, kritik endüstriyel altyapıyı hedeflemek için Stuxnet gibi bilgisayar virüslerini zaten yayınladılar . Gelecekteki virüsler daha akıllı ve ölümcül olabilir. Bununla birlikte, bu, esas olarak, insanların birbirlerini öldürmek için mevcut teknolojileri kullandığı tarihin yayınını takip eder.
Yapay zekadan kaynaklanan gerçek tehlikeler var ama bunlar doğası gereği ekonomik ve sosyal olma eğilimindedir. Akıllı yapay zeka toplum için muazzam bir zenginlik yaratacak, ancak birçok insanı işsiz bırakacak . Sanayi devriminden farklı olarak, makineler mümkün olan her işte daha iyi olabileceğinden, toplum kesimleri için iş olmayabilir. Boşluğu kapatmak için bir yedek “AI tamircisi” işi olmayacak. Dolayısıyla asıl zorluk, AI tarafından yerinden edilenlere (çoğumuz?) nasıl düzgün bir şekilde yardım edileceği olacaktır. Diğer bir konu da, makineler sağlık çalışanları gibi tüm emek sınıflarını kalıcı olarak yerinden ettiği için insanların birbirlerine bakmayacakları gerçeği olacaktır.
Neyse ki hükümetler, incelikli tavsiyeleri dinlemeyi seçerlerse, teknoloji ünlülerinden daha sağduyulu olduklarını kanıtlayabilirler. Örneğin, Birleşik Krallık Avam Kamarası Bilim ve Teknoloji Komitesi tarafından AI risklerine ilişkin yakın tarihli bir rapor, ekonomik, sosyal ve etik kaygılara odaklanmaktadır. Alınan mesaj, AI’nın endüstriyi daha verimli hale getireceği, ancak aynı zamanda toplumu istikrarsızlaştırabileceğiydi.
İnsanlığın geleceği hakkında endişeleneceksek, hayali katil AI robotları yerine iklim değişikliği ve kitle imha silahları gibi gerçek zorluklara odaklanmalıyız.