Şimdiye dek yapay zekâyla ilgili ne okuduysam işin bilimsel yanı tamamdı, yani Kurzweil’a göre her şey tekilleşecek mesela, yapay zekâyı üretmek için insan beynini tersine mühendislikle incelemek büyük yol aldıracak, Kaku’ya göre Tip 2 denen uygarlığı kurmak için gereken süreyi uzun vadede de olsa ortaya çıkabilecek yapay zekâyla kısaltmak mümkün falan filan. Bunlar hoş ama yapay zekâya etik, ahlak, edep, hayâ, nasıl olacak bu iş? Max Tegmark bu işe en çok kafa yoran isimlerden biri, kitabında insanlığın ortadan kalkabileceği senaryolara yer verip öd patlatmaktan başka, konuyla ilgili önemli etkinlikler düzenleyerek yapay zekânın insanla ilişkisi üzerine ciddi ciddi düşünülmesini sağlamış, Elon Musk’ın da katıldığı toplantılardan çıkan kararlara kitabının sonunda ayrı bir yer ayırmış. Nihayetinde bu karar alıcılar mühendis, felsefenin alanına daha çok giren uygulamaları oluşturacaklar da neyi nasıl uygulayacaklar? Bu kısım eksikti, Bostrom’un kallavi kitabıyla boşluk doldu. Oxford’da varoluşsal risk ve antropik ilke üzerine çalışan Bostrom yapay zekâyla uğraşan önemli insanlarla görüşüp bir yol haritası çizmiş, ihtimallerle tehlikeleri ayrı ayrı ele almış, insanın ötesine uzanarak karar alma mekanizmalarının nasıl işleyebileceğini uzun uzun anlatmış. Oldukça uzun ve teferruatlı, sabrımın tükendiğini hissetmeye başlayınca kitabı bitirmeseydim yapay zekânın her haltı yemesinde mahzur görmeyecektim. Bostrom yapay zekâ çalışmalarının tarihiyle başlıyor mevzuya, bilim insanlarının bu mühim buluşun ne zaman ortaya çıkacağıyla ilgili görüşleriyle devam ediyor. Farklı bir şey yok, yetkili abilere göre 2100’e kadar üreteceğiz bu zıkkımı, yapay zekânın davranış örüntüsünü belirlemek için çok vaktimiz yok. Önce insan düzeyinde makine zekâsı üretmek gerekiyorsa da bunu ürettikten sonra yapay zekâ için çok beklememiz gerekmeyecek, işler bir noktadan sonra müthiş hızlanıyor. Zekânın evrimi bu yollardan biri ama azıcık düzeltme şart, evrimin insan zekâsını bir kez ortaya çıkarması bu -görünürde- kaynak israfının bir kez daha gerçekleşeceğini garantilemediği gibi yan etkilerden de emin olamıyoruz, dolayısıyla beyinden türetilmiş bazı iç görülerle evrimi birleştirmek daha iyi bir sonuca yol açacakmış gibi görünüyor. Tamamen sentetik tasarımlar nöromorfik yaklaşımlarla desteklenmeli, kuşların uçmasında kanatların etkisini gören mucitlerin uçağı inşa ettikleri zaman biyolojiden fiziğe varan bir yolu takip ettiklerini söylüyor Bostrom, varılacak noktaysa nasıl daha iyi uçabileceğini düşünen, kendini geliştiren yapay bir kuş diyelim. Bunu nasıl geliştirebileceğimizin yolları da düşünülmüş, süper zeki insanlarla dolu bir dünyada yapay zekâyı daha çabuk bulabiliriz ama genetik müdahaleler gerekiyor bunun için, tartışmalı mevzu. Kolektif zekâyı eğer uygun bir platform geliştirebilirsek işleri hızlandırmada kullanabiliriz, bazı yerlerde iyice bilimkurguya kayıyor Bostrom’un anlattıkları. Üç tür süper zekâ olabilirmiş, hızlı süper zekâ kendisi kadar hızlı araçlara ihtiyaç duyacak, bant genişliğine göre etkinliğini daha da hızlandırabilecek, tabii dış dünyadaki olaylar yavaş çekimde gerçekleşen olaylar gibi gözükecek ona, icadından sonraki saliseler içinde kendimizi bir anda moleküllerimize ayrılmış olarak bulabiliriz. Kolektif süper zekâ, adı üstünde. Nitelikli süper zekâysa en azından bir insan zihni kadar hızlı ve niteliksel açıdan çok daha akıllı bir sistem, esas üzerinde durulan bu. Üstünlükleri neler olacak, bir kere müthiş hızlı, depolama kapasitesi muazzam, ömrü de çok uzun. Bu teknolojinin ortaya çıkışına “havalanma” diyor Bostrom ve üç senaryonun dünya çapında yol açabileceği etkileri inceliyor, özetlemek gerekirse yavaş havalanmada devletlerin müzakere edebilecekleri zamanları olacak, yapay zekâ araştırmacıları daha sağlıklı bir şekilde gözlemlenebilecek, hızlı havalanmada insanlığın hazırlıkları seyri belirleyecek, orta karar havalanmadaysa insanlık yapay zekâya siyasi ve teknolojik açıdan hazır olmasa da o güne dek geliştirdiği sistemlerle bir şeyler yapabilir. Bazı buluşlar dünyanın farklı yerlerinde, aynı zamanda ortaya çıkmış, yapay zekâda mevzu ne olur? Bir saniye bile fark edecektir, önce bulan her şeyi kazanır gibi görünüyor da zekânın ilerleyeceği yön konusunda bir şey söylemek zor, diktatörlük veya demokratik cennet, belki de ikisinin karışımı bir şey. Bostrom’a göre IQ’su 6455 olan bir yapay zekânın gerçekte ne yapabileceğine dair hiçbir fikrimiz yok, belki de IQ testinden müthiş bir puan alabilecek algoritmaları olacak bu nanenin, başka da hiçbir şeyi olmayacak. Satranç şampiyonlarını yenenlerin Dyson küresi yapamayacağı malum. Kafalı olanların ne yapacaklarını düşünebiliriz, tehlike olarak görülmediğimiz müddetçe bizi ortadan kaldırmayacaklar muhtemelen, kullanabilecekleri şekilde değerlendirecekler. “İnsan beyinleri, eğer yapay zekânın hedefleriyle alakalı bilgi içerirse, parçalara ayrılıp incelenebilir ve çıkarılan bilgi daha verimli ve güvenli bir depolama formatına nakledilebilir.” (s. 120) Süper, kimse bir şey öğrenmezse arıza çıkmaz diye taş yonttuğumuz zamanlara döneriz. Başka ne yaparlar, teknolojilerini kusursuzlaştırmak için von Neumann sondaları üretirler, kaynakları tüketirler, en düşük maliyetle büyük işler başarırlar. “Yeterli zekâya sahip olan dost canlısı olmayan bir yapay zekâ dostane olmayan nihai hedeflerini gerçekleştirmenin en iyi yolunun ilk başta dostane davranmak olduğunu, bu sayede kutudan kurtulabileceğini anlar. Dost canlısı olmayan yüzünü gösterecek şekilde davranmaya ancak bizim anlayıp anlamadığımızın artık önemi olmadığında, yani yapay zekâ insanın karşı koymasını etkisiz hale getirecek kadar güçlü hale geldiğinde başlayacaktır.” (s. 143) Ex Machina kalp kırıcıydı mesela, iyi bir örnek. Başka sorunlar da çıkabilir, yüzümüzü güldürmesini istediğimiz zamazingo yüz kaslarımızı sürekli gülümseyeceğimiz şekilde felce uğratabilir. Bağlam nedir, anlam nedir, bunları vermek gerekiyor. Kâğıt kıskacı fabrikasında üretimi azamiye çıkarmaya çalışan bir yapay zekâ önce yeryüzünü, sonra evrenin ulaşabildiği noktalarını kâğıt kıskacına dönüştürürse üzülürüz.
O kadar kapsamlı bir kitap ki diğer başlıklara değinip geçmeliyim artık, “ilk asil-vekil problemi” denen arızada projenin finansörleriyle beyinleri arasında birtakım sorunlar çıkıyor ortaya, filmlerde örneği mevcut gerçi, robot yapmamız için para veren adam robota istediği gibi emir verebilir ama bir arka kapı bırakmışızdır, oradan girip robotun kontrolünü ele geçirebiliriz. Yeterlilik kontrol yöntemleri veya güdüleme seçilimi yöntemleriyle bu ikilik ortadan kaldırılabilir. Teoride. Ödül ve ceza sistemlerinin müthiş teknolojik halleri var bu başlıkta. Güdük bırakmadan bahsediliyor mesela, yapay zekânın ulaşmak istedikleriyle arasına engel koyarız, bu da yapay zekânın orijinal yollar bulmasına yol açar, insan o kadar zeki olmadığı için bazı şeyleri düşünemez ve farkında olmadan arka kapı bırakır yapay zekâ için. Bir örnek vermiş Bostrom, ıbık cıbık bir şeyi radyo sinyallerini yayan bir gerece dönüştüren program mı varmış ne, kısacası bu arkadaşlara karşı müthiş dikkatli olmalıyız. Dünyayı değiştirecekler tabii, ülkelerin arasında muazzam uçurumlar ortaya çıkacak. Otomasyonla ilgili kısımdan başka Malthusçu koşul ekseninde dünya nüfusu da inceleniyor, mülkiyeti bir de otomasyon bağlamında düşünmemiz gerekecek. Bostrom bir yerde Taliban’ın gelişen teknoloji karşısında dinî inancı bırakarak teknolojiden faydalanabileceğini söylüyor, açıkçası pek ihtimal vermiyorum, toplumsal hareketler sonucunda bir şeyler değişirse Taliban boyun eğecek veya ortadan kalkacaktır. Vatandaşlık maaşı da söz konusu olacaktır tabii, ıskartaya çıkarılan hayatların sürmesi için kaynakların dağıtılması kaçınılmaz hale gelecek diyorum ve kitabın esas mevzusuna gelmeden bitiriyorum, yapay zekânın insanlığı yok etmeden nasıl var olabileceğini, nasıl programlanması gerektiğini görmek isteyenler için süper kaynak bu kitap.
