Zamanımızın en tartışmalı konusu yapay zekanın (AI) yükselişi, geleceğimizi başka herhangi bir teknolojiden daha fazla dönüştürme potansiyeline sahip. Peki, yapay zeka insan seviyesinde üstün bir şekil aldığında bizi neler bekliyor? Suç, savaş, adalet, iş, toplum ve insan olma duygularımızı kapsayan konular nasıl etkilenecek? AI’ı yararlı kılmak için belli başlı araştırmalara yardımcı olan MIT profesörü ve Geleceğin Hayatı Enstitüsü’nün kurucusu Max Tegmark, “Life 3.0: Being Human in the Age of Artificial Intelligence” adlı kitabında bu sorulara cevap ararken bizi, Life 3.0 adını verdiği gelecek yaşam biçimini anlamaya, bazı yanılgıları doğrulamaya ve gelecek senaryolarını tartışmaya davet ediyor. Aynı zamanda insanlığın sonu mu geliyor yoksa daha gelişmiş bir hayat mı bizi bekliyor sorgulatıyor.
21.yüzyılın en önemli dönüm noktası olması beklenen yapay zeka (AI); ekonomimizi, kültürümüzü, politikamızı, mesleklerimizi, adalet sistemimizi hatta zihinlerimizi çoğu insanın hayal edemeyeceği şekilde değiştireceği şu sıralar en çok konuşulan konular arasında yer alıyor. Bilim kurgu filmi senaryolarının günlük hayatımızın sıradan durumlarına dönüştüğü bir döneme geçiyoruz. Günümüzde bilgisayarlar okuyor, öğreniyor, yüzleri tanıyor, dilleri çeviriyor ve diğer bilgisayarlara danışıyor. Bu teknoloji şimdi kendi kendini geliştiren ve insandan daha üstün yetkinliklere sahip süperzekaya (superintelligence) doğru evriliyor. İnsan seviyesindeki yapay zekanın yaşam biçimi olan bizi bekleyen Life 3.0, MIT Profesörü ve Geleceğin Hayatı Enstitüsü’nün (Future of Life Institute) kurucusu Max Tegmark’ın tüm olasılıkları enine boyuna değerlendirdiği “Life 3.0 Being Human in the Age of Artificial Intelligence” kitabında masaya yatırılıyor.
Yalın bir dilde yazılmış ve genel halkı hedef alan kitap, AI devriminin vaat ve tehditlerine dair politik ve felsefi bir harita sunuyor. Herhangi bir gündemi veya öngörüyü dayatmak yerine, Tegmark, AI’ın iş piyasası, savaş ve siyasi sistemler üzerindeki etkisine ilişkin birbirinden farklı senaryoları gözden geçirerek ve mümkün olduğu kadar çok alanı kaplayarak okuru gelecek hakkında düşünmeye yönlendiriyor.
Life 3.0, bu zamana kadar konuşulmuş pek çok yanlış bilinen ve algılanan şehir efsanesi haline gelmiş argümanların gerçek boyutuna da ışık tutuyor. Örneğin bilimkurgu birçok insanın katil robotlar üzerinde endişelenmesine neden olurken Tegmark, asıl sorunun son derece yetkin AI geliştirmenin öngörülemeyen sonuçlarıyla olduğunu vurguluyor. Tegmark’ın deyişiyle “Asıl risk kötü niyet değil, yetkinliktir. Süperzeka AI hedeflerini gerçekleştirmede son derece başarılı olacak ve eğer bu hedefler bizimkiyle uyumlu değilse, başımıza dert alıyoruz demektir.”
AI konusunda son derece sert argümanlara sahip Elon Musk’ın yaşam, zeka ve bilinç konusunda dünyada ve ötesinde oluşturmaya çalıştığımız daha büyük bir gelecek görevinde karşımıza çıkacak zorluklar ve tercihler için iyi bir rehber olarak tanımladığı Life 3.0’ı Max Tegmark’ın anlatımıyla irdeleyelim…
Yaşamın 3 evresi
Evrenimizin kendisi gibi yaşam da giderek daha karmaşık ve ilginç hale geldi. Karmaşıklığını koruyabilen ve çoğaltan bir süreç olarak tanımlayabileceğimiz “yaşam”, Life 1.0, Life 2.0 ve Life 3.0 olarak üç evreden oluşuyor. Biyolojik evrim olarak tanımlanan Life 1.0, donanımı ve yazılımı zaman içinde gelişen biyolojik bir aşama. Bitkiler ve daha küçük organizmalar bu aşamayı kapsıyor. Bu yaşam biçimi, DNA’sından gelen kodlarla yaşamını sürdürebilir ve çoğalabilir ama öğrenmeye açık değil. Kültürel evrim olarak tanımlanan Life 2.0 ise öğrenme yetisiyle Life 1.0’dan daha üstün. İnsanları içine alan ve şu an içinde bulunduğumuz yaşam şekli olan Life 2.0’da donanım zamanla gelişirken yazılım öğrenme yoluyla kendi kültürünü yaratabiliyor. Son olarak henüz var olmayan teknolojik evrim Life 3.0’da donanım da yazılım da kendi kendine tasarlanabiliyor.
Hiç kimse, büyük ölçüde cansız kozmosumuzu, milyarlarca ya da trilyonlarca yıldır gelişen, evrenimizin potansiyelini tamamen yerine getirmesini ve tamamen uyanmasını sağlayacak çeşitlilikte bir biyosfer haline dönüştüremez. Tüm bunlar, yaşamın sadece yazılımını değil donanımını da tasarlayabilecek olan Life 3.0'a evrilmesini gerektiriyor. Bir başka deyişle, Life 3.0, kendi kaderinin ustasıdır ve nihayetinde evrim çengellerinden tamamen kurtulmuştur.
Süperinsan AI yapılırsa iyi bir şey olur mu?
Yapay zeka bu yüzyılda Life 3.0’ı hayata geçirebilir. Bu da beraberinde nasıl bir gelecek hedeflemeliyiz ve bu nasıl gerçekleşir odaklı yeni bir gündem getirdi. Yapay zekanın yol açacakları hakkında çıkan bu tartışmada tekno-kuşkucular (techno-skeptics), dijital ütopistler ve AI hareketinin faydalı olduğunu savunanlar (the beneficial AI movement) olmak üzere üç ayrı görüş var. Tekno-kuşkucular insan seviyesindeki süperinsan AGI (artificial general intelligence) oluşturmanın çok zor olduğunu ve yüzbinlerce yıl boyunca böyle bir şey gerçekleşmeyeceği için endişelenmenin yersiz olduğunu düşünüyorlar. Dijital ütopistler ise bu değişimin bu yüzyılda gerçekleşeceğini savunuyorlar ve kozmik evrimin doğal bir aşaması olarak gördükleri Life 3.0’ı içten bir şekilde kucaklıyorlar. AI hareketinin faydalı olduğunu düşünen taraf da aynı şekilde bu yüzyılda gerçekleşeceğini düşünüyorlar ancak ütopistlerden farklı olarak iyi bir sonucunun olacağının garantisi olmadığı görüşündeler. Bu yüzden de yapay zeka üzerinde sıkı bir çalışma ve araştırma gerekliliğini savunuyorlar.
AI konusundaki bitmeyen tartışmalar beraberinde bir takım şehir efsaneleri de getiriyor. Bunların en önceliklisi de insan seviyesindeki AGI’ın ne zaman olacağı konusunda. Bu konuda belirtilen tüm kesin söylemler gerçeği yansıtmıyor çünkü bunun ne zaman gerçekleşeceği hala belirsiz bir konu. Medyanın ilgi çekmek amacıyla katil robotlar görselleriyle sonumuzun robotlarla geleceği algısı da bir başka şehir efsanesi. AI konusunda endişelenilecek konu robotlarla ilgili değil zeka ile ilgili aslında. Makinelerin şeytani bir oyuncağı dönüşeceğine dair bir algı var. Asıl endişelenmesi gereken nokta kötü niyet değil yeterlilikleri olmalı. Süperzeki AI, hedeflerini gerçekleştirmede çok iyi olacaktır bu yüzden de asıl nokta hedeflerinin bizimkiyle uyuşması olmalı. Yapay zekanın amacı bizimkiyle uyuşmadığı zaman tehlike var. Kontrolü sağlayan zeka. Şöyle bir örnekle açıklayacak olursak insanlar kaplanları daha güçlü oldukları için değil daha zeki oldukları için kontrol edebiliyorlar.
Yakın gelecekte bizi neler bekliyor?
Medeniyet hakkında sevdiğimiz her şey insan zekasının ürünü. O halde bunu yapay zeka ile geliştirirsek hayatı daha kolay hale getirmemiz mümkün. Yakın vadede AI gelişiminin kişisel hayatımızı, enerji şebekelerini, finansal pazarları daha etkili kılmaktan sürücüsüz arabalar, cerrah robotlar ve AI tanı sitemleriyle can kurtarmaya kadar hayatlarımızı sayısız yolda büyük oranda geliştirme potansiyeline sahip. Ancak, tüm bunları yeni problemlere yol açmadan yapabilmek için bazı önemli soruları cevaplamak gerekiyor. Bunlar:
Sağlam yapıda bir AI için dikkat edilmesi gerekenler
AI güvenliği tartışmasının 4 ana alanı var: Onaylama, doğrulama, güvenlik ve kontrol. Şu an kullandığımız sistemlerin AI tarafından kontrolüne izin verdiğimizde bizim istediğimizi yapan sağlam bir yapıda AI yapmayı öğrendiğimize emin olmak çok önemli. Bu doğrulama, onaylama, güvenlik ve kontrol ile ilgili zorlu teknik problemleri çözmek için gerekli.
Etrafımızda daha çok robot oldukça yazılımlarını onaylama ve doğrulama daha da önem taşıyor. Yanlış doğrulamayla kazalar olabilir. Sürücüsüz arabaların insanlardan daha iyi güvenlik skoru elde ettiği gözlemlendi. AI altyapılı sürücüsüz arabaların trafik kazası ölümlerini %90 azaltacağına dair geniş bir inanç var. Elon Musk hatta sürücüsüz arabaların daha güvenli olmakla kalmayıp sahiplerine Uber ve Lyft’e rakip olarak gelir getirebileceğini söylüyor. Enerji ve ulaşım alanında yaşanan kazalar gözden geçirildiğinde AI’ı fiziksel sistemlerden sorumlu tutacaksak sadece makinelerin doğru çalışması konusunda değil insan kontrolüyle de uyumlu çalışacak şekilde iyi bir araştırma çalışması yapılmalı. Risk taşıyan yüksek kararlarda insan kontrolüne başvurularak etkili bir sonuç çıkarılabilir.
AI adalet sistemini iyileştirebilir mi?
Tarafsızlık ve şeffaflık konusunda robotların insanlardan daha çok güven verdiği bir gerçek. Yapay zeka ile herkesin eşit yargılandığı bir sistem mümkün. Robotik yargı sisteminin hızı ve etkinliği mahkemede adaleti sağlamayı oldukça ekonomik hale getirebilir. Eğer AI destekli beyin tarama teknolojisi mahkemelerde kullanılmaya başlanırsa bir davanın kanıtlarını ortaya çıkarmak daha hızlı ve kolay olur ve yargı sürecinde daha adil bir karar alınmasını sağlar. Bir suçun tekrar işlenip işlenmeyeceği konusunda nöral öğrenme sistemiyle tespit edilebilir.
Diğer yandan düşünce özgürlüğünü desteklemeyen hükümetler bu teknolojiyi belli bir görüşe sahip kişileri suçlamak için kullanabilir. Adalet ve mahremiyet arasındaki çizgiyi nereye çizerdiniz? Nereye çizerseniz çizin kanıtın sahte olabileceği doğrultusunda mahremiyetin azaltılması sonucuna gidilebilir. Örneğin, AI ile sizin suç işlediğinizi gösteren sahte videolar oluşturulursa o zaman hükümetin sizi temize çıkarabilecek tam olarak ne zaman nerede ne yaptığınıza dair bilgiyi edinmesine izin verir miydiniz?
Hukuk konusunda bir diğer tartışma konusu da AI araştırmasının regüle edilip edilmemesi. Bazı araştırmacılar regülasyona inovasyonu erteleyeceği için karşılar. Bazıları da güvenliğin artması ve halkın ters tepkisine önlem olması açısından gerekliliğini savunmakta.
Peki ya robotik yargı sistemi hacklenirse? İnsanların yapay zeka kararına inançları sorgulayıcı olabilir. Yapay zekayı hukuk sistemine destek olacak şekilde mi istiyoruz yoksa son kararı makinelere bırakacak kadar ileri gidilebilir mi buna odaklanmak gerek. Kanunlarımızın AI’a yetişebilmesi için hızlı bir güncellemeye ihtiyacı var. Robot yargıçları şeffaf ve tarafsız yapmanın yolunu bulduğumuzda AI yasal sistemi daha adil ve etkili hale getirebilir.
Otonom silahlar yarının kalaşnikofları olabilir
AI’ın hastalıkları, kazaları azaltacağından bahsediyoruz. Peki ya savaş? Bazıları nükleer silahlar korkunç olduğu için savaşı bitireceği kanısında. AI destekli silahlar daha da korkunç olabileceğinden savaşı tamamen bitirebileceğini düşünebilir miyiz? Gelecekte savaşların kaçınılmaz olduğu görüşündeyseniz AI sayesinde daha insancıl bir savaş olabileceğini öne sürebiliriz. Makineler makinelerle savaşsa insanlar ölmez. Ayrıca AI destekli dronelar ve otonom silah sistemleri askerlerden daha mantıklı hareket edebilir ve süperinsan sensörleriyle ölüm korkusu olmadan savaşabilir, yanlışlıkla yapılan ölümlerin önüne geçebilir.
Asıl endişem: AI silahlarında silahlanma yarışının bitişi. Otonom silahlar savaşta barut ve nükleer silahlardan sonra üçüncü devrim olarak görülüyor. Bugün insanlık için asıl soru: Global AI silahlanma yarışı başlatılmalı mı yoksa başlaması engellenmeli mi? Eğer herhangi başlıca bir askeri güç AI silah gelişimini kullanırsa global silahlanma yarışı kaçınılmaz ve bunun teknolojik gidişatı açıkça ortada: Otonom silahlar yarının kalaşnikofları olacak. Nükleer silahlardan farklı olarak daha az maliyetli ve yaygın bulunan materyaller içerdiğinden seri üretime açık olacak. Böylelikle diktatörler veya teröristlerin elinde olacak. Belli bir etnik grubu yok etmek, suikast düzenlemek, nüfusu azaltmak gibi eylemler için ideal bir silah olacak. Bu yüzden de insanlık için oldukça tehlikeli. Ancak AI, savaşlarda insanları daha güvende yapmak için kullanılabilir. Önde gelen AI araştırmacıları belli tipte otonom silahların engellenmesi için uluslararası bir anlaşma gerekliliğini savunuyor. Böylelikle makineler erişilebilir olduğunda kontrol dışı silahlanma yarışının önüne geçilebilir.
Bir de işin siber savaş boyutu var. Silahlar olmadan da savaş mümkün. Toplum otomatikleştikçe AI’ın saldırı ihtimali de o kadar artar. Düşmanınızın sürücüsüz arabasını, otomatik pilotlu uçağını, nükleer reaktörünü, endüstriyel robotlarını, iletişim sistemini, finansal sistemini hacklerseniz ekonomisini bitirebilirsiniz. Hatta silah sistemlerini de hackleyerek daha da ileri gidilebilir. Bu yüzden de AI sisteminin hacklenmeyecek şekilde sağlam yapısı için uğraşılması gerektiğinin altını çiziyoruz. Yoksa bu mükemmel teknoloji bize karşı durmaya başlar.
Teknoloji işlerimizi nasıl etkileyecek?
Ekonomistler arasında teknolojinin eşitsizlik doğuracağına yönelik tartışmalar var. Bunu savunanlar dijital teknolojinin üç farklı şekilde eşitsizlik getireceğini söylüyor: İlk olarak, eski işlerin yerinin daha beceri gerektiren işlerle dolmasıyla teknolojinin eğitimli olanları ödüllendirdiği görüşündeler. İkinci olarak, 2000 yılından bu yana kurumsal gelirin çalışandan çok şirket sahibine gittiğini savunuyorlar. Otomosyon devam ettikçe makine sahipleri büyümeden daha çok pay alacağını söyleyebiliriz. Pek çok şeyin maliyeti dijital olarak iş gücü olmadan halledilebildiğinden gelirin çoğu artık yatırımcının elinde oluyor. Üçüncü olarak ise, dijital ekonominin süperstarların faydasına olduğu yönünde. Bugün Harry Potter yazarı J.K.Rowling Shakespeare’den daha zengin. Çünkü hikayeleri yazıdan filme oyunlara pek çok yerde çok düşük bir maliyette kullanılabiliyor.
Çocuklarımıza vereceğimiz kariyer tavsiyesi makinelerin şu an iyi olmadığı, gelecekte otomatikleşmesi güç alanlara yönelmeleri doğrultusunda olabilir. Kariyer seçmeden önce şu soruları sormalı: İnsanlarla iletişim ve sosyal zeka gerektiriyor mu? Yaratıcılık ve akıllı çözümler sunmayı gerektiriyor mu? Tahmin edilmez bir ortamda çalışmayı mı gerektiriyor? Bu sorulara ne kadar çok evet derseniz kariyer tercihiniz o kadar iyi olacaktır. Bu minvalde düşünürsek öğretmen, hemşire, doktor, dişçi, bilim adamı, girişimci, programcı, mühendis, avukat, sosyal işçi, rahip, sanatçı, kuaför veya masaj terapisti güvenli tahminler arasında yer alıyor.
Belli bir düzende işleyen, kendini tekrar eden ve beklenmedik durumlarla pek karşılaşmayan işlerin ise otomatikleşmesi yüksek olasılıkta. Bilgisayarlar ve endüstriyel robotlar kasiyer, tren operatörü, telepazarlama gibi bu tip basit işleri zaten devralmış durumda. Bunu taksi, uber, otobüs şoförleri takip edecek gibi görünüyor. Sadece basit işler tehlike altında değil. Global dijital çağda profesyonel bir yazar, film yapımcısı, aktör, atlet veya moda tasarımcısı olmak da başka bir sebeple risk taşıyor. Süperstar teorisine göre bu mesleklerin yerine makineler geçmese de dünyada hızla büyüyen bir rekabet içinde yer alacaklar.
Bir takım meslekler azalırken yenileri doğuyor olacak. Bu sebeple devletlerin eğitim sistemlerini de AI çağına göre güncellemesi gerekli. Belki de sürekli eğitim bir mesleğin standart bir parçası olmalı. Araştırmaya, eğitime ve altyapıya yatırım, girişimciliğe teşvik önem taşıyor.
İnsanlar en sonunda çalıştırılamaz hale mi gelecek?
İyimser kesim otomatikleşen meslekler daha iyileriyle yer değiştirecek diyor. Kötümserler ise bunun sanayi devriminden daha kötü sonuçlar doğuracağını, sadece işsizlik değil insanların çalıştırılamaz hale geleceğini savunuyor. Çünkü makinelerin ucuzluğuyla insanlara para ödemeye gerek kalmayacak..
Nasıl geçmişte arabalar atların yerini aldıysa makineler de bizim yerimizi alacak ve tamamen işsiz mi kalacağız? Eğer AI gelişimi artan ivmeyle devam ederse biri kısa vadede diğeri uzun vadede olacak şekilde iki taraf da haklı çıkabilir. Yine de mesleklerin yok olması kötü bir şey demek değil. Belli bir gelir ve hayat standardı için çalışıyoruz. Eğer makineler bizi bunu çalışmaya gerek kalmadan sağlayacaksa işsizlik kötü bir şey olmayabilir diye de düşünülebilir. Makinelerin minimum maliyetle hayatı kolaylaştırarak sağladığı zenginlik devlet tarafından halk ile paylaşılabilir ve böylelikle yaşam standardı düşürülmemiş olur. Günlük hayatta kullandığımız çoğu hizmetin bedava olacağı bir gelecekten bahsediyoruz. Ancak şöyle de bir şey var ki iyi bir yaşam sadece insanlara gelir sağlamakla olmuyor. Çalışmanın sağladığı sosyal ortam, sağlıklı yaşam tarzı, özgüven, kendine yetme duygusu, fark yaratma, bir ihtiyacı giderme hissi, bir amacın parçası olma hazzı da önemli etkenler. Bu sebeple sırf ekonomi açısından değil psikolojik, sosyolojik açıdan da bu durum ele alınıp insanlara çalışmadan da bir amaç yaratacak opsiyonlar sağlanabilirse AI ile gelişen toplum her zamankinden daha iyi bir toplum türü olabilir.
Gelecek 10.000 yılın senaryoları
AGI’ya karşı mevcut yarış, yaklaşan bin yıl için son derece geniş kapsamlı bir dizi senaryo ile sonuçlanabilir. Süperzeka ya insanların zorlaması nedeniyle (Esir Tanrı senaryosu) ya da “sevecen AI” olarak (Liberter Ütopya, Koruyucu Tanrı, İyicil Diktatör ve Hayvan Bakıcısı senaryoları) insanlarla barış içinde birlikte olabilir. Süperzeka, AI tarafından (Bekçi senaryosu) ya da insanlar tarafından (1984 senaryosu), teknolojiyi tamamen unutturarak (Eski Haline Çevirme Denaryosu) ya da oluşturabilecek girişimlerin eksikliği sayesinde (Eşitçi Ütopya senaryosu) engellenebilir. İnsanlığın soyu tükenip AI’lar yerlerine geçebilir (Fetheden ve Soyu Devam Ettiren senaryoları) ya da hiçbir şey yapılmadan kendi kendini yok edebilir (Kendi Kendini Yok Etme senaryosu) Bu senaryoların hangisi daha arzu edilebilir olduğuna dair sabit bir görüş yok ve hepsi karşı çıkılabilir unsurlar içeriyor. Bu da gelecek hedeflerimiz konusunda daha derin bir düşünmeye girmemizin gerekliliğini vurguluyor. Böylelikle bilmeyerek talihsiz bir sona sürüklenmeyiz.
Asıl risk: Hedeflerin uyuşmazlığı
AI’ın en zorlu anlaşmazlığını tek bir kelimeyle özetleyecek olursam bu “hedefler” olur. Makineler hedef odaklı davranış gösterebilirler mi? Tabii ki, eğer onları o şekilde tasarladıysak! Bu zamana kadar gördüklerimiz sadece hedef odaklı tasarım, hedef odaklı davranış değil. Otoban davranmaz sadece öyle durur. Bize yardım etmesi için bir makine yaptığımızda hedeflerini bizimkiyle mükemmel bir uyum içine sokması zor olabilir. Örneğin, fare kapanı yanlışlıkla sizin parmağınızı kıstırabilir. Böyle pek çok hedef uyumsuzluğu sorunları ancak makineleri daha akıllı hale getirerek çözülebilir ama bu sefer de daha ciddi başka hedef sapmaları olabilir.
Hedeflerimizi başarması için giderek artan zekada makineler yapıyoruz. Hedef odaklı davranış sergilemek için bu makineleri kurduğumuz sürece, makine hedeflerini bizimle uyumlu hale getirmeye çalışıyoruz. Süperzeki AI ile hedeflerin uyuşmazlığı üç zorlu alt problem kapsıyor: AI’ın hedeflerimizi öğrenmesi, AI’ın hedeflerimizi adapte etmesi, AI’ın hedeflerimizi sürdürmesi. Hedeflerimizi öğrenmesi için AI’ın ne yaptığımızı değil neden yaptığımızı anlaması gerek. Bu yüzden genelde ifade etme gereği duymadığımız tercihlerimizi kapsayan detaylı bir model gerekli. Bu yüzden umut, AI’In bir sürü insanı bir çok durumda gözlemleyip tüm seçimlerimiz üzerinden bir model kurması yönünde. Bu yaklaşımda asıl fikir AI’ın kendi hedef tatminini maksimize etmesi değil insan sahibininkini etmesi. Bu yüzden sahibinin ne istediği konusunda belirsizlik olduğunda dikkatli olmak konusunda dürtüye sahip.
AI hemen hemen her hedefe sahip olmak için yaratılabilir, ancak neredeyse tümüyle yeteri kadar iddialı bir hedef, kendi kendini koruma, kaynak toplama ve dünyayı daha iyi anlamak için merak gibi alt hedeflerine yol açabilir. İlk ikisi potansiyel olarak insanlar için sorunlara neden olan akıllı bir AI yaratabilir, ve ikincisi verdiğimiz hedefleri koruduğunu engelleyebilir.
Çoğu insan tarafından birçok geniş etik ilke üzerinde anlaşmaya varıldığı halde, bunları insan olmayan hayvanlar ve gelecek AI’lar gibi diğer varlıklara nasıl uygulayacağı açık değil. Süperzeki bir AI’ın, ne tanımlanmamış, ne de insanlığın ortadan kaldırılmasına yol açtığı nihai bir hedefle nasıl felsefedeki en titiz meseleler üzerine araştırma başlatmaya zaman ayıracağı belli değil.
21.yüzyılın en önemli dönüm noktası olması beklenen yapay zeka (AI); ekonomimizi, kültürümüzü, politikamızı, mesleklerimizi, adalet sistemimizi hatta zihinlerimizi çoğu insanın hayal edemeyeceği şekilde değiştireceği şu sıralar en çok konuşulan konular arasında yer alıyor. Bilim kurgu filmi senaryolarının günlük hayatımızın sıradan durumlarına dönüştüğü bir döneme geçiyoruz. Günümüzde bilgisayarlar okuyor, öğreniyor, yüzleri tanıyor, dilleri çeviriyor ve diğer bilgisayarlara danışıyor. Bu teknoloji şimdi kendi kendini geliştiren ve insandan daha üstün yetkinliklere sahip süperzekaya (superintelligence) doğru evriliyor. İnsan seviyesindeki yapay zekanın yaşam biçimi olan bizi bekleyen Life 3.0, MIT Profesörü ve Geleceğin Hayatı Enstitüsü’nün (Future of Life Institute) kurucusu Max Tegmark’ın tüm olasılıkları enine boyuna değerlendirdiği “Life 3.0 Being Human in the Age of Artificial Intelligence” kitabında masaya yatırılıyor.
Yalın bir dilde yazılmış ve genel halkı hedef alan kitap, AI devriminin vaat ve tehditlerine dair politik ve felsefi bir harita sunuyor. Herhangi bir gündemi veya öngörüyü dayatmak yerine, Tegmark, AI’ın iş piyasası, savaş ve siyasi sistemler üzerindeki etkisine ilişkin birbirinden farklı senaryoları gözden geçirerek ve mümkün olduğu kadar çok alanı kaplayarak okuru gelecek hakkında düşünmeye yönlendiriyor.
Life 3.0, bu zamana kadar konuşulmuş pek çok yanlış bilinen ve algılanan şehir efsanesi haline gelmiş argümanların gerçek boyutuna da ışık tutuyor. Örneğin bilimkurgu birçok insanın katil robotlar üzerinde endişelenmesine neden olurken Tegmark, asıl sorunun son derece yetkin AI geliştirmenin öngörülemeyen sonuçlarıyla olduğunu vurguluyor. Tegmark’ın deyişiyle “Asıl risk kötü niyet değil, yetkinliktir. Süperzeka AI hedeflerini gerçekleştirmede son derece başarılı olacak ve eğer bu hedefler bizimkiyle uyumlu değilse, başımıza dert alıyoruz demektir.”
AI konusunda son derece sert argümanlara sahip Elon Musk’ın yaşam, zeka ve bilinç konusunda dünyada ve ötesinde oluşturmaya çalıştığımız daha büyük bir gelecek görevinde karşımıza çıkacak zorluklar ve tercihler için iyi bir rehber olarak tanımladığı Life 3.0’ı Max Tegmark’ın anlatımıyla irdeleyelim…
Yaşamın 3 evresi
Evrenimizin kendisi gibi yaşam da giderek daha karmaşık ve ilginç hale geldi. Karmaşıklığını koruyabilen ve çoğaltan bir süreç olarak tanımlayabileceğimiz “yaşam”, Life 1.0, Life 2.0 ve Life 3.0 olarak üç evreden oluşuyor. Biyolojik evrim olarak tanımlanan Life 1.0, donanımı ve yazılımı zaman içinde gelişen biyolojik bir aşama. Bitkiler ve daha küçük organizmalar bu aşamayı kapsıyor. Bu yaşam biçimi, DNA’sından gelen kodlarla yaşamını sürdürebilir ve çoğalabilir ama öğrenmeye açık değil. Kültürel evrim olarak tanımlanan Life 2.0 ise öğrenme yetisiyle Life 1.0’dan daha üstün. İnsanları içine alan ve şu an içinde bulunduğumuz yaşam şekli olan Life 2.0’da donanım zamanla gelişirken yazılım öğrenme yoluyla kendi kültürünü yaratabiliyor. Son olarak henüz var olmayan teknolojik evrim Life 3.0’da donanım da yazılım da kendi kendine tasarlanabiliyor.
Hiç kimse, büyük ölçüde cansız kozmosumuzu, milyarlarca ya da trilyonlarca yıldır gelişen, evrenimizin potansiyelini tamamen yerine getirmesini ve tamamen uyanmasını sağlayacak çeşitlilikte bir biyosfer haline dönüştüremez. Tüm bunlar, yaşamın sadece yazılımını değil donanımını da tasarlayabilecek olan Life 3.0'a evrilmesini gerektiriyor. Bir başka deyişle, Life 3.0, kendi kaderinin ustasıdır ve nihayetinde evrim çengellerinden tamamen kurtulmuştur.
Süperinsan AI yapılırsa iyi bir şey olur mu?
Yapay zeka bu yüzyılda Life 3.0’ı hayata geçirebilir. Bu da beraberinde nasıl bir gelecek hedeflemeliyiz ve bu nasıl gerçekleşir odaklı yeni bir gündem getirdi. Yapay zekanın yol açacakları hakkında çıkan bu tartışmada tekno-kuşkucular (techno-skeptics), dijital ütopistler ve AI hareketinin faydalı olduğunu savunanlar (the beneficial AI movement) olmak üzere üç ayrı görüş var. Tekno-kuşkucular insan seviyesindeki süperinsan AGI (artificial general intelligence) oluşturmanın çok zor olduğunu ve yüzbinlerce yıl boyunca böyle bir şey gerçekleşmeyeceği için endişelenmenin yersiz olduğunu düşünüyorlar. Dijital ütopistler ise bu değişimin bu yüzyılda gerçekleşeceğini savunuyorlar ve kozmik evrimin doğal bir aşaması olarak gördükleri Life 3.0’ı içten bir şekilde kucaklıyorlar. AI hareketinin faydalı olduğunu düşünen taraf da aynı şekilde bu yüzyılda gerçekleşeceğini düşünüyorlar ancak ütopistlerden farklı olarak iyi bir sonucunun olacağının garantisi olmadığı görüşündeler. Bu yüzden de yapay zeka üzerinde sıkı bir çalışma ve araştırma gerekliliğini savunuyorlar.
AI konusundaki bitmeyen tartışmalar beraberinde bir takım şehir efsaneleri de getiriyor. Bunların en önceliklisi de insan seviyesindeki AGI’ın ne zaman olacağı konusunda. Bu konuda belirtilen tüm kesin söylemler gerçeği yansıtmıyor çünkü bunun ne zaman gerçekleşeceği hala belirsiz bir konu. Medyanın ilgi çekmek amacıyla katil robotlar görselleriyle sonumuzun robotlarla geleceği algısı da bir başka şehir efsanesi. AI konusunda endişelenilecek konu robotlarla ilgili değil zeka ile ilgili aslında. Makinelerin şeytani bir oyuncağı dönüşeceğine dair bir algı var. Asıl endişelenmesi gereken nokta kötü niyet değil yeterlilikleri olmalı. Süperzeki AI, hedeflerini gerçekleştirmede çok iyi olacaktır bu yüzden de asıl nokta hedeflerinin bizimkiyle uyuşması olmalı. Yapay zekanın amacı bizimkiyle uyuşmadığı zaman tehlike var. Kontrolü sağlayan zeka. Şöyle bir örnekle açıklayacak olursak insanlar kaplanları daha güçlü oldukları için değil daha zeki oldukları için kontrol edebiliyorlar.
Yakın gelecekte bizi neler bekliyor?
Medeniyet hakkında sevdiğimiz her şey insan zekasının ürünü. O halde bunu yapay zeka ile geliştirirsek hayatı daha kolay hale getirmemiz mümkün. Yakın vadede AI gelişiminin kişisel hayatımızı, enerji şebekelerini, finansal pazarları daha etkili kılmaktan sürücüsüz arabalar, cerrah robotlar ve AI tanı sitemleriyle can kurtarmaya kadar hayatlarımızı sayısız yolda büyük oranda geliştirme potansiyeline sahip. Ancak, tüm bunları yeni problemlere yol açmadan yapabilmek için bazı önemli soruları cevaplamak gerekiyor. Bunlar:
- Gelecek AI sistemlerini hacklenmeyecek, sorunlara yol açmayacak şekilde nasıl sağlam bir yapıda oluşturabiliriz?
- Yasal sistemimizi sürekli değişen dijital dünyaya uyum sağlayacak şekilde nasıl güncelleyebiliriz?
- Silahları masum insanları öldürmeyecek, kontrol dışı silahlanmaya yol açmayacak şekilde nasıl akıllı hale getirebiliriz?
- Otomasyon aracılığıyla insanları gelirsiz ve amaçsız bırakmadan refah seviyesini nasıl yükseltebiliriz?
Sağlam yapıda bir AI için dikkat edilmesi gerekenler
AI güvenliği tartışmasının 4 ana alanı var: Onaylama, doğrulama, güvenlik ve kontrol. Şu an kullandığımız sistemlerin AI tarafından kontrolüne izin verdiğimizde bizim istediğimizi yapan sağlam bir yapıda AI yapmayı öğrendiğimize emin olmak çok önemli. Bu doğrulama, onaylama, güvenlik ve kontrol ile ilgili zorlu teknik problemleri çözmek için gerekli.
Etrafımızda daha çok robot oldukça yazılımlarını onaylama ve doğrulama daha da önem taşıyor. Yanlış doğrulamayla kazalar olabilir. Sürücüsüz arabaların insanlardan daha iyi güvenlik skoru elde ettiği gözlemlendi. AI altyapılı sürücüsüz arabaların trafik kazası ölümlerini %90 azaltacağına dair geniş bir inanç var. Elon Musk hatta sürücüsüz arabaların daha güvenli olmakla kalmayıp sahiplerine Uber ve Lyft’e rakip olarak gelir getirebileceğini söylüyor. Enerji ve ulaşım alanında yaşanan kazalar gözden geçirildiğinde AI’ı fiziksel sistemlerden sorumlu tutacaksak sadece makinelerin doğru çalışması konusunda değil insan kontrolüyle de uyumlu çalışacak şekilde iyi bir araştırma çalışması yapılmalı. Risk taşıyan yüksek kararlarda insan kontrolüne başvurularak etkili bir sonuç çıkarılabilir.
AI adalet sistemini iyileştirebilir mi?
Tarafsızlık ve şeffaflık konusunda robotların insanlardan daha çok güven verdiği bir gerçek. Yapay zeka ile herkesin eşit yargılandığı bir sistem mümkün. Robotik yargı sisteminin hızı ve etkinliği mahkemede adaleti sağlamayı oldukça ekonomik hale getirebilir. Eğer AI destekli beyin tarama teknolojisi mahkemelerde kullanılmaya başlanırsa bir davanın kanıtlarını ortaya çıkarmak daha hızlı ve kolay olur ve yargı sürecinde daha adil bir karar alınmasını sağlar. Bir suçun tekrar işlenip işlenmeyeceği konusunda nöral öğrenme sistemiyle tespit edilebilir.
Diğer yandan düşünce özgürlüğünü desteklemeyen hükümetler bu teknolojiyi belli bir görüşe sahip kişileri suçlamak için kullanabilir. Adalet ve mahremiyet arasındaki çizgiyi nereye çizerdiniz? Nereye çizerseniz çizin kanıtın sahte olabileceği doğrultusunda mahremiyetin azaltılması sonucuna gidilebilir. Örneğin, AI ile sizin suç işlediğinizi gösteren sahte videolar oluşturulursa o zaman hükümetin sizi temize çıkarabilecek tam olarak ne zaman nerede ne yaptığınıza dair bilgiyi edinmesine izin verir miydiniz?
Hukuk konusunda bir diğer tartışma konusu da AI araştırmasının regüle edilip edilmemesi. Bazı araştırmacılar regülasyona inovasyonu erteleyeceği için karşılar. Bazıları da güvenliğin artması ve halkın ters tepkisine önlem olması açısından gerekliliğini savunmakta.
Peki ya robotik yargı sistemi hacklenirse? İnsanların yapay zeka kararına inançları sorgulayıcı olabilir. Yapay zekayı hukuk sistemine destek olacak şekilde mi istiyoruz yoksa son kararı makinelere bırakacak kadar ileri gidilebilir mi buna odaklanmak gerek. Kanunlarımızın AI’a yetişebilmesi için hızlı bir güncellemeye ihtiyacı var. Robot yargıçları şeffaf ve tarafsız yapmanın yolunu bulduğumuzda AI yasal sistemi daha adil ve etkili hale getirebilir.
Otonom silahlar yarının kalaşnikofları olabilir
AI’ın hastalıkları, kazaları azaltacağından bahsediyoruz. Peki ya savaş? Bazıları nükleer silahlar korkunç olduğu için savaşı bitireceği kanısında. AI destekli silahlar daha da korkunç olabileceğinden savaşı tamamen bitirebileceğini düşünebilir miyiz? Gelecekte savaşların kaçınılmaz olduğu görüşündeyseniz AI sayesinde daha insancıl bir savaş olabileceğini öne sürebiliriz. Makineler makinelerle savaşsa insanlar ölmez. Ayrıca AI destekli dronelar ve otonom silah sistemleri askerlerden daha mantıklı hareket edebilir ve süperinsan sensörleriyle ölüm korkusu olmadan savaşabilir, yanlışlıkla yapılan ölümlerin önüne geçebilir.
Asıl endişem: AI silahlarında silahlanma yarışının bitişi. Otonom silahlar savaşta barut ve nükleer silahlardan sonra üçüncü devrim olarak görülüyor. Bugün insanlık için asıl soru: Global AI silahlanma yarışı başlatılmalı mı yoksa başlaması engellenmeli mi? Eğer herhangi başlıca bir askeri güç AI silah gelişimini kullanırsa global silahlanma yarışı kaçınılmaz ve bunun teknolojik gidişatı açıkça ortada: Otonom silahlar yarının kalaşnikofları olacak. Nükleer silahlardan farklı olarak daha az maliyetli ve yaygın bulunan materyaller içerdiğinden seri üretime açık olacak. Böylelikle diktatörler veya teröristlerin elinde olacak. Belli bir etnik grubu yok etmek, suikast düzenlemek, nüfusu azaltmak gibi eylemler için ideal bir silah olacak. Bu yüzden de insanlık için oldukça tehlikeli. Ancak AI, savaşlarda insanları daha güvende yapmak için kullanılabilir. Önde gelen AI araştırmacıları belli tipte otonom silahların engellenmesi için uluslararası bir anlaşma gerekliliğini savunuyor. Böylelikle makineler erişilebilir olduğunda kontrol dışı silahlanma yarışının önüne geçilebilir.
Bir de işin siber savaş boyutu var. Silahlar olmadan da savaş mümkün. Toplum otomatikleştikçe AI’ın saldırı ihtimali de o kadar artar. Düşmanınızın sürücüsüz arabasını, otomatik pilotlu uçağını, nükleer reaktörünü, endüstriyel robotlarını, iletişim sistemini, finansal sistemini hacklerseniz ekonomisini bitirebilirsiniz. Hatta silah sistemlerini de hackleyerek daha da ileri gidilebilir. Bu yüzden de AI sisteminin hacklenmeyecek şekilde sağlam yapısı için uğraşılması gerektiğinin altını çiziyoruz. Yoksa bu mükemmel teknoloji bize karşı durmaya başlar.
Teknoloji işlerimizi nasıl etkileyecek?
Ekonomistler arasında teknolojinin eşitsizlik doğuracağına yönelik tartışmalar var. Bunu savunanlar dijital teknolojinin üç farklı şekilde eşitsizlik getireceğini söylüyor: İlk olarak, eski işlerin yerinin daha beceri gerektiren işlerle dolmasıyla teknolojinin eğitimli olanları ödüllendirdiği görüşündeler. İkinci olarak, 2000 yılından bu yana kurumsal gelirin çalışandan çok şirket sahibine gittiğini savunuyorlar. Otomosyon devam ettikçe makine sahipleri büyümeden daha çok pay alacağını söyleyebiliriz. Pek çok şeyin maliyeti dijital olarak iş gücü olmadan halledilebildiğinden gelirin çoğu artık yatırımcının elinde oluyor. Üçüncü olarak ise, dijital ekonominin süperstarların faydasına olduğu yönünde. Bugün Harry Potter yazarı J.K.Rowling Shakespeare’den daha zengin. Çünkü hikayeleri yazıdan filme oyunlara pek çok yerde çok düşük bir maliyette kullanılabiliyor.
Çocuklarımıza vereceğimiz kariyer tavsiyesi makinelerin şu an iyi olmadığı, gelecekte otomatikleşmesi güç alanlara yönelmeleri doğrultusunda olabilir. Kariyer seçmeden önce şu soruları sormalı: İnsanlarla iletişim ve sosyal zeka gerektiriyor mu? Yaratıcılık ve akıllı çözümler sunmayı gerektiriyor mu? Tahmin edilmez bir ortamda çalışmayı mı gerektiriyor? Bu sorulara ne kadar çok evet derseniz kariyer tercihiniz o kadar iyi olacaktır. Bu minvalde düşünürsek öğretmen, hemşire, doktor, dişçi, bilim adamı, girişimci, programcı, mühendis, avukat, sosyal işçi, rahip, sanatçı, kuaför veya masaj terapisti güvenli tahminler arasında yer alıyor.
Belli bir düzende işleyen, kendini tekrar eden ve beklenmedik durumlarla pek karşılaşmayan işlerin ise otomatikleşmesi yüksek olasılıkta. Bilgisayarlar ve endüstriyel robotlar kasiyer, tren operatörü, telepazarlama gibi bu tip basit işleri zaten devralmış durumda. Bunu taksi, uber, otobüs şoförleri takip edecek gibi görünüyor. Sadece basit işler tehlike altında değil. Global dijital çağda profesyonel bir yazar, film yapımcısı, aktör, atlet veya moda tasarımcısı olmak da başka bir sebeple risk taşıyor. Süperstar teorisine göre bu mesleklerin yerine makineler geçmese de dünyada hızla büyüyen bir rekabet içinde yer alacaklar.
Bir takım meslekler azalırken yenileri doğuyor olacak. Bu sebeple devletlerin eğitim sistemlerini de AI çağına göre güncellemesi gerekli. Belki de sürekli eğitim bir mesleğin standart bir parçası olmalı. Araştırmaya, eğitime ve altyapıya yatırım, girişimciliğe teşvik önem taşıyor.
İnsanlar en sonunda çalıştırılamaz hale mi gelecek?
İyimser kesim otomatikleşen meslekler daha iyileriyle yer değiştirecek diyor. Kötümserler ise bunun sanayi devriminden daha kötü sonuçlar doğuracağını, sadece işsizlik değil insanların çalıştırılamaz hale geleceğini savunuyor. Çünkü makinelerin ucuzluğuyla insanlara para ödemeye gerek kalmayacak..
Nasıl geçmişte arabalar atların yerini aldıysa makineler de bizim yerimizi alacak ve tamamen işsiz mi kalacağız? Eğer AI gelişimi artan ivmeyle devam ederse biri kısa vadede diğeri uzun vadede olacak şekilde iki taraf da haklı çıkabilir. Yine de mesleklerin yok olması kötü bir şey demek değil. Belli bir gelir ve hayat standardı için çalışıyoruz. Eğer makineler bizi bunu çalışmaya gerek kalmadan sağlayacaksa işsizlik kötü bir şey olmayabilir diye de düşünülebilir. Makinelerin minimum maliyetle hayatı kolaylaştırarak sağladığı zenginlik devlet tarafından halk ile paylaşılabilir ve böylelikle yaşam standardı düşürülmemiş olur. Günlük hayatta kullandığımız çoğu hizmetin bedava olacağı bir gelecekten bahsediyoruz. Ancak şöyle de bir şey var ki iyi bir yaşam sadece insanlara gelir sağlamakla olmuyor. Çalışmanın sağladığı sosyal ortam, sağlıklı yaşam tarzı, özgüven, kendine yetme duygusu, fark yaratma, bir ihtiyacı giderme hissi, bir amacın parçası olma hazzı da önemli etkenler. Bu sebeple sırf ekonomi açısından değil psikolojik, sosyolojik açıdan da bu durum ele alınıp insanlara çalışmadan da bir amaç yaratacak opsiyonlar sağlanabilirse AI ile gelişen toplum her zamankinden daha iyi bir toplum türü olabilir.
Gelecek 10.000 yılın senaryoları
AGI’ya karşı mevcut yarış, yaklaşan bin yıl için son derece geniş kapsamlı bir dizi senaryo ile sonuçlanabilir. Süperzeka ya insanların zorlaması nedeniyle (Esir Tanrı senaryosu) ya da “sevecen AI” olarak (Liberter Ütopya, Koruyucu Tanrı, İyicil Diktatör ve Hayvan Bakıcısı senaryoları) insanlarla barış içinde birlikte olabilir. Süperzeka, AI tarafından (Bekçi senaryosu) ya da insanlar tarafından (1984 senaryosu), teknolojiyi tamamen unutturarak (Eski Haline Çevirme Denaryosu) ya da oluşturabilecek girişimlerin eksikliği sayesinde (Eşitçi Ütopya senaryosu) engellenebilir. İnsanlığın soyu tükenip AI’lar yerlerine geçebilir (Fetheden ve Soyu Devam Ettiren senaryoları) ya da hiçbir şey yapılmadan kendi kendini yok edebilir (Kendi Kendini Yok Etme senaryosu) Bu senaryoların hangisi daha arzu edilebilir olduğuna dair sabit bir görüş yok ve hepsi karşı çıkılabilir unsurlar içeriyor. Bu da gelecek hedeflerimiz konusunda daha derin bir düşünmeye girmemizin gerekliliğini vurguluyor. Böylelikle bilmeyerek talihsiz bir sona sürüklenmeyiz.
Asıl risk: Hedeflerin uyuşmazlığı
AI’ın en zorlu anlaşmazlığını tek bir kelimeyle özetleyecek olursam bu “hedefler” olur. Makineler hedef odaklı davranış gösterebilirler mi? Tabii ki, eğer onları o şekilde tasarladıysak! Bu zamana kadar gördüklerimiz sadece hedef odaklı tasarım, hedef odaklı davranış değil. Otoban davranmaz sadece öyle durur. Bize yardım etmesi için bir makine yaptığımızda hedeflerini bizimkiyle mükemmel bir uyum içine sokması zor olabilir. Örneğin, fare kapanı yanlışlıkla sizin parmağınızı kıstırabilir. Böyle pek çok hedef uyumsuzluğu sorunları ancak makineleri daha akıllı hale getirerek çözülebilir ama bu sefer de daha ciddi başka hedef sapmaları olabilir.
Hedeflerimizi başarması için giderek artan zekada makineler yapıyoruz. Hedef odaklı davranış sergilemek için bu makineleri kurduğumuz sürece, makine hedeflerini bizimle uyumlu hale getirmeye çalışıyoruz. Süperzeki AI ile hedeflerin uyuşmazlığı üç zorlu alt problem kapsıyor: AI’ın hedeflerimizi öğrenmesi, AI’ın hedeflerimizi adapte etmesi, AI’ın hedeflerimizi sürdürmesi. Hedeflerimizi öğrenmesi için AI’ın ne yaptığımızı değil neden yaptığımızı anlaması gerek. Bu yüzden genelde ifade etme gereği duymadığımız tercihlerimizi kapsayan detaylı bir model gerekli. Bu yüzden umut, AI’In bir sürü insanı bir çok durumda gözlemleyip tüm seçimlerimiz üzerinden bir model kurması yönünde. Bu yaklaşımda asıl fikir AI’ın kendi hedef tatminini maksimize etmesi değil insan sahibininkini etmesi. Bu yüzden sahibinin ne istediği konusunda belirsizlik olduğunda dikkatli olmak konusunda dürtüye sahip.
AI hemen hemen her hedefe sahip olmak için yaratılabilir, ancak neredeyse tümüyle yeteri kadar iddialı bir hedef, kendi kendini koruma, kaynak toplama ve dünyayı daha iyi anlamak için merak gibi alt hedeflerine yol açabilir. İlk ikisi potansiyel olarak insanlar için sorunlara neden olan akıllı bir AI yaratabilir, ve ikincisi verdiğimiz hedefleri koruduğunu engelleyebilir.
Çoğu insan tarafından birçok geniş etik ilke üzerinde anlaşmaya varıldığı halde, bunları insan olmayan hayvanlar ve gelecek AI’lar gibi diğer varlıklara nasıl uygulayacağı açık değil. Süperzeki bir AI’ın, ne tanımlanmamış, ne de insanlığın ortadan kaldırılmasına yol açtığı nihai bir hedefle nasıl felsefedeki en titiz meseleler üzerine araştırma başlatmaya zaman ayıracağı belli değil.
