Yapay zekâ ve insanlığın geleceği

Sebastian Mallaby

Makine süper zekâsı arayışı, yalnızca paranın güdümünde olan bir altın madeni koşusu değildir. Bu alandaki pek çok öncünün zihninde, yeni bir biliş biçiminin ortaya çıkışı, beraberinde getireceği tehlike ve köklü değişim nedeniyle heyecan verici ve varoluşsal bir his uyandırmaktadır. Milyarlarca yıllık evrim, bizim özel olarak gördüğümüz bir şey ortaya çıkardı: insan zekası. Ancak şimdi tehlikeli bir dönemeçteyiz — insanlardan daha zeki olanların, adeta yeni bir türün doğuşu. Google yöneticisi James Manyika bir röportajda, “Yapay zekâ bize derin sorular soruyor,” dedi. “Biz kimiz? Neyi önemsiyoruz? Neyde iyiyiz? Birbirimizle nasıl ilişki kuruyoruz?” Yapay zekâ öncüsü Demis Hassabis, yapay zekânın “insanlığın şimdiye kadar yapacağı en önemli icat” olacağına inanıyor.

Neredeyse sonsuz potansiyele sahip bir teknolojiyi değerlendiren uzmanlar, bunun insanlık için ne anlama geldiği konusunda en temel konularda bile fikir birliğine varamıyorlar. AI laboratuvarı Anthropic’in liderleri, 2028’in sonuna kadar sistemlerini kendi kendilerinin daha akıllı versiyonlarını üretmeye teşvik edebileceklerine ve bunun herhangi bir ek talimat olmaksızın gerçekleşeceğine dair oldukça yüksek bir olasılık öngörüyorlar. Diğer büyük teknoloji şirketlerinin CEO’ları, tüm bilişsel görevlerde insanları geride bırakacak sistemlerden bahsediyorlar; neredeyse hiç insan çalışanı olmayan fütüristik şirketler hayal ediyor ve yıkıcı iş kayıpları öngörüyorlar. Bazıları ise daha şüpheci. Ekonomist ve Nobel ödüllü Daron Acemoglu, yapay zekânın insan görevlerinin yalnızca küçük bir kısmını etkileyeceğini ve dolayısıyla verimlilikte sadece marjinal bir değişiklik olacağını öne sürüyor. Bilgisayar bilimcisi Yann LeCun ise mevcut yapay zekâ paradigmasının sınırlarını vurgulayarak, süper zekâyı hedefleyen milyarlarca dolarlık yatırımın “tamamen saçmalık” olarak nitelendirilebileceğini savunuyor.

Yapay zekâ sistemlerinin sadece insanların geçim kaynaklarını değil, kendilerini de tehdit edip etmediği sorusunda da görüş ayrılıkları aynı derecede baş döndürücü. Risk sermayedarı Marc Andreessen, 2023 yılında “Yapay Zekâ Dünyayı Neden Kurtaracak” başlıklı bir makalesinde, “Yapay zekâ istemez, hedefleri yoktur, sizi öldürmek istemez, çünkü canlı değildir… [Yapay zekâ] tıpkı tost makinenizin canlanmayacağı gibi canlanmayacaktır” diyor. Ancak Anthropic gibi yapay zekâ laboratuvarlarında birçok araştırmacı, yapay zekânın bir hayatta kalma içgüdüsü geliştirip agresif bir şekilde rekabet edeceğinden korkuyor. Bazıları, süper zekanın insanlığın yok olmasına yol açma olasılığı olan “p(kıyamet)” değerini yüzde 50 olarak belirliyor, ancak bu oranı daha da yüksek tutan aşırı karamsar kişiler de var. Geçen yıl, iki önde gelen maksimalist, If Anyone Builds It, Everyone Dies başlıklı bir kitap yayınladı.

Böylesine kafa karıştırıcı görüş ayrılıklarıyla karşı karşıya kalan ve kapsamı akıl almaz görünen bir teknolojiyi düşünürken, insanlar gizemi tanımlamak için var olan kelime dağarcığına, yani dine başvururlar. Yaklaşık on yıl önce, Google’ın sürücüsüz araba projesinin ilk dönem aktörlerinden Anthony Levandowski, Way of the Future adlı bir kilise kurdu. Wired’a göre, IRS kayıtlarında bu kilisenin “yapay zekâ temelli bir tanrılığın gerçekleştirilmesine, kabul edilmesine ve tapınılmasına” adanmış olduğu belirtiliyor. Tuhaf bir şekilde bilinçli gibi görünen ilk dönemden bir sohbet robotuyla karşılaşan Google mühendisi Blake Lemoine şöyle yazdı: “Ben kimim ki Tanrı’ya ruhları nereye koyabileceğini ve koyamayacağını söyleyeyim?” OpenAI’nin kurucu ortaklarından ve eski baş bilim insanı Ilya Sutskever, bir keresinde şirketin şirket dışı etkinliğinde meslektaşlarını bir ateş çukuru etrafında topladı. Elinde bir kukla tutarak, bunun insanlarla uyumsuz bir yapay zekayı temsil ettiğini açıkladı. Ardından, tıpkı Orta Çağ'daki bir din adamının bir cadıyı yakması gibi, onu alevlere attı.

Katolik Kilisesi’nin bu girdaba dalması sadece an meselesiydi. On dokuzuncu yüzyılın sonlarındaki sanayileşme, yirminci yüzyılın ortalarındaki kitle iletişim araçlarının yükselişi ve yirminci yüzyılın sonlarındaki bilgi ekonomisinin doğuşunun ardından kilise, her bir köklü değişime Katolik doktrininin nasıl uygulanacağını ortaya koyan genelgeler ve papalık mektuplarıyla yanıt verdi. Şimdi Vatikan, yapay zekâ devrimi karşısında insan haysiyeti ve yaratılışın amacı konusundaki anlayışını savunmak üzere yeniden devreye girdi. Papa XIV. Leo’nun papalığının ilk genelgesi olan Magnifica Humanitas (Muhteşem İnsanlık), son derece iddialı bir metindir. Alt başlığı, metnin kapsamını açıkça ortaya koymaktadır: Yapay Zekâ Çağında İnsanın Korunması Üzerine.

Papa’nın argümanının ilk kısmı, insanlığın istisnai olduğunu söylemekten başka bir şey yapmıyor. Kilise her zaman insanların Tanrı’nın suretinde yaratıldığını vaaz etmiştir; insan formunun karmaşık kırılganlığını üstlenerek, Tanrı’nın oğlu insan deneyimini kutsallaştırmıştır. Teknoloji uzmanları, yapay zekâ sistemlerinin olası bilincinin, insan haklarının bir makine versiyonunu haklı kılıp kılmadığını tartışırken, Papa insanlarla makinelerin temelde farklı olduğunu ısrarla vurguluyor. Encyclical’da, “Yapay zekâ sistemleri yalnızca insan zekâsının belirli işlevlerini taklit eder” denilmektedir. “Bu araçlar ‘öğrenme’ yeteneğine sahip olarak tanımlansa bile… bu, hayatın kendilerini şekillendirmesine izin veren ve zaman içinde seçimler, hatalar, affetme ve sadakat yoluyla gelişen kişilerin deneyimi değildir.”

Katolik olsun ya da olmasın, pek çok sıradan insan için kilisenin bu tutumu cesaret verici gelecektir. Google’ın kurucu ortağı Larry Page, makinelerin daha üstün bir zekâ biçimi olduğunu ve insanlığın yok olmasının rahatsız edici olmayan bir evrimsel olay haline geldiğini söylediğinde, çoğu insan tiksintiyle tepki gösterdi. Gelecekçiler beyinlerini buluta yükleyerek sonsuz yaşama kavuşmayı dört gözle beklerken, pek çok kişi daha geleneksel bir kurtuluş anlayışını tercih ediyor. İnsanlar makinelerin boyunduruğu altına girmek istemiyor, onlarla birleşmek de istemiyor. “Hiçbir hesaplama sistemi, ne kadar sofistike olursa olsun, kendini feda eden bir kalp ya da iyiyle kötüyü ayıran bir vicdan yaratamaz” diyen bir belge okumak iç rahatlatıcıdır.
Kilisenin iddialarının analitik incelemeye dayanıp dayanmayacağı ise ayrı bir sorudur. Magnifica Humanitas, yapay zeka sistemlerinin insan zekasını “sadece taklit ettiğini” öne sürerek, zekayı taklit etmenin zekaya sahip olmakla aynı şey olduğu şeklindeki uzun süredir var olan iddiayı reddediyor. Bu teoriye göre, taklit etmek zekanın yokluğunu ima etmekten çok, zekanın bir yönü olabilir. Sonuçta, insanlar da zekayı taklit eder — çocuklar ebeveynlerinden öğrenir ve profesörler önceki akademisyenlerin öğretilerini benimser. Dahası, bir makine bilgiyi sentezleyebiliyorsa, ikna edici bir şekilde sohbet edebiliyorsa, tıbbi bir taramayı analiz edebiliyorsa ve baro sınavından tam puan alabiliyorsa, hangi anlamda zeki değildir ki?

Vatikan’ın karşıt görüşünü destekleyen en iyi örnek, 1980 yılına dayanır; o yıl filozof John Searle, daha sonra “Çin odası argümanı” olarak bilinen tezi ortaya attı. Searle’ın bu düşünce deneyinin amacı, bir makinenin yalnızca çıktısına göre değerlendirilmesi gerektiğini savunan ünlü Turing testini çürütmekti. Teste göre, sistemin çıktısı insanlara zeki görünüyorsa, o zaman sistem gerçekten zekidir. Buna karşı bir çürütme olarak, Searle bir odada tek başına duran ve kapının altından mesajlar alan bir adam hayal etti. Mesajlar Çince yazılmıştı ve adam da Çince mesajlar göndererek muhatabını kendisinin de bu dili akıcı bir şekilde bildiğine ikna ediyordu. Ancak bu ikna bir aldatmacaydı. Adam, gelen hangi Çince karakter dizisine hangi başka Çince karakter dizisiyle cevap vermesi gerektiğini belirten bir kılavuzun yardımıyla yanıtlarını oluşturuyordu. Karakterlerin anlamı hakkında en ufak bir fikri yoktur; elindeki kural kitabıyla, anlıyormuş gibi davranır. Searle’in vurgulamak istediği nokta, bir yapay zekâ modelinin zekâdan yoksun olmasına rağmen yine de Turing testini geçebileceğiydi. Ya da papalık genelgesinde ifade edildiği gibi, yapay zekâ sistemleri “dili, davranışı ve analitik becerileri taklit edebilir… ancak ürettikleri şeyleri anlamazlar.”

Searle’ın bu karşı argümanı, modern yapay zekâ devriminden önceki yıllarda oldukça etkiliydi. Makineler, çıktılarını Searle’ın senaryosundaki kullanım kılavuzuna benzeyen kurallara dayandırıyordu. Birisi arama çubuğuna “Empire State Building” yazdığında, otomatik tamamlama sistemi istatistiksel olarak en olası sonraki kelimeleri sunuyordu: “açılış saati” veya “yol tarifi.” Sistem, Empire State Binası’nın ne olduğu ya da neye benzediği konusunda hiçbir fikre sahip değildi. Ancak günümüzün büyük dil modelleri farklıdır. Her ne kadar kelimeleri alıp bunları istatistiksel veriler olarak ele alarak başlasalar da, eğitim sürecinden anlamı derinlemesine kavrayarak çıkarlar. Yazar Robert Wright’ın yeni kitabı The God Test: Artificial Intelligence and Our Coming Cosmic Reckoning’de de (Tanrı Testi: Yapay Zeka ve Bizi Bekleyen Kozmik Hesaplaşma) belirttiği gibi, bu sistemlerin bir anlayışa ulaştığı sonucuna varmamak zor.

Modern yapay zekânın hem Searle’a hem de Vatikan’a nasıl meydan okuduğunu görmek için, “kelime gömmeleri” denen kavramdan başlayalım. Büyük bir dil modeli, aldığı kelimeleri binlerce boyutlu bir haritaya gömerek çalışır. Üç boyutta (zaman da dahil edilirse dört boyutta) yaşamaya alışkın insanlar, böyle bir haritayı zihninde canlandırmayı imkânsız bulur. Ancak bilgisayarlar bunlarla kolayca başa çıkabilir. Bu devasa dil haritasında, “bilgisayar” gibi bir kelime, “klavye”, “elektrik” ve “yarı iletken” gibi diğer ilişkili kelimelerin yakınında yer alır. Bu şekilde model, dildeki her bir kelime ile diğer tüm kelimeler arasındaki incelikli bağlantıları kavrar. Sisteme görme yeteneği eklediğinizde, model kelimeler ve nesneler arasındaki—semboller ve fiziksel çevre arasındaki—ilişkileri öğrenecektir.

Bu sadece başlangıç. Yapay zeka sistemleri dili ustalaştıkça kavramları da kavramaya başlarlar. “Kardeş”, “baba” ve “yeğen” gibi kelimeler, dil haritasında “kız kardeş”, “anne” ve “yeğen” kelimelerine göre birbirlerine daha yakındır; çünkü sistemler cinsiyeti anlar. Metnin belirli bölümleri “iç çatışma” gibi kavramları çağrıştırdığında, sistemler bunları da algılar: kelime haritasına ek olarak, “iç çatışma”nın “ilişki gerilimi” veya “mantıksal tutarsızlık”a yakın olduğu bir kavram haritası oluştururlar.
Modeller ayrıca duyguları tanıyabilir ve hisleri algılayabilir. Daha 2017 yılında OpenAI, bir duygu nöronunu tanımlamıştı; bu, bir yapay zeka modelinin derin öğrenme ağındaki belirli bir düğümdü ve çevrimiçi bir Amazon yorumundaki önyargının olumlu mu yoksa olumsuz mu olduğunu algılıyordu. Günümüzde romanlar, sosyal medya paylaşımları ve her türlü insan duygusu içeren metinlerle eğitilmiş modern yapay zeka sistemleri öfke, sevinç, utanç, üzüntü ve kaygıyı tanıyor. Ve sadece duyguları tanımakla kalmıyorlar. Davranışları, belirli duygusal durumlar veya kişiliklerle tutarlı hale getirilebilir. Ayarları değiştirerek araştırmacılar, bir modeli neşeli ya da olumsuz, dürüst ya da dalkavuk hale getirebilirler. Hesap makineleri, elektronik tablolar veya otomatik tamamlama sistemlerinden farklı olarak, büyük dil modelleri, “mizaç” olarak adlandırılabilecek bir özellik kazanabilirler.

Magnifica Humanitas, bunların hiçbirini hesaba katmamaktadır. Biraz dikkatsiz bir şekilde, yapay zekâ sistemlerinin “deneyim yaşamadığını” belirtmekte ve pekiştirmeli öğrenme olarak bilinen, yapay zekâ geliştirmenin önemli bir alanını göz ardı etmektedir: Tam da deneyim yoluyla öğrenen sistemler tasarlama bilimi. Encyclical (Papa genelgesi), yapay zekânın “veri ve geri bildirime dayalı istatistiksel uyum sağladığını” kabul ederek, bu pekiştirme sürecini – dolaylı da olsa – tanımaktadır. Ancak “veri” ile “deneyim” arasındaki fark inceliklidir. İnsanlar deneyimleri duyu organları aracılığıyla algılar, ardından bu girdileri elektrokimyasal sinyallere dönüştürür. Gözler ve kulaklar yerine kameralar ve mikrofonlarla donatılmış yapay zekâ sistemlerinin de, deneyimleri sayılara dönüştürmeden önce algıladıkları söylenebilir. Genel bir bakış açısıyla, hem organik hem de inorganik makineler duyusal girdileri veriye dönüştürür.

Google’ın yapay zekâ birimi DeepMind tarafından 2017’de geliştirilen bir sistemi ele alalım. Alpha-Zero olarak adlandırılan bu sistem, satrançta, Japon satranç türü Shogi’de ve Go adlı eski strateji tahta oyununda insan uzmanları geride bıraktı. Alpha-Zero, kendi kendine on milyonlarca oyun oynayarak, yani deneyimler toplayarak bu başarıları elde etti. Benzer şekilde, günümüzün otonom araçları da sürüş deneyimleri yoluyla öğreniyor. Sohbet robotları ise insanlarla etkileşim deneyimleri yoluyla insanlarla konuşma sanatını öğrenir. İnsanlar hakkında genelgede kullanılan ifadeleri alıntılamak gerekirse, pekiştirmeli öğrenme sistemleri “seçimler ve hatalar yoluyla zamanla gelişir”, ancak itiraf etmek gerekirse, tıpkı insanların yaptığı gibi “bağışlama ve sadakat” yoluyla değil.

Makineler kanamaz, acı çekmez, sevmez, yas tutmaz veya cinsel yolla üremez. İnsanlar ölümlüdür ve yapay zekâ sistemlerinin bir kapatma düğmesi vardır. Yapay zekâ, ahlaki bir evrende değil, bir optimizasyon matrisinde var olur. Bu ayrımlar nedeniyle pek çok insan, bu terimin tanımı ne kadar belirsiz olursa olsun, makinelerin bilinçten yoksun olduğunu ve bilinç ile bunun sağladığı deneyim niteliği olmadan gerçek zekanın var olamayacağını her zaman ısrarla savunacaktır. Bilimkurgu yazarı Ted Chiang, “Bir bedene sahip olmak, duygulara sahip olmanın ön koşuludur” diye yazmıştır. “Umutsuzluk gibi bir duyguyu yaşamak, kortizol ve epinefrin gibi stres hormonlarının vücuda yayılmasıyla ayrılmaz bir şekilde bağlantılıdır.” Chiang’ın argümanından etkilenenler için, modern yapay zekâ, Searle’ın düşünce deneyindeki adama olağanüstü derecede sofistike bir kural kitabı sağlamıştır. Ancak o, hâlâ Çince konuşamıyor.

Yine de insanlar ve makineler arasındaki benzerlikler, farklılıklar kadar çarpıcıdır. İnsan beyni, bilgisayarlar da dahil olmak üzere evrenin geri kalanını yöneten yasalara uyan biyolojik maddeden oluşan fiziksel bir nesnedir. İnsan beyinleri, bilgisayar beyinleri gibi, elektrik akımlarıyla çalışır; bir görüş oluşturduklarında veya bir plan tasarladıklarında, bilgi işliyorlardır. Kafatasının içindeki yapışkan kütlenin, tarif edilemez, programlanamaz bir öz —bilinç, ruh ya da başka bir şey— içerdiği fikri, sezgisel olarak çekici gelebilir. Ancak analitik bir bakış açısıyla bu fikir zayıftır. Ve yapay zekâ gelişmeye devam ettikçe bu fikir daha da ikna edici olmaktan uzaklaşacaktır.

Magnifica Humanitas’ın ikinci unsuru daha sağlam bir temele dayanıyor: Yapay zekâ düzenlenmelidir. Leo’nun savunduğu gibi, yapay zekâ servet ve iktidar eşitsizliklerini artırabilir; çevreyi, ilişkileri ve işleri bozabilir; neyi, nasıl öğrendiğimizi ve beynimizin hangi kısımlarının atıl kaldığını yeniden şekillendirebilir. Yapay zekâ savaşı otomatikleştirirse, saldırganlık eşiği düşebilir. Sorumluluk ve suçlama, “makineye” yüklenebilir. İnsanın sorumluluğu belirsizleşebilir.

Kilise, endişelenmek için bolca neden olduğu konusunda haklıdır. Ancak, ürkütücü derecede geniş bir etkiye sahip bir teknolojiyle karşı karşıya kaldığımızda asıl zorluk, düzenleme önceliklerini belirlemektir ve bu konuda genelge zayıf bir performans sergilemektedir. Magnifica Humanitas, “yapay zekânın yeni tekellerine” sert bir şekilde karşı çıkarak, “yapay zekâyı kontrol edenler kendi ahlaki vizyonlarını dayatacak ve bu vizyon, bu sistemlerin görünmez altyapısı haline gelecektir” demektedir. Ancak yapay zekada tekel söz konusu değildir; aksine, bir düzine kadar şirketin yer aldığı küresel bir yarış vardır. Dahası, bu şirketlerin çoğu ahlaki vizyonları konusunda şeffaftır. Anthropic’in web sitesinde 84 sayfalık bir tüzük yer almaktadır ve Google, yıllık Sorumlu Yapay Zeka İlerleme Raporları’nın yanı sıra yapay zeka ilkelerini de yayınlamaktadır. Kuşkusuz bu tür çabalar daha da geliştirilebilir. Ancak tekelci bir belirsizliği vurgulamak, ilginç bir vurgu seçimidir.
Encyclical, “verilerin mülkiyetinin yalnızca özel sektörün elinde bırakılamayacağını” ve bunun yerine hedefin “katılım ruhu içinde verileri ortak veya paylaşılan bir mal olarak yönetmek” olması gerektiğini savunuyor. Ancak katılımcı yönetim, idealist bir soyutlamadır. Asıl endişe, verilerin özel mülkiyeti değil, ihlal edilmesidir. Çok sayıda yayıncı, telif hakkıyla korunan metinleri kullandığı gerekçesiyle yapay zekâ laboratuvarlarına dava açmaktadır. İnternet bağlantısı olan her birey veya kurum, özel verilerinin yapay zekâ eğitim verileri arasına dahil edilme tehlikesiyle karşı karşıyadır. Fikri mülkiyet toptan çalınırsa, daha fazlasını yaratmak için pek bir teşvik kalmayacaktır.

Encyclical’ın askeri yapay zekâya yönelik eleştirisi de benzer şekilde kafa karıştırıcıdır. Ölümcül yapay zekâ sistemlerinin hesap verebilir olması gerektiğine dair sağlam bir argüman vardır; bu sistemler mahkeme kararlarına, mevzuata ve üst düzey insan komutanlara uymalıdır. Encyclical bu görüşü destekliyor, ancak daha da ileri giderek, “ölümcül güç kullanma kararının şeffaf olmayan veya otomatik süreçlere devredilemeyeceği”ni genel bir ifadeyle belirtiyor. Ne yazık ki bu, pratikte uygulanamaz. Yapay zekâ, savaş alanında hızlı ve isabetli kararlar verebilir hâle geldiğinde, kullanımı kaçınılmaz hâle gelecektir. Yapay zekayı kullanmaktan kaçınan ordu, onu benimseyen ordu tarafından yenilgiye uğratılacaktır.

Bu eylem hataları, ihmal hatalarıyla daha da ağırlaşmaktadır. Encyclical, yapay zekânın “bağımsız denetimine” ve “sorumluluğundan kaçınmayan bir siyasi sisteme” doğru bir şekilde çağrıda bulunuyor. Ancak yapay zekâ yönetişimi hakkındaki tartışmanın özünü ayrıntılı olarak ele almıyor. Olay gerçekleştikten sonra hesap verebilirlik çağrısında bulunarak, kararların “anlaşılır, itiraz edilebilir ve denetime tabi” olmasını talep ediyor. Ancak bir modelin ilk etapta piyasaya sürülüp sürülmeyeceğine karar verme konusunda hükümetlerin sorumluluğuna değinmiyor. Bu çekingenlik seçicidir. Kilise, konu otonom ölümcül silahlar olduğunda ayrıntıları belirlemekte hiçbir zorluk çekmiyor. Ulusal yapay zekâ düzenleyicilerinin, öncü modelleri piyasaya sürülmeden önce test etmeleri ve tehlikeli olanların piyasaya sürülmesini engellemeleri gerektiğini söylemek, kilisenin kendi öğretileri açısından kesinlikle zor ya da tartışmalı bir şey olmazdı.

Son olarak, genelgede yoksulların dışlanması konusunda çok şey söyleniyor, ancak onlara yardım edecek yeniden dağıtım politikaları hakkında hiçbir şey söylenmiyor. Bu bildirinin destekleyebileceği birkaç seçenek vardır: vergi yükünün emekten sermayeye kaydırılması; bu, işçilerin makinelerle yer değiştirme hızını yavaşlatır; işini kaybeden çalışanlara yeni işlerindeki maaşlarını tamamlayarak darbenin etkisini hafifleten ücret sigortası; 18 yaşın altındaki vatandaşlara yapay zeka şirketlerinin hisselerinin dağıtılması; bu, yapay zeka uygulamalarının getireceği kazançlardan, ne kadar küçük olursa olsun, ortak bir pay yaratır. Seçmenlerin endişesi arttıkça, toplumların bu politikaları benimseyeceklerinden şüphe yok. Kilise, daha hızlı bir geçiş çağrısı yapma fırsatını kaçırdı.

AI ilerledikçe, diğer otorite figürleri —dini ve seküler— insanlığın geleceğiyle başa çıkmasına yardımcı olmaya çalışacaktır. Şansımız yaver giderse, bunlar Papa’dan daha iyi bir iş çıkaracak, insanlığın istisnacılığına dair kaygan iddialara daha az odaklanacak, tekel konusundaki yanıltıcı tartışmalardan kaçınacak ve bunun yerine dünyanın yeni sistemlere verdiği tepkinin en göze çarpan eksikliklerine dikkat çekecektir. Bu eksikliklerin niteliği, AI hikâyesi ilerledikçe değişecektir. Şu an itibarıyla üç eksiklik öne çıkmaktadır.

Birincisi, Nükleer Silahların Yayılmasını Önleme Anlaşması’na eşdeğer bir yapay zekâ anlaşmasına duyulan ihtiyaçtır. En korkutucu yapay zekâ yetenekleri dünya çapında yaygınlaşıp suçluların ve teröristlerin erişimine açıldığında hükümetlerin ne yapacağını açıklayan hiçbir önde gelen lider yoktur. Trump yönetimi bu tehdidi dolaylı olarak kabul etmiştir. Yapay zekâ konusundaki serbest piyasa yaklaşımından vazgeçerek, son derece yıkıcı siber saldırılar gerçekleştirebilen öncü modellerin piyasaya sürülmesi üzerinde kontrol kurmuştur. Ancak yönetim, başta Çinliler olmak üzere takipçi laboratuvarların birkaç ay içinde siber saldırı sistemlerine sahip olacağı ve bu laboratuvarların mevcut uygulamasının modellerini “açık ağırlık” esasına göre yayınlayacağı – yani herkesin bunları kullanabileceği ve herhangi bir acil durdurma mekanizmasının bulunmadığı – gerçeğini göz ardı etmiştir. Birisi böyle bir modele erişim sağladığında, onu kullanmasını kimse engelleyemez. Bu sonucu önlemek için ABD’nin Çin ve diğer güçlerle ortak güvenlik ilkeleri üzerinde müzakere etmesi gerekecektir. Bu tür görüşmeler zorlu geçecektir. Ancak alternatif, büyük yıkıma yol açan tehlikeli araçların kitlesel yayılmasıdır — örneğin, tedavisi olmayan yeni biyolojik silahlar tasarlayabilen yapay zekâ modelleri.

Günümüzde yapay zekâya yönelik tepkide göze çarpan ikinci eksiklik, vergi reformudur.
Hükümetler, eskiden geçerli nedenlerle işgücünü sermayeden çok daha yüksek oranlarda vergilendiriyordu: işgücü daha az hareketlidir, bu da bu tür vergilerin tahsilini kolaylaştırır; ayrıca sermaye yatırımları insan verimliliğini ve ücretleri artırma eğilimindedir; yani işgücü vergileri, sermaye harcamalarından elde edilen kazancı dolaylı olarak yakalar. Ancak makineler insanları tamamlamak yerine onların yerini almaya başlarsa, işgücüne odaklanan vergiler yapay zekâ kaynaklı büyümeden elde edilen gelirleri yakalayamayabilir ve bu da hükümetleri, yapay zekâ kaynaklı dönüşümden zarar görenlere yardım etmek için gereken kaynaklardan mahrum bırakabilir. Bu arada, ağır işgücü vergileri, şirketlerin işçileri makinelerle değiştirme eğilimini artırarak işten çıkarmaları hızlandırır ve işsizliği yükseltir. Yapay zekâ sektörünün kitlesel iş kaybına ilişkin kendi tahminlerinin yarısı bile doğru çıkarsa, işten çıkarmaları hızlandıran işgücü vergileri seçmenlerin tüm yapay zekâ projesine karşı ayaklanmasına neden olacaktır.

Son göze çarpan boşluk, makine zekâsının doğası üzerine yapılan tartışmayla ilgilidir. Yapay zekâ algoritmalarının insan düşünceleri ve duygularına ne ölçüde eşdeğer şeyler ürettiği, belki de hiçbir zaman çözülemeyecek felsefi bir sorudur; ancak yapay zekâ sistemlerinin tam olarak nasıl çalıştığını anlamak, pratik ve acil bir hedeftir. Önde gelen yapay zekâ laboratuvarları, bu alanın “yorumlanabilirlik” olarak bilinen yönü üzerinde ilerleme kaydetmektedir. Ancak bu sorunun çözülmesine yönelik kamuoyunun ilgisi göz önüne alındığında, en ileri düzey yapay zekâ modellerinin eğitilmesine vergi uygulanması ve elde edilen gelirlerin devletin yapay zekâ denetim enstitülerinde veya üniversitelerde yapılacak ek araştırmalara ayrılması için geçerli gerekçeler bulunmaktadır. Magnifica Humanitas, makinelerin içindeki düşünceyi bilemeyeceğimizi, çünkü bilmemize değecek bir düşünce bulunmadığını iddia eder. Ancak tam tersi doğrudur. Makineler asla ahlaki evrenimize katılmayacaktır, ancak insanlar onları kontrol etmeyi arzuluyorsa, öncelikle onları anlamamız gerekir.

Sebastian Mallaby'nin, Financial Times'ın "Yılın İş Kitabı Ödülü" adayları arasına giren, Güç Yasası - Risk Sermayesi ve Yeni Geleceğin Oluşumu (The Power Law - Venture Capital and the Art of Disruption) adlı kitabı, Mayıs 2026'da Scala Yayıncılık tarafından yayımlandı.