Bu yazı, seride daha önce ele alınan birden fazla bakışa dayanarak dönüştürücü yapay zekânın ne zaman geliştirileceğini beklememiz gerektiğinin bir özetiyle başlıyor. Önceki bölümlerin hepsini okumuş olsanız bile bunun yararlı olduğunu düşünüyorum, ancak özeti atlamak istiyorsanız buraya tıklayın.
Daha sonra şu soruyu ele alıyorum: “Bu konuda neden sağlam uzmanlar arası bir fikir birliği yok ve bu bizim için ne anlama geliyor?”
15 yıl içinde (2036’ya kadar) dönüştürücü yapay zekâ görme şansımızın %10’dan fazla olduğunu tahmin ediyorum; 40 yıl içinde (2060’a kadar) görme şansımız %50; ve 2/3 ihtimalle bu yüzyılda (2100’e kadar) göreceğiz.
(“Dönüştürücü yapay zekâ” derken, “bizi yeni, niteliksel olarak farklı bir geleceğe taşıyacak kadar güçlü yapay zekâ” demek istiyorum. Özellikle de PASTA adını verdiğim kavrama odaklanıyorum: Bilimsel ve teknolojik ilerleme hızını artırmak için gerekli yapay zekâ sistemleri. Üretkenlik patlaması potansiyeli ve uyumlulanmamış yapay zekâdan kaynaklanan riskler aracılığıyla PASTA’nın yaşadığımız zamanı en önemli yüzyıl haline getirmek için yeterli olabileceğini savundum.)
Bu, yapay zekâ hakkındaki öngörülere farklı açılardan yaklaşan bir dizi teknik rapora dayanarak çıkardığım genel sonuçtur — bunların çoğu, uzun dönemcilik üzerine olan hibe programlarımıza yardımcı olmak adına dönüştürücü yapay zekâ tahmininin kapsamlı bir resmini geliştirmeye çalışmamız sebebiyle son birkaç yılda tarafından hazırlanmıştır.
Önceki gönderilerdeki daha ayrıntılı tartışmalara ve bu tartışmaların altyapısını oluşturan teknik raporların linkleri ile birlikte tartıştığım dönüştürücü yapay zekâyı öngörme konusundaki farklı görüşlerin tek tabloluk bir özetini burada bulabilirsiniz:
Öngörü türü
Önemli ve detaylı makaleler
Benim çıkardıklarım
Dönüştürücü yapay zekâ için olasılık hesaplamaları
Uzman anketia 2036 yılına kadar ~%20 olasılık öngörüyor; 2060 yılına kadar ~%50 olasılık; 2100’e kadar ~%70 olasılık. Biraz farklı şekilde ifade edilen soruların (yanıt verenlerin küçük bir kısmına yöneltilen) çok daha sonraki tarihlere öngörüleri oluyor.
Biyoloji destekli çerçeve. “Yapay zekâyı eğitmenin” ne kadara mal olduğuyla ilgili alışıldık kalıplara dayanarak, insanların yaptığı en zor görevleri yerine getirmek için insan beyni kadar büyük bir yapay zekâ modelini eğitmenin maliyeti nedir? Ve bu ne zaman birinin yapmasının olağan hale geleceği kadar ucuz olacak?
Yapay zekânın ayrıntılarına girmeden önce bu yüzyılın “özel” olduğunu düşünmek için pek çok nedenimiz var. Birçoğu önceki bölümlerde ele alınmıştır; bir başkasını bir sonraki satırda görebilirsiniz.
Yalnızca (a) insanların kaç yıldır dönüştürücü yapay zekâ oluşturmaya çalıştığı; (b) ona ne kadar “yatırım” yaptıkları (yapay zekâ araştırmacılarının sayısı ve onlar tarafından kullanılan hesaplama miktarı açısından); (c) henüz yapıp yapmadıkları (şimdiye kadar yapmadılar) gibi değişkenlere bakarak yapay zekâ zaman çizelgesi hakkında nasıl bir tahminde bulunabilirsiniz? (Daha fazlası için)
Genel tahminler: 2036’ya kadar %8; 2060’a kadar %13; 2100’e kadar %20.b Benim görüşüme göre bu rapor, yapay zekânın geçmişinin kısa olduğunu, yapay zekâya yapılan yatırımın hızla arttığını ve bu nedenle dönüştürücü yapay zekânın yakında geliştirilirse çok şaşırmamamız gerektiğini vurguluyor.
Ekonomik modellerin ve ekonomi tarihinin analizine dayanarak, dünya ekonomisinde yıllık %30’un üzerinde büyüme olarak tanımlanan ‘patlayıcı büyüme’nin 2100 yılına kadar olma olasılığı nedir? Bu, sonuçtan şüphe duymamız için “normal” olanın yeterince dışında mı? (Daha fazlası için)
İnsanlığın Yörüngesi geçmişi geleceğe doğru yansıtır ve 2043-2065’e kadar patlayıcı bir büyümenin olacağını ima eder.
Patlayıcı Büyüme şu sonuca varıyor: “Ekonomiden hareket eden fikir yürütmelerin, bu yüzyılda dönüştürücü yapay zekânın geliştirilme olasılığını göz ardı etmek için iyi bir neden sağlamadığını düşünüyorum. Aslında, yeterince gelişmiş yapay zekâ sistemlerinin patlayıcı büyümeye yol açmasının olası olduğu akla uygun bir ekonomik perspektif var."
"İnsanlar yapay zekâyı geçmişte nasıl tahmin ettiler… ve daha önceki tahminlerde gözlemleyebileceğimiz kalıpları düzeltmek için bugün kendi görüşlerimizi gözden geçirmeli miyiz? … Geçmişte yapay zekânın defalarca abartıldığına şahit olduk ve bu nedenle bugünün projeksiyonlarının muhtemelen fazla iyimser olduğunu düşünmeliyiz.” (Daha fazlası için)
”Yapay zekâ tantanası 1956-1973 yılları arasında zirve yapmış gibi görünüyor. Yine de, bu döneme ait en iyi bilinen yapay zekâ tahminleri bazılarının ima ettiği tantana yaygın olarak abartılıyor.”
Şeffaf olmak adına, teknik raporların birçoğunun Open Philanthropy analizleri olduğunu ve benim Open Philanthropy eş CEO’su olduğumu unutmayın.
Yukarıdakileri göz önünde bulundurarak, bazı okuyucuların hâlâ bir rahatsızlık hissettiklerini sanıyorum. Argümanlarımın mantıklı olduğunu düşünseler bile, merak ediyor olabilirler: eğer bu doğruysa, neden daha geniş çapta tartışılıp kabul edilmiyor? Bu konudaki uzman görüşü ne durumda?
Şu anda uzman görüşünün durumuna ilişkin özetim:
Öne sürdüğüm iddialar herhangi uzmanlar arası özel bir fikir birliğiyle çelişmiyor. (Aslında, sunduğum olasılıklar, ilk satırda gösterildiği gibi, yapay zekâ araştırmacılarının tahmin ettiğinden çok da uzak değil.) Ancak konu hakkında çok etraflıca düşünmediklerine dair bazı işaretler var.
Dayanak olarak gösterdiğim Open Philanthropy teknik raporları önemli ölçüde dış uzman incelemesinden geçmiştir. Makine öğrenimi araştırmacıları Biyolojik Destekleri inceledi; sinirbilimciler Beyin Hesaplamasını gözden geçirdiler; ekonomistler Patlayıcı Büyümeyi incelediler; Akademisyenler, belirsizlik ve/veya olasılık ile ilgili konulara odaklandı ve Yarı Bilgilendirici Öncelikleri inceledi.c (Bu incelemelerin bazılarında önemli fikri ayrılıkları vardı, ancak bunlardan hiçbiri, raporların uzmanların veya literatürün sahip olduğu açık bir fikir birliğiyle çeliştiği durumlar gibi görünmüyordu.)
Ancak, “2036’ya kadar yapay zekâyı dönüştürme şansı en az %10” veya “İnsanlık için en önemli yüzyılda olma ihtimalimiz yüksek” gibi iddiaları destekleyen diğer konularda olduğu gibi (örn. iklim değişikliğine karşı önlem alma ihtiyacı) aktif, sağlam bir uzman fikir birliği de yok.
Nihayetinde iddialarım, onları incelemeye adamış uzmanların olduğu bir “alana” sahip olmayan konularla ilgili. Bu başlı başına korkutucu bir gerçek ve sonunda değişmesini umduğum bir şey.
Ancak bu sırada “en önemli yüzyıl” hipotezine dayanarak hareket etmek için can atmalı mıyız?
Aşağıda bunu tartışacağım:
Bir “yapay zekâ öngörü alanı” neye benzeyebilir?
Bu konular etrafındaki günümüz tartışmalarının çok küçük, homojen ve dar görüşlü olduğunu (ki buna katılıyorum) ve bu nedenle olgun, sağlam bir alan bulunana kadar “en önemli yüzyıl” hipotezine göre hareket etmememiz gerektiğini söyleyen “şüpheci bir görüş” (buna katılmıyorum).
Bu konuda ayrı bir alan gelişene kadar, ya da hiç gelişmezse bile bu hipotezi ciddiye almamız gerektiğini gösteren bazı nedenler:
Sağlam bir uzman fikir birliği için bekleyecek vaktimiz yok.
Aksi iyi bir şekilde iyi ispat edildiyse — veya aksini ispat edebilecek gelecekteki potansiyel uzmanlar- bu çürütmeler henüz elimizde yok. Hipotez ne kadar ciddiye alınırsa, bu tür çürütmelerin ortaya çıkma olasılığı o kadar artar. (Cunningham Kanunu teorisi: “doğru bir yanıt almanın en iyi yolu, yanlış bir yanıt göndermektir.”)
Sürekli olarak ısrarla sağlam bir uzman fikir birliği aramanın tehlikeli bir akıl yürütme modeli olduğunu düşünüyorum. Benim görüşüme göre, en önemli zamanda doğru şeyi yapmak karşılığında kendini kandırma ve dar görüşlü olma riskiyle karşı karşıya olmak sorun değil.
Yapay zekâ öngörüsünde uzmanlık nasıl bir uzmanlık?
Yukarıda listelenen teknik raporlarda analiz edilen sorular şunları içerir:
Yapay zekâ yetenekleri zamanla daha etkileyici hale geliyor mu? (Yapay zekâ, Yapay zekâ tarihi)
Yapay zekâ modellerini hayvan/insan beyinleriyle nasıl karşılaştırabiliriz? (Yapay zekâ, sinirbilim)
Yapay zekâ yeteneklerini hayvanların yetenekleriyle nasıl karşılaştırabiliriz? (Yapay zekâ, etoloji)
Geçmişteki yapay zekâ sistemlerinin eğitimi hakkında sahip olduğumuz bilgilere dayanarak, büyük bir yapay zekâ sistemini zor bir görev için eğitmenin masrafını nasıl hesaplayabiliriz? (Yapay zekâ, eğri uydurma)
Yalnızca şimdiye kadar alana kaç yıl/araştırmacı/dolar harcandığını hesaba katarak, dönüştürücü yapay zekâ hakkında minimum bilgi tahmini nasıl yapabiliriz? (Felsefe, olasılık)
Teori ve tarihsel eğilimlere dayalı olarak, bu yüzyılda patlayıcı ekonomik büyüme ne kadar olası? (Büyüme ekonomisi, ekonomik tarih)
Geçmişte “yapay zekâ tantanası” nasıldı? (Tarih)
“En önemli yüzyıl” için dönüştürücü yapay zekânın daha geniş etkilerinden bahsederken, “Dijital insanlar yaratmak ve galaksi boyunca uzay yerleşimleri kurmak ne kadar mümkün?” gibi konuları da tartıştım. Bu konular fizik, sinirbilim, mühendislik, zihin felsefesi ve daha birçok alana dokunuyor.
Dönüştürücü yapay zekâyı ne zaman gelebilir veya en önemli yüzyılda olup olmadığımız gibi konular hakkında birini uzman yapan bariz bir iş veya yeterlilik yok.
(Bu öngörüler için yalnızca yapay zekâ araştırmacılarına güvenmemiz gerektiği yönündeki herhangi bir iddiaya hiç katılmıyorum. Konu hakkında çok derin düşünmüyor gibi görünmelerine ek olarak, bence dönüştürücü yapay zekânın ne zaman gelebileceğini bize söylemek için her zamankinden daha güçlü yapay zekâ modelleri oluşturmakta uzmanlaşmış kişilere güvenmek; karbon emisyonlarını ve iklim değişikliğini tahmin etmek için güneş enerjisi Ar-Ge şirketlerine — veya nasıl baktığınıza bağlı olarak petrol şirketlerine- güvenmek gibidir. Ancak öngörü işi, yenilik yapmaktan veya son teknoloji sistemler inşa etmekten tamamen farklı bir faaliyettir.)
Ve bu soruların akademik bir alan için uygun olup olmadığından bile emin değilim. Dönüştürücü yapay zekâyı tahmin etmeye çalışmak veya en önemli yüzyılda olduğumuz olasılıkları belirlemek, öyle görünüyor ki:
FiveThirtyEight seçim modeline (“Seçimi kim kazanacak?”) akademik alan olarak siyaset biliminden (“Hükümetler ve seçmenler nasıl etkileşim kurar?”) daha çok benzer;
Akademik bir alan olarak iktisattan çok (“Durgunluklar neden var?”) finansal piyasalara benzer (“Bu fiyat gelecekte yükselir mi yoksa düşer mi?”);d
Akademik bir alan olan kalkınma ekonomisinden (“Yoksulluğa ne sebep olur ve onu ne azaltabilir?”)e daha çok GiveWell’in araştırmasına (“Hangi hayır kurumu insanlara dolar başına en çok yardımı sağlıyor?”) benzer.
Yani, dönüştürücü yapay zekâ tahmininde ve “en önemli yüzyıl”da uzmanlığa ev sahipliği yapan bir kurumun neye benzeyebileceği benim için net değil. Ancak bugün bu tür sorulara adanmış büyük, sağlam kurumların olmadığını söylemek yanlış olmaz.
Sağlam bir uzman fikir birliği olmadığında nasıl davranmalıyız?
Şüpheci görüş
Sağlam bir uzman fikir birliğine sahip olmadığımız için, hangi argümanlar sunulursa sunulsun bazı insanların (aslında belki de çoğu insanın) şüpheci olacağını tahmin ediyorum.
İşte oldukça genel, benim de yakın durduğum şüpheci bir tepkinin bir versiyonu:
En önemli yüzyılda yaşamakla ilgili abartılı bir iddiada bulunuyorsunuz. Bu model kendini kandırmaktır.
İspat yükünün bu kadar yüksek olmaması gerektiğini savundunuz, çünkü hem olağanüstü, hem de istikrarsız bir zamanda yaşadığımızı gösteren birçok gösterge var. Ama … Bu iddiaları veya yapay zekâ hakkındaki iddialarınızı veya bu çılgın konulardaki herhangi bir görüşü değerlendirmek için kendime güvenmiyorum.
*Ne kadar az insanın bu tartışmalara girdiği konusunda endişeleniyorum. Tartışmanın ne kadar küçük, homojen ve dar görüşlü olduğu hakkında. Genel olarak, bu daha çok zeki insanların tarihteki yerleri hakkında kendilerine — mantıklı kılmak için pek çok tablo ve sayıyla- anlattıkları bir hikaye gibi geliyor. “Gerçek” gibi gelmiyor.
Yüzlerce veya binlerce uzmanın birbirini eleştirdiği ve değerlendirdiği olgun bir alan haline geldiğinde ve iklim değişikliğinde gördüğümüz gibi aynı fikir birliği oluştuğunda bana geri dönün.
Nasıl böyle hissedebildiğini anlıyorum ve ben de zaman zaman böyle hissettim — özellikle #1-#4 maddelerinde. Öte yandan, 5. maddenin doğru görünmemesi için üç neden vereceğim.
Birinci Neden: Sağlam bir uzman fikir birliği için bekleyecek vaktimiz yok
Dönüştürücü yapay zekânın gelişinin, COVID-19 salgınının bir tür ağır çekim, yüksek riskli versiyonu olarak sonuçlanabileceğinden endişeleniyorum. Bugün mevcut olan en iyi bilgi ve analizlere bakarsanız, büyük bir şeyin olmasını beklemek için yeterince gerekçemiz var. Ancak durum genel olarak bize yabancı. Durum, kurumlarımızın düzenli olarak ele aldığı kalıplara uymuyor. Ve bu açıdan baktığımızda, aksiyon alınan her fazladan yıl değerlidir.
Bunu, iklim değişikliği dinamiğinin hızlandırılmış bir versiyonu olarak da düşünebilirsiniz. Sera gazı emisyonlarının (1800’lerin ortalarında değil) yakın zamandaf artmaya başladığını ve iklim bilimi alanında yerleşik bir alan olmadığını hayal edin. Emisyonları azaltmaya çalışmadan önce bu konuda çalışan bir alanın ortaya çıkmasını onlarca yıl beklemek gerçekten kötü bir fikir olurdu.
İkinci Neden: Cunningham Kanunu (doğru cevaba ulaşmanın en iyi yolu yanlış cevap yazmaktır) bu argümanlardaki kusuru bulmak için en iyi şansımız olabilir
Bunu söylerken ciddiyim.
Birkaç yıl önce, bazı meslektaşlarım ve ben “en önemli yüzyıl” hipotezinin doğru olabileceğine güvendik. Ancak üzerinde çok fazla hareket etmeden önce, onda ölümcül kusurlar bulup bulamayacağımızı görmek istedik.
Son birkaç yıldaki eylemlerimizi yorumlamanın bir yolu, sanki hipotezin yanlış olduğunu öğrenmek için elimizden gelen her şeyi yapıyormuşuz gibi davranmaktır.
İlk olarak, insanlarla — yapay zekâ araştırmacıları, ekonomistler, vb. temel argümanlar hakkında konuşmayı denedik Ancak:
Muhtemelen kontrol edeceğimizi düşündüğümüz,g ancak kesinleştiremediğimiz ve eleştiri olarak sunamadığımız birçok önemli olgusal nokta vardı.
Genel olarak, diğerlerine onu alaşağı etmeleri için adil bir fırsat tanıyacak kadar somut bir vakayı etraflıca ele alamadık.
Bu nedenle, temel argümanların birçoğu hakkında teknik raporlar oluşturmak için çok çalıştık. (Bunlar artık herkese açıktır ve bu parçanın başındaki tabloya dahil edilmiştir.) Bu, bizi argümanları yayınlayacak ve potansiyel olarak ölümcül karşı argümanlarla karşı karşıya gelebileceğimiz bir konuma getirdi.
Sadece kendi adıma konuşacak olursam, “en önemli yüzyıl” hipotezi tüm bu karşı argümanlardan sağlam çıkmış görünüyor. Gerçekten de, birçok açıdan inceledikten ve ayrıntılara daha fazla girdikten sonra, buna eskisinden daha güçlü bir şekilde inanıyorum.
Ancak bunun nedeninin gerçek uzmanların — henüz bulamadığımız, yıkıcı karşı argümanları olan insanların — bütün bunları, uğraşmaya tenezzül etmeyecek kadar aptalca bulmaları olduğunu varsayalım. Ya da diyelim ki bugün bu konularda uzmanlaşabilecek ve bu argümanları alaşağı edebilecek insanlar var. Bunu mümkün kılmak için ne yapabiliriz?
Aldığım en iyi cevap şuydu: “Eğer bu hipotez daha iyi bilinir, daha geniş çapta kabul görür ve daha etkili olursa, daha eleştirel bir incelemeye tabi tutulur.”
Bu seri, “en önemli yüzyıl” hipotezi için daha geniş bir inandırıcılığa ulaşmak için atılmış bir adımdır. Hipotez doğru olsa bu iyi bir şey olur; tek amacımın inançlarıma meydan okumak ve bunların yanlış olduğunu öğrenmek olması, atılacak bir sonraki adım için en iyi seçenek gibi görünüyor.
Tabii ki, size doğru gelmiyorsa “en önemli yüzyıl” hipotezini kabul edin veya yayın demiyorum. Ancak, tek çekinceniz sağlam bir fikir birliğinin olmamasıyla ilgiliyse, durumu görmezden gelmeye devam etmenin tuhaf göründüğünü düşünüyorum. İnsanlar genel olarak bu şekilde davranırsa (sağlam bir fikir birliği tarafından desteklenmeyen herhangi bir hipotezi göz ardı etmek), herhangi bir hipotezin — doğru olanlar da dahil olmak üzere — uçta yer alan bir düşüncenin yaygın olarak kabul edilen bir düşünceye nasıl evrileceğini anladığımdan emin değilim.
Üçüncü Neden: Bu kadar genel bir şüphecilik anlayışı kötü bir fikir olabilir
GiveWell’e odaklandığım zamanlar, insanlar ara sıra şuna benzer bir şey söylerdi: “Biliyorsunuz ki her argümanı GiveWell’in en iyi hayır kurumları için uyguladığı standarda tabi tutamazsınız — rastgele kontrollü denemeler, sağlam ampirik veriler vb. İyilik yapmak için en iyi fırsatlardan bazıları daha az belirgin olanlardır — bu nedenle bu standart, etki yaratmak için en büyük potansiyel fırsatlarınızdan bazılarını dışarıda bırakma riski taşır.”
Bence bu fikir doğru. Bence kişinin akıl yürütmeye ve kanıta dayalı standartlara genel yaklaşımını kontrol etmesi ve şunu sorması önemli: “Yaklaşımımın başarısız olduğu ve başarılı olmasını gerçekten tercih ettiğim bazı senaryolar nelerdir?” Benim görüşüme göre, en önemli zamanda doğru şeyi yapmanın bir karşılığı olarak kendini kandırma ve dar görüşlü olma riskiyle karşı karşıya olmak sorun değil.
Bence sağlam bir uzman mutabakatının olmaması — ve kendini kandırma ve dar görüşlülükle ilgili endişeler — “en önemli yüzyıl” hipotezini hemen kabul etmek yerine onu derinlemesine araştırmak için iyi bir neden sağlıyor. Nerede keşfedilmemiş bir kusur olabileceğini sormak, kendi önemimizi şişirmeye yönelik bir önyargı aramak, argümanın en şüpheli görünen kısımlarını araştırmak vb.
Ancak konuyu elinizden geldiğince araştırdıysanız ve “Güçlü bir uzman mutabakatı yok” ve “Kendini kandırma ve dar görüşlülük konusunda endişeleniyorum” gibi düşünceler dışında bir kusur bulmadıysanız — o zaman bu hipotezi tamamen göz ardı etmenin, fırsat ortaya çıkarsa, son derece önemli bir konuda harekete geçecek ilk insanlar arasında olmayacağınızı garanti eden türden bir şey olduğunu düşünüyorum. Bunun da potansiyel olarak çok fazla iyilik yapma fırsatından vazgeçmek anlamına geldiğini düşünüyorum.
