Varoluşsal riskleri azaltmak için nedenler

Bu makalenin geri kalanında, nükleer savaş ve iklim değişikliğinden daha büyük olabilecekler de dahil olmak üzere, insanlığa yönelik en büyük riskleri inceliyoruz. Daha sonra, bu riskleri azaltmanın hayatınızda yapacağınız en önemli şey olabileceğini öne sürüyoruz ve size yardımcı olmak için tam olarak neler yapabileceğinizi açıklıyoruz. Kariyerinizi bu konularda çalışmak için kullanmak isterseniz, bire bir destek de verebiliriz.

Asteroit çarpması sonucu ölme olasılığınız nedir? Doğal ve çevre kaynaklı varoluşsal tehditlere genel bir bakış

Birçok insanın öngörüsü; yani önümüzdeki 50 yıl içinde 10 milyonda bir yok olma ihtimaliz bu varoluş riskine kuşkusuz az değer biçiyor. Doğal sebeplerle meydana gelen varoluşsal tehditler, tarihten edindiğimiz bilgi ve tecrübeye göre son derece doğru bir şekilde tahmin edilebilir ve çok daha yüksektir.

Örneğin, dünya bir kilometre genişliğindeki bir asteroit tarafından vurulursa, uygarlığımızın tamamen yok olma ihtimali var. Gökbilimciler, tarihsel kayıtlara bakarak ve gökyüzündeki nesneleri izleyerek, bu büyüklükteki bir asteroidin dünyaya çarpma riskini yüzyılda yaklaşık 5 000’de 1 olarak hesaplayabiliyorlar.⁠d Bu, çoğu insanın bir uçak kazası geçirme olasılığından (yaklaşık olarak uçuş başına 5 milyonda 1) daha yüksektir ve birçok insanın tahmin ettiği gibi 10 milyonda 1 yok olma riskinden yaklaşık 1000 kat daha yüksek bir orandır.⁠e

Bazıları, bir kilometre büyüklüğündeki bir nesnenin bir felakete yol açacak olmasına rağmen, neslimizin tükenmesine yol açmak için yeterli olmayacağını iddia ediyor. Bu nedenle bu yapılan yüksek bir risk tahminidir. Ancak, öte yandan, süper volkanlar gibi doğal yollarla meydana gelen başka riskler de vardır.⁠f

Bütün bunlar, doğal risklerin mutlak anlamda hala oldukça küçük olduğunu gösteriyor. Dr Toby Ord’un yazdığı bir makale, tüm doğal riskler bir araya getirilirse, bunların hepsinin her yüzyılda 300’de 1’den fazla yok olma olasılığının çok düşük olduğunu gösteriyor.⁠1

Ne yazık ki, şimdi göstereceğimiz gibi, doğal riskler insan kaynaklı risklerin yanında gölgede kalıyor. İşte tam da bu yüzden, yok olma riski özellikle eğilinmesi gereken acil bir konuya dönüştü.

İnsanlık tarihinde en tehlikeli çağı başlatan bir ilerleme öyküsü

Bin yıllık insanlık tarihine bir göz atarsanız, insanlığın genel durumu hakkında karşılaşacağınız temel gerçek, uzun bir süre boyunca neredeyse tüm insanların yoksul olduğu ve sonra 18. yüzyılda bu durumun değiştiğidir.⁠g

Dünyada kişi başına düşen gelir ortalaması tarih boyunca aşağı yukarı sabit iken 1800’lerden günümüze kadar olan süreçte bu oranda üssel bir artış gözlemliyoruz. Bu değişime belki de tarihin en önemli olayı olarak kabul edilebilecek sanayi devrimi sebep oldu.

Bu süreçte büyüyen sadece zenginlik olmadı. Aşağıdaki tablo, uzun vadede yaşam beklentisi, enerji kullanımı ve demokrasinin hızla yükseldiğini, ortalama yoksulluk seviyesinde ise önemli ölçüde azalma olduğunu göstermektedir.⁠2

Okuryazarlık ve eğitim seviyeleri de önemli ölçüde arttı:

İnsanların refahı arttıkça aynı zamanda mutluluk seviyelerinin de arttığı anlaşılıyor.

Steven Pinker, Doğamızın İyilik Melekleri adlı kitabında şiddetin azaldığını savunuyor. (Bu makale yayınlandıktan sonra yayınlanan Bear Braumoeller ile yaptığımız podcast yayınımız, durumun aslında böyle olmayabileceğini gösteren bazı sebepleri inceliyor)

Bireysel özgürlük artarken, ırkçılık, cinsiyetçilik ve homofobi azaldı.

Birçok insan dünyanın kötüye gittiğini düşünüyor⁠h ve modern uygarlığın endüstriyel hayvancılık gibi bazı korkunç şeyler yaptığı bir gerçek. Ancak verilerde de görebileceğiniz gibi, birçok önemli ölçütte insanlık çarpıcı biçimde ilerledi.

Daha da önemlisi, geçmişte ne olduğunu bir kenara bırakıp geleceği düşünecek olursak, gelişen teknoloji, siyasi örgütlenme ve özgürlük imkanları torunlarımıza mevcut sorunlarımızı çözme ve çok daha iyi hayatlara sahip olma fırsatı sunuyor.⁠i Yoksulluğu sona erdirmek, iklim değişikliğini önlemek, acıları hafifletmek ve çok daha fazlası mümkün.

Ama aynı zamanda ikinci tablodaki savaş kapasitesini gösteren mor çizgiye de dikkat edin. Bu, tarihçi Ian Morris’in küresel askeri güç tahminlerine dayanıyor ve gelişen teknolojiyle beraber çarpıcı bir şekilde arttı.

Sorun şu: Gelişen teknoloji, muazzam kazançlar sağlama olasılığının yanı sıra çok büyük riskler de barındırıyor.

Ne zaman yeni bir teknoloji keşfetsek, çoğu zaman büyük faydalar sağlar. Ancak, akıllıca kullanma yeteneğimizden daha çok yıkıcı güce sahip bir teknoloji keşfetme olasılığımız da var.

Ve böylece, şimdiki kuşaklar, insanlık tarihinin refahı en yüksek döneminde yaşıyor olsa da, aynı zamanda en tehlikeli döneminde de yaşıyor.

Varoluş riski barındıran ilk yıkıcı teknoloji nükleer silahlardı.

Nükleer silahlar: Kıl payı felaketlerin tarihi

Bugün hepimizin aklında Kuzey Kore’nin nükleer programı var, ancak güncel olaylar uzun bir kıl payı destanının sadece bir bölümü.

Yalnızca Küba Füze Krizi sırasında, birkaç kez nükleer savaşa yaklaştık.⁠3 Bir olayda, Amerikalılar, casus uçaklarından biri düşürülseydi, başka bir Savaş Konseyi toplantısı yapmadan Küba’yı hemen işgal edeceklerine karar vermişlerdi. Ertesi gün bir casus uçağı düşürüldü. JFK yine de konseyi aradı ve işgal etmeme kararı aldı.

Küba’nın işgali pekala nükleer savaşı tetiklemiş olabilirdi; daha sonra Castro’nun Küba’nın tamamen yok edilmesine yol açabilecek bile olsa nükleer misillemeden yana olduğu ortaya çıktı. Küba’daki bazı fırlatma komutanlarının da bir istila durumunda Amerikan kuvvetlerini taktik nükleer silahlarla hedef alma konusunda bağımsız yetkileri vardı.

Başka bir olayda, bir Rus nükleer denizaltısı, Amerikan filosu tarafından keşfedildiğinde Küba’ya malzeme kaçırmaya çalışıyordu. Filo, denizaltıyı yüzeye çıkmaya zorlamak için denize sahte derinlik yükleri bırakmaya başladı. Rus kaptan, bunların gerçek derinlik yükleri olduğunu ve telsiz iletişimi yokken üçüncü dünya savaşının başladığını düşündü. Nükleer torpidolarından biriyle Amerikan filosuna nükleer bir saldırı emri verdi.

Neyse ki, diğer kıdemli subayların onayına ihtiyacı vardı. Kıdemli subaylardan bir tanesi, Vasili Arkhipov, aynı fikirde değildi ve savaşı engelledi.

Tüm olanları hesaba katan JFK, daha sonra nükleer savaş çıkma olasılığını üçte birden çok yüzde 50’den az bir oranda hesapladı.⁠j

Bu güzel Wikipedia sayfasında listelendiği gibi, Soğuk Savaş’tan sonra bile Rusya ile çok sayıda kıl payı nükleer kriz gerçekleşti. Ve bunlar sadece bizim bildiklerimiz.

Bugün nükleer uzmanlar, her ikisi de nükleer silaha sahip olan Hindistan ve Pakistan arasındaki gerilimlerden Kuzey Kore kadar endişeli.⁠k

Temel sorun, birkaç ülkenin dakikalar içinde konuşlandırmaya hazır büyük nükleer cephanelere sahip olmasıdır. Bu, özellikle dış ilişkilerin gergin olduğu zamanlarında yanlış bir alarmın veya kazanın hızla topyekün bir nükleer savaşa dönüşebileceği anlamına gelir.

Bir nükleer savaş uygarlığı bitirir mi? Başlangıçta bir nükleer patlamanın çok fazle ısı üreterek sıcaklığı çok fazla artıracağı ve atmosferi tutuşturacağı ve dünyayı yaşanmaz hale getireceği düşünülüyordu. Bilim insanları silahların “güvenli” bir şekilde test edilmesinin yeterince olası olmadığını hesapladılar ve artık bunun olmayacağını biliyoruz.

1980’lerdeki temel endişe, yanan binalardan kaynaklanan külün dünyayı uzun süreli bir kışa sokacağı ve bunun da on yıllarca toprakta ürün yetiştirmeyi imkansız kılacağıydı.⁠l Modern iklim modelleri–belirsizliği nedeniyle emin olmak zor olsa da, herkesi öldürecek kadar şiddetli bir nükleer kışın pek olası olmadığını öne sürüyor.⁠m

Bununla birlikte, “ılımlı” bir nükleer kış bile yine de kitlesel açlığa neden olabilir.⁠n Bu ve diğer nedenlerden dolayı, nükleer bir savaş toplumsal istikrarı ve düzeni önemli ölçüde bozacaktır ve böyle bir olaydan sonra uygarlığın toparlanıp toparlanamayacağı belirsizdir.

Bir nükleer savaşın insan uygarlığını kalıcı olarak sona erdirmesi ne kadar olasıdır? Tahmin etmek çok zor, ancak gelecek yüzyılda insanlığı sona erdirecek bir nükleer savaş olasılığının %0,3’ün üzerinde olduğu anlaşılıyor. Bu, nükleer silahlardan kaynaklanan risklerin, tüm doğal risklerden daha büyük olduğu anlamına gelir. (Nükleer riskler hakkında daha fazla bilgi edinin.)

Bu nedenle 1950’ler insanlık için yeni bir çağın başlangıcı oldu. Tarihte ilk kez, az sayıda karar vericinin tüm dünyayı alt üst etmesi mümkün hale geldi. Şu an kendimiz için en büyük tehdidi oluşturuyoruz — bu da bugünü insanlık tarihinin en tehlikeli dönemi yapıyor.

Ve nükleer silahlar uygarlığa son vermemizin tek yolu değil.

İklim değişikliğinin yarattığı risk ne kadar büyük?

Cumhurbaşkanı Obama, 2015’te Birliğin Durumu konuşmasında Hiçbir zorluk  gelecek nesiller için iklim değişikliğinden daha büyük bir tehdit değildir dedi.

İklim değişikliği kesinlikle medeniyet için büyük bir risk.

İklim değişikliğinin en olası sonucu 2-4 derecelik bir ısınmadır⁠4 ki bu kötü olur, ancak türümüz hayatta kalabilir.

Bununla birlikte, bazı tahminler %10 ihtimalle ısınmanın 6 derecenin üzerine çıkacağını ve belki de % 1’lik bir ihtimalle 9 derecelik bir ısınma gerçekleşeceğini söylüyor.

Dolayısıyla, atmosfere salınan karbondioksitin yarattığı büyük bir iklim felaketi olasılığı, belki de bir nükleer savaş olasılığına yakın gibi görünüyor.

Ancak iklim değişikliği konusundaki sorun profilimizde tartıştığımız gibi, 13 derecelik bir ısınmanın bile doğrudan insanlığın yok olmasına neden olması pek olası görünmüyor. Sonuç olarak, bu konuları inceleyen araştırmacılar, nükleer kış olasılığı nedeniyle nükleer savaşın tamamen yok olmayla sonuçlanma olasılığının daha yüksek olduğunu düşünüyor, bu yüzden nükleer silahların iklim değişikliğinden daha büyük bir risk oluşturduğunu düşünüyoruz.

Bununla birlikte, iklim değişikliği kesinlikle büyük bir sorundur ve mevcut istikrarı ve düzeni bozan etkileri diğer riskleri (nükleer çatışma riskleri dahil) şiddetlendirebilir. Bu, risk tahminimizi daha da yukarıya çekmelidir.

Hangi yeni teknolojiler nükleer silahlar kadar tehlikeli olabilir?

Nükleer silahların icadı, sadece birkaç on yıl sonra, 19060’larda nükleer karşıtı harekete yol açtı ve çevre hareketi kısa sürede iklim değişikliğiyle mücadeleyi benimsedi.

Çok daha az hesaba katılan ise, yeni teknolojilerin daha fazla felaket riski oluşturacağıdır. Bu yüzden genel olarak uygarlığı korumakla ilgilenen bir harekete ihtiyacımız var.

Teknolojinin geleceğini tahmin etmek zor ama tek bir uygarlığa sahip olduğumuz için onu korumak için elimizden gelenin en iyisini yapmalıyız. İşte nükleer silahlar kadar tehlikeli olan bir sonraki teknoloji için bazı adaylar.

Biyomühendislik ürünü pandemiler

1918-1919’da dünya nüfusunun %3’ünden fazlası İspanyol gribinden öldü.⁠o Bugün böyle bir salgın ortaya çıkarsa, hızlı küresel ulaşım nedeniyle kontrol altına alınması daha da zor olabilir.

Buna ek olarak, daha da endişe verici olan şey, yakında İspanyol gribi kadar bulaşıcı ama aynı zamanda daha ölümcül olan ve tespit edilmeden yıllarca yayılabilen bir virüsün genetik mühendisliğin bir sonucu olarak ortaya çıkmasının son derece mümkün olduğudur.

Böyle bir virüs, nükleer silahların yıkıcı gücüne eşdeğer bir silah olabilir ve kullanılmasını engellemek de bir o kadar zor. Nükleer silahlar, kontrol edilmelerini nispeten kolaylaştıran devasa fabrikalar ve nadir malzemeler gerektirir. Öte yandan, biyoloji doktorası olan birkaç kişi bir laboratuvarda virüs tasarlayabilir. Hatta, The Guardian 2006 senesinde, soyu tükenmiş çiçek hastalığı virüsünün parçalarını posta yoluyla aldı.⁠5 Benzer şekilde, bazı terörist gruplar, biyomühendislik ürünü virüsler gibi ayrım gözetmeyen silahları kullanmakla ilgilendiklerini ifade ettiler. (Pandemi riskleri hakkında daha fazla bilgi edinin.)

Yapay zeka

Potansiyel gücü büyük olan bir diğer yeni teknoloji ise yapay zeka olarak karşımıza çıkıyor.

Gücün ve yetkinin şempanzelerde değil de insanlarda olması tamamen zeka farklılığından kaynaklanmaktadır. Şempanzelerden fiziksel olarak çok daha güçsüz olmamıza rağmen, büyük ve güçlü beyinlerimiz bize dünya üzerinde inanılmaz bir kontrol ve etki imkanı sağlıyor.

Peki bir gün kendimizden çok daha zeki bir varlık yaratırsak ne olur?

2017’de, hakemli dergilerde yapay zeka hakkındaki araştırmaları yayınlanan ve en iyi konferanslarda bu yayınları sunan 350 araştırmacıya, ne zaman insan düzeyinde zekaya sahip bilgisayarlar–tüm görevlerini insanlardan daha iyi yerine getirebilecek bir makina, geliştireceğimiz bir anketle soruldu.

Ortalama tahmin, 45 yıl içinde üst düzey makine zekası geliştirme şansımızın %50 ve yüzyılın sonunda ise %75 olduğu şeklindeydi.⁠p

Bu olasılıkları tahmin etmek zordur ve araştırmacılar soruyu tam olarak nasıl sorduğunuza bağlı olarak çok farklı oranlar verdiler.⁠q Yine de, önümüzdeki yüzyılda bir tür dönüştürücü makine zekasının icat edilmesi için kayda değer bir ihtimal var gibi görünüyor. Dahası, daha büyük belirsizlik, insanların düşündüğünden daha sonra değil, daha erken gelebileceği anlamına gelebilir.

Bu gelişme ne gibi riskler doğurabilir? Alan Turing ve Marvin Minsky gibi bilgi işlem alanındaki ilk öncü isimler, güçlü bilgisayar sistemlerinin⁠r riskleri hakkında endişelerini dile getirdiler ve bu riskler bugün hala var. Bilgisayarların “kötü varlıklara dönüşmesinden” bahsetmiyoruz. Bunun yerine, güçlü bir yapay zeka sisteminin bir grup tarafından dünyanın kontrolünü ele geçirmek için kullanılabileceği veya başka bir şekilde kötüye kullanılabileceği endişesi var. SSCB, ABD’den 10 yıl önce nükleer silah geliştirmiş olsaydı, SSCB baskın küresel güç olabilirdi. Güçlü bilgisayar teknolojisi benzer riskler doğurabilir.

Bir başka endişe de, bizden daha akıllı bir şeyin ne yapacağını tahmin etmek zor olacağından, bu sistemi yaygınlaştırmanın istenmeyen sonuçlara yol açabileceğidir. Yeterince güçlü bir sistemi kontrol etmek de zor olabilir ve bu nedenle bir kez uygulandığında geri alınması zor olabilir. Bu kaygılar, Oxford Profesörü Nick Bostrom’un Superintelligence kitabında ve yapay zekanın önde gelen isimlerinden Stuart Russell tarafından dile getirilmiştir.

Çoğu uzman, daha iyi bir yapay zekanın son derece olumlu bir gelişme olacağını düşünüyor, ancak riskler olduğu konusunda da hemfikir. Az önce bahsettiğimiz ankette, yapay zeka uzmanları, üst düzey makine zekasının geliştirilmesinin %10’luk bir “kötü sonuç” ve %5 bir ihtimalle de insan neslinin tükenmesi gibi “son derece kötü” bir sonuç doğuracağını tahmin ediyor.⁠s Ve Muhtemelen bu uzmanların pozitif önyargılı olmasını beklemeliyiz, çünkü ne de olsa geçimlerini teknolojiden sağlıyorlar.

Tahminleri bir araya getirirsek, gelecek yüzyılda üst düzey makine zekasının geliştirilmesi için %75 ihtimal varsa, bu, büyük bir yapay zeka felaketi olasılığının %75’in %5’i, yani yaklaşık %4 olduğu anlamına gelir. (Yapay zekadan kaynaklanan riskler hakkında daha fazla bilgi edinin.)

Gelişen teknolojilerin getirdiği diğer riskler

İnsanlar, diğer jeo-mühendislik ve atomik enerji üretimi biçimleri gibi diğer yeni teknolojiler hakkında endişelerini dile getirdiler, ancak bunlar önemli ölçüde daha az muhtemel görünüyor. Bu nedenle söz ettiğimiz diğer teknolojilerden daha az tehlikeli olarak görülüyor. Burada varoluşsal risklerin daha uzun bir listesini görebilirsiniz.

Muhtemelen daha endişe verici olan riskler; henüz aklımıza dahi gelmeyenler. 1900’de insanlara uygarlığımızın varoluşunu tehdit eden en büyük risklerin neler olduğunu sorsaydınız, muhtemelen nükleer silahları, genetik mühendisliğini veya yapay zekayı söylemezlerdi, çünkü bu teknolojilerin hiçbiri o zaman icat edilmemişti. Önümüzdeki yüzyıla bakarken şu an aynı durumda olmamız mümkün. Gelecekteki “bilinmeyen bilinmeyenler”, bugün bildiğimiz risklerden daha büyük bir risk oluşturabilir.

Ne zaman yeni bir teknoloji keşfetsek, bu biraz rulet çarkında tek bir sayıya karşı bahis oynamak gibidir. Böyle düşünürsek çoğu zaman kazanırız ve teknoloji genel olarak iyidir. Ancak her seferinde, küçük de olsa, teknolojinin bize altından kalkabileceğimizden daha fazla yıkıcı güç vermesi ve her şeyi kaybetme riskimiz var.

Toplamda insan neslinin tükenme riski nedir?

Bu konuları çalışan birçok uzman, gelecek yüzyılda insan neslinin tükenme olasılığının % 1 ile % 20 arasında olduğunu tahmin ediyor.

Will MacAskill ile yaptığımız podcast bölümümüzde, bu yüzyılda insan neslinin tükenme riskini neden %1 civarında hesapladığını tartışıyoruz.

Ayrıca 2020 tarihli The Precipice adlı kitabında Toby Ord, bu yüzyıldaki toplam varoluşsal risk tahminini 6’da 1 (veya yaklaşık %17) — yani bir zar atışı olarak hesaplıyor. (Yine de, Ord’un varoluşsal bir felaket tanımının insanın neslinin tükenmesiyle aynı şey olmadığını akılda tutmakta fayda var; Ord’un geniş ölçekli tanımı, bazı insanlar hala hayatta olsa bile, türümüzün asla gerçekten toparlanamamasına neden olacak küresel felaketleri de içeriyor.) Toby ile olan bölümümüzü dinleyin.

Ord’un kitabında, en büyük tehditler olduğuna inandığı varoluşsal risk tahminlerini kaba bir şekilde ortaya koyan aşağıdaki tablo yer alıyor:

Bu sayılar ve oranlar, insanların normalde düşündüklerinden yaklaşık bir milyon kat daha yüksektir.

Bu tahminlerden ne anlamalıyız? Muhtemelen, bu konuyla ilgilenen araştırmacılar sadece bu konular üzerinde çalışıyorlar çünkü çok önemli olduklarını düşünüyorlar. Dolayısıyla tahminlerinin yüksek olması beklenen bir durum olur (seçim yanlılığından dolayı). Oranlar tartışmaya açık olsa da, MacAskill ve Ord’unkiler de dahil olmak üzere benzer tahminlerin akla uygun olduklarını düşünüyoruz.

Geleceği korumak için yardımcı olmak neden hayatınızda yapabileceğiniz en önemli şey olabilir?

Küresel yoksulluk, kanserin sona erdirmek veya siyasi değişim gibi diğer konulara kıyasla bu varoluşsal riskleri azaltmak için çalışmaya ne kadar öncelik vermeliyiz?

Biz, 80 000 Saat’te, insanların olumlu sosyal etkiye sahip kariyer bulmalarına yardımcı olmak için araştırma yapıyoruz. Bunun bir parçası olarak, dünyadaki en acil, üzerinde çalışmaya değer sorunları bulmaya çalışıyoruz. Dünyadaki sorunları şu açılardan karşılaştıran, sorun çerçevemizi kullanarak farklı küresel sorunları değerlendiririz:

• Ölçek — Sorundan kaç kişi etkileniyor
• İhmal — Halihazırda bu sorun üzerinde çalışan kaç kişi var
• Çözülebilirlik — İlerleme kaydetmenin ne kadar kolay olduğu

Bu çerçeveyi uygularsanız, geleceğimizi korumanın dünyanın en büyük önceliği olduğunu düşünüyoruz. Bu nedenle, kariyeriniz üzerinde büyük bir pozitif etki yaratmak istiyorsanız, odaklanmanız gereken en önemli alan budur.

Sonraki bölümlerde, kendi araştırmamızın yanı sıra Nick Bostrom’un Küresel Öncelik Olarak Varoluşsal Riski Önleme ve Toby Ord’un yayınlanmamış çalışmasına ağırlık vererek bu konuyu ölçek, ihmal ve çözülebilirlik üzerinden değerlendireceğiz.

Öncelikle sorunun ölçeğinden başlayalım. Gelecek yüzyılda neslimizin tükenme olasılığının %3’ün üzerinde olduğunu öne sürmüştük. Bu ne kadar büyük bir sorun?

Örneğin, böyle bir felakette kaç kişinin ölme ihtimali olduğuna bakabiliriz. Yüzyılın ortalarında dünya nüfusu yaklaşık 10 milyar olacak, yani herkesin ölme olasılığı %3’lük bir ihtimale karşılık geliyor. Buna göre de beklenen ölüm sayısının yaklaşık 300 milyon olduğu sonucu çıkıyor. Bu, gelecek yüzyılda ölecek olan insan sayısının, sıtma gibi yoksulluk ile bağlantılı hastalıklar nedeniyle ölen insan sayısından çok daha fazla olacağı anlamına gelebilir.⁠6

Ele aldığımız risklerin çoğu, uygarlığı sona erdirmek yerine “orta” bir felakete de neden olabilir ve bu muhtemelen çok daha olasıdır. Daha önce ele aldığımız anket, gelecek yüzyılda 1 milyardan fazla insanı öldüren ve hayatta kalanlar arasında çok daha fazla acıya sebep olmanın yanı sıra en az 100 milyon ölüm kişinin daha ölümüne sebep olacak bir felaket olasılığının %10’un üzerinde olduğunu gösterdi.

Dolayısıyla, yalnızca şimdiki nesil üzerindeki etkisine odaklansak bile, bu felaket riskleri insanlığın karşı karşıya olduğu en ciddi sorunlardan biridir.

Bu, sorunun boyutunu hafife alan bir tahmindir, çünkü uygarlık biterse, tüm geleceğimiz ve potansiyelimiz de son bulur.

Çoğu insan torunlarına daha iyi bir dünya bırakmak istiyor ve gelecek nesiller için daha çok kaygılı olmamız gerektiğini düşünüyor. Gelecekte harika hayatları olan bugün yaşayan insan sayısından çok daha fazla olabilir ve onların çıkarlarını düşünmeliyiz. İnsan uygarlığının milyonlarca yıl sürmesi ihtimali var. Bu nedenle risklerin gelecek nesiller üzerindeki etkisini düşündüğümüzde, riskler milyonlarca kat daha yüksek. Carl Sagan’ın Foreign Affairs dergisinde nükleer savaşın maliyeti üzerine yazdığı gibi:⁠7

Bir nükleer savaş, insanlar var olduğu sürece tüm torunlarımızı tehlikeye atar. Ortalama 100 yıllık bir yaşam süresi olan, biyolojik evrimi için 10 milyon yılı geride bırakmış insanlık; gelecekte nüfusu sabit kalsa dahi, henüz var olmamış ama gelecekte var olacak olan yaklaşık 500 trilyon yeni insan olacak. Bu kritere göre, yok olma tehlikesi, “yalnızca” yüz milyonlarca insanı öldüren daha mütevazı nükleer savaşlardan bir milyon kat daha fazladır. Kültür ve bilim, gezegenin evrimsel tarihi ve torunlarımızın geleceğine katkıda bulunan tüm atalarımızın yaşamlarının önemi dahil olmak üzere, potansiyel kaybın başka birçok olası ölçütü vardır. Yok olma, insanlık tarihinin ve gelişiminin geriye alınmasıdır.

Romalıların insanlığın neslinin tükenmesine izin vermemesine sevindik, çünkü bu, tüm modern uygarlığın var olmaya devam etmesini mümkün kıldı. Benzer olarak, biz de bizden sonra gelecek insanlara karşı –tatmin edici bir yaşam sürebileceklerini düşünerek (inandığımız gibi), sorumlu olduğumuzu düşünüyoruz. Sırf kendimizi kısa vadede daha iyi duruma getirmek için onların varlığını tehlikeye atmak pervasızlık ve haksızlık olur.

Bu, sadece gelecekte daha fazla insan olabileceğinden değil. Sagan’ın da belirttiği gibi, değerli olduğunu düşündüğünüz şey ne olursa olsun, gelecekte potansiyel olarak çok daha fazlası var. Geleceğin uygarlığı, ihtiyaç ve isteklerin ortadan kalktığı bir dünya yaratabilir ve akıllara durgunluk veren entelektüel ve sanatsal başarılara imza atabilir. Çok daha adil ve erdemli bir toplum inşa edebiliriz. Ve uygarlığın, içinde yer aldığımız galakside yaklaşık 100 milyar tane bulunan dünyadan başka gezegenlere ulaşamaması için ilkesel bir neden yok.⁠8 Uygarlığın sona ermesine izin verirsek, bunların hiçbiri gerçekleşemez.

Bu harika geleceğin gerçekleşip gerçekleşmeyeceğinden emin değiliz, ancak bu, uygarlığın devam etmesini sağlamaya çalışmak ve bu geleceğin gerçekleşip gerçekleşmeyeceğini öğrenme şansımız olması için bize daha fazla neden sunuyor. Elimizdeki meşaleyi gelecek nesle devretmemek, yapabileceğimiz en büyük kötülük olabilir.

Dolayısıyla, uygarlığımızın sona erme riskinin yüzde birkaç olması, bugün dünyanın karşı karşıya olduğu en büyük sorun gibi görünüyor. Ayrıca çarpıcı olan, bu risklerin ne kadar ihmal edildiği, ne kadar az insanın bu riskler üzerinde çalıştığıdır.

Bu riskler neden en çok ihmal edilen küresel sorunlardan bazıları?

Aşağıdaki tablo, bazı önemli alanlara yılda ne kadar para harcandığını gösteriyor:⁠t

Gördüğünüz gibi, daha da güçlü teknolojiler geliştirmek için Ar-Ge’ye çok büyük miktarda kaynak ayırıyoruz. Ayrıca lüks mallar satın alarak hayatımızı iyileştirmek için (muhtemelen yanlış yönlendirmeler sonucu) çok para harcıyoruz.

İklim değişikliğinden kaynaklanan felaket risklerini azaltmak için çok daha az harcama yapılıyor. Yalnızca ABD’deki refah harcamaları, iklim değişikliğine yönelik küresel harcamaları gölgede bırakıyor.

Ancak iklim değişikliği, ele aldığımız bu diğer risklerin bazılarına kıyasla hala çok büyük miktarda para alıyor. Riskin boyutu aşağı yukarı aynı görünse de, kabaca aşırı küresel pandemilerin önlenmesine 300 kat daha az kaynak ayrıldığını tahmin ediyoruz.

Yapay zeka sistemlerinden kaynaklanan kazaları önlemeye yönelik araştırmalar, yılda sadece 10 milyon dolar alıp 100 kat daha az kaynak ayrılarak en çok ihmal edilen alan olarak göze çarpıyor.

Harcanan paradan ziyade bu riskler üzerinde çalışan insan sayısına bakarsanız benzer bir tabloyla karşılaşırsınız, ancak ayrılan para miktarına erişmek çok daha kolay olduğu için onu veri olarak baz alıyoruz.

Bunun yerine bilimsel ilgiye bakarsak, benzer bir ihmal tablosu görürüz (yine de, iklim değişikliği gibi bazı bireysel riskler büyük ilgi görmektedir):

Bizim izlenimimiz, siyasi ilgiye bakarsanız, finansal oranlara benzer bir resimle karşılaşırsınız. Siyasi ilginin ezici çoğunluğu kısa vadede mevcut kuşaklara yardımcı olan somut meselelere yöneliyor, çünkü oy alan bu. Felaket riskleri siyasi arenada çok daha fazla ihmal ediliyor. Felaket riskleri arasında iklim değişikliği en çok dikkat çeken alanken, salgın hastalıklar ve yapay zeka gibi konular en çok ihmal ediliyor.

Ayrılan kaynaklardaki, bilimsel çalışmalardaki ve siyasi ilgideki bu ihmal, mevcut ekonomiden tam olarak beklediğiniz budur ve bu alanın, dünyayı daha iyi bir yer haline getirmek isteyen insanlar için büyük bir fırsat sunmasının nedeni de ne kadar ihmal edildiğinden kaynaklanır.

İlk olarak, bu riskler tek bir ulusun sorumluluğunda değildir. ABD’nin iklim değişikliğini önlemek için büyük yatırımlar yaptığını varsayalım. Bu, dünyadaki herkese fayda sağlar, ancak dünya nüfusunun yalnızca %5’i ABD’de yaşar, dolayısıyla ABD vatandaşları bu ayrılan harcamanın yalnızca %5’inden faydalanır. Bu oranlara bakarsak, ABD’nin dünya için ne kadar değerli olduklarına kıyasla bu çabalara önemli ölçüde düşük yatırım yapacağı anlamına geliyor. Ve aynı şey diğer tüm ülkeler için de geçerlidir.

Eğer hepimiz eşgüdümlü olarak çalışabilsek bu sorun çözülebilirdi — eğer her ulus iklim değişikliğini azaltmak için payına düşen katkıyı vermeyi kabul ederse, o zaman tüm uluslar iklim değişikliğinin en kötü etkilerinden kaçınarak yararlanacaktır.

Ne yazık ki, her bir ulusun bakış açısından, diğer ülkelerin kendi ekonomisini engellemeden emisyonlarını azaltması daha iyi bir seçenek. Dolayısıyla, her ulusun iklim anlaşmalarından kaçması için bir bahanesi var ve bu yüzden bu konuda çok az ilerleme kaydediliyor (bu bir tutuklu ikilemi örneği).

Ve aslında, bu sorunu dramatik bir şekilde küçümsüyor. Felaket risklerini azaltma çabalarından en büyük faydayı gelecek nesiller görecektir. Gelecek kuşakların ne ekonomik ne de siyasi çıkarlarını savunmalarının hiçbir yolu yok.

Gelecek nesiller seçimlerimizde oy kullanabilseydi, ezici bir çoğunlukla daha güvenli politikalar lehinde oy kullanırlardı. Aynı şekilde, gelecek nesiller parayı zamanda geri gönderebilselerdi, bu riskleri azaltmak için bize büyük miktarlarda para ödemeye istekli olacaklardı. (Teknik olarak, bu riskleri azaltmak, nesiller arası, küresel bir kamu yararı yaratır ve bu da onları iyilik yapmanın en ihmal edilen yollarından biri haline getirir.)

Mevcut sistemimiz gelecek nesilleri korumakta yetersiz kalıyor. Birleşik Krallık’taki üst düzey hükümet yetkilileriyle görüşen insanlar tanıyoruz ve birçoğu bu riskler hakkında bir şeyler yapmak istiyor, ancak haberlerin ve seçim döngüsünün baskılarının bu konulara odaklanmayı zorlaştırdığını söylüyorlar. Çoğu ülkede, görev tanımı içinde bu riskleri doğal olarak azaltmaya uğraşan hiçbir devlet kurumu yoktur.

Bu moral bozucu bir durum ama aynı zamanda bir fırsat. Dünyayı daha iyi bir yer haline getirmek isteyen insanlar için bu ilgi eksikliği, yardım etmenin birçok etkili yolu olduğunu da gösterir.

Bu riskler hakkında ne yapılabilir?

Bu konuların ölçeğini ve ihmal edilme oranını ele aldık. Peki, çerçevemizin üçüncü unsuru olan çözülebilirlik ne ifade ediyor?

Bu konularda ilerleme kaydedip kaydedemeyeceğimiz, küresel sağlık gibi daha geleneksel alanlardan daha az öngürlebilirdir. Sağlık üzerindeki etkimizi ölçmek (en azından kısa vadede) çok daha kolay ve neyin işe yaradığıı gösteren onlarca yıldır birikmiş kanıtlarımız var. Bu, felaket risklerini azaltmak için çalışmanın çözülebilirlik açısından daha kötü göründüğü anlamını taşıyabilir.

Ancak, hala yapabileceğimiz çok fazla şey var ve bu risklerin devasa ölçeği ve ihmali göz önüne alındığında, bunlar hala en acil meseleler gibi görünüyor.

Bu riskleri azaltmanın bazı yollarını üç geniş kategoriye ayırarak açıklayacağız:

1: Belirli riskleri azaltmak için hedefli çabalar

Bir yaklaşım göre, her bir riski doğrudan hedefleyerek ele almak gereklidir. Her biriyle başa çıkmak için aşağıdakiler gibi birçok somut teklif vardır:

1. Birçok uzman, daha iyi hastalık gözleminin pandemi riskini azaltacağı konusunda hemfikirdir. Bu, yeni pandemileri daha hızlı tespit etmemize yardımcı olmak için gelişmiş teknolojileri veya mevcut verilerin daha iyi toplanmasını ve birleştirilmesini içerebilir. Ve yeni bir pandemiyi ne kadar hızlı tespit ederseniz, onu yönetmesi de o kadar kolay olur.

2. İklim değişikliğini azaltmanın, daha iyi güneş panelleri geliştirmeye yardımcı olmak veya karbon vergisi getirmek gibi birçok yolu vardır.

3. Yapay zeka konusunda; güçlü yapay zeka sistemlerinden istenmeyen zarar olasılığını azaltmak için bilgisayar bilimindeki “kontrol sorunu” hakkında araştırma yapabiliriz. Yakın tarihli Yapay Zeka Güvenliğinde Somut Problemler isimli makale, bazı belirli konuları özetlemektedir, ancak bugün sadece yaklaşık 20 kişi benzer araştırmalarda tam zamanlı olarak çalışmaktadır.

4. Nükleer güvenlik konusunda birçok uzman, nükleer silahların caydırıcılık politikalarından elde edilebilecek faydaların çok daha küçük stoklarla sağlanabileceğini düşünüyor. Aynı zamanda, daha düşük stoklar kaza riskini ve bir nükleer savaşın çıkması durumunda uygarlığı sona erdirme şansını da azaltacaktır.

Oluşturduğumuz sorun profillerimizde her bir riskin üstesinden gelmek için neler yapabileceğinizi daha derinlemesine ele alıyoruz:

1. Yapay zeka güvenliği
2. Pandemi önleme
3. Nükleer güvenlik
4. İklim değişikliği

Bu bölümde doğal olarak ortaya çıkan risklere odaklanmıyoruz çünkü çok daha az olasılar ve bazılarıyla başa çıkmak için şimdiden çok şey yapıyoruz. Gelişmiş zenginlik ve teknoloji, bizi doğal risklere karşı daha dirençli hale getiriyor ve bunlardan daha çok gelişme kaydetmek üzere şimdiden büyük miktarda çaba harcanıyor.

2: Riskleri azaltmak için geniş kapsamlı çabalar

Her bir riski tek tek azaltmaya çalışmaktansa, uygarlığımızı genel olarak risk yönetmiminde daha iyi hale getirmeye çalışabiliriz. “Geniş” çabalar, henüz aklımıza gelmeyen tehditler de dahil olmak üzere tüm tehditleri bir anda azaltmaya yardımcı olur.

Örneğin, genellikle hükümetin kilit karar verme mekanizmalarında görev alan ve krizler meydana geldikçe onları yönetmesi gereken belirli isimler vardır. Söz konusu kişi ve kurumların karar verme becerilerini geliştirebilirsek, bu, toplumun genelini bu risklere karşı daha dirençli hale getirmeye ve diğer birçok sorunu çözmeye yardımcı olacaktır.

Son araştırmalar, karar vermeyi iyileştirmenin birçok yolunu ortaya çıkardı, ancak bunların çoğu henüz uygulamaya konmadı. Aynı zamanda, sadece birkaç kişi bu konu üzerinde çalışıyor. Kurumsal karar alma sürecini geliştirmeyi konu alan yazımızda bu durumu daha detaylı ele alıyoruz.

Yapabileceklerimize bir başka örnek de uygarlığın olası bir felaketten sonra toparlanmasına yardımcı olmaya çalışmaktır. Global Seed Vault, birçok önemli mahsul çeşidinin tohumlarını içeren ve önemli bir canlı türünü tamamen kaybetme olasılığını azaltan Kuzey Kutbundaki donmuş bir mahzendir. İronik bir şekilde, iklim değişikliği yüzünden eriyen su yakın zamanda sonu mahzene çıkan tünele girdi. Bu yüzden muhtemelen bu sorunun çözümü için daha fazla fon gerekebilir. Bilgiyi korumak için yapabileceğimiz buna benzer birçok proje var.

Benzer şekilde, salgın hastalık, nükleer kış ve asteroit (yapay zeka olmasa da) gibi felaketlerden kaynaklanabilecek yok olma ihtimalimizi azaltacak ve aynı zamanda bir felaketten sonra iyileşme şansımızı artıracak daha iyi afet sığınakları oluşturabiliriz. Şu anda, bu önlemler ilk etapta risklerin kendisini azaltmak kadar etkili görünmüyor, ancak yine de yardımcı oluyorlar. Daha çok ihmal edilen ve belki de çok daha ucuz bir seçenek, ışıksız üretilebilen ve uzun süren bir nükleer kışta hızla yetiştirilebilen alternatif gıda kaynakları oluşturmaktır.

Geniş çaplı çabalar, risklerin ayrıntılarını bilmesek bile yardımcı olduğundan, siz ne kadar emin değilseniz o kadar cezbedici görünürler. Risklere doğru yaklaştıkça, kaynakları, geniş kapsamlı çabalardan hedefli çabalara doğru kademeli olarak yeniden dağıtmalısınız (daha fazlasını okuyun).

Daha pek çok umut vaat eden geniş kapsamlı müdahale olmasını bekleriz, ama bu, çok az araştırmanın yapıldığı bir alandır. Bir diğer yaklaşım uluslararası koordinasyon imkanlarının geliştirilmesine yönelik olabilir. Bu riskler insan kaynaklı olduğu için önlenebilirler ama bizi engelleyen koordinasyon zorluğudur. Örneğin Rusya, nükleer savaş olasılığı olmasa, her iki ülkenin de durumu daha iyi olacak olsa dahi, ABD’ye kıyasla dezavantajlı duruma düşeceği için silahsızlanmak istemiyor.

Buna karşılık, dış ilişkileri iyileştirmek veya daha iyi uluslararası kurumlar geliştirmek gibi yöntemlerle tek bir uygarlık olarak daha iyi koordine olmamızı sağlayacak becerilerimizi geliştirmek mümkün olabilir. Bunun gibi önerileri olan daha fazla araştırma görmek istiyoruz.

Eğitimi ve uluslararası kalkınmayı iyileştirmek gibi iyi şeyler yapmaya yönelik temel çabalar aynı zamanda toplumu daha dayanıklı ve akıllı hale getirmeye yardımcı olabilir ve böylece felaket risklerinin azaltılmasına da katkıda bulunabilir. Örneğin, daha iyi eğitimli bir nüfus, muhtemelen daha aydınlık liderler seçer ve daha zengin ülkeler–diğer her şeyin eşit olduğunu varsaydığımız takdirde, pandemileri daha iyi önleyebilir (Ebola’nın Batı Afrika’nın en yoksul bölgelerinden bazıların sarması tesadüf değil).

Öte yandan, iki nedenden dolayı eğitim ve sağlığı en çok odaklanılması gereken alanlar arasında görmüyoruz. İlk olarak, bu alanlar, ele aldığımız daha geleneksel olmayan yaklaşımlardan çok daha az ihmal edilmiştir. Aslında, belki de eğitimi iyileştirmek, iyi şeyler yapmak isteyen insanlar için en çok rağbet gören alandır. Eğitim, sadece ABD’de 800 milyar dolarlık devlet fonu ve bir trilyon dolarlık özel fon daha alıyor. İkincisi, bu yaklaşımların bu riskleri azaltmada çok daha karışık etkileri vardır — gözle görülür bir etki elde etmek için eğitimi çok büyük ölçekte geliştirmeniz gerekir. Daha hedefli ve ihmal edilmiş çözümlere odaklanmayı tercih ediyoruz.

3: Daha fazlasını öğrenmek ve kapasite oluşturmak

Hangi risklerin en büyük olduğu, bunlarla ilgili yapılacak en iyi şeyin ne olduğu ve küresel önceliklerle ilgili çizdiğimiz resmin tamamen yanlış olup olmayacağı konusunda kesin bir tahminimiz yok. Bu, diğer bir önemli hedefin tüm bu bahsedilen konular hakkında daha fazla bilgi edinmek ve öğrenmek olduğu anlamına gelir.

Bu riskleri azaltmaya çalışarak ve ne gibi ilerlemeler kaydedilebileceğini gözlemleyerek daha fazlasını öğrenebiliriz. Ancak şu anda daha fazlasını öğrenmenin en ihmal edilen ve önemli yolunun küresel öncelikler araştırması yapmak olduğunu düşünüyoruz.

Bu alan, insanlık için en önemli konular hakkında üst düzey soruları yanıtlamayı amaçlayan ekonomi ve ahlak felsefesinin bir birleşimidir. Bu konuda tam zamanlı olarak çalışan sadece bir avuç araştırmacı var.

Bu belirsizlikle baş etmenin bir başka yolu, gelecekte daha fazla bilgiye sahip olduğunuzda kullanabileceğiniz kaynaklar oluşturmaktır. Bunu yapmanın bir yolu para kazanmak ve biriktirmektir. Bun ek olarak, gelecekte daha fazlasını başarabilmeniz için kariyer sermayenize, özellikle aktarılabilir becerilerinize ve etkili bağlantılarınıza yatırım yapabilirsiniz.

Öte yandan, her ikisinden de muhtemelen daha iyi bir yaklaşımın, bu riskleri azaltmaya odaklanan bir topluluk oluşturmak olduğunu düşünüyoruz. Bunun daha iyi bir yaklaşım olmasının nedeni, bir topluluğun kapasitesini, bireysel servetinizi veya kariyer sermayenizi büyütebileceğinizden daha hızlı bir şekilde büyütmenin mümkün olmasıdır. Örneğin, hedefli bir şekilde topluluğu büyütmek için birebir görüşmeler yaparak bir yıl harcadıysanız, size katılmak için gereken uzmanlığa sahip başka birini bulmanız uzak bir ihtimal değildir. Bu, topluluğa yaklaşık %100’lük bir getiri sağlamış olur.

Şu anda, bu riskleri azaltmak isteyen birçok insanı bünyesinde barındıran bir efektif altruizm topluluğu oluşturmaya odaklanmış durumdayız. Ayrıca, son zamanlardaki büyüme oranı ve topluluğu büyütmeye yönelik özel çabalar üzerine yapılan incelemeler, yüksek getiri oranlarının mümkün olduğunu göstermektedir.

Ancak, diğer topluluk oluşturma çabalarının da değerli olacağını umuyoruz. Akademide bir güvenlik kültürünü teşvik etmeye çalışan bir bilim insanları topluluğunu görmek harika olurdu. Bu riskleri azaltmaya çalışmak ve hükümetin gelecek nesiller için daha fazla endişe duymasını sağlamak isteyen bir politika yapıcılar topluluğu görmek de benzer bir şekilde muhteşem olurdu.

Bu riskleri azaltmak için ne kadar az insanın aktif olarak çalıştığı göz önüne alındığında, bu konular etrafında bir hareket inşa etmek için yapılabilecek çok fazla şey olduğunu tahmin ediyoruz.

Toplamda, bu riskleri azaltmak ne kadar etkilidir?

Bu riskleri azaltmaya yönelik tüm yaklaşımlar ve bunlardan bazılarına ne kadar az kaynak ayrıldığı düşünüldüğünde, bu konularda önemli ölçüde ilerleme kaydetmek mümkün görünüyor.

Aslında, bu risklerin sadece şimdiki nesil üzerindeki etkisini göz önüne alsak bile (gelecek nesillere herhangi bir fayda sağlamayı göz ardı ederek), bunlar akla uygun olarak birinci önceliktir.

İşte bunun nasıl mümkün olabileceğini göstermek için bazı çok kaba ve basitleştirilmiş oranlar: Varoluşsal tehditleri azaltmak için harcanan 100 milyar doların, gelecek yüzyılda bu tehditleri %1’den fazla azaltabileceği öngörüsü bize makul görünüyor. Riskte yüzde bir puanlık bir azalmanın, mevcut nesilde yaklaşık 100 milyon hayat kurtarması beklenir (bugün yaşayan yaklaşık 10 milyar insanın %1’i). Bu, yatırımın kişi başına sadece 1 000$‘a hayat kurtaracağı anlamına gelir.⁠u

Greg Lewis daha ayrıntılı bir tahminde bulundu ve şimdiki nesilde kurtarılan yaşam yılı başına ortalama 9,200 ABD dolarına (ya da yaşam başına yaklaşık 300 000 ABD dolarına) ulaştı.⁠v Bu konuda daha fazla tahmin de var. Greg’in tahmininin muhtemelen fazla muhafazakar olduğunu düşünüyoruz, çünkü bizim tahminimizin birkaç kat daha yüksek olduğu gelecek yüzyılda neslimizin tükenme riskini sadece %1 olarak hesaplıyor. Ayrıca varoluşsal riski azaltmak için harcanacak ekstra bir milyar doların, riskte Greg’in varsaydığından daha büyük bir azalmaya neden olabileceğini düşünüyoruz (bunun yalnızca paranın yapay zeka güvenliği ve biyolojik risk gibi en çok ihmal edilen konulara harcanması durumunda geçerli olduğunu unutmayın). Sonuç olarak, varoluşsal riski azaltmak için yatırılan ekstra bir milyar dolar için kurtarılan şimdiki hayat başına maliyet 100 doların altında olsa şaşırmayız.

GiveWell’in en çok tavsiye edilen hayır kurumu, Against Malaria Foundation (AMF), genellikle şimdiki kuşağa yardım etmenin en iyi yollarından biri olarak sunulur ve yaklaşık $7,500’a hayat kurtarır (2017 sayılarına göre).⁠w Dolayısıyla bu tahminler varoluşsal tehditleri azaltmanın maliyet etkinliği açısından mevcut nesilde hayat kurtaran AMF—maliyet etkinliğinde olağanüstü olduğu için özel olarak seçilmiş bir hayır kurumu—, ile aynı ya da ondan daha iyi bir adım olacağını ortaya koyacaktır.

Aynı şekilde, 10 000 yetenekli genç, kariyerlerini bu risklere yoğunlaştırırsa, risklerde yaklaşık %1’lik bir azalmaya ulaşabileceklerini düşünüyoruz. Bu, her bir kişinin kariyerleri boyunca şimdiki kuşakta yaklaşık olarak 1 000 hayat kurtaracağı anlamına gelir; bu, muhtemelen Against Malaria Foundation’a bağış yaparak ve bağış yapmak için para kazanarak kurtarabileceklerinden daha iyidir.⁠x

Bir anlamda, bunlar haksız karşılaştırmalar olabilir çünkü GiveWell’in tahmini çok daha sağlam ve iyi araştırılmış, oysa bizim tahminimiz daha bilgiye dayalı bir tahmin. Mevcut kuşağa yardım etmenin AMF’den daha iyi yolları da olabilir (örneğin politika savunuculuğu).

Bununla birlikte, varoluşsal tehditleri azaltmanın faydalarını da önemli ölçüde küçümsedik. Uygarlığı korumanın temel nedeni, şimdiki kuşağa değil, gelecek kuşaklara fayda sağlamaktır. Bu tahminde onları görmezden geldik.

Gelecek nesilleri de göz önünde bulundurursak, varoluşsal tehditleri azaltmanın etkinliği çok daha yüksek ve şu anda daha acil bir öncelik hayal etmek zor.

Artık bu argümanlara verilen bazı yanıtları okuyabilir veya katkıda bulunmanın pratik yollarına göz atabilirsiniz.

Geleceği korumak kimin önceliği olmamalı?

Sunulan argümanlar, herkesin kabul etmeyeceği bazı varsayımlara dayanmaktadır. Bu bölümde, bu argümanlara gelebilecek daha iyi cevapların bazılarını sunuyoruz.

Arkadaşlarınıza ve ailenize daha fazla odaklanmanız gerekiyor

Yalnızca, genel olarak insanlara yardım etmeye çalışıyorsanız ve herkesin çıkarlarını eşit olarak ele alıyorsanız (filozofların bazen “tarafsız iyilikseverlik” dediği) önceliklerin ne olması gerektiğine odaklanıyoruz.

Çoğu insan için bir dereceye kadar başkalarına yardım etmek önemlidir: Eğer bir yabancıya az bir maliyetle yardım edebiliyorsanız, bu yapılacak iyi bir şeydir. İnsanlar ayrıca kendi hayatlarının iyi olmasını, arkadaşlarına ve ailelerine bakmayı da önemsiyor ve biz de aynı durumdayız.

Bu önceliklerin nasıl dengeleneceği zor bir sorudur. Dünyaya yardım etmeye katkıda bulunabilecek şanslı bir konumdaysanız, geleceği korumanın odaklanmanız gereken bir alan olduğunu düşünüyoruz. Bir sonraki bölümde bu çabanın içerisinde yer almanın somut yollarını listeliyoruz.

Aksi takdirde, şu anda kişisel hayatınıza odaklanmanız, bu alana ek bir uğraş olarak veya gelecekte katkıda bulunmanız anlamına gelebilir.

Risklerin tartıştığımızdan çok daha düşük olduğunu düşünüyorsunuz

İnsan kaynaklı risklerin çoğuna ilişkin sağlam tahminlerimiz yok, bu nedenle kendi tahminlerinizi yapmaya çalışabilir ve tahmin ettiğimizden çok daha düşük oldukları sonucuna varabilirsiniz. Yeterince düşük olsaydı, onları azaltmak en önemli öncelik olmaktan çıkar.

Açıklanan nedenlerle bunu akla uygun bulmuyoruz. Tüm potansiyel riskleri göz önünde bulundurursanız, önümüzdeki yüzyıl boyunca bu risklerin kesin olarak %1’in altında oldukları sonucuna varmak zor görünüyor ve %1’lik bir risk bile muhtemelen şu anda gördüğümüzden çok daha fazla eylemi gerekli kılıyor.

Riskler hakkında yapabileceğimiz neredeyse hiçbir şey olmadığını düşünüyorsunuz

Bu riskleri küresel sağlık gibi sorunlardan daha az “çözülebilir” olarak değerlendiriyoruz, dolayısıyla ilerlemenin dolar başına daha zor olmasını bekliyoruz. Bununla birlikte, ölçeklerinin ve ihmallerinin çözülebilirlikteki az oranı telafi etmekten öteye gittiğini ve nihayetinde bu nedenle bu risklere çözüm arayışının daha etkili olduğunu düşünüyoruz. Birçok insan, efektif altruizmin yalnızca “kanıtlanmış” müdahaleleri desteklemekle ilgili olduğunu düşünür, ancak bu bir efsanedir. Olumlu yönü yeterince yüksekse, karşılığını alma olasılığı düşük olan bir müdahalede bulunmaya değer. Topluluğun önde gelen fon sağlayıcısı, artık “isabet temelli bağış” yaklaşımını savunuyor.

Bununla birlikte, bu risklerde ilerleme kaydetme konusunda bizden çok daha karamsarsanız, küresel sağlık gibi daha geleneksel konular üzerinde çalışmak daha iyi olabilir.

Kişisel olarak, bu riskleri azaltmak için iki kat daha fazla kaynak ayrılmış olsaydı, farklı bir konuya geçebilirdik. Ama bu sayı, bugünkünden çok uzakta.

Benzer bir cevap, bu riskleri azaltmak için zaten en iyi müdahaleleri yapıyor olduğumuzdur. Bu, risklerin pratik önceliklerde bir değişiklik gerektirmediği anlamına gelir. Örneğin, daha önce eğitimin büyük ihtimalle riskleri azaltmaya yardımcı olduğundan bahsetmiştik. Eğitimin en iyi yanıt olduğunu düşünüyorsanız (çünkü belki de hangi risklerin en acil olacağından çok emin değilsiniz), o zaman eğitime büyük miktarda yatırım yaptığımız için, durumun zaten ele alındığını düşünebilirsiniz. Bunu makul bulmuyoruz çünkü listelendiği gibi, bu riskleri azaltmak için daha fazla hedefli ve daha çok ihmal edilmiş görünen birçok değerlendirilmemiş fırsat var.

Bunun gibi başka bir örnek, ekonomistlerin bazen sadece ekonomik büyümeye odaklanmamız gerektiğini iddia etmeleridir, çünkü bu bizi gelecekteki riskleri ele almak için mümkün olan en iyi konuma getirecektir. Bunu mantıklı bulmuyoruz, çünkü bazı ekonomik büyüme türleri riskleri artırıyor (örneğin yeni silahların keşfi), bu nedenle ekonomik büyümenin riskleri azaltmanın en iyi yolu olduğu göründüğü kadar bariz değil. Bunun yerine, en azından sıralı teknolojik gelişime veya yukarıda sıralanan daha hedefli çabalara odaklanacağız.

Geleceğe yardım etmenin daha iyi bir yolu olduğunu düşünüyorsun

Şimdiki kuşak için bu riskleri azaltmak değerli olsa da, esas anlamları çoğu zaman uzun vadeli etkilerinde yatıyor –tüm uygarlık sona erdiğinde, tüm gelecekten vazgeçiyoruz.

Mevcut kuşağın yapabileceği ve çok uzun vadeli etkileri olacak başka eylemler olduğunu düşünebilirsiniz ve bunlar, yok olma riskini azaltmak için benzer şekilde önemli olabilir. Özellikle uygarlığımızın kalıcı olarak kötü sonuçlara mahkum olmasını önleyerek geleceği iyileştirebiliriz.

Bu biraz bilim kurgu olacak, ama kulak verin. Ortaya çıkan bir olasılık, aşırı gözetim veya psikolojik şartlandırma gibi yeni teknolojiler, asla sona ermeyecek totaliter bir hükümetin doğuşunun habercisi olabilir . Bu, sırasıyla 1984 ve Cesur Yeni Dünya senaryosu demektir. Eğer bu hükümet kötü niyetli olursa, o zaman uygarlığımız binlerce yıl acı çekerek yok olmaktan beter bir hale gelebilirdi.

Diğerleri, belki de teknolojiyi geliştiren birkaç grup arasında bir çatışma olduğu için, gelişmiş yapay zeka sistemlerinin, eğer sorumsuzca yapılırsa, geliştirilmesinin korkunç zararlara neden olabileceği endişesini dile getirdi. Özellikle, gelecekte bir noktada bu sistemlerin geliştirilmesi, hissedebilen dijital zihinlerin yaratılmasını içeriyorsa, onların refahı inanılmaz derecede önemli hale gelebilir.

Astronomik miktarda acı içeren bir geleceğin riskleri “s-riskleri” (acı riskleri) olarak adlandırılıyor.⁠y Bir s-riskinin gerçekleşmesini önlemek için bugün yapabileceğimiz bir şey varsa (örneğin, teknik yapay zeka güvenliği ve yönetişimi hakkında hedefli araştırmalar yoluyla), bu yapacağımız şey daha da önemli olabilir. Bakılması gereken bir diğer alan da büyük teknolojik geçişlerdir. Bu yazıda genetik mühendisliğinin ve yapay zekanın tehlikelerinden bahsetmiştik, ancak bu teknolojiler aynı zamanda ikinci bir sanayi devrimi yaratabilir ve kullanım alanı genişlediğinde topluma büyük miktarda fayda sağlayabilir. Kötü bir geçiş riskini azaltmak yerine, iyi bir geçiş olasılığını artırmak için yapabileceğimiz şeyler olabilir. Buna “varoluşsal riski” azaltmak yerine “varoluşsal umudu” artırmaya çalışmak denir.⁠10

Çok uzun vadeli etkilere sahip olabileceğimiz başka yöntemler olabileceği konusunda hemfikiriz ve bunlar yok olma riskini azaltmaktan daha acil olabilir. Ancak, bu tekliflerin çoğu henüz tam olarak sonuçlandırılmadı ve onlar hakkında ne yapacağımızdan emin değiliz.

Geleceği etkilemenin diğer yollarını düşünmenin bizi götürdüğü temel pratik sonuç, yapay zeka gibi yeni dönüştürücü teknolojilere geçişi olumlu bir şekilde yönetmenin daha da önemli olduğudur. Ayrıca, bu konuları inceleyen daha fazla küresel öncelik araştırması görmek için bizi heveslendiriyor. Genel olarak, önce varoluşsal tehditleri azaltmaya odaklanmanın hala mantıklı olduğunu düşünüyoruz ve ardından dikkatimizi geleceğe yardımcı olacak diğer yöntemlere çevirebiliriz.

Geleceği iyileştirmeyi hızlandırmaya yönelik girişimleri iddialı bir yöntem olarak değerlendirmiyoruz. Geleceğe yardımcı olmak isteyen bazı insanlar, yeni aşılar geliştirmek gibi teknolojik ilerleme sağlayan adımlara odaklanır ve bunların uzun vadeli faydalar sağladığı doğrudur. Ancak, uzun vadeli bir perspektiften en önemli şeyin, varılan yere ne kadar hızlı vardığımızdan ziyade vardığımız yerin neresi olduğunu düşünüyoruz. Yeni bir aşı keşfetmek, muhtemelen onu gerçekleştirmekten ziyade daha erken elde etmemiz anlamına geliyor.

Ayrıca, teknoloji aynı zamanda bu risklerin çoğunun nedeni olduğu için, onu hızlandırmanın kısa vadede ne kadar yardımcı olduğu açık değildir. İlerlemeyi hızlandırmak, şimdiki kuşağa da fayda sağladığı için çok daha az ihmal edilmiştir. Bahsettiğimiz gibi, yeni teknolojiler geliştirmek için her yıl Ar-Ge’ye 1 trilyon doların üzerinde para harcanmaktadır. Dolayısıyla hızlandırmalar hem daha az önemli hem de daha az ihmal ediliyor.

Gelecek nesillere yardım etmenin diğer yolları hakkında daha fazla bilgi için, Dr Nick Beckstead tarafından yazılan Uzak Geleceği Şekillendirmenin Karşı Konulmaz Önemi Üzerine tezinin 3. bölümüne göz atın.

Geleceğin kısa veya kötü olacağından eminsin

Uygarlığın uzun süre devam etmeyeceğinin neredeyse kesin olduğunu düşünüyorsanız, bu riskleri azaltmanın değeri önemli ölçüde azalır (belki de şimdiki kuşağa ve az sayıdaki gelecek kuşağa yardım etmeye değer olsa da).

Uygarlığın yakında sona ermesinin yadsınamayacak bir ihtimal olduğu konusunda hemfikiriz (zaten bu sebeple bu konu çok önemlidir). Ancak aynı zamanda uygarlığın çok uzun bir süre devam edebilmesinin yeterince büyük bir ihtimal olduğunu düşünüyoruz. Bu da geleceği savaşmaya değer kılıyor.

Benzer şekilde, geleceğin iyi olma ihtimalinden çok kötü olmasının daha muhtemel olduğunu düşünüyorsanız (veya acıyı azaltmak için sahip olduğumuz yükümlülükler refahı artırmaktan çok daha fazlaysa), bu riskleri azaltmanın değeri düşer. Ancak bunun olası olduğunu düşünmüyoruz, çünkü insanlar geleceğin iyi olmasını istiyor. Bu yüzden onu kötüden çok iyileştirmeye çabalayacağız. Ayrıca (daha önce belirtilen eğilimler nedeniyle) son birkaç yüzyılda önemli ahlaki ilerleme kaydedildiğini düşünüyoruz ve bunun devam edeceği konusunda iyimseriz.⁠z Bu konuda daha fazla tartışma için dip nota göz atın.

Dahası, geleceğin ne kadar iyi olacağından emin olmasanız veya gelecekte önleyebileceğimiz şekilde kötü olacağından şüphelenseniz bile, medeniyetin hayatta kalmasını ve seçme şansının olmasını isteyebilirsiniz. Gelecekteki insanların medeniyetin genişlemesinin mi, aynı büyüklükte kalmasının mı yoksa küçülmesinin mi arzu edilir olduğunu araştırmak için çok daha fazla zamanı olacak. Bu ahlaki kaygılara göre hareket edebilmemiz için yüksek bir ihtimal olduğunu düşünüyorsanız, bu, nihai kararları gelecek nesillerin bilgeliğine bırakmak için iyi bir nedendir. Genel olarak, bu büyük resim soruları hakkında tereddütlüyüz, ancak bu genellikle geri dönüşü olmayan taahhütlerde bulunmaktan kaçınma konusunda bizi daha fazla endişelendiriyor.⁠aa

Bunun ötesinde, dikkatinizi geleceğin kötü olma ihtimalini azaltmanın yollarına, örneğin acı risklerinden kaçınmaya vermelisiniz.

Şimdiki kuşağa yardım etmek için çok daha güçlü ahlaki yükümlülüklerimiz olduğundan eminsin

Şimdiki nesle karşı gelecek nesillerden çok daha güçlü yükümlülüklerimiz olduğunu düşünüyorsanız (kişileri etkileyen etik görüşler gibi), o zaman bu riskleri azaltmanın önemi azalır. Şahsen, bu görüşlerin ikna edici olduğunu düşünmüyoruz. Bununla birlikte, gelecek nesilleri görmezden gelseniz bile, bu risklerin ele alınmaya değer olduklarını savunduk. Önerilen çabalar, şimdiki neslin hayatlarını nispeten ucuza kurtarabilir ve orta büyüklükteki felaketlerden çok fazla acı çekilmesini önleyebilir.

Dahası, gelecek nesillere karşı ahlaki yükümlülüklerimiz olup olmadığından emin değilseniz, seçeneklerinizi tekrar açık tutmaya çalışmalısınız ve bu da uygarlığı korumak anlamına gelir.

Bununla birlikte, gelecek nesillere karşı büyük yükümlülüklerimiz olmadığını ve risklerin de nispeten çözülemez olduğunu (veya yapılacak yararlı bir araştırma olmadığını) düşünüyorsanız, o zaman şimdiki nesillere yardım etmenin başka bir yolu öne çıkabilir. Bu, küresel sağlık veya zihin sağlığı alanları üzerinde çalışmak anlamına gelebilir. Alternatif olarak, endüstriyel hayvancılık gibi daha önemli başka bir ahlaki konu öne çıkabilir.

Varoluşsal tehditleri azaltmaya yardımcı olmak ister misiniz?

Bizim kuşağımız ya her şeyin sonunun gelmesine yardımcı olabilir ya da insanlığın en tehlikeli dönemini atlatıp tarihin en önemli kuşaklarından biri haline gelebilir.

Harika, serpilen bir dünyaya ulaşmayı mümkün kılan veya her şeyi riske atan kuşak olabiliriz.

Dünyaya yardım etmek isteyen insanlar olarak, çabalarımızı yoğunlaştırmamız gereken yer burasıdır.

Kariyerinizi varoluşsal tehditleri azaltmaya ve insanlığın geleceğini korumaya odaklamak istiyorsanız, size yardım etmek istiyoruz. Bunun için seçeneklerinizi ve başlamak için atabileceğiniz adımları özetleyen bir makale yazdık.

VAROLUŞSAL TEHDİTLERİ AZALTMAK İÇİN KARİYERİNİZİ NASIL KULLANABİLİRSİNİZ

Bu makaleyi okuduktan sonra veya ne yapmak istediğinizi zaten düşündüyseniz, bizimle bire bir konuşmayı düşünün. Kararlar üzerinde düşünmenize ve planınızı formüle etmenize yardımcı olabiliriz.

BİREBİR DANIŞMANLIĞA BAŞVURUN

Daha fazlasını öğrenin

• Varoluşsal riski azaltmak için yaklaşık 51 politika ve araştırma fikrini okuyun.
• Profesör Nick Bostrom’un makalesinde bu argümanın akademik versiyonuna bakın.
• Gelecek nesillere odaklanmanın önemi
• İtirazlarla ilgili bir bölüm de dahil olmak üzere, gelecek nesiller üzerindeki etkimizin ahlaki açıdan son derece önemli olduğu fikrine alternatif bir giriş yazısı okuyun.
• Dr. Toby Ord ve Dr. Nick Beckstead ile podcast bölümlerimizde tartışılan ilgili fikirlerin yanı sıra özel risklerle ilgili diğer bölümlere kulak verebilirsiniz.
• Varoluşsal riskin entelektüel tarihi üzerine Thomas Moynihan ile yapılan bu röportajı dinleyin.
• Ayrıca Carl Shulman ile varoluşsal risk çalışmalarına odaklanmak için sağduyulu bir yaklaşımı ve bunun pratik sonuçları ve Will MacAskill ile geleceğe ne borçlu olduğumuz konuları hakkındaki podcast bölümlerimizi öneriyoruz.

Bir sonraki okuma önerisi: İçimde bulunduğumuz yüzyıl şu ana kadarki en önemli yüzyıl olabilir

İnanılmaz bir büyümeye ve bilimsel ilerlemeye yol açacak olan gelişmiş yapay zeka sistemlerinin geliştirilmesi neden bizi çoğu insanın hayal ettiğinden çok daha hızlı bir şekilde bilinmeyen bir geleceğe götürebilir. Bu da 21. yüzyılı tarihteki en önemli yüzyıl kılıyor. Devamı için buraya tıklayın.

Orijinal yayın: Benjamin Todd (2017) The case for reducing existential risks, 80,000 Hours, Ekim (son güncelleme: Haziran 2022).