Uzun dönemci yapay zekâ yönetişiminin görünümü: Basit bir özet
Amaç: uzun dönemci yapay zekâ yönetişimi alanındaki gelişmelerin basit bir özetini sunmak.
Hedef kitle: uzun vadeci yapay zekâ yönetişimine sınırlı oranda aşinalığı olan ve konuyu daha iyi anlamak isteyenler. Bu yazının alanla tanışıklığı olanlara fayda sağlamasını beklemiyorum. Ek düzelti: Alana hâlihazırda aşina olan bazı kişiler de bu yazıyı faydalı buldu.
Bu gönderi uzun dönemci yapay zekâ yönetişimin alanındaki farklı çalışmaların ana hatlarını sunar. Her çalışma türü için açıklama yapacak, örnekler verecek, olumlu bir etkisi olabileceği birkaç senaryo sunacak ve günümüzde bu alanda çalıştığını bildiğim aktörlerin bir listesini sağlayacağım.a
Öncelikle birkaç tanımla başlayalım:
Yapay zekâ yönetişimi; yapay zekâ sistemlerinin geliştirilmesi ve yayılmasından ileri gelecek sosyal neticeleri etkileyecek yerel ve küresel kuralların, prensiplerin, kanunların, süreçlerin, politikaların ve kurumların (yalnızca hükümetlerin değil) oluşturulması anlamına gelir.b
Uzun dönemci yapay zekâ yönetişimi ise, yapay zekânın hayli uzun vadeli etkilerine gösterilen alakadan öne çıkan bu çalışmaların bir alt kümesidir. Bu konu, dönüştürücü yapay zekâyı idare etmeyi hedefleyen çalışmalarla önemli ölçüde örtüşür.
Uzun dönemci yapay zekâ yönetişimi alanının son derece küçük olduğunu belirtmek gerekir. Tahminime göre, hayli uzun vadeli etkilere gösterilen alakadan ileri gelen yapay zekâ idares, alanında yaklaşık 60 kişinin çalışıyor.
Üst düzeyde, temel ve uygulamalı çalışmalar arasında bir spektrum bulunduğunu göz önünde bulundurmanın faydalı olduğu kanısındayım. Temel uçta, uzun dönemci yapay zekâ yönetişimi için iyi üst düzey hedefler belirlemeyi amaçlayan strateji araştırması yer alıyor; buna ek olarak, söz konusu üst düzey hedeflere ulaşılmasına yardımcı olacak planlar belirlemeyi amaçlayan taktik araştırması bulunuyor. Uygulamalı uca yaklaştığımızda ise bu araştırmayı alıp somut ilkelere dönüştüren yer alıyor; ayrıca bu politikaların uygulanmasının savunuculuğunu yapan ve nihayetinde bu politikaların (örneğin kamu personeli tarafından) gerçekte uygulanmasını destekleyen çalışmaları da sayabiliriz.
Bir de (spektruma tam olarak oturmayan) alan inşası çalışmaları var. Bu çalışmalar, meseleye doğrudan katkıda bulunmaktansa bu konuda değerli çalışmalar yapan insanların yer aldığı bir alan inşa etmeyi hedefler.
Tabii bu sınıflandırma bir basitleştirme niteliği taşıyor ve tüm çalışmaların tek bir kategoriye uyması mümkün değil.
Kavrayışın çoğunlukla daha temelden spektrumun daha uygulamalı ucuna aktığını düşünebilirsiniz fakat araştırmanın politika meselelerine duyarlı olması (yani araştırmanızın siyasi anlamda uygulanabilir bir politika teklifine katkıda bulunabilme olasılığı) da önem taşıyor.
Artık bu farklı çalışma türlerinin her birini derinlemesine inceleyebiliriz.
Uzun dönemci yapay zekâ stratejisinin nihai amacı (erişildiğinde) ileri yapay zekânın muhtemel iyi neticelerinin olasılığını net bir biçimde artıracak üst düzey hedeflerin belirlenmesidir (Muehlhauser’a referansla, bu hedeften zaman zaman “stratejik netlik kazanmak” olarak bahsedeceğim).
Bu araştırma hedeflenen ve keşifçi arasında uzanan bir spektrumda aşağıdaki şekilde değişiklik gösterebilir:
Strateji araştırmasını (ve bilhassa keşifçi strateji araştırmasını) geniş kapsamlı araştırma ile karıştırmak mümkün. Yukarıdaki örneklerin birçoğunun da gösterdiği üzere, strateji araştırması dar kapsamlı olabilir; yani oldukça dar bir soruyu yanıtlayabilir. Geniş ve dar kapsamlı sorulara örnek vermek gerekirse:
Doğrusu, özellikle orta seviyede deneyimli araştırmacılar açısından, daha dar kapsamlı sorular seçmenin sıklıkla daha iyi olduğunu düşünüyorum zira çözülebilir olmaya daha meyilliler.
Bu tür bir çalışma denemek isteyenler için Luke Muehlhauser birkaç öneride bulunuyor: Bu gönderide dördüncü maddeye göz atabilirsiniz. Ayrıca, açık araştırma sorularına dair daha fazla örnek için bu gönderiyi inceleyebilirsiniz.c
Şu kurumlardaki bazı kişiler: FHI, GovAI, CSER, DeepMind, OpenAI, GCRI, CLR, Rethink Priorities, OpenPhil, CSETd ve bazı bağımsız akademisyenler.
Uzun dönemci yapay zekâ taktik araştırmasının nihai amacı (strateji araştırmasının öncelik olarak belirlediği) üst düzey hedeflere ulaşılmasına destek olarak planların belirlenmesidir. Doğası gereği daha dar kapsamlıdır.
Kimi hedefleri net bir biçimde öncelik olarak belirlemediğiniz durumlarda da taktik araştırması yapmak için geçerli sebepler olabileceğini belirtmekte fayda var: kendi öğreniminiz, kariyer sermayesi ve akademik bir alanın inşasına katkıda bulunmak için.
Şu kurumlardaki bazı kişiler: FHI, GovAI, CSER, DeepMind, OpenAI, GCRI, CSET, Rethink Priorities, Institute for Law & AI ve bazı bağımsız akademisyenler.
Strateji araştırması üst düzey hedefler çıkarır. Taktik araştırması bu hedefleri alarak onlara ulaşmayı sağlayacak planlar çıkarır. Politika geliştirme çalışması bu planları, politika üreticilere teslim edilmeye hazır politika önerilerine dönüştürür. Bu da (örnek olarak) söz konusu talebin ne olacağı, (gerek resmî politikada gerek talepte) nasıl bir dil kullanılacağı ve başarılı bir uygulama olasılığını etkileyecek diğer bağlama özel hususların belirlenmesini içerir.
Politika savunuculuğu çalışması politika uygulanmasının savunuculuğunu yapar; örnek olarak, politika talebinde bulunacak en iyi kişinin, bu talebin iletileceği mercinin ve zamanının belirlenmesini üstlenir.
Politika uygulama ise politikaların, kamu personelleri veya şirketler tarafından, pratikte uygulanması çalışmasıdır.
Hükümet politikaları (yani hükümetler veya hükümetler arası kuruluşların yürürlüğe koyacağı şekilde tasarlanmış politikalar) ile (şirketlerin benimseyebileceği) kurumsal politikalar arasında bir ayrım yapmak önemli. Uzun dönemci yapay zekâ yönetişimi üzerine çalışan kimileri kurumsal politikayı (bilhassa yapay zekâ geliştiricilerinin politikalarını) iyileştirmeye odaklanırken alandaki kimileri de ilgili hükümetlerin politikalarını iyileştirmeye odaklanıyor.
Tüm politika çalışmalarının ortak bir motivasyonu, uygulama detaylarının başarılı politikaların oluşturması açısından sıklıkla önemli sayıldığıdır. Örneğin bir hükümet yönetmeliği belirsiz bir açıklığa sahipse söz konusu yönetmeliği kullanışsız kılabilir.
Bu tür bir çalışma, araştırmaya kıyasla, nispeten daha az bireysel düşünme ve daha çok diyalog/bilgi toplama (örneğin bir politika üzerinde kimin yetki sahibi olduğunu, bu kişilerin neyi önemsediğini ve diğer oyuncuların bir politikada ne aradığını öğrenmek üzere toplantılar yapmayı), buna ek olarak koordinasyonu (yani bir politikayı ettirebilmek için aktörleri nasıl bir araya getireceğini belirlemeyi ve ardından bunu gerçekleştirmeyi) gerektirir.
Daha önce de değinildiği üzere, politika içgörüsü zaman zaman “geriye doğru” akar. Örneğin, savunuculuğun bilginizi (ve politika ortamını) nasıl değiştirdiğine bağlı olarak, politika geliştirme tekrar sürece tabii tutulabilir.
Bu fikirler bir spektrum üzerinde (yapay zekânın NC3’e entegre edilmemesi gibi) daha hedeflenen ile (olasılıkla ortaya çıkacak geniş kapsamlı meselelerle baş etmek adına genel amaç kapasitesinde; örneğin yukarıda değindiğimiz konuların çoğuna dair) daha genel uçlar arasında farklılık gösterebilir. Yapay zekânın ne getireceğine dair elimizdeki belirsizlikleri düşününce, günümüzde politika geliştirme, savunuculuğu ve uygulanmasının büyük ölçüde daha genel fikirlere odaklanması gerektiği fikrindeyim (diğer yandan da, açıkça iyi ve spesifik fikirler ortaya çıktıkça bunları da öne sürerek).
Bu çalışma doğrudan, uzun dönemci yapay zekâ yönetişimi alanında değerli işler yapan insanların alanını veya topluluğunu büyütmeyi amaçlar.f (1) Alana yeni insanlar kazandırmayı ve (2) alanı daha etkili hâle getirmeyi kapsar.
GovAI, OpenPhil, SERI, CERI, CHERI ve EA Cambridge. Daha geniş bir açıdan bakacak olursak, genel sebepli EA hareketi inşası da sayılabilir. Bu gönderide ele alınan en az keşfedilmiş çalışma türüdür.
Uzun dönemci yapay zekâ görünümüne dair yalnızca tek bir olası görüş sundum; bunların dışında, farklı sebeplerden ötürü daha faydalı olacak başka görüşler de muhakkak vardır. Örnek vermek gerekirse, aşağıda belirtilen farklı müdahale türlerini temel alan bir görünüm de çizilebilir:
Alternatif olarak, coğrafi merkeze göre bir görünüm de çizilebilir (tabii tüm kuruluşlar coğrafi bir merkezin parçası değil):
Bunlara ek olarak, farklı “zafer kuramlarını”, yani insanlığın ileri yapay zekânın olduğu bir dünyaya geçişinde başarıyla dümen tuttuğu bütüncül hikâyeleri temel alan bir görünüm de çizilebilir. Tüm bu konular hakkında çok daha fazla şey söylemek mümkün; bu gönderinin tek amacı günümüzde gerçekleştirilen çalışma türlerine öz niteliğinde bir bakış sunmaktır.
Teşekkür bölümü: Bu gönderi, görünüme dair kendi sentezimi içermekle birlikte Allan Dafoe, Luke Muehlhauser ve Convergence Analysis’in kaleme aldığı EA forumu gönderilerinden ilham alınmış ve/veya bu kaynaklardan doğrudan alıntı yapılmıştır. Yardımsever sohbeti için Jess Whittlestone’un yanı sıra Matthijs Maas, Yun Gu, Konstantin Pilz, Caroline Baumöhl ve bilhassa SERI’den bir hakeme taslak üzerindeki geri bildirimleri için teşekkür ederim.
Bu çalışma Creative Commons Attribution 4.0 International License kapsamında lisanslıdır.