Yapay zekâ kaynaklı riskler alanında keşfedilecek diğer konular
Yapay zekâ gelişimi
- AlphaGo — Yapay zekânın 3 bin yıllık bir tarihe sahip olan Go oyununa dair neler ortaya çıkarabileceğini ve bunun yapay zekânın gelecek potansiyeli hakkında bize öğretebileceklerini keşfeden bir belgesel. (Video — 1 saat 30 dakika)
- The artificial intelligence revolution: Part 1 — Ünlü blog yazarı Tim Urban’ın imzasını taşıyan, yapay zekâya dair eğlenceli ve ilginç bir keşif. (45 dakika)
Yapay zekânın uyumlanmasına dair diğer kaynaklar
- Yapay Genel Zekâ Güvenliği Temel Prensipler Müfredatı
- Yapay zekâ güvenliği üzerine çalışırken kullandığım kişisel kritik noktalar (65 dakika)
- Profesör Stuart Russell, günümüz yapay zekâ mimarisini güvenliksiz kılan kusurları ve bunu düzeltebilecek yeni bir yaklaşımı ele alıyor (Sesli blog — 2 saat 15 dakika)
- İleri Yapay Zekâya Dair Görüşlerimizin Geçmişi Üzerine — Open Philanthropy Project — Yapay zekâda kaydedilen ilerleyişin, Neolitik ve Sanayi devrimlerininkiyle kıyaslanabilir bir geçişi getireceğine dair ciddi olasılığın varlığının bir yorumlaması. (1 saat)
- The Precipice — 5. Bölüm (sayfa 138-152) — Uyumlanmamış Yapay Zekâ (25 dakika)
- What failure looks like (12 dakika) — Oldukça kötü ve toplumun geneline yayılmış bir yapay zekâ uyumlanma hatasının nasıl görüneceğine dair, klasik “zekâ patlaması” hikâyesinden büyük ölçüde ayrışan iki spesifik hikâye
- İlk ilkelerle Yapay Genel Zekâ Güvenliği (1 saat 15 dakika) — Bir yapay zekâ araştırmacısının, genel yapay zekâyı uyumlanma sorununa dair sunduğu spesifik etkenler
- Human Compatible (Kitap)
- The Alignment Problem (Kitap)
Yapay zekâ idaresi
- The new 30-Person research group in DC investigating how emerging technologies could affect national security — Makine öğreniminin etkisi, elektriğe kıyasla benzer bir ölçekteyse, uluslararası güvenlik nasıl değişebilir? (Sesli blog: 2 saat)
- Technology Roulette — Askerî teknolojilerdeki (yapay zekâyı içermekle birlikte bununla sınırlı olmayan) atılımların ilintili karar verme mekanizmalarına nasıl sekte vurarak risk yaratabileceğine, dolayısıyla ulusal güvenlik kuruluşlarının daha fazla dikkatini talep ettiğine dair bir sav. (60 dakika)
Teknik yapay zekâ uyumlanma çalışmaları
- Yapay zekâ uyumlanma görünümü (Video — 30 dakika)
- Yapay zekâ güvenliği başlangıç paketi
- Teknik yapay zekâ uyumlanması alanında kariyer inşa etmek
- Teknik Uyumlanma Müfredatı (7 haftalık bir dersin okumaları)
- Alignment Forum, bilhassa temel dizileri
Yapay zekâ riskine dair endişelerin eleştirisi
- Bu yapay zekâ konusundan ne kadar eminiz? (26 dakika)
- 2,75 diklik tezlerinin bir hikâyesi (20 dakika)
- Yapay zekânın medeniyeti yok etmenin eşiğinde olup olmadığını nasıl biliriz? (özet, 2 dakika)
- Yapay zekâ mesihi (ve ilk yorum) (5 dakika)
- İnsanlık koordinasyonda ne kadar iyi? (4 dakika)