Orijinal başlık: d/acc: bir yıl sonra Orijinal yazar: Vitalik Buterin, Ethereum'un kurucusu Orijinal derleme: Leek, Foresight News

Özet: Makale, merkezi olmayan hızlandırma (d/acc) kavramına odaklanmakta ve yapay zeka güvenliği ve denetimi, kripto para birimi ve kamu malları finansmanı ile bağlantısı vb. dahil olmak üzere teknolojik gelişimdeki uygulamasını ve zorluklarını tartışarak d/acc'ın önemini vurgulamaktadır. /cc, daha güvenli ve daha iyi bir dünya inşa etmeye ve gelecekteki gelişime yönelik fırsatlara ve zorluklara katkıda bulunuyor. Yazar, d/acc'nin anlamını derinlemesine ele alıyor, farklı stratejileri karşılaştırarak yapay zeka riskleriyle başa çıkmadaki rolünü analiz ediyor ve kripto para biriminin değerini ve kamu malları finansman mekanizmalarının araştırılmasını tartışıyor. Gelecekteki teknolojik gelişmeler İnsanlığın hâlâ mevcut araç ve fikirlerle daha iyi bir dünya inşa etme fırsatı var.

Önsöz

Geri bildirimleri ve değerlendirmeleri için Liraz Siri, Janine Leger ve Balvi gibi gönüllülere özellikle teşekkür ederiz.

Yaklaşık bir yıl önce, tekno-iyimserlik hakkında bir makale yazdım; burada teknolojiye olan genel ilgimi ve getirebileceği muazzam faydaları ortaya koyarken aynı zamanda birkaç spesifik konuya ilişkin uyarımı da dile getirdim. Bu sorular öncelikle süper zeki yapay zekaya odaklanıyor. Bu teknoloji düzgün bir şekilde inşa edilmezse istihbarat ve yıkım riski veya insan gücünün geri dönüşü olmayan kaybı riski.

Bu makaledeki temel noktalarımdan biri merkezi olmayan, demokratik ve farklılaştırılmış savunma ivmesi felsefesiydi. Teknolojik gelişmeyi hızlandırmak ama aynı zamanda zarar vermek yerine savunma yeteneğimizi geliştiren teknolojilere farklı şekilde odaklanmak ve gücün birkaç elitin elinde toplanması ve temsilcilerin mülkiyetinden kaçınmak yerine gücün merkezileşmesini teşvik etmek gerekiyor. Bu elitlerin arasında neyin doğru neyin yanlış, neyin iyi neyin kötü olduğuna insanlar karar veriyor. Savunma modeli, ortaçağ feodalizminin temsil ettiği lordlar ve kaleler modeli yerine, demokratik İsviçre ve tarihsel olarak yarı anarşist Zomia bölgesi olmalıdır.

O zamandan bu yana geçen yıl içinde bu kavram ve fikirler önemli ölçüde gelişti ve olgunlaştı. Bu düşünceleri kariyer seçimlerine odaklanan bir kuruluş olan 80.000 Hours'ta paylaştım ve çoğu olumlu, ancak bazıları eleştirel olmak üzere pek çok yanıt aldım.

Çalışmanın kendisi ilerlemeye ve somut sonuçlar vermeye devam ediyor: Doğrulanabilir açık kaynaklı aşılar alanında ilerlemeye tanık oluyoruz; sağlıklı iç mekan havasının değerine ilişkin farkındalık derinleşmeye devam ediyor; a Bir bilgi aracının çığır açan sıfır bilgili, özlü, etkileşimli olmayan bilgi argümanı (ZK -) SNARK'lar devlet kimlik doğrulamasında ve sosyal medyada (ve hesap soyutlama yoluyla güvenli Ethereum cüzdanlarında) kullanılır; açık kaynaklı görüntüleme araçları tıpta ve beyin-bilgisayar arayüzlerinde (BCI) ve daha fazlasında kullanılır.

Geçen yılın sonbaharında, ilk önemli d/acc etkinliğini başlattık: Devcon'da düzenlenen "d/acc Keşif Günü" (d/aDDy). Etkinlik, d/acc'nin (biyoloji, bilim) tüm alanlarından insanları bir araya getirdi. fizik, ağ, bilgi savunması ve nöroteknoloji) etkinlik gün boyu sürdü. Yıllardır bu teknolojiler üzerinde çalışan insanlar birbirlerinin çalışmalarının daha fazla farkına varıyor ve dışarıdakiler daha büyük vizyonun farkına varıyor: Ethereum ve kripto para birimlerini yönlendiren aynı değerlerin daha geniş dünyaya genişletilebileceği vizyonu.

D/acc'nin çağrışımı ve gösterimi

Zaman 2042'ye geçiyor. Bir medya raporunda şehrinizde olası yeni bir salgınla ilgili bir haber görüyorsunuz. Buna alışkınız: İnsanlar, çoğu durumda hiçbir zaman gerçek bir krize neden olmayan her hayvan hastalığı mutasyonuna aşırı tepki verme eğilimindedir. Daha önceki iki potansiyel salgın, atık su izleme ve sosyal medyanın açık kaynak analizi yoluyla erken tespit edildi ve başarılı bir şekilde daha başlangıç aşamasında önlendi. Ancak bu sefer işler farklı ve tahmin piyasaları en az 10.000 vaka olasılığının %60 olduğunu gösteriyor, bu da sizi endişelendiriyor.

Daha dün virüsün genetik dizisi belirlendi. Cebinizdeki hava test cihazı için bir yazılım güncellemesi yakında kullanıma sunulacak ve test cihazına yeni virüsleri tespit etme yeteneği verecek (tek bir nefes testiyle veya bir odadaki iç mekan havasına 15 dakika maruz kaldıktan sonra). Bu arada, aşının dünyadaki herhangi bir modern tıbbi tesisin erişebileceği ekipmanı kullanarak üretilmesine yönelik açık kaynaklı talimatlar ve kodun birkaç hafta içinde yayınlanması bekleniyor. Çoğu insan henüz hiçbir önlem almıyor ve kendilerini güvende tutmak için öncelikle yaygın hava filtreleme ve havalandırma önlemlerine güveniyor.

Kendi bağışıklık sorunlarınız nedeniyle daha dikkatli olursunuz: Kullandığınız açık kaynaklı, yerel olarak çalıştırılan kişisel asistan yapay zeka, navigasyon, restoran ve alışveriş gibi normal görevlere ek olarak gerçek zamanlı hava testi verilerini ve CO2 verilerini hesaba katar. aktivite önerileri. Size yalnızca en güvenli yerleri öneriyoruz. Bu veriler binlerce katılımcı ve cihaz tarafından sağlanır ve ZK-SNARK'ların ve diferansiyel gizlilik teknolojisinin yardımıyla verilerin sızdırılması veya başka amaçlarla kötüye kullanılması riski en aza indirilir (bu veri kümelerine kasıtlı olarak katkıda bulunursanız, ayrıca Bu şifreleme araçlarının gerçekten çalıştığını doğrulayan başka kişisel asistan yapay zekaları da var).

İki ay sonra salgın mucizevi bir şekilde dağıldı: İnsanların %60'ı, hava test cihazları alarm verip virüsün varlığını gösterdiğinde maske takmak ve bir kişinin testi pozitif çıkarsa evde kalmak gibi temel protokolleri uyguluyor görünüyordu. Pasif güçlü hava filtreleme nedeniyle önemli ölçüde azaltılan iletim hızını 1'in altına daha da düşürmek için bu hareket yeterlidir. Bir simülasyon, yirmi yıl önceki koronavirüs pandemisinden beş kat daha kötü olabilecek bir hastalığın bugün ciddi bir etki yaratmadığını gösteriyor.

Devcon'da d/acc günü

Devcon'daki d/acc etkinliğinin son derece olumlu sonuçlarından biri, d/acc konseptinin farklı alanlardan insanları başarılı bir şekilde bir araya getirmesi ve aslında birbirlerinin çalışmalarına güçlü bir ilgi uyandırmasıydı.

"Çeşitlilik" içeren bir etkinlik düzenlemek zor değil ama farklı geçmişlere ve ilgi alanlarına sahip insanlar arasında yakın bir bağ kurmak kolay değil. Ortaokulda ve lisede kişisel olarak sıkıcı bulduğum uzun operaları izlemeye zorlandığıma dair hala canlı anılarım var. Onlardan keyif almam "gerektiğini" biliyordum çünkü aksi takdirde eğitimsiz bir bilgisayar bilimi serseri olarak kabul edilirdim, ancak operanın içeriğiyle daha derin bir düzeyde bağlantı kurmayı başaramadım. Ancak d/acc gününde atmosfer tamamen farklıydı: İnsanların farklı alanlardaki çeşitli işler hakkında bilgi edinmekten gerçekten keyif aldıklarını hissettim.

Tahakküm, yavaşlama ve yıkımdan daha parlak bir gelecek arzuluyorsak, bu geniş koalisyon inşası gereklidir. d/acc bu konuda kayda değer sonuçlar elde etmiş gibi görünüyor, bu da tek başına bu kavramın değerini vurguluyor.

D/acc'nin temel fikri basit ve açıktır: merkezi olmayan, demokratik ve farklılaştırılmış savunma hızlandırması. Saldırı ve savunma dengesini savunmaya doğru çeviren ve bunu merkezi bir otoriteye daha fazla güç vermeye gerek duymadan yapan teknoloji oluşturun. Bu iki yön arasında doğal olarak yakın bir bağlantı vardır: Her türlü merkezi olmayan, demokratik veya özgür siyasi yapı, savunmanın uygulanması kolay olduğunda gelişme eğiliminde olacaktır ve savunmanın uygulanması zor olduğunda ciddi zorluklarla karşılaşacaktır - —Bu durumlarda, Daha muhtemel sonuç, herkesin birbiriyle karşı karşıya geldiği ve en güçlülerin hakim olduğu bir denge durumuyla sonuçlanan bir kaos dönemi olacaktır.

Merkeziyetsizliği, savunulabilirliği ve hızlandırmayı aynı anda başarmaya çalışmanın önemini anlamanın bir yolu, bunu bu üç yönden herhangi birinin terk edilmesinden doğan felsefeyle karşılaştırmaktır.

Geçen yılın My Tech Optimism tablosu

Merkezi olmayanlaşma hızlanıyor ancak “farklılaştırılmış savunma” kısmı göz ardı ediliyor

Özünde bu, etkili bir hızlandırıcı (e/acc) olmakla birlikte aynı zamanda merkezi olmayan yönetimin peşinde koşmaya benzer. Bu yaklaşımı benimseyen ve bazıları kendilerini d/acc olarak adlandıran birçok insan var, ancak odak noktalarını faydalı bir şekilde "saldırgan" olarak tanımlıyorlar. Ayrıca, "merkezi olmayan yapay zeka" ve benzeri konulara daha ılımlı bir ilgi gösteren birçok kişi var, ancak benim görüşüme göre, "savunma" yönüne belirgin bir ilgisizlik gösteriyorlar.

Bana göre bu yaklaşım, belirli bir grup insanın küresel insanlığa diktatörlük dayatması riskini ortadan kaldırabilir, ancak altta yatan yapısal sorunu çözmede başarısız olur: saldırıya elverişli bir ortamda, her zaman bir felaket riski vardır. ya da birisi kendisini koruyucu olarak konumlandıracak ve kalıcı olarak hakimiyet kuracaktır. Yapay zeka söz konusu olduğunda, insanlığın bir bütün olarak yapay zeka karşısında güçsüzleştirilmesi riskini de yeterince ele alamıyor.

Farklılaştırılmış savunma hızlanıyor ancak "merkezi olmayan yönetim ve demokrasiyi" görmezden geliyor

Güvenlik hedeflerine ulaşmak için merkezi kontrolün kabul edilmesi bazı insanlar için her zaman belli bir çekiciliğe sahip olacaktır ve okuyucular şüphesiz bu örneklerin çoğuna ve bunların getirdiği dezavantajlara aşina olacaktır. Son zamanlarda bazıları, aşırı merkezi kontrolün geleceğin aşırı teknolojileriyle başa çıkmanın tek yolu olabileceği yönündeki endişelerini dile getirdi: Örneğin, "herkesin 'serbest etiket' taktığı" varsayımsal bir senaryoyu düşünün; bu, günümüzün daha sınırlı giyilebilir gözetleme cihazları.” Birçok ülkede hapishanelere alternatif olarak kullanılan ayak bileği etiketlerine benzer takip ürünleri...şifreli video ve ses, makineler tarafından gerçek zamanlı olarak sürekli olarak yükleniyor ve yorumlanıyor." Ancak merkezi kontrolde bir miktar sorun var. Çoğunlukla göz ardı edilen ancak yine de zararlı olan, nispeten zararsız bir merkezi kontrol biçimi, biyoteknoloji sektöründeki (örneğin gıda, aşılar) kamu denetimine karşı direnişte ve bu tür direnişin sorgusuz sualsiz devam etmesine izin veren kapalı kaynak normlarında kendini gösterir.

Bu yaklaşımın riski açıktır, yani çoğu zaman riskin kaynağı merkezin kendisi haline gelir. Bunu, birden fazla büyük dünya hükümeti tarafından finanse edilen işlev kazanımı araştırmalarının salgının kökeninde olabileceği ve merkezi epistemolojinin, Dünya Sağlık Örgütü'nün yıllarca COVID-19'u kabul etmeyi reddetmesine yol açtığı COVID-19 salgını sırasında gördük. -19 hava yoluyla yayılıyor ve zorunlu sosyal mesafe ve aşı zorunlulukları onlarca yıl sürebilecek siyasi bir tepkiyi tetikledi. Yapay zeka ya da diğer riskli teknolojilerle ilgili herhangi bir risk senaryosunda da benzer bir durumun tekrar yaşanma ihtimali oldukça yüksek. Bunun aksine, merkezi olmayan bir yaklaşım, merkezin kendisinden kaynaklanan risklerle daha etkili bir şekilde başa çıkacaktır.

Savunmayı merkezi olmayan hale getirin, ancak ivmeyi hariç tutun

Esasen bu, teknolojik ilerlemeyi yavaşlatma veya ekonomik gerilemeyi teşvik etme girişimidir.

Bu stratejinin zorluğu iki yönlüdür. Birincisi, genel olarak teknolojik ve ekonomik büyüme insanlığa son derece faydalıdır ve bunda yaşanacak herhangi bir gecikme hesaplanamaz maliyetlere yol açacaktır. İkincisi, totaliter olmayan bir dünyada durgunluk istikrarı bozuyor: En çok "hile yapanlar" ve ilerlemeye devam etmek için görünüşte makul yollar bulabilenler üstünlük sağlayacak. Yavaşlatma stratejisi belirli durumlarda belirli bir dereceye kadar işe yarayabilir: Örneğin Avrupa yemekleri Amerikan gıdalarından daha sağlıklıdır ve nükleer silahların yayılmasının önlenmesi konusunda şu ana kadar elde edilen başarı da öyle. Ancak bu stratejiler her zaman işe yaramayabilir.

D/acc aracılığıyla aşağıdaki hedeflere ulaşmaya çalışıyoruz:

· Gittikçe kabileleşen bir dünyada ilkelerimize sadık kalarak körü körüne bir şeyler inşa etmek yerine, dünyayı daha güvenli, daha iyi bir yer haline getirecek belirli şeyler inşa etmeye çalışıyoruz.

D/acc aracılığıyla aşağıdaki hedeflere ulaşmaya çalışıyoruz:

· Üstel teknolojik ilerlemenin, dünyanın son derece garip hale geleceği anlamına geldiğini ve insanlığın evrendeki genel "ayak izinin" kaçınılmaz olarak artacağını kabul edin. Savunmasız hayvanları, bitkileri ve insanları zarardan koruma yeteneğimiz gelişmeye devam etmelidir ve ilerlemenin tek yolu ilerlemektir.

· İyi adamların (veya iyi yapay zekanın) iş başında olduğu varsayımına dayanmak yerine, bizi gerçekten koruyan teknoloji oluşturun. Bunu, inşa etmek ve korumak için kullanıldığında, yok etmek için kullanıldığından doğal olarak daha etkili olan araçlar oluşturarak yapıyoruz.

D/acc hakkında düşünmenin bir başka yolu da 2000'lerin sonlarındaki Avrupa Korsan Partisi hareketini bilgilendiren çerçeveye dönmektir: yetkilendirme.

Amacımız, insan eylemliliğini koruyan ve negatif özgürlüğe ulaşan, yani başkalarının (özel vatandaşlar, hükümetler veya süper zeki robotlar olsun) kendi kaderimizi şekillendirme yeteneğimize aktif müdahalesinden kaçınırken pozitif özgürlüğe ulaşan bir dünya inşa etmektir. Bu yeteneği uygulayacak bilgi ve kaynaklara sahip olduğumuzdan emin olun. Bu, Stuart Brand'in "araçsal edinim"e odaklanmasını ve John Stuart Mill'in insani ilerlemenin temel unsurları olarak eğitim ve özgürlüğün yan yana gelmesine yaptığı vurguyu kapsayan yüzyıllardır süren klasik liberalizm geleneğini yansıtıyor. -Çözüm süreçleri katılımcı olmalı ve geniş çapta dağıtılmalıdır. 21. yüzyılın teknoloji ortamı göz önüne alındığında, d/acc'yi aynı hedeflere ulaşmanın bir yolu olarak düşünebiliriz.

Üçüncü boyut: hayatta kalma ve refahın koordineli gelişimi

Geçen yılki makalemde d/acc özellikle savunma teknolojilerine odaklanmıştı: fiziksel savunma, biyosavunma, siber savunma ve bilgi savunması. Ancak merkezi olmayan savunma, harika bir dünya inşa etmek için tek başına yeterli değil: aynı zamanda insanlığın yeni merkezi olmayan yönetim ve güvenlikle neler başarabileceğine dair ileriye dönük ve olumlu bir vizyona da ihtiyacımız var.

Geçen yılın makalesi iki açıdan olumlu bir vizyon içeriyordu:

1. Süperzekanın zorluklarına odaklanarak, süperzekayı güç kaybetmeden nasıl elde edebileceğimize dair (benim için orijinal olmayan) bir yol önerdim:

· Günümüzde yapay zeka, oldukça özerk bir etmenden ziyade bir araç olarak inşa ediliyor.

· Gelecekte yapay zeka ile insanlar arasında daha yakın bir geri bildirim mekanizması kurmak için sanal gerçeklik, miyoelektrik teknolojisi, beyin-bilgisayar arayüzü gibi araçlar kullanılacaktır.

· Zaman geçtikçe nihai sonuca doğru yavaş yavaş ilerliyoruz, yani süper zeka, makinelerle insanların yakın entegrasyonunun ürünüdür.

2. Bilgi savunmasından bahsederken, toplulukların uyumunu korumalarına ve saldırganlar karşısında kaliteli tartışmalar yürütmelerine yardımcı olmayı amaçlayan savunmacı sosyal teknolojilerin yanı sıra, topluluğa yardımcı olabilecek ilerici sosyal teknolojilerin de bulunduğunu belirtmiştim. yüksek kaliteli kararları daha kolay verin: Pol.is bir örnektir ve aynı şey tahmin pazarları için de geçerlidir.

Ancak o zamanlar bu iki noktanın d/acc'ın temel argümanından kopuk olduğu düşünülüyordu: “Temel düzeyde daha demokratik, savunma dostu bir dünya inşa etmeye ilişkin bazı fikirler ve bu arada, bunları nasıl başarabileceğimize dair bazı fikirler: Orada bir süper zekanın alakasız düşünceleri var”.

Ancak gerçekte yukarıda "savunmacı" ve "ilerici" olarak etiketlenen d/acc teknolojileri arasında bazı önemli bağlantılar olduğuna inanıyorum. Sonuçların nasıl göründüğünü görmek için bu ekseni grafiğe ekleyerek (ve onu "hayatta kal ve geliş" olarak yeniden etiketleyerek) geçen yılın makalesindeki d/acc grafiğini genişletelim:

Çeşitli alanlarda tutarlı bir model vardır; yani, belirli bir alanda "hayatta kalmamıza" yardımcı olabilecek bilim, fikirler ve araçlar, "gelişmemize" yardımcı olabilecek bilim, fikirler ve araçlarla yakından ilişkilidir. İşte bazı spesifik örnekler:

· Son zamanlarda yapılan birçok anti-COVID-19 çalışması, uzun vadeli COVİD-19 sorununda anahtar mekanizma olarak kabul edilen virüsün vücutta kalıcılığına odaklanmıştır. Son zamanlarda viral kalıcılığın Alzheimer hastalığına neden olan bir faktör olabileceğine dair öneriler de var; eğer bu doğruysa, tüm doku tiplerinde viral kalıcılığın ele alınması yaşlanmanın zorluklarının üstesinden gelmenin anahtarı olabilir.

· Openwater tarafından geliştirilenler gibi düşük maliyetli ve minyatürleştirilmiş görüntüleme araçları, mikrotromboz, viral kalıcılık, kanser vb. tedavisinde güçlü bir potansiyele sahiptir ve aynı zamanda beyin-bilgisayar arayüzleri alanında da uygulamalara sahip olabilir.

· Oldukça çatışmacı ortamlar için uygun sosyal araçların (Topluluk Notları gibi) ve makul derecede işbirlikçi ortamlar için (Pol.is gibi) sosyal araçların oluşturulmasını teşvik etme kavramı çok benzerdir.

· Tahmin pazarları hem yüksek işbirliği hem de yüksek çatışma ortamlarında büyük değer taşır.

· Sıfır bilgi kanıtları ve benzeri teknolojiler, mahremiyeti korurken veriler üzerinde hesaplamalar yapar; bu, bilimsel araştırma gibi faydalı işler için kullanılabilecek veri miktarını artırmanın yanı sıra mahremiyetin korunmasını da geliştirir.

· Güneş enerjisi ve piller, bir sonraki temiz ekonomik büyüme dalgasını yönlendirmek için kritik önem taşırken, aynı zamanda merkezi olmayan yönetim ve fiziksel dayanıklılıkta da mükemmelleşiyor.

Bunun ötesinde, farklı konu alanları arasında önemli karşılıklı bağımlılıklar vardır:

· Beyin-bilgisayar arayüzü, bilgi savunma ve işbirliği teknolojisi olarak çok önemlidir çünkü düşüncelerimizin ve niyetlerimizin daha karmaşık bir şekilde iletilmesini sağlar. Beyin-bilgisayar arayüzü, bir robot ile bilinç arasındaki bir bağlantıdan daha fazlasıdır: aynı zamanda bir bilinç-robot-bilinç etkileşimi de olabilir. Bu, çoğulculuk kavramındaki beyin-bilgisayar arayüzlerinin değerini yansıtıyor.

· Çoğu biyoteknoloji bilgi paylaşımına dayanır ve birçok durumda insanlar, yalnızca belirli bir uygulama için kullanılacağından emin olduklarında bilgiyi paylaşmaya istekli olurlar. Bu, gizlilik teknolojisine dayanır (sıfır bilgi kanıtı, tamamen homomorfik şifreleme, gizleme teknolojisi vb.).

· İşbirliği teknolojisi, diğer herhangi bir teknoloji alanına yönelik finansmanı koordine etmek için kullanılabilir.

Zor sorular: Yapay zeka güvenliği, sıkı zaman çizelgeleri ve düzenleme ikilemleri

Farklı insanların yapay zeka için çok farklı zaman çizelgeleri vardır. 2023'te Karadağ'ın Zuzalu kentinden grafik.

Geçen yıl makaleme aldığım en ikna edici itirazlar yapay zeka güvenlik topluluğundan geldi. İddia şöyle: "Elbette, güçlü bir yapay zeka geliştirmek için yarım yüzyılımız olsaydı, tüm bu yararlı şeyleri oluşturmaya odaklanabilirdik. Ancak gerçekte, genel yapay zekayı geliştirmek için sadece üç yılımız var gibi görünüyor, üç yıl daha. Süper zekaya ulaşmak için. Yani eğer dünyanın yıkıma sürüklenmesini ya da geri dönülemez bir belaya girmesini istemiyorsak, sadece faydalı teknolojilerin gelişimini hızlandıramayız, aynı zamanda zararlı teknolojilerin gelişimini de yavaşlatmalıyız. Güçlüleri kızdırabilecek güçlü düzenleyici önlemlerin alınması anlamına geliyor." Geçen yılki makalemde, riskli süper zeka biçimleri geliştirmemeye yönelik muğlak bir talep dışında, "zararlı teknolojilerin gelişimini yavaşlatmaya" yönelik herhangi bir spesifik strateji önermedim. Yani burada doğrudan şu soruya geçmekte fayda var: Yapay zeka risklerinin son derece yüksek olduğu ve zaman çizelgesinin belki de beş yıl kadar kısa olduğu, en az ideal bir dünyada olsaydık, hangi düzenleyici önlemleri desteklerdim?

Yeni düzenleme konusunda ihtiyatlı olmanın nedenleri

Geçen yılın en önemli yapay zeka düzenleme teklifi Kaliforniya'nın SB-1047 yasa tasarısıydı. SB-1047, en güçlü modellerin geliştiricilerinin (eğitimi 100 milyon dolardan fazlaya veya ince ayarı 10 milyon dolardan fazlaya mal olan modeller) piyasaya sürülmeden önce bir dizi güvenlik testi önlemi almasını gerektirir. Ayrıca yapay zeka modeli geliştiricileri, yeterli özeni göstermemeleri halinde sorumlu tutulacak. Pek çok eleştirmen tasarının "açık kaynak için tehdit oluşturduğunu" iddia ediyor; ben buna karşı çıkıyorum çünkü maliyet eşiği bunun yalnızca en güçlü modelleri etkilediği anlamına geliyor: Llama3 modeli bile muhtemelen bu eşiğin altında. Ancak geriye dönüp baktığımda tasarının daha ciddi bir sorunu olduğunu düşünüyorum: çoğu düzenleme gibi bu da mevcut duruma fazlasıyla uyarlanmıştı. Eğitim maliyetlerine odaklanmanın yeni teknolojiler karşısında kırılgan olduğu kanıtlandı: son teknoloji ürünü DeepSeek v3 modelinin eğitimi yalnızca 6 milyon dolara mal oldu ve o1 gibi daha yeni modellerde maliyet genellikle eğitimin daha fazla eğitime taşınmasından daha fazla eğitime taşınmasına kadar değişiyor. muhakeme aşaması.

Yapay Zeka Süper Zeka İmha Senaryolarından Büyük Olasılıkla Sorumlu Aktörler

Aslında yapay zeka süper istihbaratının yıkım senaryosundan sorumlu olma ihtimali en yüksek olan aktörler ordudur. Geçtiğimiz yarım yüzyılda biyogüvenlik alanında (ve daha önce) tanık olduğumuz gibi, ordular bazı korkunç eylemlerde bulunmaya isteklidir ve son derece yanılabilirler. Günümüzde yapay zekanın askeri alandaki uygulamaları (Ukrayna ve Gazze'deki uygulamaları gibi) hızla gelişiyor. Ve bir hükümet tarafından kabul edilen herhangi bir güvenlik düzenlemesi, varsayılan olarak kendi ordusunu ve orduyla yakın çalışan şirketleri muaf tutacaktır.

başa çıkma stratejileri

Ancak bu argümanlar çaresiz kalmak için bir neden değildir. Bunun yerine, bunları bir rehber olarak kullanabilir ve bu kaygıları en aza indirecek kurallar oluşturmaya çalışabiliriz.

Strateji 1: Sorumluluk

Birinin eylemleri bir şekilde yasal olarak dava edilebilecek bir zarara neden oluyorsa, bu kişiye dava açılabilir. Bu, ordunun ve diğer "kanun üstü" aktörlerin oluşturduğu risk sorununu çözmez, ancak aşırı uyumdan kaçınan ve dolayısıyla özgürlükçülüğe yönelen çok genel bir yaklaşımdır. Ekonomistler genel olarak bu yaklaşımı destekler.

Şu ana kadar dikkate alınan ana hesap verebilirlik hedefleri şunlardır:

· Kullanıcı: Yapay zekayı kullanan kişi.

· Dağıtıcı: Kullanıcılara yapay zeka hizmetleri sağlayan aracı.

· Geliştirici: Yapay zekayı oluşturan kişi.

Sorumluluğu kullanıcıya yüklemek, teşviklerle en iyi şekilde uyum sağlıyor gibi görünüyor. Bir modelin nasıl geliştirildiği ile nihai olarak nasıl kullanıldığı arasındaki bağlantı genellikle belirsiz olsa da yapay zekanın tam olarak nasıl kullanılacağını kullanıcılar belirler. Kullanıcıları sorumlu tutmak, yapay zekanın doğru olduğunu düşündüğüm şekilde kullanılması yönünde güçlü bir baskı yaratıyor: Kendi kendini idame ettirebilen yeni akıllı yaşam formları yaratmak yerine insan zihni için mekanik giysiler inşa etmeye odaklanmak. İlki, kullanıcının amacına düzenli olarak yanıt verir ve bu nedenle kullanıcı istemediği sürece felaketle sonuçlanabilecek eylemlerle sonuçlanmaz. İkincisi en büyük riski taşır, yani kontrolü kaybedebilir ve klasik "yapay zekanın kontrolden çıkması" senaryosunu tetikleyebilir. Sorumluluğu mümkün olduğu kadar son kullanım noktasına yakın yerleştirmenin bir başka faydası da, insanları başka türlü zararlı eylemlere (ör. kapalı kaynak, müşterini tanı (KYC) ve gözetim, devlet/kurumsal gizli anlaşma) yapmaya yönlendiren sorumluluk riskini en aza indirgemesidir. dünyanın geniş bir alanı hariç olmak üzere belirli müşterilere hizmet vermeyi reddeden bankalar gibi kullanıcılar).

Sorumluluğun yalnızca kullanıcıya atfedilmesine karşı klasik bir itiraz vardır: Kullanıcı fazla parası olmayan sıradan bir birey olabilir, hatta anonim olabilir, dolayısıyla hiç kimse felaket niteliğindeki hasarın bedelini ödeyemez. Bu görüş abartılı olabilir: Bazı kullanıcılar sorumlulukla yüzleşemeyecek kadar küçük olsa bile, AI geliştiricilerinin ortalama müşterisi öyle değildir, dolayısıyla AI geliştiricileri, kullanıcılara yüksek sorumlulukla karşı karşıya kalmayacakları konusunda güvence veren sistemler oluşturmaya hala teşvik edilecektir. Riskli ürün. Bununla birlikte, bu hala geçerli bir noktadır ve ele alınması gerekmektedir. Bunu yapmak için gereken özeni gösterecek kaynaklara sahip olan bir kişiyi, satış hattında teşvik etmeniz gerekir; hem dağıtıcılar hem de geliştiriciler, modelin güvenliği üzerinde hala büyük bir etkiye sahip olan kolay hedeflerdir.

Dağıtıcının sorumluluğu makul görünüyor. Yaygın bir endişe, açık kaynaklı modellerle çalışmamasıdır, ancak özellikle en sağlam modellerin muhtemelen kapalı kaynak olması nedeniyle bu yönetilebilir görünmektedir (eğer açık kaynak olduğu ortaya çıkarsa, dağıtımcının sorumluluğu sonuçta pek de fena sayılmaz). faydalıdır, ancak çok zararlı da değildir). Aynı endişeler geliştirici sorumluluğu konusunda da mevcut (her ne kadar açık kaynak modellerinde, modelin başka türlü yapmasına izin verilmeyen bir şeyi yapması için ince ayar yapılmasının önünde belirli bir engel olsa da), ancak aynı karşı argümanlar da geçerli. Genel bir prensip olarak, kontrole bir "vergi" koyun; esasen "kontrol edemeyeceğiniz bir şey inşa edebilirsiniz veya kontrol edebileceğiniz bir şey inşa edebilirsiniz, ancak kontrol edebileceğiniz bir şey inşa ederseniz, o zaman %20 kontrol gerekir" anlamına gelir. amaçlarımız için kullanılabilir." Bu, hukuk sistemi açısından makul bir konum gibi görünmektedir.

Yeterince araştırılmamış görünen bir fikir, sorumluluğu, yeterli kaynaklara sahip olma olasılığı daha yüksek olan boru hattındaki diğer aktörlere atfetmektir. D/acc felsefesine çok iyi uyan bir fikir, yapay zekanın devraldığı herhangi bir cihazın sahibini veya operatörünü, yıkıcı derecede zararlı bir eylem gerçekleştirirken (örneğin, bilgisayar korsanlığı yoluyla) sorumlu tutmaktır. Bu, başta bilgisayar ve biyoloji olmak üzere dünyanın altyapısını mümkün olduğunca güvenli hale getirmeye yönelik çok geniş bir teşvik yaratacaktır.

Strateji 2: Endüstriyel ölçekli donanımda genel "geçici duraklatma" düğmesi

Sorumluluk kurallarından "daha güçlü" bir şeye ihtiyacımız olduğuna ikna olsaydım bu stratejiyi seçerdim. Amaç, 1-2 yıl süren kritik bir dönemde, küresel düzeyde mevcut bilgi işlem gücünü yaklaşık %90 - %99 oranında azaltarak insanlara daha fazla hazırlık süresi kazandırmaktır. 1-2 yılın değeri fazla tahmin edilmemelidir: Bir yıllık "savaş zamanı modu", rahatlıkla yüz yıllık düzenli çalışmaya bedel olabilir. Donanımın konumu kaydettirmesi ve doğrulaması gibi spesifik öneriler de dahil olmak üzere, "duraklatma"yı uygulamaya yönelik yöntemler halihazırda araştırılmaktadır.

Daha gelişmiş bir yaklaşım, akıllı kriptografik yöntemler kullanmak olabilir: örneğin, endüstriyel ölçekte üretilmiş (ancak tüketici düzeyinde değil) yapay zeka donanımı, yalnızca büyük uluslararası kurumlardan haftalık olarak veri alan güvenilir bir donanım çipiyle donatılabilir. En azından askeri olmayan bağlı kuruluşların 3/3'ünün imza atması halinde faaliyet göstermeye devam etmesine izin verilecektir. Bu imzalar cihazdan bağımsız olacaktır (istenirse sıfır bilgi kanıtlarının blok zincirinde yayınlanmasını bile isteyebiliriz), yani ya hep ya hiç olacaktır: diğerlerine izin vermeden bir cihazı çalışmaya devam etmesi için yetkilendirmenin pratik bir yolu yoktur. teçhizat.

Bu, faydaların en üst düzeye çıkarılması ve risklerin en aza indirilmesi açısından "amaca uygun" görünüyor:

· Bu yararlı bir yetenektir: Süperzekaya yaklaşan bir yapay zekanın, felaket düzeyinde hasara neden olabilecek şeyler yapmaya başladığına dair belirtiler alırsak, geçişi daha yavaş yapmak isteriz.

· Bu tür kritik anlar gelene kadar, yalnızca geçici duraklatma yeteneğine sahip olmanın geliştiricilere çok az zararı vardır. Endüstriyel ölçekte donanıma odaklanmak ve yalnızca %90 - %99'luk bir hedef belirlemek, casus çipler yerleştirmek veya tüketici sınıfı dizüstü bilgisayarlara anahtarları zorla öldürmek veya küçük ülkeleri kendi ülkelerine karşı harekete geçmeye zorlamak gibi bazı distopik yaklaşımlardan kaçınacaktır. Sıkı önlemler alınacak.

· Donanıma odaklanmak teknolojik değişimlere oldukça kolay uyum sağlayabilecek gibi görünüyor. Yapay zeka nesilleri boyunca kalitenin, özellikle yeni paradigmanın ilk sürümlerinde, büyük ölçüde mevcut bilgi işlem gücüne bağlı olduğunu gördük. Dolayısıyla, mevcut bilgi işlem gücünü 10 ila 100 kat azaltmak, kontrolden çıkmış süper zeki bir yapay zekanın, onu durdurmaya çalışan insanlarla hızlı bir savaşta bulunması arasındaki farkı kolaylıkla yaratabilir.

· İmza almak için her hafta internete girme zorunluluğunun doğasında olan güçlük, bu çözümü tüketici sınıfı donanıma ölçeklendirme fikrini güçlü bir şekilde engelleyecektir.

Rastgele kontrollerle doğrulanabilir ve bunu donanım düzeyinde yapmak, belirli kullanıcıların muaf tutulmasını zorlaştıracaktır (teknik araçlardan ziyade yasal olarak zorunlu kapatmalara dayanan yaklaşımlar, ya hep ya hiç özelliğine sahip değildir, bu da onları daha kolay hale getirir) askerlik vb. için muafiyetler).

Donanım düzenlemesi, her ne kadar genellikle ihracat kontrolleri çerçevesinde olsa da, halihazırda güçlü bir şekilde değerlendiriliyor; bu kontroller esasen "bir tarafımıza güveniyoruz, diğer tarafa güvenmiyoruz" felsefesine sahip. Leopold Aschenbrenner, Amerika Birleşik Devletleri'nin belirleyici bir avantaj elde etmek için yarışması ve ardından Çin'i, çalıştırabilecekleri ekipman miktarını sınırlayan bir anlaşma imzalamaya zorlaması gerektiğini ünlü bir şekilde savundu. Bu yaklaşım bana riskli görünüyor ve çok kutuplu rekabet ile merkezileşmenin tuzaklarını birleştirebilir. İnsanları kısıtlamamız gerekiyorsa, herkesi eşit şekilde kısıtlamak ve uygulamayı organize etmek için birlikte çalışmak, tek bir tarafın herkese hükmetmeye çalışması yerine daha iyi görünüyor.

d/acc Teknolojisinin yapay zeka risklerindeki rolü

Her iki stratejide de (sorumluluk ve donanım duraklatma düğmeleri) boşluklar var ve bunların yalnızca geçici geçici çözümler olduğu açık: Eğer bir şey bir süper bilgisayarda T zamanında yapılabiliyorsa, o zaman bir dizüstü bilgisayarda T + 5 yıl zamanında yapılabilir. hem de bilgisayarda. Bu nedenle zaman kazanmak için daha istikrarlı önlemlere ihtiyacımız var. Birçok d/acc tekniği burada geçerlidir. D/acc teknolojisinin rolüne şu şekilde bakabiliriz: Yapay zeka dünyayı ele geçirseydi bunu nasıl yapardı?

· Bilgisayarlarımızı istila ediyor → Siber Savunma

· Süper veba yaratır → biyolojik savunma

· Bilgisayarlarımızı istila ediyor → Siber Savunma

· Süper veba yaratır → biyolojik savunma

· Bizi ikna eder (ya güveniriz ya da birbirimize güvenmeyiz) → Bilgi Savunması

Sorumluluk kuralları, yukarıda kısaca değinildiği gibi, d/acc felsefesine doğal olarak uyan düzenleyici bir yaklaşımdır; çünkü bu savunmaların dünya çapında benimsenmesini ve ciddiye alınmasını teşvik etmede oldukça etkili olabilir. Tayvan son zamanlarda sahte reklamlar için sorumluluk yüklemeye yönelik deneyler yapıyor; bu, bilgi savunmasını teşvik etmek için sorumluluğu kullanmanın bir örneği olarak görülebilir. Her yerde sorumluluk dayatma konusunda çok istekli olmamalıyız ve küçük insanların dava korkusu olmadan inovasyona katılmasına olanak tanıyan sıradan özgürlüklerin faydalarını hatırlamamalıyız; ancak güvenlik için daha güçlü bir baskı istediğimizde sorumluluk oldukça esnek ve etkili olabilir .

Kripto para birimlerinin d/acc'deki rolü

D/acc'nin birçok yönü tipik blockchain konularının çok ötesine geçiyor: biyogüvenlik, beyin-bilgisayar arayüzleri ve işbirlikçi söylem araçları, kripto insanlarının tipik olarak konuştuklarından çok uzak görünüyor. Ancak kripto para birimleri ile d/acc arasında bazı önemli bağlantıların olduğunu düşünüyorum, özellikle:

· d/acc, kripto para biriminin temel değerlerinin (merkeziyetsizlik, sansüre dayanıklılık, açık küresel ekonomi ve toplum) diğer teknolojik alanlara genişletilmesidir.

· Kripto para birimi kullanıcıları doğal olarak erken benimseyenlerden olduğundan ve değer uyumu olduğundan, kripto para birimi topluluğu d/acc teknolojisini doğal olarak erken benimseyenlerdendir. Topluluğa yapılan güçlü vurgu (etkinlikler ve pop-up etkinlikleri gibi hem çevrimiçi hem de çevrimdışı) ve bu toplulukların aslında sadece birbirleriyle konuşmak yerine yüksek riskli şeyler yapması gerçeği, kripto para birimi topluluklarını d/acc için özellikle ilgi çekici hale getiriyor teknoloji Temelde bireyler yerine gruplar üzerinde çalışan teknolojiler için çekici kuluçka merkezleri ve deneme alanları (çoğu bilgi savunma ve biyosavunma teknolojileri gibi). Kripto para birimi insanları bir şeyleri birlikte yaparlar.

· Pek çok kripto para birimi teknolojisi d/acc konu alanlarında kullanılabilir: daha sağlam ve merkezi olmayan finansal, yönetişim ve sosyal medya altyapısı oluşturmak için blockchain, gizliliği korumak için sıfır bilgi kanıtları vb. Günümüzde en büyük tahmin piyasalarının birçoğu blok zincirler üzerine kuruludur ve bunlar giderek daha karmaşık, merkezi olmayan ve demokratik hale gelmektedir.

· Kripto para birimi projeleri için yararlı olan ve d/acc hedeflerine ulaşmanın anahtarı olan kripto-bitişik teknolojilerde de kazan-kazan işbirliği fırsatları mevcuttur: resmi doğrulama, bilgisayar yazılımı ve donanım güvenliği ve rakiplere karşı sağlamlık Yönetişim teknolojisi. Bunlar, Ethereum blok zincirini, cüzdanlarını ve merkezi olmayan özerk organizasyonları (DAO'lar) daha güvenli ve sağlam hale getirir ve aynı zamanda süper akıllı yapay zekadan gelebilecekler de dahil olmak üzere siber saldırılara karşı savunmasızlığımızı azaltmak gibi önemli uygarlık savunma hedeflerine de ulaşırlar. .

Cursive, kullanıcıların gizliliğini korurken diğer kullanıcılarla ortak ilgi alanlarını belirlemesine olanak tanıyan tamamen homomorfik şifreleme (FHE) kullanan bir uygulamadır. Chiang Mai'deki Edge City (Zuzalu'nun birçok şubesinden biri) bu uygulamayı kullanıyor.

d/acc ve kamu malları finansmanı

İlgilendiğim sorulardan biri, kamu mallarını finanse etmek için daha iyi mekanizmalar bulmaktır: çok büyük bir grup insan için değerli olan ancak doğal olarak erişilebilir bir iş modeline sahip olmayan projeler. Bu alandaki geçmiş çalışmalarım, Karesel Finansmana katkılarımı ve onun Gitcoin Hibelerine, Retroaktif Kamu Malları Fonlamasına (retro PGF) ve en son olarak Derin Finansmana olan katkılarımı içermektedir.

Birçok kişi kamu malları kavramına şüpheyle yaklaşıyor. Bu şüphe genellikle iki açıdan kaynaklanır:

· Kamu malları tarihsel olarak devletin katı merkezi planlamasının ve topluma ve ekonomiye müdahalesinin gerekçesi olarak kullanılmıştır.

Birçok kişi kamu malları kavramına şüpheyle yaklaşıyor. Bu şüphe genellikle iki açıdan kaynaklanır:

· Kamu malları tarihsel olarak hükümetin katı merkezi planlamasını ve topluma ve ekonomiye müdahalesini haklı çıkarmak için kullanılmıştır.

· Yaygın bir algı, kamu malları finansmanının titizlikten yoksun olduğu ve sosyal istenirlik önyargısına (yani gerçekte iyi olandan ziyade kulağa hoş gelene) dayalı olarak işlediği ve sosyal oyunu oynayabilen içerdekileri desteklediği yönündedir.

Bunlar önemli ve geçerli eleştirilerdir. Bununla birlikte, kamu mallarının güçlü merkezi olmayan finansmanının d/acc vizyonu açısından kritik öneme sahip olduğuna inanıyorum, çünkü d/acc'nin temel hedefi (merkezi kontrol noktalarını en aza indirmek) bizzat birçok geleneksel iş modelini engellemektedir. Açık kaynak üzerinde başarılı işletmeler kurmak mümkündür (Balvi'den bağış alan birçok kişi tam da bunu yapıyor), ancak bazı durumlarda önemli projelerin sürekli ek destek gerektirmesi yeterince zordur. Dolayısıyla zor olanı yapmamız gerekiyor; yani yukarıdaki iki eleştiriyi ele alacak şekilde kamu mallarının nasıl finanse edileceğini bulmak zorundayız.

İlk sorunun çözümü temelde güvenilir tarafsızlık ve ademi merkeziyetçiliktir. Merkezi planlama sorunludur çünkü kontrolü istismarcı olabilecek elitlere verir, çoğu zaman mevcut koşullara aşırı uyum sağlar ve zamanla giderek etkisiz hale gelir. İkinci dereceden finansman ve benzer mekanizmalar, kesinlikle kamu mallarının mümkün olan en güvenilir şekilde tarafsız ve (mimari ve politik olarak) merkezi olmayan bir şekilde finanse edilmesiyle ilgilidir.

İkinci soru ise daha zorlu. İkinci dereceden finansmana yönelik yaygın bir eleştiri, bunun hızla bir popülerlik yarışmasına dönüşmesi ve proje finansmanı sağlayanların tanıtım için önemli çaba harcamasını gerektirmesidir. Dahası, "insanların gözü önünde" olan projeler (son kullanıcı uygulamaları gibi) finanse edilirken, perde arkasında kalan projeler (tipik "Nebraska'da bir adamın sürdürdüğü bağımlılıklar") finanse edilmez. hepsi Herhangi bir finansman. İyimserlik geriye dönük finansman, daha az sayıda uzman rozeti sahibine dayanır; burada popülerlik yarışmasının etkisi azalır, ancak rozet sahibiyle yakın kişisel ilişkiye sahip olmanın sosyal etkisi artar.

Deep Funding, bu sorunu çözmeye yönelik en son çabamdır. Derin fonlamada iki ana yenilik var:

· Bağımlılık grafiği. Her jüri üyesine küresel bir soru sormak yerine ("A projesinin insanlık için değeri nedir?"), yerel bir soru soruyoruz ("C sonucu açısından A projesi mi yoksa B projesi mi daha değerli? Ne kadar?"). İnsanlar küresel soruları yanıtlama konusunda herkesin bildiği gibi kötü: ünlü bir çalışmada, N sayıda kuşu kurtarmak için ne kadar harcayacakları sorulduğunda, yanıt verenler N = 2.000, N = 20.000 şeklinde yanıt verdi ve N = 200.000 yanıtının yanıtı kabaca 80 dolar oldu. Yerel sorunların üstesinden gelmek daha kolaydır. Daha sonra bir "bağımlılık grafiği" oluşturarak yerel yanıtları küresel bir yanıtta birleştiriyoruz: Her proje için diğer hangi projeler onun başarısına katkıda bulunuyor ve ne kadar?

· Geliştirilmiş insan muhakemesi olarak yapay zeka. Jüri üyelerinin her birine, tüm soruların yalnızca küçük, rastgele bir örneği atanır. Grafikteki tüm kenarları verimli bir şekilde doldurmaya çalışan bir yapay zeka modelini herkesin sunabileceği açık bir yarışma var. Nihai cevap, jürinin cevabıyla en uyumlu modellerin ağırlıklı toplamıdır. Kod örnekleri için buraya bakın. Bu yaklaşım, mekanizmanın çok büyük ölçeklere ölçeklenmesine olanak tanırken jürinin yalnızca az sayıda "bilgi parçası" sunmasını gerektirir. Bu, yolsuzluk olasılığını azaltır ve her bir bilginin yüksek kalitede olmasını sağlar: Jüri üyeleri, yüzlerce soruya hızlı bir şekilde tıklamak yerine, her bir soru üzerinde uzun süre düşünebilir. Yapay zeka için açık yarışmalar kullanarak, herhangi bir yapay zeka eğitimi ve kürasyon sürecinden kaynaklanan önyargıları azaltıyoruz. Yapay zekanın açık pazarı motor görevi görüyor ve insanlar da direksiyon simidi görevi görüyor.

Ancak derin finansman sadece en son örnek; daha önce kamu mallarına yönelik finansman mekanizmalarına yönelik başka fikirler vardı ve gelecekte daha fazlası olacak. allo.expert bunları kataloglama konusunda iyi bir iş çıkarıyor. Temel amaç, kamu mallarını, en azından özel malların piyasa finansmanına yakın bir düzeyde doğruluk, adalet ve açık erişimle finanse edebilecek bir sosyal araç yaratmaktır. Sonuçta mükemmel olması gerekmiyor; pazarın kendisi mükemmel olmaktan çok uzak. Ancak herkesin fayda sağladığı yüksek kaliteli açık kaynaklı projeler üzerinde çalışan geliştiricilerin, kabul edilemez tavizler verme ihtiyacı hissetmeden bunu yapmaya devam edebilmeleri için yeterince etkili olması gerekir.

Günümüzde d/acc konu alanlarında önde gelen projelerin çoğu: aşılar, beyin-bilgisayar arayüzleri, bilek elektromiyografisi ve göz takibi gibi "son beyin-bilgisayar arayüzleri", yaşlanma karşıtı ilaçlar, donanım vb. özel projelerdir. Bunun, yukarıda bahsettiğimiz pek çok alanda gördüğümüz gibi, kamu güveninin sağlanması açısından önemli dezavantajları var. Aynı zamanda dikkati rekabetçi dinamiklere ("Ekibimiz bu kritik sektörde kazanmalı!") yönlendirir ve bu teknolojilerin bizi süper akıllı yapay zeka dünyasında koruyacak kadar hızlı bir şekilde ortaya çıkmasını sağlamak için daha büyük yarıştan uzaklaştırır. Bu nedenlerden dolayı, güçlü kamu malları finansmanı, açıklık ve özgürlüğün güçlü bir itici gücü olabilir. Bu, kripto para birimi topluluğunun d/acc'ye yardımcı olabileceği başka bir yoldur: Bu finansman mekanizmalarını araştırmak ve onların kendi bağlamlarında iyi çalışmasını sağlamak için ciddi çabalar sarf ederek, bunları açık kaynak bilimi ve teknolojisinde daha geniş uygulama için hazırlayarak.

gelecek

Önümüzdeki onyıllar önemli zorlukları da beraberinde getiriyor. Son zamanlarda iki zorluk hakkında düşünüyorum:

· Güçlü yeni teknolojiler dalgası, özellikle de güçlü yapay zeka hızla geliyor ve onlarla birlikte kaçınmamız gereken önemli tuzaklar da geliyor. "Yapay süper zeka"nın ortaya çıkması beş yılı da bulabilir, elli yılı da. Her iki durumda da, varsayılan sonucun otomatik olarak pozitif olup olmadığı açık değildir ve bu ve önceki gönderide açıklandığı gibi kaçınılması gereken birçok tuzak vardır.

· Dünya daha az işbirlikçi hale geliyor. Daha önce en azından bazen yüksek ilkeler (kozmopolitanizm, özgürlük, ortak insanlık vb.) temelinde hareket ediyor gibi görünen birçok güçlü aktör, artık bireysel veya kabilesel çıkarların peşinde daha açık ve saldırgan bir şekilde hareket ediyor.

Ancak bu zorlukların her birinin olumlu bir tarafı var. Öncelikle artık işimizin geri kalanını çok daha hızlı yapabilmemiz için çok güçlü araçlara sahibiz:

· Mevcut ve yakın vadeli yapay zeka, diğer teknolojilerin geliştirilmesinde kullanılabilir ve yönetişimin bir unsuru olarak kullanılabilir (derin finansman veya bilgi finansmanı gibi). Aynı zamanda daha fazla üretkenlik kazanımı sağlayabilen beyin-bilgisayar arayüzleriyle de oldukça ilgilidir.

· Artık eskisinden çok daha büyük ölçekte büyük bir koordinasyon mümkün. İnternet ve sosyal medya koordinasyonun kapsamını genişletti, küresel finans (kripto para birimleri dahil) gücünü artırdı, artık bilgi savunma ve işbirliği araçları kalitesini artırabilir ve belki yakında insan-bilgisayar-insan şeklinde beyin-bilgisayar arayüzleri ortaya çıkabilir. derinliğini artırabilir.

· Resmi doğrulama, korumalı alan oluşturma teknolojisi (web tarayıcıları, Docker, Qubes, GrapheneOS, vb.), güvenli donanım modülleri ve diğer teknolojiler, daha iyi ağ güvenliğini mümkün kılmak için gelişiyor.

· Her türlü yazılım yazmak iki yıl öncesine göre çok daha kolay.

· Virüslerin nasıl çalıştığını anlamaya yönelik son zamanlarda yapılan temel araştırmalar, özellikle de en önemli bulaşma biçiminin hava yoluyla taşındığının anlaşılması, biyolojik savunmanın nasıl iyileştirilebileceğine dair daha net bir yol gösteriyor.

· Biyoteknolojideki son gelişmeler (örneğin, CRISPR, biyogörüntülemedeki ilerlemeler), ister savunma, uzun ömür, süper refah, birden fazla yeni biyolojik hipotezin araştırılması veya sadece gerçekten harika şeyler yapmak için olsun, her türlü biyoteknolojiyi daha kullanışlı hale getiriyor. elde etmek.

· Bilgisayar ve biyoteknolojideki ilerlemeler bir araya gelerek sağlığınızı uyarlamak, izlemek ve iyileştirmek için kullanabileceğiniz sentetik biyolojik araçlara olanak sağlıyor. Kriptografi gibi siber savunma teknolojileri, kişiselleştirmenin bu boyutunu daha uygulanabilir hale getiriyor.

İkincisi, değer verdiğimiz ilkelerin çoğu artık eski güçlerin seçilmiş birkaçı tarafından benimsenmediğine göre, dünyadaki herkesin katılmasını memnuniyetle karşılayan geniş bir koalisyon tarafından yeniden ele geçirilebilirler. Bu, dünya genelinde yakın zamanda yaşanan siyasi "yeniden düzenleme"nin en büyük faydası olabilir ve bundan faydalanmaya değer. Kripto para birimleri bundan yararlanma ve küresel ilgi bulma konusunda harika bir iş çıkardı; d/acc da aynısını yapabilir.

Araçların edinilmesi, biyolojimize ve çevremize uyum sağlayabileceğimiz ve geliştirebileceğimiz anlamına gelir ve d/acc'nin "savunma" kısmı, bunu başkalarının aynı şeyi yapma özgürlüğünü ihlal etmeden yapabileceğimiz anlamına gelir. Liberal çoğulculuk ilkesi, bunu nasıl yapacağımız konusunda büyük çeşitlilik olabileceği anlamına gelir ve ortak insani hedeflere olan bağlılığımız, bunun başarılması gerektiği anlamına gelir.

Biz insanlar hâlâ en parlak yıldızlarız. Yıldızlara ulaşırken insanın hayatta kalmasını, özgürlüğünü ve eylemliliğini koruyan daha parlak bir 21. yüzyıl inşa etmek için önümüzdeki görev zorlu bir iştir. Ama bunu yapabileceğimize inanıyorum.