去中心化加速和人工智能:一年後展望

進階1/10/2025, 4:21:45 AM
本文深入探討了去中心化加速(d/acc)這一概念,比較了不同策略,以分析其在應對人工智能風險方面的作用。文章還討論了加密貨幣在這個背景下的重要性,並探索了資助公共物品的機制。最後,儘管未來技術發展面臨挑戰,文章展望人類仍有機會利用現有工具和思想來創造一個更美好的世界。

轉發原文標題:《d/acc:一年後》

大約一年前,我寫了一篇關於技術樂觀主義的文章,表達了我對技術的熱情以及它可能帶來的巨大好處,同時也對一些特定問題表示謹慎,主要集中在超智能人工智能上,以及如果技術構建不當可能導致的毀滅或人類的不可逆轉失能。文章中的一個核心思想是:去中心化和民主的差異化防禦加速。我們應該加速技術發展,但要重點關注那些增強我們防禦能力的技術,而不是造成傷害的技術,同時要確保權力的分散,而不是集中在某個精英手中。我們的防禦方式應像民主的瑞士和歷史上的準無政府狀態地區,而不是中世紀封建制度下的領主與城堡。

在過去的一年中,這一哲學和理念得到了顯著的發展。我在“80,000 小時”節目中討論了這些想法,並收到了許多反響,大多數是積極的,也有一些批評。我們的工作仍在繼續,並取得了一些成果:我們在可驗證的開源疫苗方面取得了進展,健康室內空氣的價值得到越來越多的認可,社區筆記繼續發揮作用,預測市場作為信息工具迎來了突破性的一年,零知識證明(ZK-SNARKs)在政府身份識別和社交媒體中得到了應用(並通過帳戶抽象 保護以太坊錢包),還有在醫學和腦機接口(BCI)中應用的開源成像工具等。去年秋天,我們舉行了第一次重要的d/acc活動:“d/acc發現日”(d/aDDy),在Devcon上進行了,活動中有來自d/acc各個領域(生物、物理、網絡、信息防禦和神經技術)的演講者。多年來從事這些技術研究的人們越來越意識到彼此的工作,而外部人士也越來越關注更大的背景:推動以太坊和加密貨幣的相同價值觀可以應用於更廣泛的世界

目錄

d/acc的定義與界限

現在是2042年。你在媒體上看到關於你所在城市可能出現新疫情的報道。你對此已經習慣:人們對每種動物疾病的突變總是過於興奮,而大多數情況最終並沒有發展成真正的疫情。之前的兩個潛在疫情通過廢水監測社交媒體的開源分析被非常早地發現並完全遏制。但這一次,預測市場顯示至少有10,000例的概率為60%,因此你開始感到擔憂。

病毒的基因序列昨天被確認。你的便攜式空氣測試儀的軟件更新已經可以檢測新病毒(通過一次呼吸或在一個房間內暴露15分鐘的室內空氣)。使用任何現代醫療設施中可以找到的設備生成疫苗的開源說明和代碼預計在幾周內可用。目前大多數人尚未採取行動,主要依賴於普遍使用的空氣過濾和通風來保護自己。由於你有免疫系統疾病,所以更加謹慎:你的開源本地運行的個人助手AI,除了處理導航、餐廳和活動推薦外,還實時考慮空氣測試儀和二氧化碳數據,只推薦最安全的場所。這些數據由成千上萬的參與者和設備提供,利用零知識證明(ZK-SNARK)和差別隱私技術,最大程度降低數據洩露或被濫用的風險(如果你想為這些數據集貢獻數據,還有其他個人助手AI來驗證這些加密工具的有效性)。

兩個月後,疫情消失了:似乎60%的人遵循基本的防護措施,即當空氣測試儀發出警報並顯示病毒存在時戴上口罩,個人檢測陽性時待在家中,這足以將已經因重度空氣過濾而顯著降低的傳播率壓低到1以下。模擬顯示,二十年前可能比Covid嚴重五倍的疾病,如今卻成了無關緊要的問題。














Devcon d/acc 日

Devcon上的d/acc活動最積極的收穫之一是,d/acc的框架成功地將來自不同領域的人聚集在一起,使他們對彼此的工作產生了真正的興趣。

創建具有“多樣性”的活動很簡單,但讓不同背景和興趣的人真正相互聯繫卻很困難。我仍然記得在中學和高中時被迫觀看長時間的歌劇,而我個人覺得它們很無聊。我知道我“應該”欣賞它們,因為如果不這樣,我就會被認為是沒有文化的計算機科學粗人,但我並沒有在更真實的層面上與內容產生共鳴。d/acc日完全沒有這種感覺:人們似乎真的享受了解不同領域的不同工作。

如果我們想創造一個比統治、減速和毀滅更光明的替代方案,我們需要這種廣泛的聯盟建設。d/acc似乎確實在這方面取得了成功,這本身就顯示了這個理念的價值。

d/acc的核心思想很簡單:去中心化和民主的差異化防禦加速。

我們需要構建一些技術,使攻防平衡向防禦傾斜,並且不依賴於將更多權力交給集中權威。這兩者之間有著內在的聯繫:任何形式的去中心化、民主或自由的政治結構在防禦容易時發展最好,而在防禦困難時面臨最大的挑戰——在這種情況下,結果更可能是所有人相互對抗的戰爭,最終形成強者統治的局面。

d/acc的核心原則適用於多個領域:

圖表來自 My Techno-Optimis

從我去年關於技術樂觀主義的文章中可以看出,理解同時追求去中心化、防禦性和加速思維的重要性的一種方法是將其與放棄這三者的哲學進行對比。

  • 去中心化加速,但不關心“差異化防禦”的部分。基本上,成為一種去中心化的e/acc。有很多人採取這種方法,其中一些自稱為d/acc,但樂於將他們的重點描述為“進攻”,還有許多其他人以更溫和的方式對“去中心化AI”等主題感到興奮,但在我看來,他們對“防禦”方面的關注不足。
  • 在我看來,這種方法可能避免你擔心的特定部落對全球人類的專制統治風險,但它並沒有解決潛在的結構性問題:在一個偏向進攻的環境中,總是存在災難或有人自我定位為保護者並永久佔據頂端的風險。在人工智能的具體案例中,它也沒有很好地解決人類整體相對於人工智能被削弱的風險。
  • 差異化防禦加速,但不關心“去中心化和民主”。出於安全考慮而接受集中控制對一部分人具有永久吸引力,讀者無疑已經熟悉許多例子及其缺點。最近,一些人擔心極端的集中控制是未來技術極端情況的唯一解決方案:請看這個假設場景,“每個人都配備一個‘自由標籤’——這是對今天更有限的可穿戴監控設備的延續,例如在幾個國家作為監獄替代品使用的腳踝標籤……加密的視頻和音頻會不斷上傳,並實時進行機器解讀”。然而,集中控制是一個光譜。通常被忽視但仍然有害的集中控制的溫和版本是生物技術中對公眾審查的抵制(例如食品疫苗),以及允許這種抵制不受挑戰的閉源規範。
  • 這種方法的風險當然在於,中心往往本身就是風險的來源。我們在Covid中看到了這一點,世界多個主要政府資助的功能獲得研究可能是疫情的源頭,集中知識論導致世界衛生組織多年不承認Covid是空氣傳播的事實,而強制性的社交隔離疫苗強制接種導致的政治反彈可能會持續數十年。與人工智能或其他風險技術相關的任何風險也可能出現類似情況。去中心化的方法將更好地應對來自中心自身的風險。
  • 去中心化防禦,但不關心加速——基本上,試圖減緩技術進步或經濟減速

這種策略的挑戰有兩個方面。首先,從整體上看,技術和經濟增長對人類是極其有利的,任何延遲都會帶來難以估量成本。其次,在一個非極權的世界中,不進步是不穩定的:誰“作弊”得最多,找到可信的方式繼續進步,誰就會領先。減速主義策略在某些背景下可以在一定程度上發揮作用:例如,歐洲食品比美國食品更健康就是一個例子,核不擴散至今的成功也是另一個。但它們不能永遠有效。

對於 d/acc,我們希望:

  • 在世界大部分變得部落化的時期,保持原則,而不是隨意構建任何東西——相反,我們希望構建特定的東西,使世界更安全、更美好。
  • 承認指數級的技術進步意味著世界將變得非常奇怪,人類對宇宙的總體“足跡”只會增加。我們必須改善保護脆弱動物、植物和人類免受傷害的能力,但唯一的出路是向前。
  • 構建使我們安全的技術,而不是假設“好人(或好AI)掌控一切”。我們通過構建那些在建設和保護時更有效的工具,而不是在破壞時更有效的工具來實現這一目標。

另一種理解d/acc的方法是回到2000年代末歐洲海盜黨運動的一個框架:賦權。

目標是構建一個保留人類自主權的世界,既實現避免他人(無論是作為私人公民的其他人,還是政府,或超智能機器人)主動干預的消極自由,又實現我們塑造自己命運的能力,以及確保我們擁有知識和資源的積極自由。這與幾個世紀以來的古典自由主義傳統相呼應,其中也包括斯圖爾特·布蘭德對“工具獲取”的關注,以及約翰·斯圖爾特·密爾將教育自由視為人類進步的關鍵組成部分——或許,人們還可以補充,巴克敏斯特·富勒希望看到全球解決過程是參與性和廣泛分佈的。我們可以將d/acc視為在21世紀的技術背景下實現這些相同目標的一種方式。

第三個維度:生存和發展

在我去年的文章中,d/acc特別關注防禦性技術:物理防禦、生物防禦、網絡防禦和信息防禦。然而,去中心化的防禦不足以使世界變得偉大:你還需要一個前瞻性的積極願景,來說明人類如何利用其新獲得的去中心化和安全性來實現目標。

去年的文章確實包含了一個積極的願景,在兩個地方:

  1. 關注超智能的挑戰,我提出了一條路徑(對我來說並不原始),即我們如何在不削弱的情況下擁有超智能:
    1. 今天,構建人工智能作為工具,而不是人工智能作為高度自治的代理
    2. 明天使用類似的工具 虛擬現實, 肌電 和腦機接口,在人工智能和人類之間創建越來越緊密的反饋
    3. 隨著時間的推移,最終的結局是超級智能是機器和我們緊密耦合的組合。
  2. 在談論信息防禦時,我還順便提到,除了試圖幫助社區在面對攻擊者時保持凝聚力並擁有高質量話語權的社交技術之外,還有 進步 可以幫助社區更容易做出高質量判斷的社交技術: pol.is 就是一個例子,並且 預測市場是另一個。

但這兩個觀點與d/acc的論點似乎沒有聯繫:“這裡有一些在基礎層面創造更民主和更有防禦性的世界的想法,順便提一下,這裡還有一些與超智能無關的想法。”

然而,我認為實際上,“防禦性”和“進步性”d/acc技術之間有一些非常重要的聯繫。讓我們通過增加這個軸(同時將其重新標記為“生存與發展”)來擴展去年的d/acc圖表,看看會有什麼結果:

在所有領域中,有一種一致的模式,即可以幫助我們在一個領域“生存”的科學、思想和工具與可以幫助我們“繁榮”的科學、思想和工具密切相關。一些例子:

此外,不同學科之間還存在重要的相互依賴關係:

  • 協作技術可用於 協調資金 對於任何其他技術領域
  • 腦機接口(BCI)作為信息防禦和協作技術非常相關,因為它能夠使我們更詳細地溝通思想和意圖。BCI不僅限於機器人與意識之間的連接:它還可以實現意識到機器人再到意識的連接。這與多元性理論中關於BCI價值的觀點相呼應
  • 許多生物技術依賴於信息共享,在很多情況下,人們只有在確信信息將僅用於一個特定應用時,才會願意分享。這依賴於隱私技術(例如零知識證明(ZKP)、同態加密(FHE)、混淆技術等)。
  • 協作技術可以用於協調其他技術領域的資金。

難題:人工智能安全性、短期時間線和監管

不同的人對人工智能的時間線有很大差異。

這張圖來自2023年的黑山Zuzalu。

我去年文章中最有說服力的反對意見來自人工智能安全社區。論點是:“當然,如果我們還有半個世紀才能擁有強人工智能,我們可以集中精力構建所有這些好的東西。但實際上,看起來我們只有三年的時間線才能實現通用人工智能(AGI),再過三年才能實現超智能。因此,如果我們不想讓世界被毀滅或陷入不可逆轉的陷阱,我們不僅要加速好的事物,還必須減緩壞的事物,這意味著必須通過強有力的監管,這可能會讓有權勢的人感到不滿。”在我去年的文章中,我確實沒有呼籲任何具體的“減緩壞事物”的策略,除了對不構建風險形式的超智能的模糊呼籲。因此,在這裡,值得直接回答這個問題:如果我們生活在一個 最不方便的世界,人工智能風險高,時間線可能只有五年,我會支持什麼樣的監管?

首先,對新法規謹慎考慮

去年,主要提出的人工智能監管是加利福尼亞州 SB-1047 法案。SB-1047要求最強大的模型的開發者(那些訓練成本超過1億美元,或微調超過1000萬美元的模型)在發佈之前採取一些安全測試措施。此外,如果他們未能盡到足夠的注意義務,法案還對人工智能模型的開發者施加責任。許多反對者認為該法案“威脅到開源”;我不同意,因為成本門檻意味著它隻影響最強大的模型:甚至LLama3可能都低於這個門檻。然而,回顧起來,我認為法案存在更大的問題:與大多數監管一樣,它過於適應當前的情況。對訓練成本的關注在面對新技術時顯得脆弱:最近的最先進的Deepseek v3模型的訓練成本僅600萬美元,而在新模型如o1中,成本正在更普遍地從訓練轉向推理。

其次,實際上負責人工智能超智能災難場景的最可能的參與者是軍方。

正如我們在去半個世紀的生物安全(及其他領域)中所見,軍方願意做一些可怕的事情,他們也容易犯錯誤。今天,人工智能在軍事上的應用正在迅速推進(參見烏克蘭加沙)。而政府通過的任何安全監管,默認情況下都會使他們自己的軍隊和與軍隊緊密合作的公司免責。

儘管如此,這些論點並不是讓我們束手無策的理由。相反,我們可以將它們作為指南,嘗試制定儘量減少這些擔憂的規則。

策略1:責任

如果某人以某種方式造成了法律上可追究的損害,他們可能被起訴。這並不能解決來自軍方和其他“超越法律”行為者的風險問題,但這是一個非常通用的做法,避免了過度適應,並且通常得到傾向自由主義的經濟學家支持,正是出於這個原因。

迄今為止已考慮的主要責任目標是:

  • 用戶 - 使用人工智能的人
  • 部署者 - 為用戶提供人工智能服務的中介機構
  • 開發商 - 構建人工智能的人

將責任歸於用戶似乎是最符合激勵的。雖然模型的開發方式與最終使用方式之間的聯繫常常不清楚,但用戶確切決定了人工智能的使用方式。對用戶施加責任會產生強大的壓力,促使他們以我認為正確的方式使用人工智能:專注於為人類思維構建機械外骨骼,而不是創造新的自給自足的智能生命形式。前者會定期響應用戶意圖,因此不會導致災難性行為,除非用戶希望這樣。後者則有最大的風險,可能導致經典的“人工智能失控”場景。將責任儘可能接近最終使用的另一個好處是,它最大限度地減少了責任導致人們採取其他有害行動的風險(例如,閉源、KYC和監控、國家與企業勾結祕密限制用戶,例如取消銀行賬戶、鎖定世界大片區域)。

對僅將責任歸於用戶有一個經典的反對論點:用戶可能是沒有太多錢的普通個人,甚至是匿名的,沒有人能實際賠償災難性損害。這個論點可能被誇大:即使某些用戶太小而無法承擔責任,人工智能開發者的平均客戶並非如此,因此人工智能開發者仍然會有動力構建能夠讓用戶確信不會面臨高責任風險的產品。儘管如此,這仍然是一個有效的論點,需要得到解決。你需要激勵管道中的某個人,他們有資源採取適當的注意義務,而部署者和開發者都是容易的目標,他們仍然對模型的安全性或不安全性有很大的影響

對部署者施加責任似乎是合理的。一個常被提到的擔憂是,這對開源模型可能不起作用,但這似乎是可以管理的,尤其是因為最強大的模型很可能無論如何都是閉源的(如果它們最終是開源的,那麼儘管部署者責任並沒有太大用處,但也不會造成太大傷害)。開發者責任也存在同樣的擔憂(儘管對於開源模型來說,需要微調模型以使其執行一些原本不允許的操作會有一些障礙),但同樣的反駁適用。作為一般原則,對控制施加“稅”,並基本上說“你可以構建你無法控制的東西,或者你可以構建你控制的東西,但如果你構建你控制的東西,那麼20%的控制必須用於我們的目的”,似乎是法律系統可以採取的合理立場。

一個似乎尚未得到充分探討的想法是將責任歸咎於管道中的其他參與者,這些參與者更能保證擁有充足的資源。一個對 d/acc 非常友好的想法是 讓人工智能接管的任何設備的所有者或操作員承擔責任 (例如通過黑客攻擊)在執行一些災難性有害操作的過程中。這將產生非常廣泛的激勵,促使人們努力工作,使世界(尤其是計算和生物)基礎設施儘可能安全。

策略2:工業級硬件上的全局“軟暫停”按鈕

如果我確信我們 需要 比責任規則更“強有力”的東西,這就是我想要的。目標是能夠在關鍵時期將全球可用計算量減少約 90-99%,持續 1-2 年,為人類爭取更多時間做好準備。 1-2年的價值不應被誇大:一年的“戰時模式”很容易抵得上在自滿的情況下工作一百年。實施方法“暫停“已經進行了探討,包括具體建議,例如 需要註冊驗證位置 硬件。

更先進的方法是使用巧妙的加密技巧:例如,生產的工業規模(但不是消費級)人工智能硬件可以配備可信硬件芯片,只有在一次獲得 3/3 簽名的情況下才允許其繼續運行一週來自主要國際機構,包括至少一個非軍事附屬機構。簽名將是獨立於設備的(如果需要,我們甚至可以要求零知識證明它們是在區塊鏈上發佈的),因此這將是全有或全無:沒有實用的方法來授權一臺設備繼續運行而不授權所有其他設備。

這感覺就像它在利益最大化和風險最小化方面“勾選了複選框”:

  • 這是一項有用的能力:如果我們收到警告信號,表明近乎超級智能的人工智能開始做一些可能造成災難性損害的事情,我們將希望更慢地進行過渡。
  • 在這樣的關鍵時刻到來之前,僅僅 有能力 軟暫停對開發人員造成的傷害很小。
  • 專注於工業規模的硬件,並僅以 90-99% 為目標,將避免一些反烏托邦的努力,即在消費筆記本電腦中安裝間諜芯片或終止開關,或違背小國的意願強迫他們採取嚴厲措施。
  • 專注於硬件似乎對技術的變化非常穩健。我們已經看到,在多代人工智能中,質量在很大程度上取決於可用的計算,尤其是在新範式的早期版本中。因此,將可用計算量減少 10-100 倍可以輕鬆決定失控的超級人工智能在與試圖阻止它的人類的快節奏戰鬥中獲勝或失敗。
  • 每週需要上網一次進行簽名的固有煩惱會給將該計劃擴展到消費類硬件帶來強大的壓力。
  • 可以通過隨機檢查來驗證,並且在硬件級別上進行驗證將很難免除特定用戶(基於 合法地 強制關閉,而不是 技術上,不具備這種全有或全無的屬性,這使得他們有更大的風險陷入軍隊豁免等)

硬件監管已經得到強烈考慮,儘管通常是通過 出口管制,其固有的理念是“我們信任自己的一方,但不信任對方”。利奧波德·阿申布倫納 (Leopold Aschenbrenner) 曾主張美國應該 爭奪決定性優勢 進而 本質上是在迫使中國 簽署一份 協議 限制多少 盒子 他們被允許奔跑。對我來說,這種方法似乎有風險,並且可能會結合以下缺陷: 多極種族 和集中化。如果我們必須限制人,那麼似乎更好的是在平等的基礎上限制每個人,並努力實際嘗試合作來組織這一點,而不是一個政黨試圖主宰其他所有人。

d/acc技術在人工智能風險中的應用

這兩種策略(責任和硬件暫停按鈕)都有不足之處,顯然它們只是臨時的解決方案:如果在某個時間點T時某項技術可以在超級計算機上實現,那麼在T+5年時,它很可能也能在普通筆記本電腦上實現。因此,我們需要更穩定的解決方案來爭取時間。許多d/acc技術在這方面是相關的。我們可以從以下幾個方面來看待d/acc技術的作用:如果人工智能接管了世界,它將如何做到這一點?

  • 它會入侵我們的計算機 → 網絡防禦
  • 它會製造超級瘟疫 → 生物防禦
  • 它會讓我們相信(要麼信任它,要麼互相不信任) → 信息防禦

正如上面簡要提到的, 責任規則自然是一種對 d/acc 友好的監管方式,因為它們可以非常有效地激勵世界各地採用這些防禦措施並認真對待它們。臺灣 一直在嘗試 最近的虛假廣告責任,可以被視為利用責任鼓勵信息防禦的一個例子。我們不應該 也 熱衷於將責任無處不在,並記住普通自由的好處,使小人物能夠參與創新而不必擔心訴訟,但是當我們確實希望更有力地推動安全時,責任可以相當靈活和有效。

加密技術在 d/acc 中的作用

d/acc 的大部分內容遠遠超出了典型的區塊鏈主題:生物安全、BCI 和協作討論工具似乎與加密貨幣人士通常談論的事情相去甚遠。然而,我認為加密貨幣和 d/acc 之間存在一些重要的聯繫,特別是:

  • d/acc 是加密貨幣底層價值的擴展 (權力下放、審查制度抵制、開放的全球經濟和社會)到其他技術領域。
  • 因為加密貨幣用戶是天生的早期採用者,並且價值觀一致, 加密社區是 d/acc 的自然早期用戶 技術。對社區(線上和線下,例如活動和彈出窗口)的高度重視,以及這些社區實際上做高風險的事情而不是僅僅互相交談的事實,使得加密社區對於 d/acc 來說特別有吸引力的孵化器和測試平臺從根本上對群體而不是個人起作用的技術(例如,大部分信息防禦和生物防禦)。加密貨幣人們只是一起做事。
  • 許多 加密技術可用於 d/acc 主題領域:用於構建更強大和去中心化的金融、治理和社交媒體基礎設施的區塊鏈,用於保護隱私的零知識證明等。如今,許多最大的預測市場都建立在區塊鏈上,並且逐漸變得更加複雜、去中心化和民主的。
  • 也有雙贏的 加密相關技術合作的機會 這對加密項目非常有用,也是實現 d/acc 目標的關鍵: 形式驗證、計算機軟件和 硬件安全,以及對抗性強大的治理技術。這些東西使以太坊區塊鏈、錢包和 DAO 更加安全和強大,它們還實現了重要的文明防禦目標,例如減少我們遭受網絡攻擊的脆弱性,包括可能來自超級智能人工智能的網絡攻擊。

Cursive是一款應用,通過完全同態加密(FHE)允許用戶識別與其他用戶的共同興趣領域,同時保護隱私。這款應用在Zuzalu的眾多分支之一Edge City中使用,地點在清邁。

除了這些直接交叉點之外,還有另一個重要的共同興趣點: 籌資機制。

d/acc與公共產品融資

我一直感興趣的是尋找更好的機制來資助公共產品:對非常大群體有價值的項目,但沒有自然可行的商業模式。我過去在這方面的工作包括我對二次融資及其在Gitcoin Grants中的應用、復古公共產品融資(PGF),以及最近的深度融資的貢獻。

許多人對公共物品這個概念持懷疑態度。懷疑論通常有兩個來源:

  1. 事實上,歷史上公共產品一直被用作中央計劃和政府幹預社會和經濟的理由。
  2. 人們普遍認為公共產品資金缺乏嚴格性並且依賴於 社會期望偏差 - 聽起來不錯,而不是好的 - 並且有利於能夠玩社交遊戲的內部人士。

這些都是重要的批評,也是好的批評。然而,我認為強大的去中心化公共產品資金對於 d/acc 願景至關重要,因為關鍵的 d/acc 目標(最小化中心控制點)本質上會挫敗許多傳統的商業模式。在開源基礎上建立成功的企業是可能的 - 一些 獎項 受贈者 正在這樣做 - 但在某些情況下,重要項目需要額外的持續支持已經夠困難的了。因此, 我們必須做困難的事情,並找出如何以解決上述批評的方式進行公共物品資助。

第一個問題的解決方案基本上是 可信的中立性@VitalikButerin/the-meaning-of-decentralization-a0c92b76a274”>權力下放。中央計劃是有問題的,因為它把控制權交給了可能會濫用權力的精英,而且因為它經常 過度適應目前的情況 並且隨著時間的推移變得越來越無效。二次方融資和類似機制正是以一種儘可能可信的中立和(結構上和政治上)去中心化的方式為公共產品提供資金。

第二個問題更具挑戰性。對於二次方融資,一個常見的批評是它 很快就變成了一場人氣競賽,要求項目資助者花費大量精力公開宣傳。此外,“在人們眼前”的項目(例如最終用戶應用程序)會獲得資助,但更多的是在後臺的項目(原型“內布拉斯加州一個人維持的依賴”)根本得不到任何資金。樂觀復古資金依賴於較少數量的專家徽章持有者;在這裡,人氣競賽的影響被削弱,但與徽章持有者建立密切個人聯繫的社會影響被放大。

深度融資 是我自己為解決這個問題所做的最新努力。深度融資有兩個主要創新點:

  1. 這 依賴圖。而不是詢問每個陪審員 全球的 問題(“項目 A 對人類的價值是什麼?”),我們問 當地的 問題(“項目 A 還是項目 B 對成果 C 更有價值?價值是多少?”)。人類在全球問題上的表現是出了名的差勁: 著名研究,當被問及他們願意花多少錢來拯救 N 只鳥時,受訪者回答大約 80 美元(N=2,000、N=20,000 和 N=200,000)。本地問題更容易處理。然後,我們通過維護“依賴圖”將本地答案合併為全局答案:對於每個項目,哪些其他項目對其成功做出了貢獻,貢獻了多少?
  2. 人工智能作為 人類判斷的精煉。每位陪審員僅被分配所有問題的一小部分隨機樣本。有一個公開的競賽,任何人都可以提交人工智能模型,試圖有效地填補 全部 圖中的邊。最終的答案是與陪審團答案最相符的模型的加權和。看 這裡有一個代碼示例。這種方法允許該機制擴展到非常大的規模,同時要求陪審團僅提交少量“位”信息。這減少了腐敗的機會,並確保每一點都是高質量的:陪審員可以對每個問題進行長時間的思考,而不是快速瀏覽數百個問題。通過使用人工智能的公開競爭,我們減少了任何單一人工智能培訓和管理過程中的偏見。 人工智能作為引擎,人類作為方向盤的開放市場。

但深度融資只是最新的例子。之前已經有過其他公共產品融資機制的想法,未來還會有更多。 同種異體專家 對它們進行很好的編目。 根本目標是創建一個社會工具,能夠以一定程度的準確性、公平性和開放性為公共產品提供資金,至少類似於市場為私人產品提供資金的方式。它不必是完美的;畢竟,市場本身遠非完美。但它應該足夠有效,讓致力於造福每個人的高質量開源項目的開發人員能夠繼續這樣做,而不需要做出不可接受的妥協。

今天,大多數d/acc相關領域的領先項目,如疫苗、腦機接腕部肌電和眼動追等“邊緣腦機接口”、抗衰老藥物和硬件等,都是專有的。這在獲取公眾信任方面存在很大問題,正如我們在許多上述領域已經看到的那樣。這也使得人們的注意力轉向競爭(“我們的團隊必須贏得這個關鍵行業!”),而忽視了確保這些技術能夠快速發展,以便在超智能人工智能的世界中保護我們的更大競爭。因此,強有力的公共產品融資可以成為開放性和自由的重要推動力。這是加密社區可以幫助d/acc的另一種方式:通過深入探索這些融資機制並使其在自身環境中有效運作,為更廣泛的開源科學和技術的採用做好準備。

未來

未來幾十年將帶來重大挑戰。最近我想到了兩個挑戰:

  • 強大的新技術浪潮,尤其是強人工智能,正在迅速到來,而這些技術也伴隨著我們需要避免的重要陷阱。 “超級人工智能”可能需要五年才能到達這裡,也可能需要五十年。無論哪種方式,目前尚不清楚默認結果是否自動為正,如本文和 上一篇文章提到的,有多個陷阱需要避免。
  • 世界變得越來越不合作。許多強大的行動者以前似乎至少有時會按照高尚的原則(世界主義、自由、共同人性……這樣的例子不勝枚舉)行事,但現在卻更加公開、更積極地追求個人或部落的自身利益。

然而,每一個挑戰都有一線希望。第一的, 我們現在擁有非常強大的工具來更快地完成剩餘的工作:

  • 當前和不久的將來人工智能可用於構建其他技術,並可用作治理的一個組成部分(例如深度融資或 信息金融)。它與 BCI 也非常相關,BCI 本身可以進一步提高生產力。
  • 現在可以比以前更大規模地進行大規模協調。互聯網和社交媒體擴展了 抵達 協調方面,全球金融(包括加密貨幣)增加了其 力量,現在信息防禦和協作工具可以提高其 質量 也許很快,人機交互形式的 BCI 就可以提高其 深度。
  • 形式驗證、沙盒(如網頁瀏覽器、DockerQubesGrapheneOS等)、安全硬件模塊和其他技術正在不斷進步,使得更好的網絡安全成為可能。
  • 編寫軟件的難度相比兩年前顯著降低。
  • 最近關於瞭解病毒如何工作的基礎研究,特別是對最重要的傳播形式是空氣傳播的簡單理解,為如何提高生物防禦提供了一條更清晰的道路。
  • 生物技術的最新進展(例如CRISPR和生物成像技術的 進步)使得各種生物技術變得更加可及,無論是用於防禦、延長壽命提高幸福感,還是探索新的生物假設,甚至是做很酷的事情
  • 計算和生物技術的結合使得合成生物工具成為可能,這些工具可以幫助我們適應、監測和改善健康。網絡防禦技術(如加密技術)使得個性化的健康管理變得更加可行。

其次,許多我們重視的原則不再被舊有特定群體所佔有,它們可以被任何人歡迎加入的廣泛聯盟重新奪回。這可能是最近全球政治“重組”帶來的最大好處,也是值得我們利用的機會。加密技術已經很好地抓住了這一點並找到了全球吸引力;d/acc同樣可以做到這一點。

獲得工具意味著我們能夠適應和改善我們的生物學和環境,而 d/acc 的“防禦”部分意味著我們能夠在不侵犯他人做同樣事情的自由的情況下做到這一點。 自由主義多元主義原則 意味著我們在實現這一目標的方式上可以有很大的多樣性,而我們對共同人類目標的承諾意味著它應該完成。

我們人類仍然是最閃亮的星星。我們面前的任務是建設一個更加光明的 21 世紀,在我們邁向星空的過程中保護人類的生存、自由和能動性,這是一項艱鉅的任務。但我相信我們能夠做到。

聲明:

  1. 本文轉載自【Vitalik Buterin】,轉發原文標題:《d/acc:一年後》。著作權歸屬原作者【Vitalik Buterin】,如對轉載有異議,請聯繫 Gate Learn 團隊,團隊會根據相關流程儘速處理。
  2. 免責聲明:本文所表達的觀點和意見僅代表作者個人觀點,不構成任何投資建議。
  3. 文章其他語言版本由 Gate Learn 團隊翻譯,除非另有說明,否則禁止複製、傳播或抄襲經翻譯文章。

去中心化加速和人工智能:一年後展望

進階1/10/2025, 4:21:45 AM
本文深入探討了去中心化加速(d/acc)這一概念,比較了不同策略,以分析其在應對人工智能風險方面的作用。文章還討論了加密貨幣在這個背景下的重要性,並探索了資助公共物品的機制。最後,儘管未來技術發展面臨挑戰,文章展望人類仍有機會利用現有工具和思想來創造一個更美好的世界。

轉發原文標題:《d/acc:一年後》

大約一年前,我寫了一篇關於技術樂觀主義的文章,表達了我對技術的熱情以及它可能帶來的巨大好處,同時也對一些特定問題表示謹慎,主要集中在超智能人工智能上,以及如果技術構建不當可能導致的毀滅或人類的不可逆轉失能。文章中的一個核心思想是:去中心化和民主的差異化防禦加速。我們應該加速技術發展,但要重點關注那些增強我們防禦能力的技術,而不是造成傷害的技術,同時要確保權力的分散,而不是集中在某個精英手中。我們的防禦方式應像民主的瑞士和歷史上的準無政府狀態地區,而不是中世紀封建制度下的領主與城堡。

在過去的一年中,這一哲學和理念得到了顯著的發展。我在“80,000 小時”節目中討論了這些想法,並收到了許多反響,大多數是積極的,也有一些批評。我們的工作仍在繼續,並取得了一些成果:我們在可驗證的開源疫苗方面取得了進展,健康室內空氣的價值得到越來越多的認可,社區筆記繼續發揮作用,預測市場作為信息工具迎來了突破性的一年,零知識證明(ZK-SNARKs)在政府身份識別和社交媒體中得到了應用(並通過帳戶抽象 保護以太坊錢包),還有在醫學和腦機接口(BCI)中應用的開源成像工具等。去年秋天,我們舉行了第一次重要的d/acc活動:“d/acc發現日”(d/aDDy),在Devcon上進行了,活動中有來自d/acc各個領域(生物、物理、網絡、信息防禦和神經技術)的演講者。多年來從事這些技術研究的人們越來越意識到彼此的工作,而外部人士也越來越關注更大的背景:推動以太坊和加密貨幣的相同價值觀可以應用於更廣泛的世界

目錄

d/acc的定義與界限

現在是2042年。你在媒體上看到關於你所在城市可能出現新疫情的報道。你對此已經習慣:人們對每種動物疾病的突變總是過於興奮,而大多數情況最終並沒有發展成真正的疫情。之前的兩個潛在疫情通過廢水監測社交媒體的開源分析被非常早地發現並完全遏制。但這一次,預測市場顯示至少有10,000例的概率為60%,因此你開始感到擔憂。

病毒的基因序列昨天被確認。你的便攜式空氣測試儀的軟件更新已經可以檢測新病毒(通過一次呼吸或在一個房間內暴露15分鐘的室內空氣)。使用任何現代醫療設施中可以找到的設備生成疫苗的開源說明和代碼預計在幾周內可用。目前大多數人尚未採取行動,主要依賴於普遍使用的空氣過濾和通風來保護自己。由於你有免疫系統疾病,所以更加謹慎:你的開源本地運行的個人助手AI,除了處理導航、餐廳和活動推薦外,還實時考慮空氣測試儀和二氧化碳數據,只推薦最安全的場所。這些數據由成千上萬的參與者和設備提供,利用零知識證明(ZK-SNARK)和差別隱私技術,最大程度降低數據洩露或被濫用的風險(如果你想為這些數據集貢獻數據,還有其他個人助手AI來驗證這些加密工具的有效性)。

兩個月後,疫情消失了:似乎60%的人遵循基本的防護措施,即當空氣測試儀發出警報並顯示病毒存在時戴上口罩,個人檢測陽性時待在家中,這足以將已經因重度空氣過濾而顯著降低的傳播率壓低到1以下。模擬顯示,二十年前可能比Covid嚴重五倍的疾病,如今卻成了無關緊要的問題。














Devcon d/acc 日

Devcon上的d/acc活動最積極的收穫之一是,d/acc的框架成功地將來自不同領域的人聚集在一起,使他們對彼此的工作產生了真正的興趣。

創建具有“多樣性”的活動很簡單,但讓不同背景和興趣的人真正相互聯繫卻很困難。我仍然記得在中學和高中時被迫觀看長時間的歌劇,而我個人覺得它們很無聊。我知道我“應該”欣賞它們,因為如果不這樣,我就會被認為是沒有文化的計算機科學粗人,但我並沒有在更真實的層面上與內容產生共鳴。d/acc日完全沒有這種感覺:人們似乎真的享受了解不同領域的不同工作。

如果我們想創造一個比統治、減速和毀滅更光明的替代方案,我們需要這種廣泛的聯盟建設。d/acc似乎確實在這方面取得了成功,這本身就顯示了這個理念的價值。

d/acc的核心思想很簡單:去中心化和民主的差異化防禦加速。

我們需要構建一些技術,使攻防平衡向防禦傾斜,並且不依賴於將更多權力交給集中權威。這兩者之間有著內在的聯繫:任何形式的去中心化、民主或自由的政治結構在防禦容易時發展最好,而在防禦困難時面臨最大的挑戰——在這種情況下,結果更可能是所有人相互對抗的戰爭,最終形成強者統治的局面。

d/acc的核心原則適用於多個領域:

圖表來自 My Techno-Optimis

從我去年關於技術樂觀主義的文章中可以看出,理解同時追求去中心化、防禦性和加速思維的重要性的一種方法是將其與放棄這三者的哲學進行對比。

  • 去中心化加速,但不關心“差異化防禦”的部分。基本上,成為一種去中心化的e/acc。有很多人採取這種方法,其中一些自稱為d/acc,但樂於將他們的重點描述為“進攻”,還有許多其他人以更溫和的方式對“去中心化AI”等主題感到興奮,但在我看來,他們對“防禦”方面的關注不足。
  • 在我看來,這種方法可能避免你擔心的特定部落對全球人類的專制統治風險,但它並沒有解決潛在的結構性問題:在一個偏向進攻的環境中,總是存在災難或有人自我定位為保護者並永久佔據頂端的風險。在人工智能的具體案例中,它也沒有很好地解決人類整體相對於人工智能被削弱的風險。
  • 差異化防禦加速,但不關心“去中心化和民主”。出於安全考慮而接受集中控制對一部分人具有永久吸引力,讀者無疑已經熟悉許多例子及其缺點。最近,一些人擔心極端的集中控制是未來技術極端情況的唯一解決方案:請看這個假設場景,“每個人都配備一個‘自由標籤’——這是對今天更有限的可穿戴監控設備的延續,例如在幾個國家作為監獄替代品使用的腳踝標籤……加密的視頻和音頻會不斷上傳,並實時進行機器解讀”。然而,集中控制是一個光譜。通常被忽視但仍然有害的集中控制的溫和版本是生物技術中對公眾審查的抵制(例如食品疫苗),以及允許這種抵制不受挑戰的閉源規範。
  • 這種方法的風險當然在於,中心往往本身就是風險的來源。我們在Covid中看到了這一點,世界多個主要政府資助的功能獲得研究可能是疫情的源頭,集中知識論導致世界衛生組織多年不承認Covid是空氣傳播的事實,而強制性的社交隔離疫苗強制接種導致的政治反彈可能會持續數十年。與人工智能或其他風險技術相關的任何風險也可能出現類似情況。去中心化的方法將更好地應對來自中心自身的風險。
  • 去中心化防禦,但不關心加速——基本上,試圖減緩技術進步或經濟減速

這種策略的挑戰有兩個方面。首先,從整體上看,技術和經濟增長對人類是極其有利的,任何延遲都會帶來難以估量成本。其次,在一個非極權的世界中,不進步是不穩定的:誰“作弊”得最多,找到可信的方式繼續進步,誰就會領先。減速主義策略在某些背景下可以在一定程度上發揮作用:例如,歐洲食品比美國食品更健康就是一個例子,核不擴散至今的成功也是另一個。但它們不能永遠有效。

對於 d/acc,我們希望:

  • 在世界大部分變得部落化的時期,保持原則,而不是隨意構建任何東西——相反,我們希望構建特定的東西,使世界更安全、更美好。
  • 承認指數級的技術進步意味著世界將變得非常奇怪,人類對宇宙的總體“足跡”只會增加。我們必須改善保護脆弱動物、植物和人類免受傷害的能力,但唯一的出路是向前。
  • 構建使我們安全的技術,而不是假設“好人(或好AI)掌控一切”。我們通過構建那些在建設和保護時更有效的工具,而不是在破壞時更有效的工具來實現這一目標。

另一種理解d/acc的方法是回到2000年代末歐洲海盜黨運動的一個框架:賦權。

目標是構建一個保留人類自主權的世界,既實現避免他人(無論是作為私人公民的其他人,還是政府,或超智能機器人)主動干預的消極自由,又實現我們塑造自己命運的能力,以及確保我們擁有知識和資源的積極自由。這與幾個世紀以來的古典自由主義傳統相呼應,其中也包括斯圖爾特·布蘭德對“工具獲取”的關注,以及約翰·斯圖爾特·密爾將教育自由視為人類進步的關鍵組成部分——或許,人們還可以補充,巴克敏斯特·富勒希望看到全球解決過程是參與性和廣泛分佈的。我們可以將d/acc視為在21世紀的技術背景下實現這些相同目標的一種方式。

第三個維度:生存和發展

在我去年的文章中,d/acc特別關注防禦性技術:物理防禦、生物防禦、網絡防禦和信息防禦。然而,去中心化的防禦不足以使世界變得偉大:你還需要一個前瞻性的積極願景,來說明人類如何利用其新獲得的去中心化和安全性來實現目標。

去年的文章確實包含了一個積極的願景,在兩個地方:

  1. 關注超智能的挑戰,我提出了一條路徑(對我來說並不原始),即我們如何在不削弱的情況下擁有超智能:
    1. 今天,構建人工智能作為工具,而不是人工智能作為高度自治的代理
    2. 明天使用類似的工具 虛擬現實, 肌電 和腦機接口,在人工智能和人類之間創建越來越緊密的反饋
    3. 隨著時間的推移,最終的結局是超級智能是機器和我們緊密耦合的組合。
  2. 在談論信息防禦時,我還順便提到,除了試圖幫助社區在面對攻擊者時保持凝聚力並擁有高質量話語權的社交技術之外,還有 進步 可以幫助社區更容易做出高質量判斷的社交技術: pol.is 就是一個例子,並且 預測市場是另一個。

但這兩個觀點與d/acc的論點似乎沒有聯繫:“這裡有一些在基礎層面創造更民主和更有防禦性的世界的想法,順便提一下,這裡還有一些與超智能無關的想法。”

然而,我認為實際上,“防禦性”和“進步性”d/acc技術之間有一些非常重要的聯繫。讓我們通過增加這個軸(同時將其重新標記為“生存與發展”)來擴展去年的d/acc圖表,看看會有什麼結果:

在所有領域中,有一種一致的模式,即可以幫助我們在一個領域“生存”的科學、思想和工具與可以幫助我們“繁榮”的科學、思想和工具密切相關。一些例子:

此外,不同學科之間還存在重要的相互依賴關係:

  • 協作技術可用於 協調資金 對於任何其他技術領域
  • 腦機接口(BCI)作為信息防禦和協作技術非常相關,因為它能夠使我們更詳細地溝通思想和意圖。BCI不僅限於機器人與意識之間的連接:它還可以實現意識到機器人再到意識的連接。這與多元性理論中關於BCI價值的觀點相呼應
  • 許多生物技術依賴於信息共享,在很多情況下,人們只有在確信信息將僅用於一個特定應用時,才會願意分享。這依賴於隱私技術(例如零知識證明(ZKP)、同態加密(FHE)、混淆技術等)。
  • 協作技術可以用於協調其他技術領域的資金。

難題:人工智能安全性、短期時間線和監管

不同的人對人工智能的時間線有很大差異。

這張圖來自2023年的黑山Zuzalu。

我去年文章中最有說服力的反對意見來自人工智能安全社區。論點是:“當然,如果我們還有半個世紀才能擁有強人工智能,我們可以集中精力構建所有這些好的東西。但實際上,看起來我們只有三年的時間線才能實現通用人工智能(AGI),再過三年才能實現超智能。因此,如果我們不想讓世界被毀滅或陷入不可逆轉的陷阱,我們不僅要加速好的事物,還必須減緩壞的事物,這意味著必須通過強有力的監管,這可能會讓有權勢的人感到不滿。”在我去年的文章中,我確實沒有呼籲任何具體的“減緩壞事物”的策略,除了對不構建風險形式的超智能的模糊呼籲。因此,在這裡,值得直接回答這個問題:如果我們生活在一個 最不方便的世界,人工智能風險高,時間線可能只有五年,我會支持什麼樣的監管?

首先,對新法規謹慎考慮

去年,主要提出的人工智能監管是加利福尼亞州 SB-1047 法案。SB-1047要求最強大的模型的開發者(那些訓練成本超過1億美元,或微調超過1000萬美元的模型)在發佈之前採取一些安全測試措施。此外,如果他們未能盡到足夠的注意義務,法案還對人工智能模型的開發者施加責任。許多反對者認為該法案“威脅到開源”;我不同意,因為成本門檻意味著它隻影響最強大的模型:甚至LLama3可能都低於這個門檻。然而,回顧起來,我認為法案存在更大的問題:與大多數監管一樣,它過於適應當前的情況。對訓練成本的關注在面對新技術時顯得脆弱:最近的最先進的Deepseek v3模型的訓練成本僅600萬美元,而在新模型如o1中,成本正在更普遍地從訓練轉向推理。

其次,實際上負責人工智能超智能災難場景的最可能的參與者是軍方。

正如我們在去半個世紀的生物安全(及其他領域)中所見,軍方願意做一些可怕的事情,他們也容易犯錯誤。今天,人工智能在軍事上的應用正在迅速推進(參見烏克蘭加沙)。而政府通過的任何安全監管,默認情況下都會使他們自己的軍隊和與軍隊緊密合作的公司免責。

儘管如此,這些論點並不是讓我們束手無策的理由。相反,我們可以將它們作為指南,嘗試制定儘量減少這些擔憂的規則。

策略1:責任

如果某人以某種方式造成了法律上可追究的損害,他們可能被起訴。這並不能解決來自軍方和其他“超越法律”行為者的風險問題,但這是一個非常通用的做法,避免了過度適應,並且通常得到傾向自由主義的經濟學家支持,正是出於這個原因。

迄今為止已考慮的主要責任目標是:

  • 用戶 - 使用人工智能的人
  • 部署者 - 為用戶提供人工智能服務的中介機構
  • 開發商 - 構建人工智能的人

將責任歸於用戶似乎是最符合激勵的。雖然模型的開發方式與最終使用方式之間的聯繫常常不清楚,但用戶確切決定了人工智能的使用方式。對用戶施加責任會產生強大的壓力,促使他們以我認為正確的方式使用人工智能:專注於為人類思維構建機械外骨骼,而不是創造新的自給自足的智能生命形式。前者會定期響應用戶意圖,因此不會導致災難性行為,除非用戶希望這樣。後者則有最大的風險,可能導致經典的“人工智能失控”場景。將責任儘可能接近最終使用的另一個好處是,它最大限度地減少了責任導致人們採取其他有害行動的風險(例如,閉源、KYC和監控、國家與企業勾結祕密限制用戶,例如取消銀行賬戶、鎖定世界大片區域)。

對僅將責任歸於用戶有一個經典的反對論點:用戶可能是沒有太多錢的普通個人,甚至是匿名的,沒有人能實際賠償災難性損害。這個論點可能被誇大:即使某些用戶太小而無法承擔責任,人工智能開發者的平均客戶並非如此,因此人工智能開發者仍然會有動力構建能夠讓用戶確信不會面臨高責任風險的產品。儘管如此,這仍然是一個有效的論點,需要得到解決。你需要激勵管道中的某個人,他們有資源採取適當的注意義務,而部署者和開發者都是容易的目標,他們仍然對模型的安全性或不安全性有很大的影響

對部署者施加責任似乎是合理的。一個常被提到的擔憂是,這對開源模型可能不起作用,但這似乎是可以管理的,尤其是因為最強大的模型很可能無論如何都是閉源的(如果它們最終是開源的,那麼儘管部署者責任並沒有太大用處,但也不會造成太大傷害)。開發者責任也存在同樣的擔憂(儘管對於開源模型來說,需要微調模型以使其執行一些原本不允許的操作會有一些障礙),但同樣的反駁適用。作為一般原則,對控制施加“稅”,並基本上說“你可以構建你無法控制的東西,或者你可以構建你控制的東西,但如果你構建你控制的東西,那麼20%的控制必須用於我們的目的”,似乎是法律系統可以採取的合理立場。

一個似乎尚未得到充分探討的想法是將責任歸咎於管道中的其他參與者,這些參與者更能保證擁有充足的資源。一個對 d/acc 非常友好的想法是 讓人工智能接管的任何設備的所有者或操作員承擔責任 (例如通過黑客攻擊)在執行一些災難性有害操作的過程中。這將產生非常廣泛的激勵,促使人們努力工作,使世界(尤其是計算和生物)基礎設施儘可能安全。

策略2:工業級硬件上的全局“軟暫停”按鈕

如果我確信我們 需要 比責任規則更“強有力”的東西,這就是我想要的。目標是能夠在關鍵時期將全球可用計算量減少約 90-99%,持續 1-2 年,為人類爭取更多時間做好準備。 1-2年的價值不應被誇大:一年的“戰時模式”很容易抵得上在自滿的情況下工作一百年。實施方法“暫停“已經進行了探討,包括具體建議,例如 需要註冊驗證位置 硬件。

更先進的方法是使用巧妙的加密技巧:例如,生產的工業規模(但不是消費級)人工智能硬件可以配備可信硬件芯片,只有在一次獲得 3/3 簽名的情況下才允許其繼續運行一週來自主要國際機構,包括至少一個非軍事附屬機構。簽名將是獨立於設備的(如果需要,我們甚至可以要求零知識證明它們是在區塊鏈上發佈的),因此這將是全有或全無:沒有實用的方法來授權一臺設備繼續運行而不授權所有其他設備。

這感覺就像它在利益最大化和風險最小化方面“勾選了複選框”:

  • 這是一項有用的能力:如果我們收到警告信號,表明近乎超級智能的人工智能開始做一些可能造成災難性損害的事情,我們將希望更慢地進行過渡。
  • 在這樣的關鍵時刻到來之前,僅僅 有能力 軟暫停對開發人員造成的傷害很小。
  • 專注於工業規模的硬件,並僅以 90-99% 為目標,將避免一些反烏托邦的努力,即在消費筆記本電腦中安裝間諜芯片或終止開關,或違背小國的意願強迫他們採取嚴厲措施。
  • 專注於硬件似乎對技術的變化非常穩健。我們已經看到,在多代人工智能中,質量在很大程度上取決於可用的計算,尤其是在新範式的早期版本中。因此,將可用計算量減少 10-100 倍可以輕鬆決定失控的超級人工智能在與試圖阻止它的人類的快節奏戰鬥中獲勝或失敗。
  • 每週需要上網一次進行簽名的固有煩惱會給將該計劃擴展到消費類硬件帶來強大的壓力。
  • 可以通過隨機檢查來驗證,並且在硬件級別上進行驗證將很難免除特定用戶(基於 合法地 強制關閉,而不是 技術上,不具備這種全有或全無的屬性,這使得他們有更大的風險陷入軍隊豁免等)

硬件監管已經得到強烈考慮,儘管通常是通過 出口管制,其固有的理念是“我們信任自己的一方,但不信任對方”。利奧波德·阿申布倫納 (Leopold Aschenbrenner) 曾主張美國應該 爭奪決定性優勢 進而 本質上是在迫使中國 簽署一份 協議 限制多少 盒子 他們被允許奔跑。對我來說,這種方法似乎有風險,並且可能會結合以下缺陷: 多極種族 和集中化。如果我們必須限制人,那麼似乎更好的是在平等的基礎上限制每個人,並努力實際嘗試合作來組織這一點,而不是一個政黨試圖主宰其他所有人。

d/acc技術在人工智能風險中的應用

這兩種策略(責任和硬件暫停按鈕)都有不足之處,顯然它們只是臨時的解決方案:如果在某個時間點T時某項技術可以在超級計算機上實現,那麼在T+5年時,它很可能也能在普通筆記本電腦上實現。因此,我們需要更穩定的解決方案來爭取時間。許多d/acc技術在這方面是相關的。我們可以從以下幾個方面來看待d/acc技術的作用:如果人工智能接管了世界,它將如何做到這一點?

  • 它會入侵我們的計算機 → 網絡防禦
  • 它會製造超級瘟疫 → 生物防禦
  • 它會讓我們相信(要麼信任它,要麼互相不信任) → 信息防禦

正如上面簡要提到的, 責任規則自然是一種對 d/acc 友好的監管方式,因為它們可以非常有效地激勵世界各地採用這些防禦措施並認真對待它們。臺灣 一直在嘗試 最近的虛假廣告責任,可以被視為利用責任鼓勵信息防禦的一個例子。我們不應該 也 熱衷於將責任無處不在,並記住普通自由的好處,使小人物能夠參與創新而不必擔心訴訟,但是當我們確實希望更有力地推動安全時,責任可以相當靈活和有效。

加密技術在 d/acc 中的作用

d/acc 的大部分內容遠遠超出了典型的區塊鏈主題:生物安全、BCI 和協作討論工具似乎與加密貨幣人士通常談論的事情相去甚遠。然而,我認為加密貨幣和 d/acc 之間存在一些重要的聯繫,特別是:

  • d/acc 是加密貨幣底層價值的擴展 (權力下放、審查制度抵制、開放的全球經濟和社會)到其他技術領域。
  • 因為加密貨幣用戶是天生的早期採用者,並且價值觀一致, 加密社區是 d/acc 的自然早期用戶 技術。對社區(線上和線下,例如活動和彈出窗口)的高度重視,以及這些社區實際上做高風險的事情而不是僅僅互相交談的事實,使得加密社區對於 d/acc 來說特別有吸引力的孵化器和測試平臺從根本上對群體而不是個人起作用的技術(例如,大部分信息防禦和生物防禦)。加密貨幣人們只是一起做事。
  • 許多 加密技術可用於 d/acc 主題領域:用於構建更強大和去中心化的金融、治理和社交媒體基礎設施的區塊鏈,用於保護隱私的零知識證明等。如今,許多最大的預測市場都建立在區塊鏈上,並且逐漸變得更加複雜、去中心化和民主的。
  • 也有雙贏的 加密相關技術合作的機會 這對加密項目非常有用,也是實現 d/acc 目標的關鍵: 形式驗證、計算機軟件和 硬件安全,以及對抗性強大的治理技術。這些東西使以太坊區塊鏈、錢包和 DAO 更加安全和強大,它們還實現了重要的文明防禦目標,例如減少我們遭受網絡攻擊的脆弱性,包括可能來自超級智能人工智能的網絡攻擊。

Cursive是一款應用,通過完全同態加密(FHE)允許用戶識別與其他用戶的共同興趣領域,同時保護隱私。這款應用在Zuzalu的眾多分支之一Edge City中使用,地點在清邁。

除了這些直接交叉點之外,還有另一個重要的共同興趣點: 籌資機制。

d/acc與公共產品融資

我一直感興趣的是尋找更好的機制來資助公共產品:對非常大群體有價值的項目,但沒有自然可行的商業模式。我過去在這方面的工作包括我對二次融資及其在Gitcoin Grants中的應用、復古公共產品融資(PGF),以及最近的深度融資的貢獻。

許多人對公共物品這個概念持懷疑態度。懷疑論通常有兩個來源:

  1. 事實上,歷史上公共產品一直被用作中央計劃和政府幹預社會和經濟的理由。
  2. 人們普遍認為公共產品資金缺乏嚴格性並且依賴於 社會期望偏差 - 聽起來不錯,而不是好的 - 並且有利於能夠玩社交遊戲的內部人士。

這些都是重要的批評,也是好的批評。然而,我認為強大的去中心化公共產品資金對於 d/acc 願景至關重要,因為關鍵的 d/acc 目標(最小化中心控制點)本質上會挫敗許多傳統的商業模式。在開源基礎上建立成功的企業是可能的 - 一些 獎項 受贈者 正在這樣做 - 但在某些情況下,重要項目需要額外的持續支持已經夠困難的了。因此, 我們必須做困難的事情,並找出如何以解決上述批評的方式進行公共物品資助。

第一個問題的解決方案基本上是 可信的中立性@VitalikButerin/the-meaning-of-decentralization-a0c92b76a274”>權力下放。中央計劃是有問題的,因為它把控制權交給了可能會濫用權力的精英,而且因為它經常 過度適應目前的情況 並且隨著時間的推移變得越來越無效。二次方融資和類似機制正是以一種儘可能可信的中立和(結構上和政治上)去中心化的方式為公共產品提供資金。

第二個問題更具挑戰性。對於二次方融資,一個常見的批評是它 很快就變成了一場人氣競賽,要求項目資助者花費大量精力公開宣傳。此外,“在人們眼前”的項目(例如最終用戶應用程序)會獲得資助,但更多的是在後臺的項目(原型“內布拉斯加州一個人維持的依賴”)根本得不到任何資金。樂觀復古資金依賴於較少數量的專家徽章持有者;在這裡,人氣競賽的影響被削弱,但與徽章持有者建立密切個人聯繫的社會影響被放大。

深度融資 是我自己為解決這個問題所做的最新努力。深度融資有兩個主要創新點:

  1. 這 依賴圖。而不是詢問每個陪審員 全球的 問題(“項目 A 對人類的價值是什麼?”),我們問 當地的 問題(“項目 A 還是項目 B 對成果 C 更有價值?價值是多少?”)。人類在全球問題上的表現是出了名的差勁: 著名研究,當被問及他們願意花多少錢來拯救 N 只鳥時,受訪者回答大約 80 美元(N=2,000、N=20,000 和 N=200,000)。本地問題更容易處理。然後,我們通過維護“依賴圖”將本地答案合併為全局答案:對於每個項目,哪些其他項目對其成功做出了貢獻,貢獻了多少?
  2. 人工智能作為 人類判斷的精煉。每位陪審員僅被分配所有問題的一小部分隨機樣本。有一個公開的競賽,任何人都可以提交人工智能模型,試圖有效地填補 全部 圖中的邊。最終的答案是與陪審團答案最相符的模型的加權和。看 這裡有一個代碼示例。這種方法允許該機制擴展到非常大的規模,同時要求陪審團僅提交少量“位”信息。這減少了腐敗的機會,並確保每一點都是高質量的:陪審員可以對每個問題進行長時間的思考,而不是快速瀏覽數百個問題。通過使用人工智能的公開競爭,我們減少了任何單一人工智能培訓和管理過程中的偏見。 人工智能作為引擎,人類作為方向盤的開放市場。

但深度融資只是最新的例子。之前已經有過其他公共產品融資機制的想法,未來還會有更多。 同種異體專家 對它們進行很好的編目。 根本目標是創建一個社會工具,能夠以一定程度的準確性、公平性和開放性為公共產品提供資金,至少類似於市場為私人產品提供資金的方式。它不必是完美的;畢竟,市場本身遠非完美。但它應該足夠有效,讓致力於造福每個人的高質量開源項目的開發人員能夠繼續這樣做,而不需要做出不可接受的妥協。

今天,大多數d/acc相關領域的領先項目,如疫苗、腦機接腕部肌電和眼動追等“邊緣腦機接口”、抗衰老藥物和硬件等,都是專有的。這在獲取公眾信任方面存在很大問題,正如我們在許多上述領域已經看到的那樣。這也使得人們的注意力轉向競爭(“我們的團隊必須贏得這個關鍵行業!”),而忽視了確保這些技術能夠快速發展,以便在超智能人工智能的世界中保護我們的更大競爭。因此,強有力的公共產品融資可以成為開放性和自由的重要推動力。這是加密社區可以幫助d/acc的另一種方式:通過深入探索這些融資機制並使其在自身環境中有效運作,為更廣泛的開源科學和技術的採用做好準備。

未來

未來幾十年將帶來重大挑戰。最近我想到了兩個挑戰:

  • 強大的新技術浪潮,尤其是強人工智能,正在迅速到來,而這些技術也伴隨著我們需要避免的重要陷阱。 “超級人工智能”可能需要五年才能到達這裡,也可能需要五十年。無論哪種方式,目前尚不清楚默認結果是否自動為正,如本文和 上一篇文章提到的,有多個陷阱需要避免。
  • 世界變得越來越不合作。許多強大的行動者以前似乎至少有時會按照高尚的原則(世界主義、自由、共同人性……這樣的例子不勝枚舉)行事,但現在卻更加公開、更積極地追求個人或部落的自身利益。

然而,每一個挑戰都有一線希望。第一的, 我們現在擁有非常強大的工具來更快地完成剩餘的工作:

  • 當前和不久的將來人工智能可用於構建其他技術,並可用作治理的一個組成部分(例如深度融資或 信息金融)。它與 BCI 也非常相關,BCI 本身可以進一步提高生產力。
  • 現在可以比以前更大規模地進行大規模協調。互聯網和社交媒體擴展了 抵達 協調方面,全球金融(包括加密貨幣)增加了其 力量,現在信息防禦和協作工具可以提高其 質量 也許很快,人機交互形式的 BCI 就可以提高其 深度。
  • 形式驗證、沙盒(如網頁瀏覽器、DockerQubesGrapheneOS等)、安全硬件模塊和其他技術正在不斷進步,使得更好的網絡安全成為可能。
  • 編寫軟件的難度相比兩年前顯著降低。
  • 最近關於瞭解病毒如何工作的基礎研究,特別是對最重要的傳播形式是空氣傳播的簡單理解,為如何提高生物防禦提供了一條更清晰的道路。
  • 生物技術的最新進展(例如CRISPR和生物成像技術的 進步)使得各種生物技術變得更加可及,無論是用於防禦、延長壽命提高幸福感,還是探索新的生物假設,甚至是做很酷的事情
  • 計算和生物技術的結合使得合成生物工具成為可能,這些工具可以幫助我們適應、監測和改善健康。網絡防禦技術(如加密技術)使得個性化的健康管理變得更加可行。

其次,許多我們重視的原則不再被舊有特定群體所佔有,它們可以被任何人歡迎加入的廣泛聯盟重新奪回。這可能是最近全球政治“重組”帶來的最大好處,也是值得我們利用的機會。加密技術已經很好地抓住了這一點並找到了全球吸引力;d/acc同樣可以做到這一點。

獲得工具意味著我們能夠適應和改善我們的生物學和環境,而 d/acc 的“防禦”部分意味著我們能夠在不侵犯他人做同樣事情的自由的情況下做到這一點。 自由主義多元主義原則 意味著我們在實現這一目標的方式上可以有很大的多樣性,而我們對共同人類目標的承諾意味著它應該完成。

我們人類仍然是最閃亮的星星。我們面前的任務是建設一個更加光明的 21 世紀,在我們邁向星空的過程中保護人類的生存、自由和能動性,這是一項艱鉅的任務。但我相信我們能夠做到。

聲明:

  1. 本文轉載自【Vitalik Buterin】,轉發原文標題:《d/acc:一年後》。著作權歸屬原作者【Vitalik Buterin】,如對轉載有異議,請聯繫 Gate Learn 團隊,團隊會根據相關流程儘速處理。
  2. 免責聲明:本文所表達的觀點和意見僅代表作者個人觀點,不構成任何投資建議。
  3. 文章其他語言版本由 Gate Learn 團隊翻譯,除非另有說明,否則禁止複製、傳播或抄襲經翻譯文章。
Начните торговать сейчас
Зарегистрируйтесь сейчас и получите ваучер на
$100
!
It seems that you are attempting to access our services from a Restricted Location where Gate.io is unable to provide services. We apologize for any inconvenience this may cause. Currently, the Restricted Locations include but not limited to: the United States of America, Canada, Cambodia, Thailand, Cuba, Iran, North Korea and so on. For more information regarding the Restricted Locations, please refer to the User Agreement. Should you have any other questions, please contact our Customer Support Team.