超級智能的時代已經開始：奧特曼在OpenAI對未來的人工智能發出了警報...

根據奧特曼，OpenAI 的首席執行官，人類已經正式跨越了進入一個新的、不可逆轉的時代的門檻：即人工超級智能的時代。

“我們已經超越了事件視界；起飛已經開始”，

奧特曼表示，我們現在已經進入了一個階段，在這個階段，人工智能不僅快速發展，而且以自主和加速的方式發展。

盡管沒有明顯的信號，奧特曼警告說，一場深刻的變革已經在進行中。在主要科技公司的幕後，能夠在越來越廣泛的領域超越人類智慧的系統正在出現。

ChatGPT：比任何人類都強大？奧特曼對OpenAI的看法

奧特曼毫不猶豫地宣稱：“在某種意義上，ChatGPT已經比任何曾經生活過的人類更強大。”

每天有數億用戶依賴這個工具來處理日益復雜的任務，人工智能已經對社會產生了巨大的影響。

這引發了一個關鍵問題。也就是說，這些系統中的小缺陷可能會導致大規模的損害，而這種損害會因其廣泛傳播而被放大。

奧特曼預測，到明年我們將看到能夠執行真正認知工作的代理的出現，革新軟件開發和其他智力密集型行業。

在2026年，根據奧特曼的說法，人工智能將不再僅限於重新處理現有信息，而是能夠生成新的發現。因此，爲前所未有的數字創意鋪平道路。

到2027年，我們可能會見證能夠在物理世界中操作的機器人的出現，這一步將標志着人工智能正式進入我們的日常生活。

奧特曼的每一個預測似乎都超越了前一個，描繪出一條直接指向超級智能的軌跡：在幾乎每個領域中，系統的智力能力都優於人類。

當前人工智能發展的一個最令人不安的方面是奧特曼所描述的“遞歸自我改進的幼蟲版本”

在實踐中，人工智能已經在幫助研究人員構建未來版本的自身，成倍加速進展。

“如果我們能夠在一年，甚至一個月內完成十年的研究，那麼進步的速度顯然會非常不同。”

解釋奧特曼。

這一現象因反饋循環而進一步放大。技術發展產生經濟價值，從而爲更強大的基礎設施提供資金，這些基礎設施又產生更先進的系統。

一家轉型的公司，但並不陌生

展望未來，奧特曼設想一個發現速度將快到幾乎難以理解的未來：

“也許我們今年會解決高能物理問題，明年就會開始太空殖民。”

盡管這些變化具有革命性的範圍，奧特曼相信人類生活的許多方面仍將保持熟悉。人們將繼續相愛、創造藝術，並享受簡單的樂趣。

然而，在這一表面之下，社會將經歷深刻的動蕩。整個職業類別可能會消失，或許比新工作的創造或工人的再培訓還要快。

根據奧特曼的說法，希望是這些進步所產生的財富將允許探索以前不可思議的社會政策。爲了幫助想象這個未來，奧特曼提出了一個心理實驗

也就是說，千年前的農民會認爲我們現代的職業是“僞職業”，堅信我們花時間在玩耍，因爲我們已經擁有了所需的一切。

奧特曼建議，我們的後代可能會以同樣的驚奇看待我們目前的職業。

在所有提出的問題中，有一個問題讓人工智能安全專家們夜不能寐：所謂的對齊問題。我們如何確保超智能系統的行爲與人類的價值觀和意圖一致？

奧特曼強調需要找到一種方法，確保人工智能“學習並朝着我們共同希望的長期目標行動”。這項任務絕非簡單，尤其是在一個擁有常常相互衝突的價值觀的全球化世界中。

與社交媒體算法通過利用人類心理弱點來最大化參與度不同，超級智能需要被設計成服務於集體利益。

但“bene collettivo”到底是什麼意思，仍然是一個沒有答案的問題。

“越早開始討論這些廣泛限制是什麼，以及我們如何定義集體對齊，越好，”

警告奧特曼。

爲世界而生的頭腦

奧特曼將OpenAI項目描述爲“爲世界構建一個大腦”。這不是一個隱喻：這些是認知系統，旨在融入人類文明的各個方面，超越人類在所有領域的能力。

根據奧特曼的說法，我們即將進入一個智能將變得便宜得無法測量的時代，像電力一樣無處不在和可獲取。

而對於那些認爲這些說法是科幻的人，奧特曼提醒道，幾年前，當前人工智能的能力看起來也同樣不太可能。

“如果我們在2020年告訴你我們會到達今天的這個位置，這可能比我們目前對2030年的預測更瘋狂，”他說。

隨着人工智能行業的持續競爭，奧特曼以一種更像祈禱的希望作結：

“我們可以通過超智能平穩、指數級地擴展，而不會發生事故。”

他的願景不是遙遠的預測，而是一個持續的現實。通往超級智能的競賽並不是即將開始的事情：它已經開始了。人類必須爲與其後果共存做好準備。