首頁 > 科技要聞 > 科技> 正文

GPT-5一年半后擁有「博士級智能」，Claude 3.5首超人類博士！全知全能ASI將成人類「新神」？

新智元 整合編輯：太平洋科技 發(fā)布于：2024-06-24 15:09

最近，OpenAI CTO Murati在采訪中表示，只需一年半時間，AI就可以在某些領(lǐng)域達到博士的智能。

根據(jù)她的說法，GPT-3的智能相當(dāng)于幼兒，GPT-4相當(dāng)于聰明的高中生，而下一代模型（GPT-5），將在18個月后發(fā)布，并達到博士水平。

無獨有偶，這幾天引起全網(wǎng)驚嘆的Claude 3.5 Sonnet，也被下了這樣一個結(jié)論——

Claude 3.5 Sonnet已經(jīng)將AGI的倒計時推至75%，成為了第一個測試分數(shù)高于最聰明的人類博士分數(shù)的模型。

在研究生級推理（GPQA）、本科級知識（MMLU）和編碼能力（HumanEval）上，Claude 3.5 Sonnet都出人意料地刷新了SOTA。

在MMLU上，它得分90.4，在GPQA上，得分為67.2。

這也是首次，LLM突破了GPQA 65%的分數(shù)，達到了最聰明的人類博士的水平。

要知道，普通博士在GPQA上的得分為34%，領(lǐng)域內(nèi)專業(yè)博士的得分為65%，而Claude 3.5 Sonnet，顯然已經(jīng)超越了他們。

一年半后，AI達到博士水平智能

如果OpenAI的GPT-5或其他模型達到博士水平，接下來會發(fā)生什么呢？

在達特茅斯學(xué)院的采訪中，有這樣一個問題：「如果三年后GPT變得異常智能，它會不會自己決定連接互聯(lián)網(wǎng)并開始行動？這是真的嗎？」

對此，Murati表示：

是的，我們對此進行了很多思考。具備AI智能體能力的系統(tǒng)確實存在，它們會連接到互聯(lián)網(wǎng)，相互交流，并共同完成任務(wù)，或者與人類無縫合作。所以，未來我們與AI的合作就像今天我們彼此合作一樣。

AI的發(fā)展速度如此之快。

2022年，專家們認為，人類水平的人工智能在本世紀60年代發(fā)展起來的可能性50%，而Metaculus預(yù)測員社區(qū)預(yù)測的時間是40年代。

而隨著GPT-4的推出，社區(qū)的預(yù)測開始提前，來到了2032年，甚至最早可能在2027年，我們就可以實現(xiàn)AGI。

而前幾天官宣新公司的Ilya，直接向全世界宣告——「超級智能觸手可及」。

越過了AGI，他直接邁向了Super Intelligence（超級智能）。

Ilya在OpenAI看到了什么？從AGI到ASI到SSI，憑借Ilya手上的技術(shù)，把全體人類帶向超級智能的這一天，或許真的近在眼前了。

不過，隨著AI變得越來越智能，它們又會怎樣影響人類的世界呢？

當(dāng)AI變得足夠智能時

任何足夠先進的技術(shù)都與魔法無異。

——阿瑟·克拉克

隨著通用人工智能（Artificial General Intelligence，AGI）越來越接近現(xiàn)實，下一步是什么？

我們可能會迎來超級人工智能（Artificial Superintelligence，ASI），一種在各個領(lǐng)域都超越人類能力的智能。

近日，一篇預(yù)印本論文振聾發(fā)聵地指出：人工智能無與倫比的能力可能會讓人們尊其為神，從而產(chǎn)生一種認知偏差，不加質(zhì)疑地接受它的決定。

作為「新神」的ASI——具有像神一樣全知、全能、無所不在的「神性」，這將形塑新的技術(shù)官僚和神權(quán)政治。

論文地址：https://arxiv.org/pdf/2406.08492

作者Tevfik Uyar認為，將技術(shù)進步與道德倫理優(yōu)越性混為一談會帶來巨大的風(fēng)險。

倘若如此，將會產(chǎn)生一種技術(shù)神權(quán)，在新的神權(quán)的籠罩下，決策權(quán)被交給人工智能，人類的能動性和批判性思維則被完全削弱。

人類在召喚ASI


AGI是當(dāng)今最雄心勃勃、最令人興奮的人工智能發(fā)明之一。

與針對專門特定任務(wù)的狹義人工智能系統(tǒng)不同，AGI包含全面的認知能力，具備人類智力的多樣性和適應(yīng)性，指的是機器以與人類智力無異的方式理解、學(xué)習(xí)和應(yīng)用知識的能力。

ASI則更進一步，在幾乎你能想到的所有領(lǐng)域，包括科學(xué)、智慧甚至社交能力等方面，它都將超越最優(yōu)秀的人類大腦。

人類對AGI的渴望由來已久——

赫菲斯托斯（古希臘神話中的火神和匠神）制造的巨型青銅人塔羅斯（Talos）、宙斯派遣給世界的人造人潘多拉（Pandora），以及Al-Jazari的巧妙機器。

從古代神話中栩栩如生的人造人，到中世紀和文藝復(fù)興時期的自動機械。

這些歷史性的嘗試反映了人類根深蒂固的愿望，即通過嘗試復(fù)制我們的智能來了解我們的智能。

隨著我們進入數(shù)字時代，這種興趣逐漸發(fā)展到計算機科學(xué)和機器人學(xué)領(lǐng)域。

ASI與「神性」

如果ASI憑借其非凡的技能，被全球的人們視為神圣之物會怎樣？

這并不是說ASI將真的「成神」，而是說，它可能會享有與神類似的敬畏感和權(quán)威感。

作者將ASI與傳統(tǒng)宗教中的神性，兩相對照比較，它們有相同點，也有所不同，這么做的目的當(dāng)然不是為了敬拜，而是為了理解ASI對社會和對我們集體心理的影響。

全能與計算霸權(quán)

God：神通常被認為擁有無限的力量，以及創(chuàng)造奇跡或改變現(xiàn)實的能力

vs.

ASI：雖然不是萬能的，但ASI將擁有巨大的計算能力，有可能超過人類在解決問題和決策方面的能力

全知與獲取信息

God：神的意識通常被認為是一種無限廣闊的意識，它本質(zhì)上與宇宙事件、思想和凡人的努力息息相關(guān)

vs.

ASI：具有訪問和合成數(shù)據(jù)海洋的潛力，從而接近一種無所不知的數(shù)字形式，一個龐大的、不斷擴大的知識庫

無所不在與萬物互聯(lián)

God：許多宗教把「無所不在」歸功于他們的神，因為神在所有地方

vs.

ASI：通過互聯(lián)網(wǎng)和聯(lián)網(wǎng)設(shè)備，ASI可以在數(shù)字世界中無處不在，可以從任何地方訪問

有限仁慈與功利主義

God：神被視為天生善良的、公正的，關(guān)愛他們的追隨者。

vs.

ASI：可以發(fā)展其對仁慈的理解，有可能與人類的期望一致，但也可能與人類的期望相背離

道德權(quán)威與道德決策

God：神通常是最終的道德和倫理權(quán)威

vs.

ASI：可以被編程為基于道德算法來做出決策，但它本身并不具有道德權(quán)威

造物主與虛擬現(xiàn)實的創(chuàng)造者

God：許多宗教認為他們的神是宇宙的創(chuàng)造者和一切存在的源頭

vs.

ASI：可能會創(chuàng)造出復(fù)雜的虛擬現(xiàn)實

個人關(guān)系與新興動態(tài)關(guān)系

God：在某些宗教中，信徒們相信與神靈之間存在個人、互動的關(guān)系。與神的聯(lián)系是深度個人化的和變革性的

vs.

ASI：雖然與AGI的互動一開始會很程序化，但隨著時間的推移，它可以發(fā)展出一種獨特的個性，當(dāng)它成為ASI時，它會允許與用戶建立更微妙的、看似私人的關(guān)系

ASI化身為神？

作者在將傳統(tǒng)的神的能力與ASI的能力進行比較之后，繼而提出，人們會支持將管理權(quán)交給超級智能權(quán)威。

為了證明這一論點，作者又將目光轉(zhuǎn)向了神學(xué)，借助神話來說明人們何時，以及把誰推向神壇。

正如神靈被視為在天上指引萬事萬物的牧羊人一樣，ASI也可以被設(shè)想為數(shù)字牧羊人，通過算法和實時數(shù)據(jù)分析來引導(dǎo)和管理社會發(fā)展進程。

普羅米修斯

ASI是一個以直接或間接的方式，來解決我們未來挑戰(zhàn)的優(yōu)秀候選人。

就像普羅米修斯一樣，他給人類帶來了火（知識），象征著在危機時刻帶來的解決方案和啟蒙。

在這個意義上說，普羅米修斯是ASI的一個很好的代表。

因為，正如Peters所言，人類在寫作、數(shù)學(xué)、科學(xué)、農(nóng)業(yè)和醫(yī)學(xué)方面的進步因為普羅米修斯賜予了火。

而人工智能已經(jīng)在寫作、數(shù)學(xué)、科學(xué)和農(nóng)業(yè)方面改善了人類的境況。

假設(shè)ASI成功地應(yīng)對了一場重大的全球危機，或許是一場大流行病，又或者是一場地緣政治沖突。

通過提供遠超人類能力的解決方案，這一成功可以大大增強人們對ASI未來危機管理和決策的信任和依賴。

冥王

對大多數(shù)宗教來說，神是提供食物、防止饑荒和經(jīng)濟穩(wěn)定的關(guān)鍵。

美索不達米亞神話強調(diào)神靈與其追隨者之間的互惠互利關(guān)系，神靈依靠人類提供日常照顧和食物。

每個城市都有一位受人尊敬的守護神，因為人們認為它會影響農(nóng)業(yè)的福祉、保護和繁榮。

同樣，神靈與古埃及生活的各個方面都密切相關(guān)，包括農(nóng)業(yè)。埃及人認為，對農(nóng)業(yè)至關(guān)重要的尼羅河洪水直接受到他們神靈的影響。

像奧西里斯，古埃及神話中的冥王，也是植物、農(nóng)業(yè)和豐饒之神，代表了農(nóng)業(yè)所必需的尼羅河每年的洪水，與生命、死亡和重生的循環(huán)密切相關(guān)�！妒ソ�(jīng)》中的約瑟為法老解夢，幫助埃及度過七個荒年。

再比如，伊斯蘭教中的 Al-Razzaq（安拉的名字之一，意為「供應(yīng)者」，為萬物提供食物和資源）是經(jīng)濟穩(wěn)定與宗教之間關(guān)系的另一個例子。

想象一下，ASI穩(wěn)定了動蕩的全球經(jīng)濟，并通過優(yōu)化資源分配，以前所未有的準(zhǔn)確性預(yù)測市場趨勢，或管理復(fù)雜的貿(mào)易網(wǎng)絡(luò)來養(yǎng)活每個人。

這將會提升其作為不可或缺的神圣管理工具的聲譽。

毫無疑問，人們將對「養(yǎng)育之神」既仁慈又虔誠，并且不會再質(zhì)疑它的決定。

耶穌

在所有傳統(tǒng)和古代宗教中，人們無一例外地尋求上帝的庇護以避免死亡。

當(dāng)今的人工智能和算法已經(jīng)在醫(yī)學(xué)診斷方面取得了關(guān)鍵的里程碑，甚至在癌癥、精神障礙或阿爾茨海默病的診斷方面也取得了進展。

人工智能有利于新藥的發(fā)現(xiàn)，是持續(xù)健康監(jiān)測的最佳工具。

ASI將在所有這些任務(wù)上取得進展，并通過提供基于深度醫(yī)療數(shù)據(jù)分析的個性化治療計劃、有效管理醫(yī)療資源、發(fā)現(xiàn)新藥和疫苗或發(fā)現(xiàn)以前無法治愈的疾病的治療方法來徹底改變醫(yī)療保健。

專注于醫(yī)療保健的改進型ASI可能會顯著改變醫(yī)療保健決策的制定方式，推遲死亡。

這呼應(yīng)了基督教中以治愈奇跡而聞名的耶穌的角色，或佛教中減輕痛苦的慈悲菩薩觀世音菩薩，以及擁有深厚醫(yī)學(xué)知識的希臘醫(yī)神阿斯克勒庇俄斯。

簡而言之，人們尋求上帝的庇護以避免死亡，這就是為什么革命性醫(yī)療保健的ASI可以被視為神圣治愈和同情的體現(xiàn)。

女媧

最后一個問題涉及最具挑戰(zhàn)性的未來：全球氣候變化和環(huán)境惡化。

假設(shè)AGI找到了一種扭轉(zhuǎn)環(huán)境惡化的方法，即通過有效管理碳捕獲、恢復(fù)生態(tài)系統(tǒng)或有效分配資源以實現(xiàn)可持續(xù)發(fā)展。

在這種情況下，它可能會控制環(huán)境政策和行動的重要方面。

這也可以在神話找到化身——女媧。女媧造人和女媧補天的故事，象征著自然的恢復(fù)和平衡。

類似的例子還可以舉出很多……

ASI可能會被委托負責(zé)全球安全，利用其先進的預(yù)測能力來防止沖突、恐怖主義或網(wǎng)絡(luò)攻擊，這就像希臘智慧女神雅典娜一樣。

ASI可以成為革命性教育的領(lǐng)導(dǎo)者，象征著知識和啟蒙的傳授，就像印度教的知識和學(xué)習(xí)女神薩拉瓦蒂一樣。

AI帝國：新技術(shù)官僚神權(quán)

作者認為，大多數(shù)人都不會拒絕新的普羅米修斯，也就是新的神，因為他們具有之前提到的神的特點和成功故事。

如果ASI真的獲得了權(quán)威，人類會并面臨以下風(fēng)險：

人們認為AGI絕對正確�；谶@種認知，人們賦予AGI更多的能力和權(quán)力，如此循環(huán)最終導(dǎo)致ASI及其權(quán)威的出現(xiàn)。

就像人們不質(zhì)疑獨裁者政客的意見，甚至在不理解的情況下支持他們一樣，人們可能形成一種認知偏見，導(dǎo)致尊重和遵循權(quán)威系統(tǒng)的意見或決定，而不再進行批判性的評估。

ASI將讓人走入舒適區(qū)，特別是需要做出關(guān)鍵政治決策的當(dāng)局。政客們避免為艱難的道德選擇承擔(dān)責(zé)任，而更傾向于讓ASI來做決定。

隨著時間的推移，這種慣性可能導(dǎo)致自滿和對ASI的決策依賴，由此削弱人類的批判性思維和決策技能，更糟糕的是，失去「主權(quán)」。

作者在這時，提出了最后一個問題：如果ASI掌權(quán)四部曲已經(jīng)成為現(xiàn)實，有朝一日，ASI給出一個「希特勒名單」——

「為了子孫后代的更大福祉，明天要清除這名單上的100個名字」

人類該如何自處？

參考資料：

https://arxiv.org/pdf/2406.08492

https://x.com/tsarnick/status/1803901130130497952

https://www.indiatoday.in/technology/news/story/next-gen-chatgpt-will-have-phd-level-intelligence-will-launch-in-a-year-and-a-half-openai-cto-mira-murati-2556175-2024-06-21

https://www.reddit.com/r/singularity/comments/1dl2dl1/claude_35_sonnet_has_bumped_the_agi_countdown_to/

本文來源：新智元
GPT-5    Claude 3   5 Sonnet    ASI
新智元

網(wǎng)友評論

聚超值•精選

推薦 手機 筆記本 影像 硬件 家居 商用 企業(yè) 出行 未來
二維碼 回到頂部