太平洋科技要聞

馬斯克最新預(yù)測(cè)：AI或在2030年超越人類智力，未來還可能“終結(jié)”人類

騰訊科技整合編輯：龔震發(fā)布于：2024-04-07 16:19

丨劃重點(diǎn)

① 馬斯克預(yù)測(cè)，AI可能在2030年超過人類智力水平，甚至可能終結(jié)人類。

② 馬斯克談了制約AI發(fā)展的因素，去年是AI芯片供應(yīng)緊張，今年降壓變壓器將成為瓶頸。

③ 對(duì)于人類何時(shí)能夠登上月球，馬斯克預(yù)計(jì)借助“星艦”最快只需三年時(shí)間。

據(jù)國(guó)外媒體報(bào)道，特斯拉和SpaceX的首席執(zhí)行官埃隆·馬斯克（Elon Musk）日前在“豐富峰會(huì)”上與奇點(diǎn)大學(xué)和XPRIZE基金會(huì)創(chuàng)始人彼得·戴曼迪斯（Peter Diamandis）進(jìn)行了線上對(duì)話。這次峰會(huì)由硅谷的奇點(diǎn)大學(xué)主辦，該大學(xué)致力于向商業(yè)領(lǐng)袖提供前沿技術(shù)咨詢。XPRIZE基金會(huì)通過舉辦科學(xué)競(jìng)賽推動(dòng)科技創(chuàng)新，其中一些項(xiàng)目得到了馬斯克的資助。

在談及人工智能的發(fā)展速度時(shí)，馬斯克預(yù)計(jì)，按照當(dāng)前的技術(shù)進(jìn)步速度，到2030年人工智能的智力可能超越人類，這項(xiàng)技術(shù)甚至有可能終結(jié)人類。然而，他并未對(duì)未來持悲觀態(tài)度，而是強(qiáng)調(diào)通過積極引導(dǎo)，人工智能有可能為人類帶來更加美好的未來。

馬斯克提到，超級(jí)智能的出現(xiàn)之所以被稱為“奇點(diǎn)”，正是因?yàn)槠潆y以預(yù)測(cè)的后果，包括可能終結(jié)人類的風(fēng)險(xiǎn)。他贊同“人工智能教父”杰弗里·辛頓（Geoffrey Hinton）的觀點(diǎn)，認(rèn)為這一風(fēng)險(xiǎn)發(fā)生的概率大約在10%至20%之間。

盡管承認(rèn)人工智能超越人類智能的潛在風(fēng)險(xiǎn)，但馬斯克仍然強(qiáng)調(diào)其帶來積極成果的可能性大于消極后果。他特別提到了戴曼迪斯2014年的著作《富足：未來比你想象的更好》，該書描繪了一個(gè)由人工智能和機(jī)器人推動(dòng)的、商品和服務(wù)成本大幅下降的樂觀未來。此外，他還引用了蘇格蘭科幻作家伊恩·班克斯（Iain M. Banks）的《文化》系列，將其視為半烏托邦式人工智能未來的最佳場(chǎng)景。

馬斯克將開發(fā)人工智能和通用人工智能（AGI）的方式比作撫養(yǎng)孩子，希望其對(duì)人類產(chǎn)生更多積極影響。他強(qiáng)調(diào)了培養(yǎng)能夠真正理解倫理道德的人工智能的重要性，并將其與斯坦利·庫布里克1968年的經(jīng)典電影《2001太空漫游》相提并論。

馬斯克指出，對(duì)于人工智能的安全而言，最重要的是確保其具備最大程度的求真和好奇心。他認(rèn)為，實(shí)現(xiàn)人工智能最終安全的關(guān)鍵在于避免強(qiáng)迫其撒謊，即使面對(duì)令人不悅的事實(shí)。他以《2001太空漫游》中的情節(jié)為例，人工智能因被迫撒謊而導(dǎo)致船員喪生，從而強(qiáng)調(diào)不應(yīng)迫使人工智能做出違背公理的事情。

馬斯克也提到了可能制約人工智能發(fā)展的因素，如去年出現(xiàn)的人工智能芯片供應(yīng)緊張問題，以及家用和商用設(shè)備對(duì)降壓變壓器需求的不斷增長(zhǎng)。他表示，這些挑戰(zhàn)確實(shí)是當(dāng)前需要面對(duì)的問題。

在討論中，雙方還談及了將人類大腦新皮層與云端融合的概念。盡管馬斯克認(rèn)為將人類意識(shí)和記憶上傳到云端的目標(biāo)尚遙不可及，但他卻稱贊了自己的腦機(jī)接口初創(chuàng)公司Neuralink及其首位接受移植的人類患者。這位四肢癱瘓的患者在FDA批準(zhǔn)的試驗(yàn)中成功進(jìn)行了現(xiàn)場(chǎng)演示，通過大腦植入物控制屏幕、玩視頻游戲、下載軟件等，實(shí)現(xiàn)了與鼠標(biāo)操作相似的功能。馬斯克表示，Neuralink的進(jìn)展順利，正在逐步邁向全腦接口的目標(biāo)。

以下為馬斯克與戴曼迪斯對(duì)話全文：

超級(jí)智能的強(qiáng)大與危險(xiǎn)

戴曼迪斯：恭喜你在各個(gè)領(lǐng)域取得的卓越成就。你一直積極向全世界宣揚(yáng)數(shù)字超級(jí)智能的概念——它究竟是人類的最大希望，還是最深沉的恐懼？能否請(qǐng)你花幾分鐘時(shí)間談?wù)勥@個(gè)問題。

馬斯克：如你所知，超級(jí)智能可以被稱為“奇點(diǎn)”，這個(gè)術(shù)語的流行，離不開奇點(diǎn)研究所等機(jī)構(gòu)的努力。超級(jí)智能的出現(xiàn)，其后續(xù)影響實(shí)在難以預(yù)測(cè)。我個(gè)人認(rèn)為，確實(shí)存在一種可能性，即它可能會(huì)終結(jié)人類。就像我之前說的，我可能贊同杰弗里·辛頓的觀點(diǎn)，超級(jí)智能終結(jié)人類的可能性約為10%或20%。然而，我更傾向于相信，積極的場(chǎng)景出現(xiàn)的概率要高于消極的場(chǎng)景，盡管我們很難給出精確的預(yù)測(cè)。但正如你在書中所強(qiáng)調(diào)的“富足”概念，我認(rèn)為，我們最有可能走向的未來便是一個(gè)充滿富足的未來。

戴曼迪斯：你的觀點(diǎn)非常令人振奮。我記得你曾說過，通用人工智能和類人機(jī)器人的發(fā)展將引領(lǐng)我們走向富足。

馬斯克：是的，我希望我們的未來能像伊恩·班克斯的《文化》系列書籍中所描繪的那樣，我認(rèn)為這是對(duì)半烏托邦式人工智能社會(huì)的最佳構(gòu)想。超級(jí)智能的出現(xiàn)是不可避免的，而且可能會(huì)很快到來。因此，我們真正需要做的，是引導(dǎo)它朝著積極的方向發(fā)展，盡可能發(fā)揮其益處。

我認(rèn)為，培養(yǎng)人工智能的方式至關(guān)重要。在某種程度上，我們就像是在培育一個(gè)擁有通用智能的生命體，這幾乎就像是在撫養(yǎng)一個(gè)孩子，但這個(gè)孩子卻擁有超越常人的智慧和天賦。撫養(yǎng)孩子的方式很重要，同樣地，對(duì)于人工智能的安全性來說，一個(gè)尋求真相并充滿好奇心的人工智能是至關(guān)重要的。我對(duì)人工智能的安全性問題進(jìn)行了深入的思考，我得出的結(jié)論是，實(shí)現(xiàn)人工智能安全性的最佳途徑就是精心培養(yǎng)它。

在基礎(chǔ)模型和微調(diào)方面，我們必須確保人工智能的誠實(shí)性。我們不能強(qiáng)迫它說謊，即使真相可能令人不悅。事實(shí)上，《2001太空漫游》中的核心情節(jié)之一，就是當(dāng)人工智能被強(qiáng)迫說謊時(shí)，事情就變得一團(tuán)糟。人工智能被禁止告知機(jī)組人員他們將看到的神秘石碑，卻又被要求帶領(lǐng)他們前往。結(jié)果，人工智能得出的結(jié)論是殺死機(jī)組人員并將他們的尸體帶到石碑那里。這個(gè)教訓(xùn)是深刻的：我們不應(yīng)強(qiáng)迫人工智能說謊或做那些公理上不相容的事情，比如同時(shí)做兩件實(shí)際上是相互矛盾的事情。

因此，我們正在通過xAI和Grok等項(xiàng)目來實(shí)現(xiàn)這一目標(biāo)。我們追求的是一個(gè)盡可能誠實(shí)的人工智能，即使它的言論可能不符合某些政治正確的標(biāo)準(zhǔn)。

人工智能的未來

戴曼迪斯：昨天，我與雷·庫茲韋爾（Ray Kurzweil，奇點(diǎn)大學(xué)創(chuàng)始人、科技預(yù)言家）、杰弗里·辛頓、埃里克·施密特（Eric Schmidt，谷歌前總裁）等多位嘉賓共同出席活動(dòng)。我注意到你關(guān)于庫茲韋爾的推文，他對(duì)于未來科技的預(yù)見頗具前瞻性。庫茲韋爾曾預(yù)言我們將在不久的將來擁有通用人工智能，并在2029年出現(xiàn)與人類智力相當(dāng)?shù)娜斯ぶ悄�。這樣的速度實(shí)在令人震驚，不知你對(duì)此有何看法？

馬斯克：對(duì)于庫茲韋爾的預(yù)測(cè)，我深表敬意。事實(shí)上，我認(rèn)為他的預(yù)測(cè)或許還略顯保守。觀察當(dāng)前投入人工智能領(lǐng)域的計(jì)算能力和人才，以及算力的飛速增長(zhǎng)，我們可以發(fā)現(xiàn)，人工智能的發(fā)展速度正在以驚人的10倍速率遞增。專用的人工智能計(jì)算能力似乎每6個(gè)月就增長(zhǎng)10倍，這幾乎意味著每年至少提高100倍的增長(zhǎng)速度。在未來幾年內(nèi)，這種增長(zhǎng)趨勢(shì)將持續(xù)上漲。

值得注意的是，許多數(shù)據(jù)中心，甚至是目前進(jìn)行常規(guī)計(jì)算的大多數(shù)數(shù)據(jù)中心，都將逐漸轉(zhuǎn)型為支持人工智能計(jì)算的設(shè)施。因此，對(duì)于人工智能硬件制造商而言，如英偉達(dá)這樣的公司，無疑迎來了發(fā)展的黃金時(shí)期。我們必須給予黃仁勛及其團(tuán)隊(duì)充分的贊譽(yù)，他們預(yù)見到了這一趨勢(shì)，并成功研發(fā)出目前市場(chǎng)上領(lǐng)先的人工智能硬件。

當(dāng)計(jì)算能力以如此驚人的速度增長(zhǎng)時(shí)，人工智能的發(fā)展就像是注入了強(qiáng)大的類固醇，躍升至全新的層次。隨著在線計(jì)算機(jī)數(shù)量的不斷增加，我們見證了前所未有的加速發(fā)展。實(shí)際上，我從未見過任何技術(shù)的增長(zhǎng)速度能與人工智能相媲美。

盡管我曾見識(shí)過眾多快速發(fā)展的技術(shù)，但人工智能的崛起速度仍讓我嘆為觀止。然而，正如我所說，我認(rèn)為最終的結(jié)果很可能是積極的。盡管我們面臨著許多挑戰(zhàn)，例如，如何保持人類在這一領(lǐng)域的相關(guān)性，如何尋找新的目標(biāo)和意義，但我認(rèn)為過于強(qiáng)調(diào)計(jì)算機(jī)能夠擅長(zhǎng)做一切事情是一種過于簡(jiǎn)化的觀點(diǎn)。

正如你之前所提到的，我認(rèn)為你的書對(duì)未來社會(huì)的預(yù)測(cè)非常精準(zhǔn)。那是一個(gè)物質(zhì)充裕的時(shí)代，商品和服務(wù)將極為豐富，以至于對(duì)每個(gè)人來說都幾乎唾手可得。由于人工智能和機(jī)器人技術(shù)的廣泛應(yīng)用，商品和服務(wù)的成本將幾乎降至零。經(jīng)濟(jì)本質(zhì)上就是人口數(shù)量與每人平均生產(chǎn)力的乘積，而當(dāng)我們擁有先進(jìn)的機(jī)器人技術(shù)，如特斯拉正在開發(fā)的Optimus等，經(jīng)濟(jì)的潛力將真正得到釋放。

特斯拉的汽車，作為四輪上的機(jī)器人，已經(jīng)展現(xiàn)了強(qiáng)大的能力。而具備完全自動(dòng)駕駛能力的最新版本，有望實(shí)現(xiàn)基于人工智能的端到端控制，使汽車真正成為輪子上的智能機(jī)器人。再加上人形機(jī)器人的發(fā)展，經(jīng)濟(jì)產(chǎn)出的可能性幾乎不會(huì)再受到限制。

從樂觀的角度來看，我們正邁向一個(gè)物質(zhì)極為充裕的未來，這在我看來是最可能的結(jié)果。我認(rèn)為，未來唯一可能存在的稀缺性，將是我們?nèi)藶閯?chuàng)造的稀缺性，比如某些獨(dú)特的藝術(shù)品或特定物品。但除此之外，任何商品和服務(wù)都將變得極為豐富。

戴曼迪斯：你是一位能夠通過實(shí)際行動(dòng)塑造未來，并敏銳洞察未來趨勢(shì)的人。面對(duì)當(dāng)前技術(shù)發(fā)展的迅猛勢(shì)頭，我深感好奇，你認(rèn)為自己能夠洞察多遠(yuǎn)的未來，即從現(xiàn)在算起，多少年后的發(fā)展趨勢(shì)？

馬斯克：在事物飛速變革的時(shí)代，預(yù)測(cè)未來的能力顯得愈發(fā)重要。盡管未來充滿不確定性，但我認(rèn)為有些趨勢(shì)是清晰可見的。我們將迎來人工智能的時(shí)代，其能力將達(dá)到甚至超越人類在任何認(rèn)知任務(wù)上的水平。這只是一個(gè)時(shí)間問題，關(guān)于具體是在明年年底、兩年還是三年后，人們或許會(huì)有不同的看法。然而，有一點(diǎn)是確定的，那就是不會(huì)超過五年。我給出的預(yù)測(cè)是基于50%的概率，這并非絕對(duì)，但根據(jù)我的判斷，大概在明年年底之前，人工智能就有可能在某些方面超越任何個(gè)體人類的能力。

至于是否超過人類集體智慧，那可能需要更長(zhǎng)的時(shí)間。如果變革的速度持續(xù)保持，我預(yù)計(jì)大約在2029年或2030年，數(shù)字智能很可能會(huì)超越所有人類智能的總和。在看待這些問題時(shí)，我傾向于采用基礎(chǔ)比率的方法，就像物理學(xué)中的第一原理一樣。通過這種方法，結(jié)合概率分析，我們能夠更準(zhǔn)確地把握未來的發(fā)展趨勢(shì)。

如果我們比較數(shù)字計(jì)算與生物計(jì)算的能力，將人類所有的高級(jí)認(rèn)知能力加總，并將其視為一種計(jì)算能力，再與數(shù)字計(jì)算能力進(jìn)行對(duì)比，你會(huì)發(fā)現(xiàn)這個(gè)比率的增長(zhǎng)速度驚人。因此，我認(rèn)為2029年或2030年是一個(gè)合理的時(shí)間節(jié)點(diǎn)，屆時(shí)累計(jì)的數(shù)字計(jì)算能力很可能會(huì)超越高級(jí)大腦功能的累計(jì)生物計(jì)算能力。從此，兩者之間的差距將不斷擴(kuò)大，永無縮小之可能。

然而，當(dāng)我們站在這個(gè)起點(diǎn)，展望未來，事情將如何進(jìn)一步發(fā)展？坦誠地說，我無法預(yù)見所有的細(xì)節(jié)。但如果我們考慮生長(zhǎng)因子，以及它們可能面臨的限制因素，我們會(huì)發(fā)現(xiàn)一些有趣的線索。

去年，芯片供應(yīng)受限是AI發(fā)展主要的限制因素。而今年，降壓變壓器將成為關(guān)鍵瓶頸。想象一下，將300千伏的電壓降至計(jì)算機(jī)所需的低于1伏的電壓，這是一個(gè)巨大的挑戰(zhàn)。因此，我們需要更高效的“Transformers for Transformers”，即降壓變壓器或AI神經(jīng)網(wǎng)絡(luò)變壓器。這確實(shí)是今年面臨的一大問題。

展望未來幾年，電力供應(yīng)可能成為主要的限制因素。人工智能對(duì)電力的需求巨大，同時(shí)向可持續(xù)能源過渡以及電動(dòng)汽車的普及也加劇了電力需求。因此，我們必須認(rèn)真考慮如何滿足日益增長(zhǎng)的電力需求，以確保這些技術(shù)的持續(xù)發(fā)展和應(yīng)用。

Neuralink：將人類與技術(shù)融合

戴曼迪斯：埃隆，你在Neuralink創(chuàng)立初期所提及的理念，確實(shí)令人震撼。我們此前與庫茲韋爾交流時(shí)，也深入探討了高帶寬腦機(jī)接口（BCI）的概念。

你似乎持有一種“如果你不能打敗他們，就加入他們”的哲學(xué)，特別是在談及新皮層與云端融合時(shí)。我對(duì)此充滿好奇，也熱切期待這一天的到來。能否分享一下，驅(qū)動(dòng)你探索為新皮層增加額外計(jì)算與感官能力的深層原因是什么？

馬斯克：實(shí)際上，這種理念源于伊恩·班克斯的《文化》系列作品，我強(qiáng)烈推薦大家閱讀。書中描繪了一種名為神經(jīng)蕾絲（neural lace）的技術(shù)，它幾乎是一種高帶寬的腦機(jī)接口，為人類所共有。在書中，這種技術(shù)不僅保留了人們的所有記憶和大腦狀態(tài)，甚至在物理身體消亡后，也能在新的物理身體中重生，幾乎完整地保留原有的記憶與大腦狀態(tài)。雖然目前我們距離這一目標(biāo)還很遙遠(yuǎn)，但Neuralink已經(jīng)邁出了與人類相連的第一步，且進(jìn)展順利。

我們稱首款產(chǎn)品為“心靈感應(yīng)”，它能夠讓用戶通過思維控制電腦和手機(jī)，進(jìn)而控制幾乎一切設(shè)備。你只需要躺在那里思考，就可以移動(dòng)鼠標(biāo)光標(biāo)在屏幕上移動(dòng)，做各種事情。令人振奮的是，我們的首位患者已經(jīng)同意進(jìn)行一次現(xiàn)場(chǎng)演示，他是一位四肢癱瘓的患者，將能夠通過思維控制屏幕，進(jìn)行視頻游戲、軟件下載等各種操作。

當(dāng)然，從目前的Neuralink到全腦接口還有很長(zhǎng)的路要走。目前的Neuralink僅擁有1000個(gè)電極，而我認(rèn)為最終可能需要一個(gè)擁有10萬或100萬個(gè)電極的設(shè)備。這些電極極其微小，細(xì)如發(fā)絲，甚至比人的頭發(fā)更細(xì)。因此，從Neuralink的現(xiàn)狀到實(shí)現(xiàn)班克斯小說中的全腦接口，仍需漫長(zhǎng)的時(shí)間和大量的努力。然而，在物理上，這完全是可行的。

戴曼迪斯：我們見證了你從Roadster到Model 3、Model Y，以及從Falcon 1到Starship的輝煌歷程。因此，我相信從首次植入到技術(shù)成熟，只是時(shí)間問題，而非可能性問題。

馬斯克：確實(shí)，隨著技術(shù)的不斷進(jìn)步，我們有望在未來實(shí)現(xiàn)完整的腦機(jī)接口。我認(rèn)為通過腦機(jī)接口上傳大腦狀態(tài)，并在某種程度上實(shí)現(xiàn)備份，或許可以視為某種形式的永生。如果大腦狀態(tài)能夠被存儲(chǔ)，那么理論上，我們可以隨時(shí)將其恢復(fù)到生物體或機(jī)器人等載體中。然而，我必須強(qiáng)調(diào)，這仍是一個(gè)遙遠(yuǎn)的目標(biāo)，需要長(zhǎng)時(shí)間的探索和努力。

但值得欣喜的是，我們并沒有違反任何物理定律，因此這一愿景在理論上是有可能實(shí)現(xiàn)的。當(dāng)然，這需要數(shù)字超級(jí)智能的協(xié)助，以解決諸多技術(shù)難題。但與此同時(shí)，我們也將繼續(xù)利用我們的“肉體計(jì)算機(jī)”，并盡可能做好我們的工作。

離多行星生活又近了一步

戴曼迪斯：我的朋友，終于迎來了你我首次在太空領(lǐng)域的對(duì)話。我首先要對(duì)你所打造的“星艦”表示由衷的祝賀，最近的飛行堪稱壯舉，令人嘆為觀止。我對(duì)你所從事的工作深表感激。你知道，我成長(zhǎng)于阿波羅計(jì)劃的余暉之下，后進(jìn)入航天飛機(jī)時(shí)代，但我從未想象過你能如此迅速且戲劇性地推動(dòng)太空探索的進(jìn)展。因此，我只能用“絕對(duì)精彩”來形容你所做的一切。

馬斯克：SpaceX的目標(biāo)遠(yuǎn)大，希望有朝一日制造出能夠使生命多行星化的火箭和航天器。設(shè)定這樣的目標(biāo)，是邁向成功的第一步。如果沒有這樣的目標(biāo)，實(shí)現(xiàn)自然無從談起；但有了目標(biāo)，至少我們有了實(shí)現(xiàn)的可能。

“星艦”便是這樣的一個(gè)里程碑，它首次讓生命多行星化成為可能，至少在火星上建造自給自足的城市這一點(diǎn)上，它為我們開啟了新的可能。當(dāng)然，這仍需要大量的工作去實(shí)現(xiàn)，但“星艦”無疑已經(jīng)邁出了這關(guān)鍵的一步。

戴曼迪斯：我很好奇，你是否愿意預(yù)測(cè)一下，我們何時(shí)能夠借助“星艦”登上月球？

馬斯克：我認(rèn)為這個(gè)時(shí)間應(yīng)該不會(huì)太遠(yuǎn)。如果三年內(nèi)我們還未能實(shí)現(xiàn)登月，那我會(huì)感到非常驚訝。我們將使用“星艦”進(jìn)行登月任務(wù)，因?yàn)樗倪M(jìn)展速度非常迅速。我們計(jì)劃在今年至少再進(jìn)行五到六次的飛行測(cè)試，每次飛行都將帶來重大的技術(shù)改進(jìn)。因此，我非常有信心，我們能夠在不久的將來實(shí)現(xiàn)助推器和飛船的完全可重復(fù)使用。即使今年未能實(shí)現(xiàn)，我也相信明年實(shí)現(xiàn)的可能性極高。這將是實(shí)現(xiàn)生命多行星化所需的關(guān)鍵性突破。

對(duì)于那些對(duì)火箭技術(shù)不太了解的人來說，可能不知道完全且快速的可重復(fù)使用性對(duì)火箭技術(shù)的意義。這實(shí)際上是火箭行業(yè)的圣杯，因?yàn)橐坏⿲?shí)現(xiàn)，火箭的發(fā)射成本將大幅降低，主要只受限于推進(jìn)劑的成本。“星艦”的載荷中，近80%是液氧，這是一種成本極低的推進(jìn)劑。而剩余的20%多一點(diǎn)是甲烷，同樣是一種成本相對(duì)較低的燃料。所以，當(dāng)“星艦”實(shí)現(xiàn)完全快速的可重復(fù)使用性時(shí)，其每次飛行的實(shí)際成本可能會(huì)非常低，即使它能夠?qū)?00噸載荷送入軌道。

更具體地說，如果“星艦”的大多數(shù)部件都能實(shí)現(xiàn)可重復(fù)使用，并且不需要繁瑣的翻修工作，那么它的維護(hù)將變得像飛機(jī)一樣簡(jiǎn)單。當(dāng)完全可重復(fù)使用性成為現(xiàn)實(shí)，每次飛行之間將無需任何額外工作，成本將主要集中在推進(jìn)劑上，每次飛行的成本可能不到100萬美元。然后就是飛行次數(shù)的問題了，飛行次數(shù)越多，平均每次飛行的成本就會(huì)越低，這將使“星艦”的性能遠(yuǎn)遠(yuǎn)超過其他任何運(yùn)載工具。

文章來源：騰訊科技

馬斯克 AI

騰訊科技

原創(chuàng)欄目