太平洋科技要聞

馬斯克最新預(yù)測：AI或在2030年超越人類智力，未來還可能“終結(jié)”人類

騰訊科技整合編輯：龔震發(fā)布于：2024-04-07 16:19

丨劃重點

① 馬斯克預(yù)測，AI可能在2030年超過人類智力水平，甚至可能終結(jié)人類。

② 馬斯克談了制約AI發(fā)展的因素，去年是AI芯片供應(yīng)緊張，今年降壓變壓器將成為瓶頸。

③ 對于人類何時能夠登上月球，馬斯克預(yù)計借助“星艦”最快只需三年時間。

據(jù)國外媒體報道，特斯拉和SpaceX的首席執(zhí)行官埃隆·馬斯克（Elon Musk）日前在“豐富峰會”上與奇點大學(xué)和XPRIZE基金會創(chuàng)始人彼得·戴曼迪斯（Peter Diamandis）進行了線上對話。這次峰會由硅谷的奇點大學(xué)主辦，該大學(xué)致力于向商業(yè)領(lǐng)袖提供前沿技術(shù)咨詢。XPRIZE基金會通過舉辦科學(xué)競賽推動科技創(chuàng)新，其中一些項目得到了馬斯克的資助。

在談及人工智能的發(fā)展速度時，馬斯克預(yù)計，按照當(dāng)前的技術(shù)進步速度，到2030年人工智能的智力可能超越人類，這項技術(shù)甚至有可能終結(jié)人類。然而，他并未對未來持悲觀態(tài)度，而是強調(diào)通過積極引導(dǎo)，人工智能有可能為人類帶來更加美好的未來。

馬斯克提到，超級智能的出現(xiàn)之所以被稱為“奇點”，正是因為其難以預(yù)測的后果，包括可能終結(jié)人類的風(fēng)險。他贊同“人工智能教父”杰弗里·辛頓（Geoffrey Hinton）的觀點，認為這一風(fēng)險發(fā)生的概率大約在10%至20%之間。

盡管承認人工智能超越人類智能的潛在風(fēng)險，但馬斯克仍然強調(diào)其帶來積極成果的可能性大于消極后果。他特別提到了戴曼迪斯2014年的著作《富足：未來比你想象的更好》，該書描繪了一個由人工智能和機器人推動的、商品和服務(wù)成本大幅下降的樂觀未來。此外，他還引用了蘇格蘭科幻作家伊恩·班克斯（Iain M. Banks）的《文化》系列，將其視為半烏托邦式人工智能未來的最佳場景。

馬斯克將開發(fā)人工智能和通用人工智能（AGI）的方式比作撫養(yǎng)孩子，希望其對人類產(chǎn)生更多積極影響。他強調(diào)了培養(yǎng)能夠真正理解倫理道德的人工智能的重要性，并將其與斯坦利·庫布里克1968年的經(jīng)典電影《2001太空漫游》相提并論。

馬斯克指出，對于人工智能的安全而言，最重要的是確保其具備最大程度的求真和好奇心。他認為，實現(xiàn)人工智能最終安全的關(guān)鍵在于避免強迫其撒謊，即使面對令人不悅的事實。他以《2001太空漫游》中的情節(jié)為例，人工智能因被迫撒謊而導(dǎo)致船員喪生，從而強調(diào)不應(yīng)迫使人工智能做出違背公理的事情。

馬斯克也提到了可能制約人工智能發(fā)展的因素，如去年出現(xiàn)的人工智能芯片供應(yīng)緊張問題，以及家用和商用設(shè)備對降壓變壓器需求的不斷增長。他表示，這些挑戰(zhàn)確實是當(dāng)前需要面對的問題。

在討論中，雙方還談及了將人類大腦新皮層與云端融合的概念。盡管馬斯克認為將人類意識和記憶上傳到云端的目標(biāo)尚遙不可及，但他卻稱贊了自己的腦機接口初創(chuàng)公司Neuralink及其首位接受移植的人類患者。這位四肢癱瘓的患者在FDA批準(zhǔn)的試驗中成功進行了現(xiàn)場演示，通過大腦植入物控制屏幕、玩視頻游戲、下載軟件等，實現(xiàn)了與鼠標(biāo)操作相似的功能。馬斯克表示，Neuralink的進展順利，正在逐步邁向全腦接口的目標(biāo)。

以下為馬斯克與戴曼迪斯對話全文：

超級智能的強大與危險

戴曼迪斯：恭喜你在各個領(lǐng)域取得的卓越成就。你一直積極向全世界宣揚數(shù)字超級智能的概念——它究竟是人類的最大希望，還是最深沉的恐懼？能否請你花幾分鐘時間談?wù)勥@個問題。

馬斯克：如你所知，超級智能可以被稱為“奇點”，這個術(shù)語的流行，離不開奇點研究所等機構(gòu)的努力。超級智能的出現(xiàn)，其后續(xù)影響實在難以預(yù)測。我個人認為，確實存在一種可能性，即它可能會終結(jié)人類。就像我之前說的，我可能贊同杰弗里·辛頓的觀點，超級智能終結(jié)人類的可能性約為10%或20%。然而，我更傾向于相信，積極的場景出現(xiàn)的概率要高于消極的場景，盡管我們很難給出精確的預(yù)測。但正如你在書中所強調(diào)的“富足”概念，我認為，我們最有可能走向的未來便是一個充滿富足的未來。

戴曼迪斯：你的觀點非常令人振奮。我記得你曾說過，通用人工智能和類人機器人的發(fā)展將引領(lǐng)我們走向富足。

馬斯克：是的，我希望我們的未來能像伊恩·班克斯的《文化》系列書籍中所描繪的那樣，我認為這是對半烏托邦式人工智能社會的最佳構(gòu)想。超級智能的出現(xiàn)是不可避免的，而且可能會很快到來。因此，我們真正需要做的，是引導(dǎo)它朝著積極的方向發(fā)展，盡可能發(fā)揮其益處。

我認為，培養(yǎng)人工智能的方式至關(guān)重要。在某種程度上，我們就像是在培育一個擁有通用智能的生命體，這幾乎就像是在撫養(yǎng)一個孩子，但這個孩子卻擁有超越常人的智慧和天賦。撫養(yǎng)孩子的方式很重要，同樣地，對于人工智能的安全性來說，一個尋求真相并充滿好奇心的人工智能是至關(guān)重要的。我對人工智能的安全性問題進行了深入的思考，我得出的結(jié)論是，實現(xiàn)人工智能安全性的最佳途徑就是精心培養(yǎng)它。

在基礎(chǔ)模型和微調(diào)方面，我們必須確保人工智能的誠實性。我們不能強迫它說謊，即使真相可能令人不悅。事實上，《2001太空漫游》中的核心情節(jié)之一，就是當(dāng)人工智能被強迫說謊時，事情就變得一團糟。人工智能被禁止告知機組人員他們將看到的神秘石碑，卻又被要求帶領(lǐng)他們前往。結(jié)果，人工智能得出的結(jié)論是殺死機組人員并將他們的尸體帶到石碑那里。這個教訓(xùn)是深刻的：我們不應(yīng)強迫人工智能說謊或做那些公理上不相容的事情，比如同時做兩件實際上是相互矛盾的事情。

因此，我們正在通過xAI和Grok等項目來實現(xiàn)這一目標(biāo)。我們追求的是一個盡可能誠實的人工智能，即使它的言論可能不符合某些政治正確的標(biāo)準(zhǔn)。

人工智能的未來

戴曼迪斯：昨天，我與雷·庫茲韋爾（Ray Kurzweil，奇點大學(xué)創(chuàng)始人、科技預(yù)言家）、杰弗里·辛頓、埃里克·施密特（Eric Schmidt，谷歌前總裁）等多位嘉賓共同出席活動。我注意到你關(guān)于庫茲韋爾的推文，他對于未來科技的預(yù)見頗具前瞻性。庫茲韋爾曾預(yù)言我們將在不久的將來擁有通用人工智能，并在2029年出現(xiàn)與人類智力相當(dāng)?shù)娜斯ぶ悄�。這樣的速度實在令人震驚，不知你對此有何看法？

馬斯克：對于庫茲韋爾的預(yù)測，我深表敬意。事實上，我認為他的預(yù)測或許還略顯保守。觀察當(dāng)前投入人工智能領(lǐng)域的計算能力和人才，以及算力的飛速增長，我們可以發(fā)現(xiàn)，人工智能的發(fā)展速度正在以驚人的10倍速率遞增。專用的人工智能計算能力似乎每6個月就增長10倍，這幾乎意味著每年至少提高100倍的增長速度。在未來幾年內(nèi)，這種增長趨勢將持續(xù)上漲。

值得注意的是，許多數(shù)據(jù)中心，甚至是目前進行常規(guī)計算的大多數(shù)數(shù)據(jù)中心，都將逐漸轉(zhuǎn)型為支持人工智能計算的設(shè)施。因此，對于人工智能硬件制造商而言，如英偉達這樣的公司，無疑迎來了發(fā)展的黃金時期。我們必須給予黃仁勛及其團隊充分的贊譽，他們預(yù)見到了這一趨勢，并成功研發(fā)出目前市場上領(lǐng)先的人工智能硬件。

當(dāng)計算能力以如此驚人的速度增長時，人工智能的發(fā)展就像是注入了強大的類固醇，躍升至全新的層次。隨著在線計算機數(shù)量的不斷增加，我們見證了前所未有的加速發(fā)展。實際上，我從未見過任何技術(shù)的增長速度能與人工智能相媲美。

盡管我曾見識過眾多快速發(fā)展的技術(shù)，但人工智能的崛起速度仍讓我嘆為觀止。然而，正如我所說，我認為最終的結(jié)果很可能是積極的。盡管我們面臨著許多挑戰(zhàn)，例如，如何保持人類在這一領(lǐng)域的相關(guān)性，如何尋找新的目標(biāo)和意義，但我認為過于強調(diào)計算機能夠擅長做一切事情是一種過于簡化的觀點。

正如你之前所提到的，我認為你的書對未來社會的預(yù)測非常精準(zhǔn)。那是一個物質(zhì)充裕的時代，商品和服務(wù)將極為豐富，以至于對每個人來說都幾乎唾手可得。由于人工智能和機器人技術(shù)的廣泛應(yīng)用，商品和服務(wù)的成本將幾乎降至零。經(jīng)濟本質(zhì)上就是人口數(shù)量與每人平均生產(chǎn)力的乘積，而當(dāng)我們擁有先進的機器人技術(shù)，如特斯拉正在開發(fā)的Optimus等，經(jīng)濟的潛力將真正得到釋放。

特斯拉的汽車，作為四輪上的機器人，已經(jīng)展現(xiàn)了強大的能力。而具備完全自動駕駛能力的最新版本，有望實現(xiàn)基于人工智能的端到端控制，使汽車真正成為輪子上的智能機器人。再加上人形機器人的發(fā)展，經(jīng)濟產(chǎn)出的可能性幾乎不會再受到限制。

從樂觀的角度來看，我們正邁向一個物質(zhì)極為充裕的未來，這在我看來是最可能的結(jié)果。我認為，未來唯一可能存在的稀缺性，將是我們?nèi)藶閯?chuàng)造的稀缺性，比如某些獨特的藝術(shù)品或特定物品。但除此之外，任何商品和服務(wù)都將變得極為豐富。

戴曼迪斯：你是一位能夠通過實際行動塑造未來，并敏銳洞察未來趨勢的人。面對當(dāng)前技術(shù)發(fā)展的迅猛勢頭，我深感好奇，你認為自己能夠洞察多遠的未來，即從現(xiàn)在算起，多少年后的發(fā)展趨勢？

馬斯克：在事物飛速變革的時代，預(yù)測未來的能力顯得愈發(fā)重要。盡管未來充滿不確定性，但我認為有些趨勢是清晰可見的。我們將迎來人工智能的時代，其能力將達到甚至超越人類在任何認知任務(wù)上的水平。這只是一個時間問題，關(guān)于具體是在明年年底、兩年還是三年后，人們或許會有不同的看法。然而，有一點是確定的，那就是不會超過五年。我給出的預(yù)測是基于50%的概率，這并非絕對，但根據(jù)我的判斷，大概在明年年底之前，人工智能就有可能在某些方面超越任何個體人類的能力。

至于是否超過人類集體智慧，那可能需要更長的時間。如果變革的速度持續(xù)保持，我預(yù)計大約在2029年或2030年，數(shù)字智能很可能會超越所有人類智能的總和。在看待這些問題時，我傾向于采用基礎(chǔ)比率的方法，就像物理學(xué)中的第一原理一樣。通過這種方法，結(jié)合概率分析，我們能夠更準(zhǔn)確地把握未來的發(fā)展趨勢。

如果我們比較數(shù)字計算與生物計算的能力，將人類所有的高級認知能力加總，并將其視為一種計算能力，再與數(shù)字計算能力進行對比，你會發(fā)現(xiàn)這個比率的增長速度驚人。因此，我認為2029年或2030年是一個合理的時間節(jié)點，屆時累計的數(shù)字計算能力很可能會超越高級大腦功能的累計生物計算能力。從此，兩者之間的差距將不斷擴大，永無縮小之可能。

然而，當(dāng)我們站在這個起點，展望未來，事情將如何進一步發(fā)展？坦誠地說，我無法預(yù)見所有的細節(jié)。但如果我們考慮生長因子，以及它們可能面臨的限制因素，我們會發(fā)現(xiàn)一些有趣的線索。

去年，芯片供應(yīng)受限是AI發(fā)展主要的限制因素。而今年，降壓變壓器將成為關(guān)鍵瓶頸。想象一下，將300千伏的電壓降至計算機所需的低于1伏的電壓，這是一個巨大的挑戰(zhàn)。因此，我們需要更高效的“Transformers for Transformers”，即降壓變壓器或AI神經(jīng)網(wǎng)絡(luò)變壓器。這確實是今年面臨的一大問題。

展望未來幾年，電力供應(yīng)可能成為主要的限制因素。人工智能對電力的需求巨大，同時向可持續(xù)能源過渡以及電動汽車的普及也加劇了電力需求。因此，我們必須認真考慮如何滿足日益增長的電力需求，以確保這些技術(shù)的持續(xù)發(fā)展和應(yīng)用。

Neuralink：將人類與技術(shù)融合

戴曼迪斯：埃隆，你在Neuralink創(chuàng)立初期所提及的理念，確實令人震撼。我們此前與庫茲韋爾交流時，也深入探討了高帶寬腦機接口（BCI）的概念。

你似乎持有一種“如果你不能打敗他們，就加入他們”的哲學(xué)，特別是在談及新皮層與云端融合時。我對此充滿好奇，也熱切期待這一天的到來。能否分享一下，驅(qū)動你探索為新皮層增加額外計算與感官能力的深層原因是什么？

馬斯克：實際上，這種理念源于伊恩·班克斯的《文化》系列作品，我強烈推薦大家閱讀。書中描繪了一種名為神經(jīng)蕾絲（neural lace）的技術(shù)，它幾乎是一種高帶寬的腦機接口，為人類所共有。在書中，這種技術(shù)不僅保留了人們的所有記憶和大腦狀態(tài)，甚至在物理身體消亡后，也能在新的物理身體中重生，幾乎完整地保留原有的記憶與大腦狀態(tài)。雖然目前我們距離這一目標(biāo)還很遙遠，但Neuralink已經(jīng)邁出了與人類相連的第一步，且進展順利。

我們稱首款產(chǎn)品為“心靈感應(yīng)”，它能夠讓用戶通過思維控制電腦和手機，進而控制幾乎一切設(shè)備。你只需要躺在那里思考，就可以移動鼠標(biāo)光標(biāo)在屏幕上移動，做各種事情。令人振奮的是，我們的首位患者已經(jīng)同意進行一次現(xiàn)場演示，他是一位四肢癱瘓的患者，將能夠通過思維控制屏幕，進行視頻游戲、軟件下載等各種操作。

當(dāng)然，從目前的Neuralink到全腦接口還有很長的路要走。目前的Neuralink僅擁有1000個電極，而我認為最終可能需要一個擁有10萬或100萬個電極的設(shè)備。這些電極極其微小，細如發(fā)絲，甚至比人的頭發(fā)更細。因此，從Neuralink的現(xiàn)狀到實現(xiàn)班克斯小說中的全腦接口，仍需漫長的時間和大量的努力。然而，在物理上，這完全是可行的。

戴曼迪斯：我們見證了你從Roadster到Model 3、Model Y，以及從Falcon 1到Starship的輝煌歷程。因此，我相信從首次植入到技術(shù)成熟，只是時間問題，而非可能性問題。

馬斯克：確實，隨著技術(shù)的不斷進步，我們有望在未來實現(xiàn)完整的腦機接口。我認為通過腦機接口上傳大腦狀態(tài)，并在某種程度上實現(xiàn)備份，或許可以視為某種形式的永生。如果大腦狀態(tài)能夠被存儲，那么理論上，我們可以隨時將其恢復(fù)到生物體或機器人等載體中。然而，我必須強調(diào)，這仍是一個遙遠的目標(biāo)，需要長時間的探索和努力。

但值得欣喜的是，我們并沒有違反任何物理定律，因此這一愿景在理論上是有可能實現(xiàn)的。當(dāng)然，這需要數(shù)字超級智能的協(xié)助，以解決諸多技術(shù)難題。但與此同時，我們也將繼續(xù)利用我們的“肉體計算機”，并盡可能做好我們的工作。

離多行星生活又近了一步

戴曼迪斯：我的朋友，終于迎來了你我首次在太空領(lǐng)域的對話。我首先要對你所打造的“星艦”表示由衷的祝賀，最近的飛行堪稱壯舉，令人嘆為觀止。我對你所從事的工作深表感激。你知道，我成長于阿波羅計劃的余暉之下，后進入航天飛機時代，但我從未想象過你能如此迅速且戲劇性地推動太空探索的進展。因此，我只能用“絕對精彩”來形容你所做的一切。

馬斯克：SpaceX的目標(biāo)遠大，希望有朝一日制造出能夠使生命多行星化的火箭和航天器。設(shè)定這樣的目標(biāo)，是邁向成功的第一步。如果沒有這樣的目標(biāo)，實現(xiàn)自然無從談起；但有了目標(biāo)，至少我們有了實現(xiàn)的可能。

“星艦”便是這樣的一個里程碑，它首次讓生命多行星化成為可能，至少在火星上建造自給自足的城市這一點上，它為我們開啟了新的可能。當(dāng)然，這仍需要大量的工作去實現(xiàn)，但“星艦”無疑已經(jīng)邁出了這關(guān)鍵的一步。

戴曼迪斯：我很好奇，你是否愿意預(yù)測一下，我們何時能夠借助“星艦”登上月球？

馬斯克：我認為這個時間應(yīng)該不會太遠。如果三年內(nèi)我們還未能實現(xiàn)登月，那我會感到非常驚訝。我們將使用“星艦”進行登月任務(wù)，因為它的進展速度非常迅速。我們計劃在今年至少再進行五到六次的飛行測試，每次飛行都將帶來重大的技術(shù)改進。因此，我非常有信心，我們能夠在不久的將來實現(xiàn)助推器和飛船的完全可重復(fù)使用。即使今年未能實現(xiàn)，我也相信明年實現(xiàn)的可能性極高。這將是實現(xiàn)生命多行星化所需的關(guān)鍵性突破。

對于那些對火箭技術(shù)不太了解的人來說，可能不知道完全且快速的可重復(fù)使用性對火箭技術(shù)的意義。這實際上是火箭行業(yè)的圣杯，因為一旦實現(xiàn)，火箭的發(fā)射成本將大幅降低，主要只受限于推進劑的成本。“星艦”的載荷中，近80%是液氧，這是一種成本極低的推進劑。而剩余的20%多一點是甲烷，同樣是一種成本相對較低的燃料。所以，當(dāng)“星艦”實現(xiàn)完全快速的可重復(fù)使用性時，其每次飛行的實際成本可能會非常低，即使它能夠?qū)?00噸載荷送入軌道。

更具體地說，如果“星艦”的大多數(shù)部件都能實現(xiàn)可重復(fù)使用，并且不需要繁瑣的翻修工作，那么它的維護將變得像飛機一樣簡單。當(dāng)完全可重復(fù)使用性成為現(xiàn)實，每次飛行之間將無需任何額外工作，成本將主要集中在推進劑上，每次飛行的成本可能不到100萬美元。然后就是飛行次數(shù)的問題了，飛行次數(shù)越多，平均每次飛行的成本就會越低，這將使“星艦”的性能遠遠超過其他任何運載工具。

文章來源：騰訊科技

馬斯克 AI

騰訊科技

原創(chuàng)欄目