太平洋科技要聞

AI和人類，誰統(tǒng)治誰？

吳思奇、高海晏編輯：趙甜怡發(fā)布于：2024-06-20 18:03 PConline原創(chuàng)

今天，OpenAI聯(lián)合創(chuàng)始人兼前首席科學(xué)家Ilya創(chuàng)立了屬于自己的AI公司，并且命名為Safe Superintelligence（安全的超級(jí)智能）。作為在硅谷享有聲望的技術(shù)倫理家，大家都在猜測(cè)他究竟在OpenAI看到了什么，而llya面對(duì)AI安全問題給出了自己的答案。

然而關(guān)于AI安全問題的爭(zhēng)論卻遲遲沒有結(jié)果，各家觀點(diǎn)的沖突加劇。就在前幾天剛剛從熱搜560億薪酬退下來的馬斯克（Elon Musk），因?yàn)榭床粦T科技公司放任AI過速發(fā)展，轉(zhuǎn)發(fā)了人工智能開山祖師杰弗里·辛頓（Geoffrey Hinton）的采訪，從而又引起了一輪罵戰(zhàn)。

這次跟他對(duì)線的并不是普通人，正是圖靈獎(jiǎng)獲得者，Meta首席人工智能工程師楊立昆（Yann LeCun）。二者的沖突源遠(yuǎn)其實(shí)流長(zhǎng)，而本次的爭(zhēng)執(zhí)點(diǎn)簡(jiǎn)單來說就是關(guān)于AI會(huì)不會(huì)在未來統(tǒng)治人類的問題。

AI和人類，誰統(tǒng)治誰？

在馬斯克轉(zhuǎn)發(fā)的采訪中，Hinton表達(dá)了對(duì)于人工智能可能會(huì)“取代”人類的擔(dān)憂，并且他生動(dòng)地將AI與人類的關(guān)系比作媽媽和孩子，“ 孩子總會(huì)長(zhǎng)大，智力上會(huì)超越母親，從而取代母親”。

要知道馬斯克在AI安全問題上一直屬于“保守派”，而Hinton的觀點(diǎn)也正中了馬斯克的下懷。這次轉(zhuǎn)發(fā)，就是想要用開山鼻祖的話來肯定自己的觀點(diǎn)，并且呼吁人們要謹(jǐn)慎對(duì)待AI。這一舉動(dòng)也引起了楊立昆的注意，并針鋒相對(duì)地給出了他的解釋。

LeCun的觀點(diǎn)一句話概括就是，智力水平與統(tǒng)治能力并不一定需要?jiǎng)澋忍?hào)，就像愛因斯坦也不一定要當(dāng)總統(tǒng)。

至此，兩者的辯論就到此為止了。但是在此之前，馬斯克與楊立昆以及整個(gè)AI界中關(guān)于AI是否應(yīng)該得到自由發(fā)展的問題有過不小的爭(zhēng)論。

其中最熱門的一場(chǎng)戰(zhàn)役當(dāng)屬上一次這兩位大佬之間的對(duì)罵。

在馬斯克公開招募xAI的工作人員時(shí)，楊立昆“掐準(zhǔn)時(shí)機(jī)”潑上冷水。

xAI是馬斯克旗下的生成式人工智能公司，然而馬斯克本人對(duì)于人工智能行業(yè)卻一直留有疑心，認(rèn)為過度發(fā)展的AI會(huì)對(duì)人類的未來產(chǎn)生威脅。

楊立昆則是將馬斯克視為是“陰謀論”主義者，并且在推特上嘲諷道，加入他的xAI要忍受馬斯克的AI洗腦學(xué)，并且要永世背負(fù)“殺死人類”的罵名。

這段嘲諷直接引爆了馬斯克，兩人開始針對(duì)對(duì)方的職業(yè)、成就和方方面面開始“互損”，數(shù)千條評(píng)論，直接把當(dāng)日的X使用率提升了一個(gè)檔次。

一場(chǎng)延續(xù)了九年的爭(zhēng)論

其實(shí)兩位大佬爭(zhēng)論的本質(zhì)，還是在AI安全/威脅問題上的觀念不合。而這場(chǎng)“不合”不僅僅是橫亙?cè)隈R斯克和楊立昆之間，甚至最早可以追溯到2015年的硅谷格局。

當(dāng)年，在馬斯克的44歲生日派對(duì)上，這場(chǎng)“不合”成了馬斯克與他的10年老友，也是時(shí)任谷歌CEO的拉里·佩奇（Larry Page）決裂的主要原因，同時(shí)也為現(xiàn)在全球AI格局的分布埋下了伏筆。

在這次討論中，佩奇興致勃勃地描述著關(guān)于“數(shù)字烏托邦”的愿景。在他的設(shè)想中，人類會(huì)與AI或者機(jī)器相融合。并且AI超過人類也很正常，這是機(jī)器進(jìn)化的下一階段。

而馬斯克無法忍受，“這樣我們就完了，機(jī)器將毀滅人類！”

佩奇依然保持著他對(duì)于數(shù)字烏托邦的追求，他諷刺馬斯克是“物種主義者”，只想保留作為哺乳動(dòng)物形態(tài)的人類，而不去理解數(shù)字形式的人類新形態(tài)。

“這句侮辱是壓死駱駝的最后一根稻草”，馬斯克在回憶中表示。

在此次爭(zhēng)吵之后，佩奇和馬斯克不再往來，在各自選擇的道路上高歌猛進(jìn)。

馬斯克投資了許多AI公司，包括DeepMind、OpenAI等，他期盼著通過投資的辦法將AI技術(shù)控制在自己手里，并且讓他們承諾保護(hù)世界免受佩奇那種愿景的影響。

而佩奇領(lǐng)導(dǎo)著谷歌掌控了DeepMind，將馬斯克踢出戰(zhàn)局，他們創(chuàng)造出來的AlphaGo機(jī)器人擊敗了世界上最好的圍棋手之一，比研究人員預(yù)計(jì)的時(shí)間早了10年。谷歌一時(shí)間成為AI界的領(lǐng)頭羊。

兩派對(duì)抗，AI安全是不是偽命題？

在九年之后，關(guān)于AI安全/威脅的爭(zhēng)吵依然存在，甚至拓展到了更大范圍。

硅谷里的AI公司創(chuàng)始人、生成式AI用戶、學(xué)者、立法者和監(jiān)管者等等，都加入了這場(chǎng)爭(zhēng)論。每個(gè)人都十分關(guān)心這項(xiàng)可能顛覆人類社會(huì)的技術(shù)到底是否應(yīng)該被嚴(yán)加控制，還是為時(shí)尚早，先自由發(fā)展？

以馬斯克為首的控制發(fā)展派認(rèn)為應(yīng)該嚴(yán)格控制AI，以免在過度發(fā)展之后造成不可挽回的局面。

馬斯克一直視AI為人類的最大威脅，他認(rèn)為AI是“人類召喚出的惡魔”。他運(yùn)用各種投資手段，試圖把AI技術(shù)牢牢地控制在自己可以控制的范圍內(nèi)。

在去年三月份，他聯(lián)合3萬多名科學(xué)家和AI企業(yè)家簽署了暫停人工智能發(fā)展6個(gè)月的公開信。

除此之外，前OpenAI超級(jí)對(duì)齊團(tuán)隊(duì)中的伊利亞·蘇茨克韋爾 (Ilya Sutskever) 和簡(jiǎn)·雷克（Jan Leike）都在離職時(shí)表示了對(duì)于OpenAI過度商業(yè)化并忽視AI安全的不滿。公司放任AI過速發(fā)展讓他們感到不安，從而離職，并且各自創(chuàng)建或是加入了新的AI科技公司。

在這家掌握AI核心技術(shù)的明星公司里，不止這兩位科學(xué)家感到不安。上周，13位OpenAI和谷歌Gemini的員工簽署聯(lián)名信，表達(dá)了對(duì)AI潛在風(fēng)險(xiǎn)的擔(dān)憂，并且呼吁AI有關(guān)公司要用更透明和更負(fù)責(zé)任的行為準(zhǔn)則來應(yīng)對(duì)這些風(fēng)險(xiǎn)。

而硅谷的另一派卻認(rèn)為這些人是在“杞人憂天”。

以楊立昆為首的自由發(fā)展派將AI技術(shù)看成是“未出世的嬰孩”，應(yīng)該用更開放自由的態(tài)度去看待它。而過度的擔(dān)心反而會(huì)阻礙AI的安全落地，因?yàn)榧夹g(shù)的安全是靠發(fā)展的迭代，而不是一味地限制。

楊立昆還認(rèn)為，AI其實(shí)還在發(fā)展的初期，反對(duì)派的發(fā)聲大多數(shù)只是為了尋求關(guān)注，對(duì)真實(shí)的AI發(fā)展?fàn)顩r一無所知。在反對(duì)派簽署聯(lián)合聲明時(shí)，他簽署了一封致美國(guó)總統(tǒng)拜登的公開信，呼吁人們擁抱開源AI，并宣稱AI“不應(yīng)該被少數(shù)幾家實(shí)體企業(yè)控制”。

除了楊立昆，英偉達(dá)首席執(zhí)行官黃仁勛也是自由發(fā)展派的一員。他則是深耕AI的供應(yīng)鏈，立下了宏偉的目標(biāo)“讓算力提升1000倍”。英偉達(dá)研發(fā)AI芯片成為AI公司必爭(zhēng)的資源之一。

面對(duì)采訪時(shí)，黃仁勛自信地表達(dá)“所有的企業(yè)都應(yīng)該擁抱并利用AI技術(shù)，不然就會(huì)落后于技術(shù)發(fā)展的步伐�！辈⑶以谒摹皳肀I”戰(zhàn)略指導(dǎo)下，英偉達(dá)成功地沖上了世界公司市值排行榜的榜首（數(shù)據(jù)截止到發(fā)稿前），成為了睥睨眾生的AI屆霸主。