7月7日 劉慈欣認(rèn)為AI能夠從某種意義上消滅人類(lèi)，我有點(diǎn)不同意見(jiàn)

【王煜全 要聞評(píng)論】粉絲群已經(jīng)開(kāi)通


歡迎加入前哨粉絲群，在這里你可以和科技投資人、創(chuàng)業(yè)者、各行業(yè)專業(yè)人士互動(dòng)溝通，分享心得體會(huì)，也可以第一時(shí)間了解到前哨相關(guān)活動(dòng)動(dòng)態(tài)，結(jié)交志同道合的小伙伴。


入群方式：
微信掃碼下方二維碼即可入群

如果您想洽談合作，請(qǐng)?zhí)砑觿?chuàng)新地圖的微信：innovationmap ，并附上簡(jiǎn)介。

你好，我是王煜全，這里是王煜全要聞評(píng)論。

自從GPT 3.5表現(xiàn)出超越預(yù)期的能力以來(lái)，警告AI有毀滅人類(lèi)的威脅的人越來(lái)越多，其中不乏AI領(lǐng)域的專家學(xué)者與權(quán)威人士。

前段時(shí)間，劉慈欣發(fā)表了一個(gè)主題為《科幻文學(xué)中的可持續(xù)未來(lái)》的演講，以科幻視角解讀了人類(lèi)未來(lái)，有人提問(wèn)說(shuō)：“自我迭代的人工智能有沒(méi)有可能會(huì)取代或者消滅人類(lèi)？”

劉慈欣說(shuō)，人工智能是否會(huì)消滅人類(lèi)，應(yīng)該分兩個(gè)層次來(lái)回答。

第一個(gè)層次就是字面意義上的消滅，即人工智能完全消滅人類(lèi)或是統(tǒng)治世界。雖然人工智能經(jīng)過(guò)迭代，有可能提高到人類(lèi)智能的幾百倍甚至上萬(wàn)倍，但人類(lèi)的計(jì)算能力有限，也就難以支持其不斷迭代，意思就是說(shuō)，人類(lèi)的算力瓶頸會(huì)制約人工智能的發(fā)展。

所以，他認(rèn)為人類(lèi)的無(wú)能反而會(huì)成為我們的最后一個(gè)屏障。

另一種消滅可能會(huì)更“符合”我們的意愿，因?yàn)槿斯ぶ悄芸赡軙?huì)帶來(lái)一個(gè)非常舒適的社會(huì)環(huán)境，讓大多數(shù)人不再需要工作，大部分的任務(wù)都由AI完成，但也可能導(dǎo)致人類(lèi)陷入前所未有的陷阱。

在科技安樂(lè)窩里面，人類(lèi)文明將逐漸失去活力與開(kāi)拓精神，最后的命運(yùn)就是被人工智能所消滅，而這種消滅比字面意義上的消滅所需要的算力低得多，所以應(yīng)該引起警覺(jué)。

劉慈欣從科幻視角做出的判斷，更像一種寓言，是為了警示世人，不要因?yàn)榧夹g(shù)進(jìn)步就安于享樂(lè)，需要提前規(guī)避一些潛在風(fēng)險(xiǎn)，這是一種有益的倡導(dǎo)。

但是，如果從技術(shù)和產(chǎn)業(yè)視角理性地看，以上兩個(gè)觀點(diǎn)都有所偏頗。

第一個(gè)觀點(diǎn)忽視了技術(shù)迭代的巨大潛力，未來(lái)無(wú)論在算力還是算法上，都有技術(shù)迭代的足夠空間。劉慈欣在《三體》中就低估了計(jì)算機(jī)技術(shù)的發(fā)展速度，現(xiàn)在看，所謂“我們的最后一個(gè)屏障”，是又一次低估了技術(shù)的發(fā)展?jié)摿Α?/span>

在算力方面，英偉達(dá)CEO黃仁勛曾提出，CPU性能增長(zhǎng)緩慢，但GPU性能每10年增長(zhǎng)1000倍，并且，除GPU之外，未來(lái)仍然可能出現(xiàn)其他效率更高的AI芯片。

在算法需求上，OpenAI發(fā)布的一項(xiàng)報(bào)告顯示，自2012年以來(lái)，將AI模型訓(xùn)練到ImageNet圖像分類(lèi)中相同性能所需的計(jì)算量每16個(gè)月減少2倍，共計(jì)減少了44倍，相比之下，摩爾定律在此期間所帶來(lái)的成本改進(jìn)為11倍，也就是說(shuō)，算法進(jìn)步比傳統(tǒng)硬件改進(jìn)帶來(lái)了更多收益。

而且，基于AI算法的運(yùn)算架構(gòu)和邏輯，針對(duì)硬件做深層次優(yōu)化，還能夠進(jìn)一步提升計(jì)算效率。除此之外，人們也在探索新型計(jì)算架構(gòu)。

從更廣泛的角度，我們都知道芯片能力指數(shù)級(jí)增長(zhǎng)的摩爾定律，而提出了奇點(diǎn)理論的庫(kù)茲韋爾還有個(gè)著名的庫(kù)茲韋爾定律，認(rèn)為摩爾定律只是庫(kù)茲韋爾定律的子集，人類(lèi)的技術(shù)能力會(huì)長(zhǎng)期保持指數(shù)級(jí)增長(zhǎng)。

所以，未來(lái)的技術(shù)能力不可限量，說(shuō)人工智能未來(lái)會(huì)遇到算力瓶頸，制約了人工智能對(duì)人類(lèi)智能的碾壓，現(xiàn)在看起來(lái)可能性不大。

當(dāng)然，即使人工智能比人類(lèi)聰明成千上萬(wàn)倍，也不意味著末日到來(lái)。因?yàn)槲覀兛謶值母词?，大家認(rèn)為智力才是人類(lèi)的立身之本和在自然界中最大的競(jìng)爭(zhēng)優(yōu)勢(shì)，如果人類(lèi)單體智能水平被超越，那么我們就毫無(wú)優(yōu)勢(shì)可言。

但實(shí)際上人類(lèi)之所以生存繁衍到現(xiàn)在，并不是完全依靠單體智力水平，群體進(jìn)化才真正塑造了我們，也就是說(shuō)，人類(lèi)的優(yōu)勢(shì)不是靠任何一位神人，而是有儲(chǔ)存大量人類(lèi)經(jīng)驗(yàn)的文化和深入?yún)f(xié)作的系統(tǒng)，保證了整體水平遠(yuǎn)遠(yuǎn)大于任何一個(gè)個(gè)體。

2022年，我在《人生的意義》課程中講過(guò)，我們?cè)?jīng)的近親尼安德特人比智人更強(qiáng)壯、腦容量更大，個(gè)體智力水平有可能更高，雖然他們滅絕的原因尚不明確，但學(xué)術(shù)界的普遍共識(shí)是，人類(lèi)單打獨(dú)斗不如尼安德特人，但人類(lèi)的社會(huì)化程度大大超越了他們，也就是說(shuō)，我們依靠的是群體的力量，是大范圍的復(fù)雜協(xié)作。

我對(duì)我們?nèi)祟?lèi)群體能力的簡(jiǎn)單表述是：雖然沒(méi)有一個(gè)人能夠掌握登月所需的所有知識(shí)，但我們靠人類(lèi)社會(huì)的知識(shí)積累和復(fù)雜協(xié)作，成功實(shí)現(xiàn)了登月。

其實(shí)，人工智能在單項(xiàng)技能上超越人類(lèi)已經(jīng)屢見(jiàn)不鮮，但人工智能仍然存在技術(shù)邊界，GPT4可以單獨(dú)完成各種人類(lèi)能力考試，卻不具備人類(lèi)社會(huì)的大范圍復(fù)雜協(xié)作能力。

從本質(zhì)上說(shuō)，人工智能是對(duì)人類(lèi)行為進(jìn)行模式化的抽象，再學(xué)習(xí)與復(fù)制，這就意味著人工智能之間需要共同的基礎(chǔ)模式才能夠協(xié)作，否則可能無(wú)法溝通，但能力專長(zhǎng)、思維方式、乃至文化習(xí)慣都不同的人類(lèi)依然可以廣泛協(xié)作。如此來(lái)看，人工智能之間協(xié)作的多樣化和復(fù)雜程度遠(yuǎn)不如人類(lèi)，我們也不必?fù)?dān)憂被整體淘汰。

這就涉及到第二個(gè)問(wèn)題，人們是否會(huì)沉浸在AI帶來(lái)的便利之中不思進(jìn)取。計(jì)算機(jī)時(shí)代的偉大開(kāi)創(chuàng)者之一Joseph Carl Robnett Licklider曾經(jīng)提出人機(jī)共生理論：技術(shù)一直在為人類(lèi)賦能，讓我們超越生物體的極限。車(chē)是腿的延伸，但人們依然會(huì)鍛煉身體，電話是耳朵的延伸，但人們依然需要跟身邊人互動(dòng)交流。

而人工智能是智力的延伸，不僅不會(huì)讓人類(lèi)懶惰，反倒有可能將人類(lèi)從簡(jiǎn)單而繁重的腦力勞動(dòng)中釋放出來(lái)，激發(fā)更多的創(chuàng)造力。其實(shí)創(chuàng)造力、尤其是成年后依然保持創(chuàng)造力和探索的欲望，才是人類(lèi)和其他動(dòng)物最大的區(qū)別。未來(lái)大家一定會(huì)理解，人工智能是人類(lèi)最好的幫手，因?yàn)樗鼤?huì)幫助人類(lèi)的真正優(yōu)勢(shì)最大程度地彰顯出來(lái)。

雖然，每個(gè)時(shí)代都有因新技術(shù)而躺平或者玩物喪志的人，但人類(lèi)大腦中有內(nèi)生的獎(jiǎng)勵(lì)創(chuàng)新、獎(jiǎng)勵(lì)探索、獎(jiǎng)勵(lì)克服困難的機(jī)制，擺脫了日常瑣碎工作的束縛，人類(lèi)不但不會(huì)不思進(jìn)取，反而會(huì)有認(rèn)識(shí)世界和改造世界的更大的熱情和沖動(dòng)。

也就是說(shuō)，確有小部分人會(huì)被替代，但AI并不會(huì)讓全人類(lèi)喪失進(jìn)取心，反倒會(huì)極大地激發(fā)人類(lèi)的創(chuàng)造力，拓展我們的能力邊界。

我們一直強(qiáng)調(diào)，在人工智能時(shí)代，淘汰你的不是AI而是善于利用AI的人。我們真正需要關(guān)注的，不是世界末日會(huì)不會(huì)到來(lái)，而是要學(xué)會(huì)利用AI工具為我們的思維插上翅膀，在百年一遇的新機(jī)會(huì)中展翅翱翔。

以上是今天的內(nèi)容，更多詳細(xì)的產(chǎn)業(yè)分析和底層邏輯，我會(huì)在科技特訓(xùn)營(yíng)里分享。歡迎關(guān)注全球風(fēng)口微信號(hào)，報(bào)名加入！

王煜全要聞評(píng)論，我們下周見(jiàn)！