更高性能與更低能耗，是算力這枚“硬幣”的一體兩面，還是ChatGPT大模型帶火算力產(chǎn)業(yè)后，我國面臨的挑戰(zhàn)？
“這兩個其實互為因果，是我們國家發(fā)展算力遭遇的最大挑戰(zhàn)。”中國科學(xué)院院士、北京航空航天大學(xué)教授錢德沛告訴新京報新京智庫。在美國等發(fā)達國家對我國高科技產(chǎn)業(yè)實施封鎖的國際背景之下，我們只有在這兩個方面都突出重圍，才能走出一條中國的高性能、低能耗的計算之路。
好消息是，已經(jīng)有企業(yè)勇挑重?fù)?dān)了。
8月15日，科大訊飛發(fā)布了訊飛星火認(rèn)知大模型V2.0版本。科大訊飛董事長劉慶峰在發(fā)布會上介紹，“科大訊飛正在與華為打造面向超大規(guī)模參數(shù)大模型訓(xùn)練的國產(chǎn)算力集群，對標(biāo)英偉達的A100芯片?！?/p>
根據(jù)MLPerf組織發(fā)布的一項推理基準(zhǔn)測試結(jié)果顯示，英偉達A100 Tensor Core GPU在云端推理的基準(zhǔn)測試性能是英特爾最先進CPU的237倍。MLPerf是一個由圖靈獎得主大衛(wèi)·帕特森聯(lián)合谷歌、斯坦福大學(xué)和哈佛大學(xué)等機構(gòu)發(fā)起成立的具有國際權(quán)威的AI性能基準(zhǔn)測試組織。
英偉達官方數(shù)據(jù)顯示，在相同的性能水平下，GPU加速系統(tǒng)每月的能耗比僅使用CPU的系統(tǒng)少消耗588兆瓦時的能源。與僅使用CPU的系統(tǒng)相比，在四路NVIDIA A100云實例上運行相同的工作負(fù)載一個月，科研人員可以節(jié)省400多萬美元。
那么，我國算力當(dāng)前處于什么水平，能否滿足不同城市的算力需求？算力建設(shè)是否真如輿論所說一定能帶動經(jīng)濟發(fā)展？新京智庫就此采訪了錢德沛院士，他回應(yīng)了當(dāng)下關(guān)于算力建設(shè)的一些熱點問題。
錢德沛長期擔(dān)任我國高性能計算方向國家重大項目總體組組長，主持制定了戰(zhàn)略目標(biāo)和實施方案，確立了高性能計算機的體系結(jié)構(gòu)和技術(shù)方案，實現(xiàn)了高性能計算機的跨越發(fā)展。
我國算力邁上了第四個臺階
新京智庫：目前，我國算力水平位居全球第二，從弱到強，這個過程經(jīng)歷了幾個階段？每個新階段開始的標(biāo)志性事件是什么？
錢德沛：算力主要是隨應(yīng)用需求而發(fā)展，在我國高性能計算得到了國家科技計劃的長期支持，所以實現(xiàn)了從跟蹤到并跑，甚至交替領(lǐng)先的發(fā)展過程。
如果從計算機的性能來劃分，過去30年有4個臺階，每個臺階性能提高1000倍，即從G級到T級，再到P級，再到E級。相對應(yīng)的典型計算機系統(tǒng)是，早期的曙光1000，上世紀(jì)末的曙光3000。從本世紀(jì)開始，我國陸續(xù)發(fā)展了幾代超級計算機，比如聯(lián)想深騰6800和曙光4000A，天河一號、曙光6000和神威·藍光，神威·太湖之光和天河二號等，接著是E級計算機。
最近這幾年，新一代人工智能的發(fā)展對算力需求急劇提升，特別是最近一年來，大模型訓(xùn)練引來了社會各界越來越多的關(guān)注。在這一階段，一批智算中心成立，它主要是以針對人工智能應(yīng)用為目標(biāo)而建立的算力中心。
新京智庫：2021年5月，國家發(fā)改委、工信部、中央網(wǎng)信辦和國家能源局聯(lián)合印發(fā)的關(guān)于建設(shè)“東數(shù)西算”工程的政策是否算一個標(biāo)志？
錢德沛：“東數(shù)西算”工程不應(yīng)算作是算力發(fā)展到一個新階段的標(biāo)志?！皷|數(shù)西算”工程是一個國家戰(zhàn)略，實際上是在“雙碳”背景下提出來的，其目的是要解決國家能源分布不均、算力和應(yīng)用分布不均、經(jīng)濟發(fā)展不均的問題。因此，“東數(shù)西算”工程不僅是要解決算力發(fā)展的問題，而且是作為國家新基建的一部分。
更高性能和更低能耗是一個挑戰(zhàn)
新京智庫：從國家層面來看，目前國家規(guī)劃了“東數(shù)西算”工程，這種一體化的新型算力網(wǎng)絡(luò)體系可以解決哪些問題？又面臨哪些挑戰(zhàn)？
錢德沛：國家規(guī)劃“東數(shù)西算”工程的目的是建設(shè)一種新的算力網(wǎng)絡(luò)體系，但它的出發(fā)點實際上也是出于要解決“雙碳”指標(biāo)已經(jīng)確定的背景下，碳達峰、碳中和目標(biāo)能否如期實現(xiàn)的問題。IT系統(tǒng)的能耗已經(jīng)相當(dāng)高了，而且在不斷快速攀升。
在這種情況下，東部能源已經(jīng)緊張，比如國家超算深圳中心，原本規(guī)劃安裝E級計算機，因為能耗將從幾兆瓦一下提高到80兆瓦，最后就放棄了計劃。所以說，“東數(shù)西算”工程是一個長久的國家戰(zhàn)略，是為了解決一些現(xiàn)實問題的措施。
至于說“東數(shù)西算”工程所面臨的挑戰(zhàn)，就是要盡量避免其負(fù)面效應(yīng)的發(fā)生。比如，在西部建成算力中心后面臨負(fù)載不足，即任務(wù)不飽滿。任何事情都有其兩面性，如果說將來在西部建的算力中心沒有足夠的應(yīng)用，造成空閑就是一種浪費，而且西部的網(wǎng)絡(luò)基礎(chǔ)、人才條件和應(yīng)用需求可能都是不那么充足。我們最不希望出現(xiàn)的就是用了西部的能源電力，但某種程度上破壞了西部的環(huán)境，還沒有促進西部的經(jīng)濟發(fā)展。
新京智庫：那你覺得我國算力發(fā)展面臨最大的挑戰(zhàn)是什么？是缺少更高計算能力的芯片，還是能耗更高與減碳之間的矛盾？
錢德沛：我覺得這兩個是交織在一起的挑戰(zhàn)，這兩個挑戰(zhàn)互為因果。我們衡量一臺計算機好不好，是看其計算速度快不快、是否節(jié)能、是否好用。我們需要計算性能更高，同時又能耗更低的計算機，因為美國的封鎖，使得我們無法購買到高端芯片，就是高性能低能耗的芯片，比如NVIDIA 的 H100。它最近又發(fā)布了GH200。
我們自己能造計算機，但如果沒有高端的芯片，就會導(dǎo)致能耗更高。能耗的指標(biāo)就約束了怎么造計算機，你不能隨心所欲，靠多裝一些處理器來提高計算機的性能，那不行，因為處理器太多能耗太高，就會超出用戶的承受能力。因此沒有高端處理器，整個計算系統(tǒng)能耗就降不下來。
所以，更高性能與更低能耗實際上是我們面臨的同一個挑戰(zhàn)。我們要在這兩方面都有突破，才能走出一條中國的高性能、低能耗的計算之路。
“距離”不是“東數(shù)西算”的挑戰(zhàn)
新京智庫：現(xiàn)在也有一種觀點擔(dān)憂，即京津冀、粵港澳和長三角三大算力樞紐和用戶端離得比較近，而甘肅、寧夏、內(nèi)蒙古和貴州四個樞紐離用戶端比較遠(yuǎn)，對于一些實時性要求比較高的場景應(yīng)用是否就難以滿足？
錢德沛：其實計算應(yīng)用是分不同類型的，有實時性高的，也有實時性不那么高的，而且大部分?jǐn)?shù)值模擬的應(yīng)用實時性都不那么高。比如說一個工程師提出了一個新的設(shè)計方案，需要通過仿真驗證設(shè)計好不好，他下班時提交任務(wù)，第二天一早上班能拿到結(jié)果，那就很好。
我覺得一些人有一種認(rèn)知誤區(qū)，好像一定要機器在桌邊或在單位才好，才能夠隨時使用。其實不是這樣，很多應(yīng)用并不是都要那么高的實時性。特別是高性能數(shù)值模擬計算，它經(jīng)常是批處理作業(yè)，并不需要交互式的實時性。但有些人覺得好像機器不在他的控制之下，就不方便。我覺得這是一種錯覺。
其實，真正阻礙我們遠(yuǎn)程使用計算的因素是技術(shù)，比如網(wǎng)絡(luò)的性能。如果網(wǎng)絡(luò)傳輸速率不高，那么大量的原始數(shù)據(jù)和結(jié)果數(shù)據(jù)的傳輸就會比較慢，多數(shù)人對于這種傳輸?shù)难訒r比較缺乏忍耐力。這可能會是一個制約遠(yuǎn)程使用算力中心的因素。
另外就是服務(wù)水平，但這個問題在目前情況下并不突出，因為目前西部的算力中心多是用戶端機構(gòu)本身所設(shè)立的，比如中國電信、中國移動、阿里巴巴和京東等在西部設(shè)立算力中心。這些都是在它們自己控制范圍之內(nèi)，并不存在因為服務(wù)水平高低而影響用戶使用的問題。
不過，從長遠(yuǎn)來看，算力中心應(yīng)該逐漸從提供原始算力到提供應(yīng)用解決方案過渡，在那時可能應(yīng)用的服務(wù)水平會更加顯現(xiàn)出它的作用。
新京智庫：像自動駕駛這種要求實時性非常高的，是否就不適合使用遠(yuǎn)距離的算力中心？
錢德沛：自動駕駛是另外一類應(yīng)用。實際上，美國在1980年代就開展過相隔數(shù)千英里用光纖來控制汽車的自動駕駛的試驗。
這是一種技術(shù)上的展示，但是我不相信會有哪一個運營商將來會依賴于遠(yuǎn)程算力來控制自動駕駛車輛。從經(jīng)濟模式和技術(shù)可行性上來說，它都不現(xiàn)實。除非把網(wǎng)絡(luò)的時延降低到了非常非常低的程度，使得遠(yuǎn)程和近地沒有區(qū)別。
新京智庫：從不同城市來說，目前我國的算力資源分布是否可以很好地滿足所在城市或附近城市的需求？
錢德沛：如果真正形成了網(wǎng)絡(luò)，超算的網(wǎng)絡(luò)或智算的網(wǎng)絡(luò)，是不是全國一張網(wǎng)都無所謂，算力的地理分布應(yīng)該不是關(guān)鍵因素，除非傳輸網(wǎng)絡(luò)太差。只要應(yīng)用系統(tǒng)跟得上，肯定是可以滿足非算力中心附近城市的算力需求。
比如，國家超算無錫中心下一步升級的機器就將放到青海西寧，讓他們?nèi)ス芾恚驗槟沁呺妰r便宜。所以機器在哪里或者靠不靠近一個城市關(guān)系都不大。
影響大的是，你的應(yīng)用系統(tǒng)能不能被計算系統(tǒng)所支持，有沒有相應(yīng)的應(yīng)用軟件支持。如果沒有相應(yīng)軟件支持，機器放家門口也沒用；如果有軟件支持，哪怕機器部署在西部也照樣可以使用。
另外就是怎么運行算力中心，從經(jīng)濟上來講要看收費合理不合理，或者用戶有沒有得到真正的收益。如果算力中心聯(lián)網(wǎng)以后，用戶使用的成本降低了，用戶為何不用？
但是，如果算力中心收費不合理，或者急于收回成本定價過高，那用戶就會選擇不用你的資源。如果一個算力中心沒有足夠應(yīng)用，那最終就會經(jīng)營不下去。
算力的投入并不一定帶來GDP回報
新京智庫：關(guān)于算力的作用有很多說法，比如對算力的投入能拉動GDP增長。你認(rèn)為算力對我國經(jīng)濟、科技發(fā)展有何影響？
錢德沛：算力是創(chuàng)新型國家建設(shè)的一個基礎(chǔ)，而且是一種支撐性技術(shù)，這一點已經(jīng)逐漸形成共識，但在二三十年前并不是這樣認(rèn)為。今天已經(jīng)有越來越多人認(rèn)識到了算力的重要性，特別是最近這幾年。
但具體說算力到底能帶來多少GDP，很難說。計算的作用完全取決于你是否用計算完成了你的應(yīng)用，不是說投入了就一定有產(chǎn)出。所以，我從來不愿意引用一些機構(gòu)測算的算力帶來GDP回報的數(shù)據(jù)，我個人一直懷疑這些數(shù)據(jù)的科學(xué)性，不太主張這種提法。
新京智庫：10多年前，新組建的工信部提出“兩化融合”，即工業(yè)化和信息化融合。也是有利于傳統(tǒng)產(chǎn)業(yè)的轉(zhuǎn)型升級。這兩者有何區(qū)別？
錢德沛：信息化是一個宏觀的、籠統(tǒng)的體現(xiàn)，最近這兩年更多提數(shù)字化。過去所說的傳統(tǒng)產(chǎn)業(yè)要信息化，往往是說企業(yè)的經(jīng)營管理要信息化，企業(yè)各類信息要錄入計算機來實現(xiàn)管理。雖然把紙質(zhì)化的數(shù)據(jù)錄入電腦后也需要計算，但不是那么強大的計算需求?，F(xiàn)在企業(yè)要想提高競爭力，需要依賴于高性能計算的數(shù)值模擬和設(shè)計優(yōu)化技術(shù)。計算的作用可能要超出傳統(tǒng)的信息化。
比如汽車、高鐵的車型都是計算機在算，而不是制造出一個個原型來測試評估。也就是說，用了計算以后，大量產(chǎn)品的設(shè)計優(yōu)化、性能改進不需要再在物理世界進行，在虛擬的數(shù)字空間里完成即可。從這個意義上講，計算對于企業(yè)的轉(zhuǎn)型，即從勞動密集型或能源依賴型向更高附加值的產(chǎn)品，更高市場競爭力的方向轉(zhuǎn)換有非常大的作用。
算力中心需實施靈活的收費機制
新京智庫：你剛才也提到了算力中心的收費問題，現(xiàn)在有一種聲音認(rèn)為我們的算力中心收費過高，尤其是對于一些高?？蒲泄ぷ髡邅碚f。
錢德沛：收費的問題是我國特有的一個現(xiàn)象。在很多發(fā)達國家，由國家所建立的算力中心基本上是免費的，當(dāng)然也不是說真正不要錢，要不然這些中心怎么維持下去。他們是設(shè)立了相應(yīng)的計算基金，如果高校、科研機構(gòu)有算力應(yīng)用需求，那就提出申請，由相關(guān)機構(gòu)評審：你這個算力應(yīng)用值得支持，就通過你的申請。
我們國家的很多算力中心是科技部主導(dǎo)建設(shè)的，但科技部沒有運營費用，即便有經(jīng)費也不能用于算力中心的運營。那么這些算力中心誰來運營，運營經(jīng)費從哪來？有些城市經(jīng)濟條件好，像上海市人民政府就專門撥出一些經(jīng)費給超算中心，經(jīng)濟比較差的地方怎么辦？
所以，算力中心很大的壓力是如何籌錢保證其能夠正常運營，而運營經(jīng)費很大一部分是電費。據(jù)我所知，目前的超算中心收費已經(jīng)是盡可能地低，實際上還覆蓋不了它們的電費，但是對于一個科研人員或者其他用戶來說，他們往往會覺得收費比較高。所以，算力中心收費高這種說法是相對的。
另外，我認(rèn)為算力中心也可以實施靈活的收費機制，比如躉交，就每年交一筆固定費用，然后你想怎么用都行。再如，不同時段采取不同的收費費率?？傊Ｍ梢远嗲澜鉀Q，一方面國家要設(shè)立一些相關(guān)的基金，幫助我們好不容易建起來的算力中心能夠正常運行下去。另外，也要吸引其他商業(yè)資本加入進來一起運營，這樣可以降低用戶所支付的費用；完全不收費也不現(xiàn)實，在目前的狀態(tài)下也會滋生新問題，比如就有人用我們的算力資源去“挖礦”。
“中國算力網(wǎng)”目前還不存在
新京智庫：目前我國有哪些算力中心已經(jīng)接入中國算力網(wǎng)？這對各城市對算力的需求而言，會有怎樣的作用？
錢德沛：“中國算力網(wǎng)”目前還不存在，盡管有很多宣傳，但現(xiàn)在還沒有真正意義上的“中國算力網(wǎng)”。要作為一個基礎(chǔ)設(shè)施說“中國算力網(wǎng)”，那誰是業(yè)主，誰在運營？還沒有。
但是局部的、某個領(lǐng)域的、或者超算中心的“網(wǎng)”是存在的。經(jīng)過20多年發(fā)展，超算中心已經(jīng)聯(lián)成網(wǎng)絡(luò)，現(xiàn)在又計劃發(fā)展新一代的超算互聯(lián)網(wǎng)，這是存在的，已經(jīng)聯(lián)成網(wǎng)。新的部分智算中心也已經(jīng)聯(lián)網(wǎng)，它的業(yè)務(wù)形態(tài)正處于形成過程中。
至于將來是否能夠建成中國算力一張網(wǎng)，我有點持懷疑態(tài)度。計算和電力有點不一樣，電力不連接起來，就只能供本地使用?，F(xiàn)在我們有國家電網(wǎng)、南方電網(wǎng)兩大電力運營商。但是，到目前為止，算力還沒有一個業(yè)主或運營商在運營“中國算力網(wǎng)”。
計算，從本質(zhì)上來說，一開始就是離散的、分布式的。因為計算機就是一臺一臺分布在不同地方，后來有了網(wǎng)絡(luò)，才把計算機連接在了一起，才有了資源共享、統(tǒng)一調(diào)度，最后形成一個基礎(chǔ)設(shè)施形態(tài)。
而且，有的算力資源是國家投入建設(shè)的，有的是企業(yè)投入建設(shè)的，不同算力中心的所有權(quán)、所有制也不一樣，你怎么把它們統(tǒng)一起來并入到一張“網(wǎng)”里？
就像云計算，每家大企業(yè)都有自己的云計算平臺，阿里、京東、百度、騰訊等都經(jīng)營自己的云平臺，它們可以發(fā)展不同云之間的互聯(lián)，可以變成一種聯(lián)合體，但是很難想象要京東的資源交給阿里去運管，這在商業(yè)模式上不可能實現(xiàn)。
過去這些年，我們一直在做一件事情，就是要把關(guān)系國計民生、關(guān)乎國家創(chuàng)新發(fā)展、由國家主要投入的高端算力聯(lián)成一張“網(wǎng)”，作為一個基礎(chǔ)設(shè)施來運行，支撐科研發(fā)展。其他大量的算力可能還是要放開、競爭，國家予以政策指導(dǎo)。
用戶評論