看懂算力,除了數(shù)值還要看什么?

看懂算力,除了數(shù)值還要看什么?

摘要:正確認識和理解算力,除了數(shù)字,還要關注精度和實際場景。

今天,數(shù)字技術開始深入生產生活的每一環(huán)節(jié)。

然而要推動數(shù)字產業(yè)的高水平發(fā)展,首先要確保擁有處理巨量數(shù)據(jù)的能力。隨著數(shù)據(jù)被列入生產要素,算力已成為重要的生產力。根據(jù)IDC發(fā)布的《2020全球計算力指數(shù)評估報告》,一國的算力指數(shù)每提高1個百分點,數(shù)字經(jīng)濟和GDP將分別增長3.3‰和1.8‰。

數(shù)字經(jīng)濟對算力的需求日益增大,加之新基建的東風,作為算力基礎設施的數(shù)據(jù)中心、超算中心、智能計算中心也邁入加速發(fā)展階段。工信部數(shù)據(jù)顯示,截至2020年底,我國在用的數(shù)據(jù)中心機架超過400萬架,年均增速超30%。

算力"突飛猛進"的同時,市場認知卻嚴重滯后。大多數(shù)人仍然對算力相關的概念比較陌生——算力如何衡量?不同算力等級間有何區(qū)別?算力與應用場景如何匹配?

1.看算力水平,精度比數(shù)字重要

超級計算機被譽為"國之重器",代表國家算力的最高水準,也是一國科技實力的重要體現(xiàn)。理解超級計算機的峰值算力,首先需要知道算力的計量單位FLOPS(Floating-point operations per second)。

FLOPS表示每秒浮點的運算次數(shù)。具體使用時,F(xiàn)LOPS前面還會有一個字母常量,例如TFLOPS、PFLOPS。這個字母T、P代表次數(shù),T代表每秒一萬億次,P代表每秒一千萬億次。

除了運算次數(shù),衡量算力水平時還要看算力精度。例如,1000FLOPS的AI計算中心所提供的的算力,與1000FLOPS超級計算機提供的算力,雖然數(shù)值相同,但由于精度不同,實際算力水平也是天壤之別。

根據(jù)參與運算數(shù)據(jù)精度的不同,可把算力分為雙精度算力(64位,F(xiàn)P64)、單精度算力(32位,F(xiàn)P32)、半精度算力(16位,F(xiàn)P16)及整型算力(INT8、INT4)。數(shù)字位數(shù)越高,意味著精度越高,能夠支持的運算復雜程度就越高,適配的應用場景也就越廣。

超級計算機常被用于需要大量運算的工作,譬如天氣預報、運算化學、分子模型、天體物理模擬等,是為高精尖科學領域提供極致算力的服務。由于這類科學領域的計算對數(shù)據(jù)精度要求高,因此通常的超算系統(tǒng)以雙精度數(shù)值計算為主。

近年來,AI在國內獲得快速發(fā)展,為匹配AI訓練與推理的特殊需求,AI超算系統(tǒng)應運而生。不同于傳統(tǒng)超算,AI超算系統(tǒng)大多用于語音、圖片或視頻的處理,浮點計算下的低精度計算甚至整型計算即可滿足相應需求。

要確定不同精度算力的性能,需通過各自領域內的專用測試程序來測試。例如,用于測試超級計算機性能的Linpack測試專注于雙精度算力;用于智能計算機性能的Resnet-50則專注于半精度算力。

如果將參與運算的數(shù)據(jù)比作貨物,那么雙精度算力就可以看作重型卡車,低精度算力可以看作是小型貨車。重型卡車也可以承擔小型貨車的任務,但功耗過高,會造成浪費。而小型貨車由于自身性能限制,無法承擔重型卡車的任務。

同樣,超級計算機的雙精度算力即可以看作是重型卡車,是一種"通用算力",可以承擔各種計算任務;而單精度、低精度算力作為小型貨車,則是一種"專用算力",是專門為AI的訓練和推理設計,無法承擔超級計算機的計算任務。

"超級計算機設計的目標是為做更復雜的計算,所以即使只是做簡單的計算,它的功耗還是很高。"中國科學院計算技術研究所研究員張云泉此前曾對媒體表示,AI計算擅長于推理或訓練,但多數(shù)不具備高精度數(shù)值計算能力,這也限制其在 AI 計算之外的應用場景使用。

2.尋找"有效算力"

隨著數(shù)字化與千行百業(yè)的深度結合,每個行業(yè)、每個企業(yè)都面臨著選擇算力的問題。需要注意的是,僅關注理論層面的最高算力并無太大意義,落到實際應用場景里,還需要綜合考慮用戶應用、成本、算力兼容性等多方面因素,尋找效率更高且經(jīng)濟適用的有效算力。

在選擇芯片與算力時,首先需明確應用場景和優(yōu)先任務。在早期規(guī)劃階段,地方政府即需要重視區(qū)域內的優(yōu)勢產業(yè)、明確數(shù)據(jù)中心的應用目標。智算中心融合了AI技術與專用算力,在圖像分類、自然語言處理、循環(huán)翻譯等場景下較有優(yōu)勢;超算中心則作為尖端科技領域的強大戰(zhàn)力,服務于行星模擬、分子藥物設計、基因分析等需要高精度數(shù)據(jù)處理的領域,應用領域更為廣闊。

在追求最佳算力時,成本也是關注重點。一方面,算力基礎設施的建設成本極高,在前期規(guī)劃時,需要關注市場邏輯,重視經(jīng)濟可行性。粵港澳大灣區(qū)曾出現(xiàn)過同一地區(qū)的兩個智能計算中心,同精度算力單價相差近4倍的情況。為避免出現(xiàn)"高價高數(shù)值,低能低性價比"的情況,引入算力中心時應重考察算力單價,關注算力的實際效益。

此外,加強算力基礎設施的頂層設計和總體規(guī)劃,倡導開放、多元、兼容的新型算力基礎設施,能使基礎設施的利用率大幅提升。底層基礎設施搭建開放性架構,不僅能夠提供多種算力、提升基礎設施的易用度和適用度,還能夠支撐更加豐富的應用場景,同時賦能社會治理和產業(yè)應用。

(免責聲明:本網(wǎng)站內容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性,但不保證有關資料的準確性及可靠性,讀者在使用前請進一步核實,并對任何自主決定的行為負責。本網(wǎng)站對有關資料所引致的錯誤、不確或遺漏,概不負任何法律責任。
任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內容可能涉嫌侵犯其知識產權或存在不實內容時,應及時向本網(wǎng)站提出書面權利通知或不實情況說明,并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網(wǎng)站在收到上述法律文件后,將會依法盡快聯(lián)系相關文章源頭核實,溝通刪除相關內容或斷開相關鏈接。 )