超級電腦的速度如何計算?從超級電腦競爭白熱化看 TOP500 效能指標

超級電腦的速度如何計算?從超級電腦競爭白熱化看 TOP500 效能指標 今年 6 月,美國將新的超級電腦上線並經 TOP500 Organization 認證,確定美國的超級電腦 Summit 以 122PFlop/s 的優異效能奪回超級電腦界的世界第一。然而 TOP500 是什麼樣的組織?他們如何驗證超級電腦的計算效能?是於 1993 年成立的組織,期望統計世界 500 大超級電腦的發展狀況及效能,並於每年 6 月及 11 月發表統計結果。從 TOP500 公布的超級電腦效能發展圖可發現,超級電腦的效能發展相當穩定。值得一提的是,上表的 Flop/s 是指每秒可執行多少次浮點運算,可想成電腦在 1 秒內執行多少 1.1+2.2 這樣的小數加減乘除。前面的 M、G、T、P、E 表示有多少計算量,以美國的 122PFlop/s 為例,這代表該台電腦在 1 秒內可計算 122×10 的 15 次方,也就是 122,000 兆次浮點運算,相當驚人。其中,比較值得注意的是,現在的 GPU V100 計算卡,根據 Nvidia 宣稱的計算能力,大約等於 2000 年時排名第一的超級電腦,也就是說 2000 年需要超級電腦才能完成的問題,現在可輕易跑在 30 萬台幣的加速卡就能達成。科技的發展,替科學計算帶來相當多助益。TOP500 的 Benchmark──LINPACKTOP500 採用 LINPACK 這款軟體為效能評估的依據。此外,他們會判斷機器的通用性是否充足。如果該機器是 LINPACK 特化的超級電腦,該組織會把此機器從名單踢除,以確保超級電腦的發展不會被榜單影響。然而,LINPACK 到底是什麼軟體,為什麼要以 LINPACK 為 TOP500 的判斷依據?真的可充分表示該超級電腦的計算能力滿足計算科學的需求?LINPACK 這套軟體,主要是求解 Ax=b 經典線性代數的問題,採用的求解法是 LU factorization。之所以採用此方法是因為科學計算領域中,大多都是求解線性系統,使用此套軟體得以讓使用者大致了解該超級電腦的效能。但 LU factorization 是高斯消去法的變形,並非相當容易平行的方法。究竟如何在超級電腦運作?從 netlib.org 公布的資料可略知一二。首先,他們將矩陣 A 切割成數塊資料,如圖 2 一共用 6 種不同顏色標註資料區塊。一個顏色代表一台電腦分配到的工作量。如此將資料分配到不同電腦,讓每台電腦的計算量得以均衡。之後如圖 3,沿對角線一步步進行 LU factorization。詳細的演算法細節,可至 netlib.org 查看原始程式碼。驗證 Benchmark 不嚴謹?那就加入一個新的吧然而,大多數使用者會採用遞迴法而非 LU factorization。遞迴法的特性是極度依賴資料傳輸的頻寬,諸如記憶體傳輸的頻寬、不同結點間的傳輸頻寬等,導致以 LINPACK 為基準會有些許失真,無法完全反應一台超級電腦的總和評估。因此,HPCG,新的 benchmark 在 2013 被提出並於 2017 年正式加入評比,並發表在 TOP500,期望以 preconditioned conjucate gradient method(PCG)──和 LU factorization 一樣經典的線性系統求解法──讓使用者更精確了解現在超級電腦的效能如何。為什麼會提議以 HPCG 為新的驗證程式呢?這是因為 PCG 會進行 3 種基本矩陣計算,分別為 Sparse matrix-vector multiplication、Vector updates、Global dot products。這些矩陣計算會頻繁交換不同電腦間的資料,不單測量一台超級電腦的計算能力,還評估網路頻寬的好壞,提供更全面的參考依據。此外,這些矩陣計算也常用在其他演算法,HPCG 可提供更全面的效能量測。那將原本以 LINPACK 排名的電腦重新用 HPCG 排名會發生什麼事?下表可發現整個名次大幅改變。值得注意的是,曾經是世界第一名的超級電腦「京」(K Computer),從 LINPACK 排名 16,在 HPCG 一舉跳升到第 3 名,便是因為「京」擁有獨特的網路拓樸,帶來更平衡的計算環境。新的衡量標準,讓原本排名重新洗牌,也拉低整體的計算效能。HPCG 也證明了 LINPACK 這標竿有缺陷,沒辦法完整評估超級電腦的真實效能。藉由 HPCG,TOP500 可更完整驗證每台電腦的計算效能。耗電問題變嚴重,Green 500 孕育而生然而,隨著計算效能提升及更重視環保,超級電腦能源消耗的問題漸漸變得重要。以目前世界第一的超級電腦 Summit 為例,便需消耗 8.8MW 電量,約為綠島發電廠的總發電量。也就是說一台 Summit 所需電量便可供給全部綠島居民及遊客需求,相當驚人。為了避免超級電腦無止境的消耗能源,Green500 於 2013 年開始統計 TOP500 每台超級電腦的能源消耗量。衡量方法為計算每台超級電腦 LINPACK 的計算效能除以消耗電量,計算每消耗 1 瓦特可獲得多少計算效能。從 2018 年發表的 Green500 可發現,大多數上榜的電腦皆為排名偏後的超級電腦。比較值得一提的是,世界第一的超級電腦 Summit 可排進第 5 名,算是相當省電的超級電腦。此外,Green500 中,前 10 名有 7 名為日本超級電腦,顯示日本人相當重視超級電腦的耗電狀況。隨著更多衡量標準加進超級電腦榜單,我們可更準確及全面了解超級電腦的發展狀況。 公告 [限時贈票] 伊藤潤二的鬼屋等你來

科學的奧妙你所不知道的世界:|智勝王|磷蝦油|芙婷寶|關鍵字排名|網站排名|SEO|蜂王乳|蜂王漿|神經滋養物質|維力康|超視王|PPLS|南極冰洋磷蝦油|GOOGLE排名|健康食品|台灣綠蜂膠|保健食品|葉黃素

發表迴響

你的電子郵件位址並不會被公開。 必要欄位標記為 *