廣州熱線

原標題：CPU也支持AI加速，英特爾發(fā)布第3代至強處理器，推理速度提升80，阿里騰訊云都在用

曉查發(fā)自凹非寺

量子位報道|公眾號QbitAI

AI時代，英特爾最擔(dān)心的是什么？當然是自家的CPU被GPU、TPU等AI硬件的沖擊?，F(xiàn)在英特爾的新一代CPU也帶來了全新的AI加速能力。

今天，英特爾發(fā)布了三款硬件產(chǎn)品，都是為了AI而準備：第三代至強（Xeon）可擴展處理器、新一代的傲騰（Optane）存儲器以及StratixAIFPGA。

至強可擴展CPU

首先，英特爾發(fā)布了CooperLake至強可擴展處理器，也就是英特爾的第三代至強可擴展服務(wù)器CPU。

在英特爾的路線圖中，還有IceLake至強處理器將在今年晚些時候推出，也屬于第三代，只是支持的CPU數(shù)量比CooperLake更少，應(yīng)該是一款面向中低端的產(chǎn)品。

對于CooperLake平臺，英特爾加入了一項重要更新，增加了基于AVX-512的BF16指令，引入了全新的BF16數(shù)字格式。

現(xiàn)在，用于“深度學(xué)習(xí)增強”（DLBoost）的AVX-512指令集也支持全新的BF16數(shù)據(jù)類型。

過去，英特爾在CPU上的AI訓(xùn)練主推INT8整數(shù)格式，在精度要求不高的模型中，使用INT8還是可以的。但是許多高精度模型需要使用FP32浮點數(shù)格式。

新一代的至強CPU加入了對16位浮點數(shù)支持，不過此16位浮點并非常見的FP16，而是英特爾稱之為bfloat16（BF16）的格式。

BF16將FP32模型的位寬減少一半，除了加速處理速度外，更重要的是，它將模型保留在內(nèi)存中所需的空間減少了一半。

△圖片來自AnandTech

BF16可以執(zhí)行許多通常在FP32或FP16中實現(xiàn)的AI任務(wù)，它只是比FP32的范圍稍低，但是卻能有與FP16幾乎相同的吞吐量。

國內(nèi)的阿里云、騰訊云都已經(jīng)在其數(shù)據(jù)集上使用了支持BF16的CPU，實現(xiàn)了1.6倍左右的吞吐量加速和1.8倍左右的推理加速。

英特爾還對CooperLake處理器之間的互連進行了升級。

至強處理器使用超路徑互連（UPI）將多個CPU連接在一起。在CooperLake中，每個CPU到CPU的連接現(xiàn)在都包含兩個UPI鏈接，鏈接速度達到了20.8GT/s。

傲騰SSD和StratixFPGA

英特爾還宣布了新一代的傲騰（Optane）“持久內(nèi)存”200系列，帶寬相比前代提升了25％。

200系列傲騰提供128GB、256GB和512GB三個不同存儲容量，并且將以與DDR4-2666內(nèi)存相同的速度運行。

該系列為每個插槽提供高達4.5TB的內(nèi)存支持，以更好地處理數(shù)據(jù)密集型的AI工作負載。

最后，英特爾發(fā)布了Stratix10NXFPGA，這是英特爾第一個針對AI優(yōu)化的FPGA。

Stratix10NXFPGA加入了為AI設(shè)計的張量模塊，在INT8數(shù)據(jù)類型上，相比現(xiàn)在的Stratix10MXFPGA帶來了15倍的運算加速。

參考鏈接：

https://www.anandtech.com/show/15862/intel-launches-cooper-lake-3rd-generation-xeon-scalable-for-4p8p-servers

作者系網(wǎng)易新聞·網(wǎng)易號“各有態(tài)度”簽約作者

—完—

「數(shù)據(jù)庫」系列公開課開啟，快來免費報名！

6月23號第二期直播，浪潮信息數(shù)據(jù)庫產(chǎn)品線總經(jīng)理--喬鑫分享「傳統(tǒng)企業(yè)互聯(lián)網(wǎng)下的數(shù)據(jù)平臺升級」，將講述HTAP數(shù)據(jù)庫的技術(shù)原理、優(yōu)化方案以及開發(fā)部署概要等技術(shù)問題，以此帶給廣泛關(guān)注者一些前瞻指導(dǎo)。

掃碼報名，可加入直播交流群，還可獲取系列課程直播回放、分享PPT：

量子位QbitAI·頭條號簽約作者

???追蹤AI技術(shù)和產(chǎn)品新動態(tài)

喜歡就點「在看」吧!