【NVIDIA GTC 2020】一切都是為了 AI - 股票

【NVIDIA GTC 2020】一切都是為了 AI，今年有劍橋超級電腦、Arm 還有 DPU

https://www.inside.com.tw/article/21153-NVIDIA-GTC-2020

Inside 2020/10/06 Chris / 核稿編輯：李柏鋒

受到疫情影響，NVIDIA 每年一度的 GPU 技術大會（GTC）也全部移到線上舉行。今年主題
其實某種程度上來說很簡單：AI，AI，還是 AI！但到底要怎麼把 GPU 運用在各行各業的
AI 上，就是 NVIDIA 想做的大哉問了，執行長黃仁勳也一口氣在線上主題演講中發表了多
項重量級訊息。

NVIDIA Omniverse 是即時線上的 GPU 3D 模擬協作平台，使用了 Pixar 所開發的開源 3D
場景、檔案格式（Universal Scene Description），可以讓設計師、開發者直接在線上
對 3D 建模進行協作，舉個例子，像台灣、美國的動畫團隊就可以直接在 Omniverse 上開
3D 專案繪製動畫，或是讓汽車工程師在 Omniverse 的 3D 環境裡同時模擬與調整自動功
能。目前 Adobe、Autodesk、Bentley Systems、Robert McNeel＆Associates 和 SideFX
都進入了 Omniverse 線上支援。Omniverse 於 2019 年 3 月首次發表，但今天釋出 Open
Beta。

公布英國劍橋的醫學超級電腦：Cambridge-1！

之前 NVIDIA 在收購 Arm 時曾提到將在英國劍橋建立一個新的全球 AI 研究中心，並投資
一台最先進的 Arm-powered AI 超級電腦：今天有了最新進展，雖然並非 Arm-powered 架
構，但 NVIDIA 今天公開基於 NVIDIA DGX SuperPOD 架構，英國史上性能最高的超級電腦
「Cambridge-1」！

Cambridge-1 耗費約 4000 萬英鎊，效能可達 400 petaflops AI 性能和 8 petaflops的
Linpack 性能，擠身進世界 500 大超級電腦第 29 名，還是世界前三大最節能的超級電腦
之列。面對武漢肺炎的迫切公衛挑戰，Cambridge-1 主要會運用在醫療領域、生命科學上
。

除此之外， NVIDIA 也公布醫療 AI 模型 NVIDIA Clara Discovery 跟 Cambridge-1 搭配
，透過跟 GSK 等公司合作，使用重要遺傳、基因組資料庫提供預先訓練的 AI 模型和特定
的應用程序框架，來加速藥物、疫苗的設計和開發流程；除了具備整合醫療影像的能力之
外，NVIDIA Clara Discovery 甚至還具備自然語言處理能力，可以讓研究人員利用特定於
生物醫學的語言模型來組織、理解醫學文獻、論文與資料庫，幫助整理現有治療方法和其
他重要療法的關聯。

另外要提的是，Cambridge-1 也是 NVIDIA DGX SuperPOD 架構的火力展示，NVIDIA DGX
SuperPOD 可讓各企業、組織在數周內就能組裝極為強大的 AI 超級電腦，將以 20 個為一
個模組的方式進行銷售，並運用 NVIDIA Mellanox InfiniBand網路技術相互串聯，其 AI
運算效能為 100 petaflops 起跳，並可擴增到 700 petaflops。其叢集規模從 20 個到
140 個獨立的 NVIDIA DGX A100TM 系統不等。
AI 雲端串流影像平台：NVIDIA Maxine

同樣因應武漢肺炎疫情之下的遠端工作需求，NVIDIA 發表了由 GPU 加速的 AI 雲端串遊
影像平台 NVIDIA Maxine，它可以一邊使用基於對抗網路的 AI 影像壓縮技術降低串流影
像的資料流量（降到 H.264 的 10 分之 1！），另一方面可以透過 GPU，為遠端工作串流
視訊提供高超畫質、聚焦、降噪、亮臉等 AI 功能，而且已經跟三大公有雲 Google Cloud
、AWS、 Microsoft Azure 以及 ORACLE 開始合作，同時還能搭配自然語言 AI Javis 自
動生成字幕。

全新的處理器類種：瞄準資料中心的 NVIDIA 資料處理器 DPU

以前我們有中央處理器 CPU、圖形處理器 GPU，但顯然 NVIDIA 認為這些都還不夠，在之
前跟 VMware 一起攜手，用 NVIDIA 的可編程設計「BlueField-2 DPU」推出了混合雲架構
。

那 DPU 是什麼呢？今天黃仁勳進一步介紹，當代的資料中是由軟體定義的，也讓資料中需
要更靈活得架構兼顧效能與耗能，因此針對大量資料需求設計了一種全新的處理器：資料
處理器 DPU。某種程度上可以把 DPU 視為集三個關鍵要素於一身的 SOC，首先事實上搭載
多核 CPU 並搭配高速網路端子、各種可程式定義的加速引擎，讓原本 CPU 進行的多項工
作流程讓 DPU 負擔，CPU 本身可以把算力集中在更重要核心運用上。

而 NVIDIA 今天推出的，就是 BlueField-2 DPU 產品線，BlueField-2 DPU，搭載 Arm 架
構 8 核心 Cortex-A72 並具備 NVIDIA Mellanox Connext-6 SmartNIC 的所有特點，可以
完全由軟體定義並提供 200 Gbps 的數據傳輸速率，加速資料中心的資安、傳輸和儲存等
關鍵工作，實現等同多達 125 顆 CPU 的任務效能。

BlueField-2X DPU 則擁有 BlueField-2 DPU 的所有關鍵特性，並加上 NVIDIA Ampere
GPU 的 AI 功能加以強化用在更大量的影像上傳處理；而為了能夠讓開發人員在 DPU 加速
的資料中心用軟體構建應用程式，NVIDIA 還推出類似於 NVIDIA CUDA 的 GPU 加速的開發
工具——DOCA 軟體開發工具包。

BlueField DPU 未來還會推出 BlueField-3、3X 以及 BlueField-4 兩代產品，屆時都會
導入 Arm 的新型 CPU 架構；其中 BlueField-4 整體效能將會是 BlueField-2 的 1000
倍左右。
邊緣運算 NVIDIA EGX AI 加入 Ampere 與 DPU

針對大型物聯網等邊緣運算需求，NVIDIA 今天更新了原本的 EGX 平台計畫成為「NVIDIA
EGX AI」，把剛剛發表的 BlueField-2 DPU 以及 Ampere GPU 整合在單一 PCIe 卡上，試
圖透過易於部署的雲端原生應用軟體堆疊加速邊緣運算。

除此之外，今天也發表了平價只要 59 美金的 Jetson Nano 2GB 開發套件，為開發者提供
了更便宜、更好上手的人工智慧、機器人入門級套件，在 JetPack SDK 的支援下包含
NVIDIA 容器運行時間和完整的 Linux 軟體開發環境，同時在 CUDA-X 加速運算堆疊下，
在自動駕駛汽車、工業物聯網、醫療、智慧城市等領域也創造出突破性的 AI 產品。
NVIDIA 與 Arm 的整合計畫

先前 NVIDIA 正式以 400 億美元併購 Arm，引發業界巨大震撼，而今天黃仁勳進一步公佈
了雙方的整合計畫，首先 BlueField-2 DPU 就是一個很明顯的例子，NVIDIA 將會在資料
中心、邊緣運算、超級電腦等領域積極將 Arm 架構整合進 NVIDIA 的產品設計中。

心得:
昨天老黃講了超多東西的
找了一篇比較詳細的貼上來

主要是未來發展老黃要走向AI處理、資料中心的火力展示

另外談ARM收購時答應要給英國的超級電腦也初步介紹了
(所以英國你要同意了嗎?)

最後就是 DPU !!!!
一個DPU = 125個X86的CPU
而這個DPU不但快、還要更快

https://i.imgur.com/FQKBrfo.png

預計在2023年升級兩代後的DPU會比初代還要快一千倍
(所以是一個DPU = 125000個CPU嗎!?)

最後
整個Keynote可以到這個網址收看
https://www.youtube.com/playlist?list=PLZHnYvH1qtOYOfzAj7JZFwqtabM5XPku1
有繁中字幕

NVDA噴噴噴!!!

--