黃仁勳GTC演講:一場新工業革命已經到來!

行業報告研究小站 2024-03-20 07:18:41

CEO黃仁勳演講:

歡迎大家來到GTC,氣候科學、無線電科學、AI、機器人、自動駕駛汽車領域的專家參與了我們的開發者大會。名單上是使用加速計算的非IT行業利用AI解決自身領域的問題,這是價值100萬億美元的産業。

電腦是當今社會最重要的工具,1993年我們成立了,2006年CUDA成爲了一個革命性的計算系統,20年後,我們真正見到的他的革命性。2012年,CUDA和AI第一次解除,2016我們發明了一種全新的計算機——DGX1, 我們把八個GPU連在了一起,我們把這台機子送給了硅谷的一家叫OpenAI的公司,這台計算機有著170tp的算力,2022年,chatgpt讓人們認識了AI。爲什麽這是一個新産業,因爲這個軟件之前沒有過,這是一個全新的類別,他從無到有,這也是一個全新的軟件制作過程,在數據中心生産浮點數。第一次工業革命當人們意識到建立工廠需要能量,這個無形的東西叫電,在未來,一種新的基礎設施出現了,我們稱工廠爲人工智能工廠。

公司的靈魂,在計算機圖形學、物理學、和AI,都在一台計算機內相交,我們今天展示的一切,是模擬的,這都是用AI制作的,你們將看到世界上第一場完全Homemade的音樂會。

加速計算,已經到了臨界點,通用計算已經沒有動力了,我們需要一種計算方式繼續降低計算成本,同時也需要他可持續的,沒有哪個行業比我們更重要,在這個行業,不是爲了降低計算成本,是爲了提高計算規模,我們希望做的整個産品完全模擬化,爲了做到這一點,我們需要加速整個行業,我們有一些合作夥伴加入,Ansys,全世界孿生數字兄弟,Synopsys,爲了制造芯片,必須把光刻技術推導到極限,TSMC 和 Synopsys 將使用NVIDIA 的計算光刻平台投入生産,以加速制造並突破下一代先進半導體芯片的物理極限。cadence,制造超級計算機的公司,終端客戶可以用做流體動力學模擬,實時風洞等。

LLM,我們能擴展LLM的尺寸,6個月翻一倍,我們發展了計算需求,模型尺寸擴大的同時,需要更多的算力,必須要更多的計算規模,目前最先進的大模型是1.8萬億個參數的,未來的大模型計算需求可能是數十萬億浮點計算每秒,爲了更快完成訓練,我們需要更大的GPU,我們需要更大更大的GPU,我們的答案是把一堆GPU放在一起,通過NVlink把他們連接在一起,但在ChatGPT出現在我們面前,我們認識到還有很長的路要走,我們希望未來很多視頻由AI生産,模特手臂不會穿模,就像我也一直在模擬,就像這場演講,我希望他和我腦子想的一樣。

總而言之,我們會讓AI和AI一起工作,互相訓練,就像老師和學生那樣,這些都會增加模型的尺寸,我們需要更大的GPU,架構以Blackwell命名。這是世界上最先進的GPUHopper,這是Blackwell

大的是Blackwell

Blackwell亮點:

2080億晶體管

兩個GPU和CPU鏈接在一起,2chips,4die將BlackwellGPU和Grace CPU連接在一起

AI是關于概率的,所以數學的能力需要保持精度和範圍,第五代的NVLink,保證GPU之間數據的鏈接

RAS引擎,做到百分百系統自檢。

安全AI,顯然AI代碼在參數中,這會花費數億美元,數據在計算中、運輸中是完全有能力加密的。

AI算力在八年內增長了1000倍,第一代DGX的算力是0.17pt,最新的已經達到720pt

NVLinkSwitch芯片,4個NVLink保證每秒1.8TB的互聯速度,讓每個GPU同時全速與其他每個GPU通信

如果你要訓練GPT模型,1.8萬億參數,8000個GPU需要90天左右,20兆瓦的電力,這個開創性的AI模型,如果用Blackwell芯片做,2000片GPU,只需要20天,並且只需要4兆瓦的電力。

接下來展示Blackwell和Hopper在推理端的比較,大約提升了30倍的性能

兩年前我帶著Hopper推向市場,當時只有兩個客戶,現在我們有更多客戶了,我相信Blackwell會進入全世界的AI公司,OEM、ODM、主權AI、區域雲、電信公司,全世界都會和我們簽下Blackwell的單子,

亞馬遜正在爲Blackwell做准備,AWS將提供基于 NVIDIA Grace Blackwell GPU 的Amazon EC2 實例和 NVIDIA DGX Cloud,以提高在數萬億參數LLM 上構建和運行推理的性能

谷歌也在爲Blackwell做准備,他們最近宣布正在努力優化Gemini模型,同時宣布采用全新 Grace Blackwell AI 計算平台以及Google Cloud 上的 NVIDIA DGX Cloud 服務。爲機器學習社區提供技術,加速他們輕松構建、擴展和管理生成式 AI 應用程序的步伐。

甲骨文也在爲Blackwell做准備,將和英偉達合作提供加速計算和生成式 AI 服務,以建立數字主權並管理專有的國家和個人數據

微軟也在爲Blackwell做准備,Azure 將采用Grace Blackwell 超級芯片來加速客戶和第一方 AI 産品的交付;NVIDIA DGX Cloud 與Microsoft Fabric 的本機集成可利用客戶自己的數據簡化自定義 AI 模型開發;NVIDIAOmniverse Cloud API 率先登陸 Azure Power 工業設計和仿真工具生態系統 ; Copilot 通過NVIDIA AI 和加速計算平台得到增強

Omniverse數字孿生,能幫助公司在第一時間內構建非常複雜的新産品,在物理層面精確測試和優化布局,能夠提升51%工人效率

2012年當你把一只貓放進電腦裏時,一百萬個數字,最終生成一個向量,三個字符“CAT”。而如今,你在電腦裏打入“CAT”,電腦可以生成一只貓,這簡直是奇迹。AI並不只是懂語言,他能理解語言。我們還數字化了什麽呢,任何東西都能數字化,只要我們知道他們的結構,這就是AIGC革命。

我們還能産生和學習什麽?我們很想學習天氣,極端天氣給世界帶來1500億美元的損失,我們創造了地球的數字孿生兄弟CorrDiff。AI啓動的天氣預報能更精確地預測和跟蹤天氣的變化。速度是傳統天氣模型的1000倍,能效則爲3000倍。

在醫療領域,我們已經做到了很多,醫學影像、基因測序等等。我們在今天能做更多,AI能理解圖像和音頻。新藥的虛擬篩選需要大量資源,我們現在可以在幾分鍾內生産未經篩選的候選分子,基于物理學的模擬優化了分子和目標蛋白質結合的能力,同時優化了其他有利分子特性

LLM是開創性的,但公司很難用,如何才能把他們運用在工作中,我們發明了一種新方法讓你接受和操作軟件。這個軟件即爲英偉達推理微模型。是預先訓練好的開源模型,與API鏈接。展示了NV內部的芯片聊天機器人NeMo。同時公司可以構建私有化的數據庫。很多企業其實坐在金山上,他們多年的運營積累了海量的數據,運用好這些數據,這其實可以成爲他們的“副駕駛”。

展示了數字人,他的底座是醫療保健LLM,這是一個完全動畫的AI,一個數字人。

下一代AI技術,到目前爲止我們談論的AI都是計算機,AI模仿我們通過閱讀大量語言來預測下一個單詞,當然她也理解上下文,但終究是爲了模範人類,我們把所有的數據放進DGX裏,最終訓練成了AI。

下一代AI需要三台電腦,看、理解、調整和生成;現在他將觀看視頻資料,同時會看著我們,了解正在發生的事情,強化學習,物理反饋,我們需要一個模擬引擎,用數字構建世界,讓機器人有一個健身房,讓機器人理解物理世界。重工業的未來是數字孿生,AI會幫助機器人在工業空間中替代工人面對不確定性時間。同時AI可以預測現實世界中不確定性的事情,並且可以看到周圍的角落,提高任務效率,操作人員甚至可以使用自然語言交流,所有的數據都是在模擬中創建的。未來的倉庫、建築、工廠將會由AI定義。工業機器人會有自主機器人堆棧。

NVIDIA Omniverse™ Cloud 將以API 形式提供,擴展了世界領先平台的覆蓋範圍,用于在整個軟件制造商生態系統中創建工業數字孿生應用程序和工作流程。五個新的 Omniverse Cloud 應用程序編程接口使開發人員能夠輕松地將核心 Omniverse 技術直接集成到數字孿生的現有設計和自動化軟件應用程序中,或者用于測試和驗證機器人或自動駕駛車輛等自主機器的模擬工作流程中。

一些全球最大的工業軟件制造商正在將 Omniverse Cloud API 納入其軟件産品組合,其中包括:Ansys、Cadence、達索系統(其3DEXCITE 品牌)、Hexagon、微軟、羅克韋爾自動化、西門子和 Trimble。制造的所有産品都將擁有數字孿生。Omniverse 是用于構建和操作物理上真實的數字孿生的操作系統。Omniverse 和生成式AI 是實現 50 萬億美元重工業市場數字化的基礎技術。”

西門子正在創建工業元宇宙。西門子正利用數字孿生、AI來助力工業工程設計、專業化圖像生成、加速計算

當你引入omniverse進入了工作中時,産品部、設計部、藝術部每個人都在一個基礎上工作,不用擔心數據交互的問題,尼桑已經整合omniverse進入了工作流程中,設計師可以通過自然語言,通過AI自主設計汽車,新的 Omniverse Cloud API 可讓開發人員將交互式工業數字孿生流傳輸到 Apple Vision Pro 中。

交通運輸領域的領先公司已采用 NVIDIA DRIVE Thor™ 集中式汽車計算機爲其下一代消費和商業車隊提供動力,從新能源汽車和卡車到機器人出租車、機器人公共汽車和最後一英裏自動送貨車。同時宣布了和BYD在自動駕駛領域的合作

GR00T項目,是一個用于人形機器人的通用基礎模型,旨在進一步推動機器人技術和具體人工智能領域的突破。今天大多數機器人是提前設計好的,在未來他們會有直覺,整個運動路線可以自適應,利用艾薩克感知器,結合最先進的深度感知、3D重建技術,我們已經有了廣義人形機器人必要的技術。

今天的機器人是機器手,也是預編程的,我們用CUDA加速,驅動幾何感知的基礎。下一代機器人技術可能是仿生機器人,廣義人類機器人,我們有更多方法來訓練數據,人形機器人可能更有用,因爲我們創造了這個世界,當我們創作的時候,自上而下,基礎模型,觀看視頻學習人類,模仿人類,人形機器人學習如何適應物理世界。展示了自動駕駛以及人形機器人的未來。人形機器人幫助完成日常任務,理解人類的日常行爲運用DGX訓練,OVX推理,英偉達讓這些可以實現。英偉達正在爲下一代AI機器人提供基礎。

計算機、物理學、AI的交叉結合,成就了機器人學

五件重要的事情:

1、一場新工業革命已經到來,價值一萬億美元數據中心市場空間

2、一種新的軟件開發方法已經出現,AIGC,

3、下一代計算機Blackwell,新計算機創造新的軟件,面向未來的新型應用,

4、數字孿生平台,可以將NeMo集合成一個工作小組

5、未來將會是機器人化的,無論怎樣的機器人系統,都會需要數字孿生平台,即Omniverse

0 阅读:17

行業報告研究小站

簡介:感謝大家的關注