SamAltman支持的AI處理器公司聘請前蘋果高管領導硬件開發

袁遺說科技 2024-07-01 04:32:37

本文由半導體産業縱橫(ID:ICVIEWS)綜合

Jean-Didier Allegrucci 加入Rain AI從事硬件研發工作。

由 OpenAI 的 Sam Altman 和投資銀行支持的 AI 硬件處理器開發商 Rain AI 已聘請前蘋果芯片高管 Jean-Didier Allegrucci 領導其硬件工程。這次高調的招聘表明 Rain AI 對其處理器有認真的計劃。

Jean-Didier Allegrucci尚未更新他的LinkedIn個人資料,自2007年6月以來,他在蘋果的片上系統(SoC)部門工作了17年以上,並監督了用于iPhone,Mac,iPad和蘋果 Watch的30多種處理器的開發。根據 Rain AI 的一篇博文,Allegrucci 在建立蘋果世界一流的 SoC 開發團隊方面發揮了重要作用,負責監督 SoC 方法、架構、設計、集成和驗證等領域,因此,他的經驗對 Rain AI 非常有價值。在加入蘋果之前,J-D Allegrucci 曾在 Vivante 和 ATI Technologies 工作,這兩家公司都是圖形處理單元的開發商。

“我們非常高興能有像J-D Allegrucci這樣的硬件領導者來監督我們的芯片工作,”Rain AI首席執行官William Passo說。我們新穎的內存計算(CIM)技術將有助于釋放當今生成式AI模型的真正潛力,並使我們更接近在任何地方運行最快、最便宜和最先進的AI模型。

在 Rain AI,Jean-Didier Allegrucci 將與 Rain AI 的首席架構師 Amin Firoozshahian 合作,後者在任職5年後從 Meta Platforms 過渡,這種合作關系結合了深厚的行業經驗和創新思維,以推動公司的雄心勃勃的目標。然而,Amin Firoozshahian 和 Jean-Didier Allegrucci 在 Rain AI構建他們的第一個片上系統還需要相當長的時間,這個過程通常需要很多年。

Rain AI 的重點是內存計算技術,該技術在存儲位置處理數據,模仿人腦。與傳統的人工智能處理器相比,它有望顯著提高能源效率。當下,市場上還沒有量産的內存計算技術,而英偉達的H100,B100 / B200和AMD的Instinct MI300X是主要應用産品,但這些GPU處理器需要大量的內存配合,才能很好地發揮效能。。

本月早些時候,Rain AI授權晶心科技(Andes)的AX45MPV RISC-V矢量處理器進行ACE/COPILOT指令定制,並與晶心的定制計算業務部門(CCBU)合作,加速其內存計算生成式AI解決方案的開發。此次合作旨在增強 Rain AI 的産品路線圖,並在 2025 年初之前提供可擴展的 AI 解決方案。

考慮到從頭開始開發複雜處理器通常需要時間,而且 Rain AI 正在責成 Andes 在 2025 年初幫助其構建其第一個 SoC,看起來由 Jean-Didier Allegrucci 領導的處理器開發至少還需要幾年時間。

初創公司的內存計算策略

隨著人工智能(AI)的繁榮,作爲AI基礎設施核心組成部分的電力資源正在引起越來越多的關注。毫無疑問的是,AI是一個高耗能的領域,數據中心、超級算力中心都堪稱“吞電巨獸”。有專家推算認爲,到2027年,AI行業每年的電量消耗可能在85~134太瓦時之間,這幾乎相當于荷蘭一個國家的年度電力需求。國際能源署(IEA)此前的一份報告也指出,由于人工智能和加密貨幣的需求,數據中心的用電量將在不久的將來大幅增加。

不少行業大佬也都AI可能面臨的能源危機發出警告。今年1月,OpenAI首席執行官Sam Altman承認,AI行業正面臨能源危機。他警告稱,未來AI需要能源突破,因爲AI消耗的電力將遠遠超出人們的預期。特斯拉首席執行官馬斯克在2月底出席一場會議時也表示,芯片短缺的情況可能已經過去,但AI和電動汽車正在以如此迅猛的速度擴張,明年全球將面臨電力和變壓器供應緊張的問題。英偉達CEO黃仁勳更是直言:“AI的盡頭是光伏和儲能!如果只考慮計算,我們需要燒掉14個地球的能源,超級AI將成爲電力需求的無底洞。”

一個關鍵原因在于,AI需要大量的數據,而數據在存儲芯片和處理器之間來回傳輸的這一過程需要消耗大量電力。因此,至少十年來,研究人員一直試圖通過制造可以在存儲數據的地方處理數據的芯片來節省電力。這個過程通常被稱爲“內存計算”。

內存計算目前仍面臨著技術上的挑戰,現在剛剛走出研究階段。而隨著AI的高耗能引發了人們對其經濟可行性和環境影響的嚴重質疑,能夠提高AI能源效率的技術可能會帶來巨大回報。這使得內存計算成爲越來越令人興奮的話題。台積電、英特爾和三星電子等主要芯片制造商都在研究內存計算。OpenAI首席執行官等個人、微軟等公司以及不少政府附屬實體都投資了從事這項技術的初創公司。

這項技術是否會成爲AI未來的重要組成部分還無法確定。通常,內存計算芯片對溫度變化等環境因素很敏感,而這可能會導致計算錯誤。初創公司們正在研究各種方法以改善這一點。然而,更換采用新技術的芯片往往都很昂貴,而且客戶通常會猶豫不決,除非他們對重大改進有信心。初創公司也必須說服客戶,新技術帶來的好處是值得冒險的。

目前,內存計算初創公司還沒有著手AI計算中最困難的部分,即訓練新模型,這一過程主要由英偉達等公司設計的AI芯片來處理。內存計算初創公司似乎不打算直接與英偉達展開競爭,它們的目標是將業務建立在推理上,即利用現有模型接收提示並輸出內容。推理不像訓練那麽複雜,但其規模也很龐大。這意味著專門爲提高推理效率而設計的芯片可能會有一個前景良好的市場。

內存計算公司仍在摸索其産品的最佳用途。總部位于荷蘭的內存計算初創公司Axelera正瞄准汽車和數據中心的計算機視覺應用。總部位于德克薩斯州奧斯汀的Mythic的支持者認爲,內存計算在短期內是AI安全攝像頭等應用的理想選擇,但最終希望它們能用于訓練AI模型。

*聲明:本文系原作者創作。文章內容系其個人觀點,我方轉載僅爲分享與討論,不代表我方贊成或認同,如有異議,請聯系後台。

0 阅读:0

袁遺說科技

簡介:感謝大家的關注