LPDDR內存是設備AI性能的關鍵

袁遺說科技 2024-07-01 04:14:57

本文由半導體産業縱橫(ID:ICVIEWS)綜合

LPDDR 是從 DDR 內存技術發展而來,是一種節能的替代方案。

低功耗雙倍數據速率 (LPDDR) 是專爲手機設計的高性能低功耗內存。自 2006 年首次發布以來,每一代 LPDDR 都提供了移動用戶體驗重大轉變所需的帶寬和容量。隨著下一波生成式 AI 應用將內置于我們的手機和筆記本電腦中,LPDDR 再次走在了另一場關鍵轉變的前沿。

終端上的人工智能的關鍵在于高效推理。使用經過訓練的人工智能模型進行預測或決策的過程需要專門的內存技術,這些技術具有更高性能,可根據終端設備的獨特需求量身定制。終端上的人工智能推理內存需要在帶寬、容量、功率和外形緊湊性之間取得適當的平衡。

LPDDR 是從 DDR 內存技術發展而來,是一種節能的替代方案。LPDDR的優勢在于,當終端設備不使用內存時,它的功耗非常低。由于工作頻率較低,因此與DDR相比,該低功耗標准可以輕松快速地調節性能。LPDDR可在終端設備不使用時進入低功耗狀態,從而顯著降低功耗。LPDDR5X是迄今爲止速度最快、效率最高的LPDDR標准版本。

各種應用和終端設備都需要快速的內存訪問,以便做出實時決策:

智能手機和其他移動應用,需要高帶寬和優化功耗,並能根據設備活動調整頻率。汽車處理器,用于支持高級駕駛輔助系統(ADAS)等應用。大多數汽車應用使用汽車級SDRAM,標准比傳統消費級産品更爲嚴格。人工智能加速器,即高性能並行計算機,可高效處理神經網絡等人工智能工作負載。邊緣人工智能,需要在本地實現零延遲的快速數據處理。用于攝像頭和視頻設備、電視和路由器等數字家庭産品及媒體設備的芯片,必須能執行快速的超高密度(UHD)多媒體處理。5G網絡設備,需要實時數據傳輸,以支持快速數據下載和上傳。

LPDDR5 和可選擴展 LPDDR5X 是該標准的最新更新。

LPDDR5X標准由JEDEC于2021年6月發布,它是一種專用的同步動態隨機存取存儲器(SDRAM)。與之前的LPDDR5標准相比,LPDDR5X在多個方面實現了改進:

在保持1.1V內核電壓不變的情況下,速度從6.4Gbps提升到8.5Gbps。通過采用接收器均衡和發射器[SH1] 預加重技術,改善了信號完整性 。全新的自適應刷新管理功能提高了可靠性。電池效率提高了多達20%。

LPDDR5X 專注于提高性能、功率和靈活性;它提供高達 8.533 Gbps 的數據速率,顯著提高了速度和性能。與 DDR5 內存相比,LPDDR5/5X 將數據總線寬度限制爲 32 位,同時提高了數據速率。與 LPDDR4 中的半速時鍾相比,切換到四分之一速時鍾,再加上一項新功能——動態電壓頻率調節,使更高數據速率的 LPDDR5 操作保持在與基于 LPDDR4 的設備相同的熱預算內。

考慮到移動設備的空間考慮,以及高級應用程序對內存的更大需求,LPDDR5X 可以通過在多芯片封裝中使用多個 DRAM 芯片來支持高達 64GB 的容量。以 7B LLaMa 2 模型爲例:如果基于 INT4,該模型將消耗 3.5GB 的內存容量。x64 的 LPDDR5X 封裝,每個封裝有兩個 LPDDR5X 設備,提供 68 GB/s 的總帶寬,因此,LLaMa 2 模型可以以每秒 19 個令牌的速度運行推理。

隨著對更高內存性能的需求不斷增長,我們看到 LPDDR5 在市場上不斷發展,主要供應商宣布對 LPDDR5 進行額外擴展,稱爲 LPDDR5T,其中的 T 代表 turbo。LPDDR5T 將性能提升至 9.6 Gbps,在多個 LPDDR5T 堆棧的 x64 封裝中實現 76.8 GB/s 的總帶寬。因此,上述 7B LLaMa 2 模型示例可以以每秒 21 個令牌的速度運行推理。

LPDDR5 具有低功耗和高帶寬功能,不僅適用于尖端移動設備,而且適用于終端的 AI 推理,在這些終端上,能效和緊湊外形是至關重要的考慮因素。Rambus 提供全新的LPDDR5T/5X/5 控制器 IP,該 IP 經過全面優化,可用于需要高內存吞吐量和低延遲的應用。Rambus LPDDR5T/5X/5 控制器支持尖端的 LPDDR5T 內存設備,並支持所有第三方 LPDDR5 PHY。它通過前瞻命令處理、存儲體管理和自動預充電來最大化總線帶寬並最小化延遲。該控制器可以與附加內核(如在線 ECC 或內存分析器內核)一起交付,以提高現場可靠性、可用性和可維護性 (RAS)。

隨著移動通訊、人工智能和高等級自動駕駛汽車等帶寬密集型應用的日益普及,對高速內存訪問的需求將持續增長。低成本的LPDDR5X SDRAM提供了出色的速度,考慮到LPDDR內存接口標准迄今爲止的演變,其未來的發展不可限量。

*聲明:本文系原作者創作。文章內容系其個人觀點,我方轉載僅爲分享與討論,不代表我方贊成或認同,如有異議,請聯系後台。

0 阅读:21

袁遺說科技

簡介:感謝大家的關注