韓國 AI 晶片新創 FuriosaAI 宣布與 LG AI Research 展開合作,共同推動高能效 AI 加速器「RNGD(Renegade)」的大規模應用。儘管 Nvidia 的 H100、B100 等產品橫掃全球資料中心市場,LG 卻選擇押寶尚未量產的初創廠商,關鍵原因在於對「能效」與「成本」。
RNGD 採用台積電 5 奈米製程,搭載 Furiosa 自研 Tensor Contraction Processor 架構,專為推論任務優化,具備 FP8 精度下高達 512 TFLOPS 的運算效能。記憶體配置為雙層 HBM3 堆疊,總容量 48GB,頻寬達 1.5TB/s,整體熱設計功耗(TDP)僅 180 瓦,遠低於 Nvidia H100 最高可達 700 瓦。
儘管在整體算力與記憶體規模上不敵 Nvidia 的 H100、B100 等旗艦 GPU,RNGD 在「每瓦效能」方面表現突出。LG 測試指出,RNGD 在同樣功耗條件下,比 A100 產生多達 3.75 倍的 token 數,展現遠勝傳統 GPU 架構的能耗優勢。
此外,RNGD 避免依賴先進封裝與高速 NVLink,改採 PCIe 通訊並結合軟體層最佳化,降低整體部署與整合成本,特別適合以推論為主的企業應用場景。相較於以訓練任務為核心的 GPU,加速器架構正逐步向著「任務導向」與「能效導向」發展。
值得一提的是,FuriosaAI 曾吸引 Meta 收購意願。這也指出 AI 晶片市場將不再由單一「通用型」產品主導,而是具任務針對性的低功耗客製化晶片(ASIC)。對如 LG 等重視節能與營運成本的企業而言,RNGD 提供了一條繞過高耗能 GPU、有效落地 AI 服務的實用解法。
(首圖來源: FuriosaAI )
文章看完覺得有幫助,何不給我們一個鼓勵
請我們喝杯咖啡您的咖啡贊助將是讓我們持續走下去的動力
總金額共新臺幣 0 元 《關於請喝咖啡的 Q & A》 取消 確認(责任编辑:杨克强)
可是纵观目前的互联网经济,可以说没有任何回暖的迹象,所以想要获得融资,更多的可能需要靠运气。...[详细]2.5 億年前大滅絕原因找到,研究:雨林崩潰導致暖化 500 萬年
以乐视生态免费日为例,我们能够在创意广告门户和新闻站看到的是它如何通过硬件免费噱头卖掉20.2亿的会员,但是它对活动的包装方式如果不去做具体的分析,你是不会知道买会员“0元”送...[详细]
亚里士多德说知识大体有两类:一类是技术性的,另一类是非技术性的。...[详细]Google 發表 SensorLM 模型,催化智慧手錶從被動監測邁向主動建議
”事后想来,川上量生仍觉得有些不可思议。...[详细]
这说明蓝色在网站颜色搭配中也是很不错的颜色。...[详细]
而餐饮行业也不落下风,很多网红餐厅屡屡进入大众视野...[详细]
可以说这些数据为优化广告位提供了数据保障。...[详细]
”尽管niconico在一开始显得过于“自由”,但是这些热情的创作者们催生了niconico目前的社群文化。...[详细]