韓國 AI 晶片新創 FuriosaAI 宣布與 LG AI Research 展開合作,共同推動高能效 AI 加速器「RNGD(Renegade)」的大規模應用。儘管 Nvidia 的 H100、B100 等產品橫掃全球資料中心市場,LG 卻選擇押寶尚未量產的初創廠商,關鍵原因在於對「能效」與「成本」。
RNGD 採用台積電 5 奈米製程,搭載 Furiosa 自研 Tensor Contraction Processor 架構,專為推論任務優化,具備 FP8 精度下高達 512 TFLOPS 的運算效能。記憶體配置為雙層 HBM3 堆疊,總容量 48GB,頻寬達 1.5TB/s,整體熱設計功耗(TDP)僅 180 瓦,遠低於 Nvidia H100 最高可達 700 瓦。
儘管在整體算力與記憶體規模上不敵 Nvidia 的 H100、B100 等旗艦 GPU,RNGD 在「每瓦效能」方面表現突出。LG 測試指出,RNGD 在同樣功耗條件下,比 A100 產生多達 3.75 倍的 token 數,展現遠勝傳統 GPU 架構的能耗優勢。
此外,RNGD 避免依賴先進封裝與高速 NVLink,改採 PCIe 通訊並結合軟體層最佳化,降低整體部署與整合成本,特別適合以推論為主的企業應用場景。相較於以訓練任務為核心的 GPU,加速器架構正逐步向著「任務導向」與「能效導向」發展。
值得一提的是,FuriosaAI 曾吸引 Meta 收購意願。這也指出 AI 晶片市場將不再由單一「通用型」產品主導,而是具任務針對性的低功耗客製化晶片(ASIC)。對如 LG 等重視節能與營運成本的企業而言,RNGD 提供了一條繞過高耗能 GPU、有效落地 AI 服務的實用解法。
(首圖來源: FuriosaAI )
文章看完覺得有幫助,何不給我們一個鼓勵
請我們喝杯咖啡您的咖啡贊助將是讓我們持續走下去的動力
總金額共新臺幣 0 元 《關於請喝咖啡的 Q & A》 取消 確認(责任编辑:常安)
“重大政策转变”!外媒:沙特王储访美前夕,特朗普称将批准向沙特出售F
就像开车时,教练说眼睛看着最远的地方。...[详细]
如果没有这些管道,成本将会增加,所有油井的价值都将大打折扣,国内外的市场都将难以维持。...[详细]
document.writeln('关注创业、电商、站长,扫描A5创业网微信二维码,定期抽大奖。...[详细]
尤其对于民营医疗来说,过去单纯依靠百度竞价的方式变得越来越无法承担支出成本。...[详细]“重大政策转变”!外媒:沙特王储访美前夕,特朗普称将批准向沙特出售F
过度追求新颖可能只会让你远离好的创业点子。...[详细]
这个趋势可能会在未来几年波及中国。...[详细]
并从其他两个广告系列中,执行搜索字词添加为完全匹配。...[详细]
短视频对于他来说,代表着一个可实施的梦想。...[详细]
当然,人幸福感不足的原因,还在于拥有越多,越怕失去,经济条件好了,最怕的是未来会失去,赚的钱越多担的责任越重大,再加上近些年经济形势不好,生意不好做,心理压力大,身体疲劳,健康堪忧,更是让人想幸福...[详细]
”这是众安保险希望给到投保人的就医体验。...[详细]