韓國 AI 晶片新創 FuriosaAI 宣布與 LG AI Research 展開合作,共同推動高能效 AI 加速器「RNGD(Renegade)」的大規模應用。儘管 Nvidia 的 H100、B100 等產品橫掃全球資料中心市場,LG 卻選擇押寶尚未量產的初創廠商,關鍵原因在於對「能效」與「成本」。
RNGD 採用台積電 5 奈米製程,搭載 Furiosa 自研 Tensor Contraction Processor 架構,專為推論任務優化,具備 FP8 精度下高達 512 TFLOPS 的運算效能。記憶體配置為雙層 HBM3 堆疊,總容量 48GB,頻寬達 1.5TB/s,整體熱設計功耗(TDP)僅 180 瓦,遠低於 Nvidia H100 最高可達 700 瓦。
儘管在整體算力與記憶體規模上不敵 Nvidia 的 H100、B100 等旗艦 GPU,RNGD 在「每瓦效能」方面表現突出。LG 測試指出,RNGD 在同樣功耗條件下,比 A100 產生多達 3.75 倍的 token 數,展現遠勝傳統 GPU 架構的能耗優勢。
此外,RNGD 避免依賴先進封裝與高速 NVLink,改採 PCIe 通訊並結合軟體層最佳化,降低整體部署與整合成本,特別適合以推論為主的企業應用場景。相較於以訓練任務為核心的 GPU,加速器架構正逐步向著「任務導向」與「能效導向」發展。
值得一提的是,FuriosaAI 曾吸引 Meta 收購意願。這也指出 AI 晶片市場將不再由單一「通用型」產品主導,而是具任務針對性的低功耗客製化晶片(ASIC)。對如 LG 等重視節能與營運成本的企業而言,RNGD 提供了一條繞過高耗能 GPU、有效落地 AI 服務的實用解法。
(首圖來源: FuriosaAI )
文章看完覺得有幫助,何不給我們一個鼓勵
請我們喝杯咖啡您的咖啡贊助將是讓我們持續走下去的動力
總金額共新臺幣 0 元 《關於請喝咖啡的 Q & A》 取消 確認(责任编辑:巴彦淖尔市)
看来,知识和牛奶一样,都是可以掺三聚氰胺的,现在知识付费这么火热,是不是也要有类似“315”那样的机制,也要有消费者协会这样的机构,来打打假呢? 本文作者:高颜值新媒体专家,...[详细]
为此,毕胜分别谈妥了Burberry、Prada、UnderArmour、耐克、依视路及卡地亚中国供应商,推出了女鞋、运动鞋、眼镜及配饰等多个品类。...[详细]美國辱華讓中國不爽,輝達通知 Amkor 與三星暫停 H20 生產
但餐饮,运营中需要持续的资金投入,不是一次性投入就能解决所有问题。...[详细]
我们当时已经有很好的构想,包括该如何模拟政府的系统、该如何联合操作……但每次把东西做出来后,很难找到人给我们反馈信息。...[详细]
竞争对手关键词分析 ①、分析URL连接,是否是用主域名还是内页在做? ②、关键词分布位置,是分词得到的结果还是完全匹配? ③、看关键词在标题的位置,是否在首位并重复出现,网站是否在围绕着个词...[详细]