韓國 AI 晶片新創 FuriosaAI 宣布與 LG AI Research 展開合作,共同推動高能效 AI 加速器「RNGD(Renegade)」的大規模應用。儘管 Nvidia 的 H100、B100 等產品橫掃全球資料中心市場,LG 卻選擇押寶尚未量產的初創廠商,關鍵原因在於對「能效」與「成本」。
RNGD 採用台積電 5 奈米製程,搭載 Furiosa 自研 Tensor Contraction Processor 架構,專為推論任務優化,具備 FP8 精度下高達 512 TFLOPS 的運算效能。記憶體配置為雙層 HBM3 堆疊,總容量 48GB,頻寬達 1.5TB/s,整體熱設計功耗(TDP)僅 180 瓦,遠低於 Nvidia H100 最高可達 700 瓦。
儘管在整體算力與記憶體規模上不敵 Nvidia 的 H100、B100 等旗艦 GPU,RNGD 在「每瓦效能」方面表現突出。LG 測試指出,RNGD 在同樣功耗條件下,比 A100 產生多達 3.75 倍的 token 數,展現遠勝傳統 GPU 架構的能耗優勢。
此外,RNGD 避免依賴先進封裝與高速 NVLink,改採 PCIe 通訊並結合軟體層最佳化,降低整體部署與整合成本,特別適合以推論為主的企業應用場景。相較於以訓練任務為核心的 GPU,加速器架構正逐步向著「任務導向」與「能效導向」發展。
值得一提的是,FuriosaAI 曾吸引 Meta 收購意願。這也指出 AI 晶片市場將不再由單一「通用型」產品主導,而是具任務針對性的低功耗客製化晶片(ASIC)。對如 LG 等重視節能與營運成本的企業而言,RNGD 提供了一條繞過高耗能 GPU、有效落地 AI 服務的實用解法。
(首圖來源: FuriosaAI )
文章看完覺得有幫助,何不給我們一個鼓勵
請我們喝杯咖啡您的咖啡贊助將是讓我們持續走下去的動力
總金額共新臺幣 0 元 《關於請喝咖啡的 Q & A》 取消 確認(责任编辑:尼尔扬)
正因如此,我们认为探讨失败,其意义不亚于分析成功,故而希望通过梳理彻底关闭的项目名单、分析典型案例、统计“死亡”特征,为中国乃至全球范围内的TMT一级市场专业投资者、经营者...[详细]2021年安徽省危险化学品罐体产品质量安全突发事件应急演练在芜湖举办
如果能将激情和职业结合,那肯定是最好的。...[详细]
对于知乎平台而言,我们能够看到,知乎也将面临随着规模效应叠升而导致的内容价值稀释、管理困难等等难题,要求知乎平台具备更高的噪音过滤能力。...[详细]6大目标,18个关键指标……长三角市场监管一体化发展“十四五”规划发布
“若有朝一日回顾现在,我想举办超会议这个决定会是非常有意义的转折点。...[详细]4月财新中国制造业采购经理人指数(PMI)录得49.5 焦点热议
从第一届的800名观众到去年的18000名观众,BML目前已经成为了B站一年一度最大的线下盛会。...[详细]
京东其他的投资人跟我们本质一样,都不会因为今天资本市场波动、明天媒体唱衰就很紧张。...[详细]
装饰艺术在巴黎诞生 1925年4月30日 宜:装饰产品举办促销宣传活动,请名人代言,扩大品牌知名度。...[详细]
niconico超会议还有一个相当特别的传统:在活动最后一天,官方会在现场公布今年的收益数字。...[详细]
不过,现场只有八个工位、一名员工。...[详细]全省率先!浙江化妆品生产企业“黑匣子”应用在杭州市钱塘区上线启动
而在网络上要怎么“让大家也会一起来看原本不那么感兴趣的内容”,成为了川上量生等人创立niconico的一个重要动机。...[详细]