雖然 NVIDIA H20 加速器在 7 月恢復出口,但因中國監管機構以數據安全為由表達疑慮,使 H20 幾乎全面遭到封殺,目前中國 AI 產業正轉向翻新使用二手 NVIDIA GPU,以應對突如其來的替代需求。
市場消息傳出,因官方已全面封殺 H20,隨著中國企業將 A100、H100 顯卡拆解、重組成「低成本、高效能」的客製化推論系統,導致業界對兩款舊顯卡需求激增。
AI 推論(AI Inference)所需的算力比 AI 訓練還低,即使在經過重新配置的硬體上,仍可高效運行,這也是 2020 年推出的 A100 之所以仍具價值的原因。
A100 採用 NVIDIA Ampere 架構,搭載最高 80GB HBM2e 記憶體與 2 TBps 頻寬,雖然沒有達到 Hopper 架構的極致效能,但憑藉大容量記憶體與成熟 CUDA 軟體生態,對推論任務仍有效。
至於 H100 配備 HBM3 記憶體,AI 訓練效能比 A100 高達六倍。相比之下,中國降規板 H20 雖針對推論優化,但被閹割過度,其 AI 效能僅 H100 的約 1/3 至 1/7,在 FP64 超算運算中更是慢超過 30 倍。也因此,二手 A100 可能都比全新 H20 更具有吸引力。
不過,目前 NVIDIA 則陷入矛盾中,因為華府對 H20 祭出出口限制,導致公司認列 55 億美元庫存減損;另一方面,輝達 GPU 卻仍是推動中國 AI 熱潮的核心,而如今的灰色市場可能侵蝕利潤,拖慢新架構的推廣。
對中國來說,灰色市場同樣成為隱憂,資料中心每使用一塊二手 H100,意味又少了一個使用昇騰(Ascend)加速器的機會,恐延緩本土投資的進展。而中國 AI 產業則是等待政治與技術障礙解除的同時,盡可能延長舊款NVIDIA 硬體的使用壽命。
(首圖來源:科技新報)
文章看完覺得有幫助,何不給我們一個鼓勵
請我們喝杯咖啡您的咖啡贊助將是讓我們持續走下去的動力
總金額共新臺幣 0 元 《關於請喝咖啡的 Q & A》 取消 確認(责任编辑:翁宇君)
还有些消费者,看重黄金的保值功能,即便价格高,遇到喜欢的款式,咬咬牙也会出手。...[详细]
七、问:《标识办法》明确互联网应用程序分发平台应当采取哪些措施规范人工智能生成合成服务?答:《标识办法》第七条明确,互联网应用程序分发平台在应用程序上架或者上线审核时,应当要求互联网应用程序服务提供者...[详细]
此外,阅兵参展装备充分融合了人工智能技术和军事机器人系统,具备扫路清障、反坦支援等能力的无人作战装备接受检阅,展现其在未来战场中的作战能力。...[详细]
新华社记者孙凡越摄这是空中无人作战方队接受检阅。...[详细]
港区全国政协委员、香港福建社团联会主席施清流:抗战的胜利是中华儿女用生命铸就的丰碑。...[详细]
释永信所作所为性质恶劣、影响极坏,不仅葬送了个人的法身慧命、伤害了僧众的淳朴信仰,而且侵蚀了佛教的健康肌体、影响了我省的良好形象。...[详细]
评论区的网友说,全辦公室都在看直播。...[详细]
这个也是不符合社会保险制度的基本逻辑的。...[详细]
黄金价格大幅上涨的背后,意味着美联储降息的概率进一步上升,市场流动性预计增强,从而对股市构成普遍利好。...[详细]青海省“两节”期间民生商品市场价格和药械质量安全监管专项行动启动
军事专家傅前哨在接受《环球时报》记者采访时介绍称:无人僚机和无人制空作战飞机是空中无人作战技术发展的方向,许多国家都在这个方向上发力,此次阅兵式,我国一次性亮相多型新型无人机,这也表明了中国在这一领域...[详细]