雖然 NVIDIA H20 加速器在 7 月恢復出口,但因中國監管機構以數據安全為由表達疑慮,使 H20 幾乎全面遭到封殺,目前中國 AI 產業正轉向翻新使用二手 NVIDIA GPU,以應對突如其來的替代需求。
市場消息傳出,因官方已全面封殺 H20,隨著中國企業將 A100、H100 顯卡拆解、重組成「低成本、高效能」的客製化推論系統,導致業界對兩款舊顯卡需求激增。
AI 推論(AI Inference)所需的算力比 AI 訓練還低,即使在經過重新配置的硬體上,仍可高效運行,這也是 2020 年推出的 A100 之所以仍具價值的原因。
A100 採用 NVIDIA Ampere 架構,搭載最高 80GB HBM2e 記憶體與 2 TBps 頻寬,雖然沒有達到 Hopper 架構的極致效能,但憑藉大容量記憶體與成熟 CUDA 軟體生態,對推論任務仍有效。
至於 H100 配備 HBM3 記憶體,AI 訓練效能比 A100 高達六倍。相比之下,中國降規板 H20 雖針對推論優化,但被閹割過度,其 AI 效能僅 H100 的約 1/3 至 1/7,在 FP64 超算運算中更是慢超過 30 倍。也因此,二手 A100 可能都比全新 H20 更具有吸引力。
不過,目前 NVIDIA 則陷入矛盾中,因為華府對 H20 祭出出口限制,導致公司認列 55 億美元庫存減損;另一方面,輝達 GPU 卻仍是推動中國 AI 熱潮的核心,而如今的灰色市場可能侵蝕利潤,拖慢新架構的推廣。
對中國來說,灰色市場同樣成為隱憂,資料中心每使用一塊二手 H100,意味又少了一個使用昇騰(Ascend)加速器的機會,恐延緩本土投資的進展。而中國 AI 產業則是等待政治與技術障礙解除的同時,盡可能延長舊款NVIDIA 硬體的使用壽命。
(首圖來源:科技新報)
文章看完覺得有幫助,何不給我們一個鼓勵
請我們喝杯咖啡您的咖啡贊助將是讓我們持續走下去的動力
總金額共新臺幣 0 元 《關於請喝咖啡的 Q & A》 取消 確認(责任编辑:南充市)
三、借助热点事件,借事论事 借助热点事件来进行软文营销写成的软文也叫热门软文,围绕热点事件、热门新闻或热门话题以评论、追踪观察、揭秘、观点整理、相关资料等方式结合自己要推广的品牌写成的软文。...[详细]
包括投资也是一样的,我们要投资虚拟现实,但是现在是不是最佳的投资?该怎么投?其实是特别考验我们的头脑和智慧。...[详细]
每个月的销售额是8-10万,于是每个月要亏25万。...[详细]
既然谈互联网创业,我们应该看一下,现实中什么样的需求,比较容易互联网化。...[详细]
活动结束后,被归还的设备全部捐赠给贫困学生。...[详细]
电话咨询:15090243397 想了解更多教育类网站交易信息请访问A5交易:http://www.a5.net/forum-266-1.htmldocument.w...[详细]
其次,要低头向竞争对手网站学习。...[详细]
如果搜索查询完全匹配否定关键字,则精确阻止相关搜索词。...[详细]
如果2C,结合强品牌容易做到集中度提高。...[详细]