OpenAI 推出首款開源推理思維鏈(chain-of-thought,簡稱 CoT)模型「gpt-oss-20b」,此模型可直接在搭載 Snapdragon 旗艦處理器的裝置上運行。高通指出,這是一次重大進展,過去 OpenAI 先進模型僅限於雲端運行,這次首度讓模型可在裝置端進行推理。
高通已取得該模型的提前存取權,並與高通 AI 疊層(Qualcomm AI Stack)和 AI 引擎進行整合測試。測試結果相當出色。完整的思維鏈推理能完全在裝置上運行,無須依賴雲端。此模型不僅快速、具隱私性,也為在手機上的個人化智慧代理體驗開創新的可能。
高通指出,開發者將可在發佈當日,透過 Hugging Face 和 Ollama 存取 gpt-oss-20b,近期也將在 Qualcomm AI Hub 公布更多部署細節。與Ollama整合,也代表像是網路搜尋、渦輪模式(Turbo Mode)等開箱即用功能也已經整合完成。
高通認為,未來幾年,隨著行動裝置的記憶體容量持續成長、軟體堆疊愈加高效,裝置端 AI 的能力將快速提升,AI 助理也將會無所不在、個人化,並且能在裝置端運行。
(首圖來源:科技新報)
文章看完覺得有幫助,何不給我們一個鼓勵
請我們喝杯咖啡您的咖啡贊助將是讓我們持續走下去的動力
總金額共新臺幣 0 元 《關於請喝咖啡的 Q & A》 取消 確認(责任编辑:新余市)
3、可以用记事本直接打开,最好用EditPlus打开。...[详细]
“网络连接超时,请检查网络,稍后再试……”最近两天,分时租赁创业公司“友友用车”的用户被这句提示弄得很窝火...[详细]
有位派友说,所谓一将功成万骨枯,这句话来形容马先生的淘宝绝不为过,他的庞大帝国无不是建立在吸干无数商家的血的基础上的,其实像我这样的商家不计其数,都不断沦为他的炮灰。...[详细]
人脸识别验证存在漏洞 人脸识别是当下颇为热门的技术,但是3·15发布预警称该技术也存在漏洞。...[详细]
在我们已经能够提供足够好的设计和品质之后,用户下一步关心什么?这其实就会使下一步电商会如何。...[详细]
你能干成事情是因为你头顶上的那个品牌,以及你身后那个强大的公司系统,而非你自己的能力。...[详细]
而选择“互联网+快餐”的模式也是大势所趋。...[详细]
如果你是出自真心而非恶意去写一个公司的问题,他们还是会接受的。...[详细]
有意思的是,2016年12月,《人民日报》曾刊文评论“地铁扫码”: 像朋友在地铁里遇到求扫码的“创业者”,只求扫码博关注,不靠产品赢口碑。...[详细]
能把复杂的事情简单化,这个公司和这个产品未来就能够得到巨大的发展。...[详细]