OpenAI 推出首款開源推理思維鏈(chain-of-thought,簡稱 CoT)模型「gpt-oss-20b」,此模型可直接在搭載 Snapdragon 旗艦處理器的裝置上運行。高通指出,這是一次重大進展,過去 OpenAI 先進模型僅限於雲端運行,這次首度讓模型可在裝置端進行推理。
高通已取得該模型的提前存取權,並與高通 AI 疊層(Qualcomm AI Stack)和 AI 引擎進行整合測試。測試結果相當出色。完整的思維鏈推理能完全在裝置上運行,無須依賴雲端。此模型不僅快速、具隱私性,也為在手機上的個人化智慧代理體驗開創新的可能。
高通指出,開發者將可在發佈當日,透過 Hugging Face 和 Ollama 存取 gpt-oss-20b,近期也將在 Qualcomm AI Hub 公布更多部署細節。與Ollama整合,也代表像是網路搜尋、渦輪模式(Turbo Mode)等開箱即用功能也已經整合完成。
高通認為,未來幾年,隨著行動裝置的記憶體容量持續成長、軟體堆疊愈加高效,裝置端 AI 的能力將快速提升,AI 助理也將會無所不在、個人化,並且能在裝置端運行。
(首圖來源:科技新報)
文章看完覺得有幫助,何不給我們一個鼓勵
請我們喝杯咖啡您的咖啡贊助將是讓我們持續走下去的動力
總金額共新臺幣 0 元 《關於請喝咖啡的 Q & A》 取消 確認(责任编辑:聊城市)
人的野心是庞大的,但如果自身能力还不足以支撑野心,不如先沉淀几年,再去创业。...[详细]
对融资市场过于乐观的李进团队,也正是在2016年年末因资金链断裂,正式宣布破产。...[详细]8岁女童随奶奶上坟途中走失3天,当地出动搜救犬,方圆10公里搜寻未果
那共享单车的前景如何呢? 第一点值得注意的是,滴滴每一辆车都有司机,实施车辆与乘客匹配的不是汽车本身,而是司机的APP。...[详细]
不过,这种模式容易削弱公司对加盟商的控制能力,在其品牌形象的塑造和维护上存在较大风险。...[详细]
斯托勒说:“当你向创业者投资时,你就会保护他们。...[详细]
金志雄简历中的部分个人介绍 “如果选择大公司的高级管理岗,比如技术总监,下面带几十几百号人,领导又会担心我在创业公司自由惯了,能不能融入进这种规模的团队。...[详细]
” 作为雷军十几年的朋友,毕胜对雷军的话从不怀疑,既然大哥给指了条“明路”,那就干。...[详细]
而那些决定归于现实,重新工作的人,大多也是在认清现状的情况下做出的选择。...[详细]
据新华社旗下“瞭望智库”报道,3月8日,新加坡交通部次长黄志明在国会称,要重新仔细评估政府支持的公共单车的投放计划,并研究是否应进一步扩展。...[详细]
HTC要进入这个行业,仍需要大量的投入去做技术研发、内容生产以及更多的战略布局,才有可能抢占更大的市场份额。...[详细]