OpenAI 推出首款開源推理思維鏈(chain-of-thought,簡稱 CoT)模型「gpt-oss-20b」,此模型可直接在搭載 Snapdragon 旗艦處理器的裝置上運行。高通指出,這是一次重大進展,過去 OpenAI 先進模型僅限於雲端運行,這次首度讓模型可在裝置端進行推理。
高通已取得該模型的提前存取權,並與高通 AI 疊層(Qualcomm AI Stack)和 AI 引擎進行整合測試。測試結果相當出色。完整的思維鏈推理能完全在裝置上運行,無須依賴雲端。此模型不僅快速、具隱私性,也為在手機上的個人化智慧代理體驗開創新的可能。
高通指出,開發者將可在發佈當日,透過 Hugging Face 和 Ollama 存取 gpt-oss-20b,近期也將在 Qualcomm AI Hub 公布更多部署細節。與Ollama整合,也代表像是網路搜尋、渦輪模式(Turbo Mode)等開箱即用功能也已經整合完成。
高通認為,未來幾年,隨著行動裝置的記憶體容量持續成長、軟體堆疊愈加高效,裝置端 AI 的能力將快速提升,AI 助理也將會無所不在、個人化,並且能在裝置端運行。
(首圖來源:科技新報)
文章看完覺得有幫助,何不給我們一個鼓勵
請我們喝杯咖啡您的咖啡贊助將是讓我們持續走下去的動力
總金額共新臺幣 0 元 《關於請喝咖啡的 Q & A》 取消 確認(责任编辑:马克安东尼)
世界速看:沪上黄金周|“五一”酒店搜索量达去年9倍 连锁投资加盟升温
很多创业灵感都来源于解决难题,或是难题的潜在解决方案。...[详细]
▼ 据此,我们顺便看了一下公司的投资活动,我们发现,公司近四年来,在理财产品的投资上,占据了很大比重,并呈现逐年递增的趋势。...[详细]
近期,知乎答题者"海贼-王路飞"实实在在火了一把,吃瓜群众在“喝彩”其能一人分饰多角,颇有冲击奥斯卡希望的时候,也顺道将知乎又一次推上了舆论审判台。...[详细]
虽然我是小兵,没有太高的高度和足够的格局,但是我看的多,确实是这样,站得越高,想得越多,能考虑到的就越全面,埋头只做自己的事常常会迷失方向,不知对错。...[详细]
而当初标普500平均的市盈率为33倍。...[详细]太空「神醫」報到!將醫療決策交給 AI,會是一場無法承擔後果的豪賭?
现在很多医疗医院开始更加注重SEO。...[详细]
不过,孵化器已经做了两年了,量早已经够了,现在该提高品质了。...[详细]
不错,百度这次又是来刷存在感的,这是第一层套路。...[详细]