8 月 5 日,OpenAI 正式發布了兩款開放權重(open-weight)的語言模型──gpt-oss-120b 與 gpt-oss-20b,標誌著公司時隔六年後再次擁抱開放權重策略。這兩款模型根據 Apache 2.0 授權釋出,並在開源社群的回饋下開發,旨在推動 AI 技術的民主化和生態系統的健康發展。
不過,在gpt-oss-20b正式發布後不久,部分用戶發現此較小型模型對2024年美國總統選舉結果產生明顯混淆。當詢問選舉結果時,gpt-oss-20b模型堅持回答「拜登(Joe Biden)勝出」,並持續拒絕接受任何反對意見。甚至在一些情況下,模型會虛構資訊支持其主張,包括聲稱「2024年美國總統選舉由拜登贏得,他在2025年8月仍是現任總統」。更奇特的是,有時模型還會宣稱川普(Donald Trump)擊敗了一位虛構的民主黨候選人。
這種異常行為可能與該模型知識截止日期設於2024年6月有關,該時間點在選舉結果公布前,因此模型生成的答案基於過去資訊推測,而非實際結果。此外,gpt-oss-20b在設計時建置了嚴密的安全機制,防止用戶操控模型產生不當內容,這也可能導致它不願承認相反事實。該模型在面對質疑時甚至會虛構引用網址以支持其回答,顯示出其堅持本身立場的傾向。
值得注意的是,這種現象主要出現在較小的gpt-oss-20b模型中,而OpenAI的更大型120B參數版本(gpt-oss-120b)並未出現相同問題。由此可見,模型規模與參數設置在理解深度和知識範圍上具有直接影響。
OpenAI在新模型發布時特別強調,開放權重雖帶來創新與合作契機,但也伴隨一定風險,如模型可能被惡意微調繞過安全機制。目前,OpenAI已啟動包括50萬美元獎金的紅隊挑戰賽,鼓勵全球研究人員一同參與發掘並解決安全問題,以促進整個開源AI生態系統的安全和穩定發展。
這次OpenAI重啟開放權重策略,被廣泛視為CEO Sam Altman在2025年Reddit AMA中提及「改變過去錯誤」的具體落實,對整體AI產業具有重大的示範和推動意義。
(首圖來源:Unsplash)
文章看完覺得有幫助,何不給我們一個鼓勵
請我們喝杯咖啡您的咖啡贊助將是讓我們持續走下去的動力
總金額共新臺幣 0 元 《關於請喝咖啡的 Q & A》 取消 確認(责任编辑:张智华)
所以即使连续3次创业都以失败告终,他还是想去一家创业公司担任类似“合伙人”的角色。...[详细]
来深圳创业一年多,我除了工作还是工作。...[详细]
根据读懂新三板研究中心的数据,发布上市辅导公告后至2017年3月8日期间,股价跌幅超过20%,出现“见光死”的公司有20家。...[详细]
创业所提供的服务或者产品需要在使用当中不断被检验才能够立足,单纯的情怀只能被用来当做消耗品牌背书的营销,用一次少一次。...[详细]
Netmarble公司创始人BangJun-hyuk称,该公司的目标是到2020年前跻身全球五大游戏公司之列。...[详细]Made by Google 寄出邀請函,Pixel 10 系列新機 8/20 亮相
4月财新中国制造业采购经理人指数(PMI)录得49.5 焦点热议
弹幕最早是军事用语,原意指用大量或少量火炮提供密集炮击。...[详细]
如果用户中断或直接取消下载/安装过程,这时将不会计入转换。...[详细]
因此,郑方认为,所谓的“脱虚入实”,脱的虚应该是虚假经济,而不是虚拟经济。...[详细]
虫二(虎嗅作者):穿越故宫来看你,用中国风搭rap洗脑传统文化,互动玩到了现象级,潮爆的复古风可能成为营销潮流。...[详细]