8 月 5 日,OpenAI 正式發布了兩款開放權重(open-weight)的語言模型──gpt-oss-120b 與 gpt-oss-20b,標誌著公司時隔六年後再次擁抱開放權重策略。這兩款模型根據 Apache 2.0 授權釋出,並在開源社群的回饋下開發,旨在推動 AI 技術的民主化和生態系統的健康發展。
不過,在gpt-oss-20b正式發布後不久,部分用戶發現此較小型模型對2024年美國總統選舉結果產生明顯混淆。當詢問選舉結果時,gpt-oss-20b模型堅持回答「拜登(Joe Biden)勝出」,並持續拒絕接受任何反對意見。甚至在一些情況下,模型會虛構資訊支持其主張,包括聲稱「2024年美國總統選舉由拜登贏得,他在2025年8月仍是現任總統」。更奇特的是,有時模型還會宣稱川普(Donald Trump)擊敗了一位虛構的民主黨候選人。
這種異常行為可能與該模型知識截止日期設於2024年6月有關,該時間點在選舉結果公布前,因此模型生成的答案基於過去資訊推測,而非實際結果。此外,gpt-oss-20b在設計時建置了嚴密的安全機制,防止用戶操控模型產生不當內容,這也可能導致它不願承認相反事實。該模型在面對質疑時甚至會虛構引用網址以支持其回答,顯示出其堅持本身立場的傾向。
值得注意的是,這種現象主要出現在較小的gpt-oss-20b模型中,而OpenAI的更大型120B參數版本(gpt-oss-120b)並未出現相同問題。由此可見,模型規模與參數設置在理解深度和知識範圍上具有直接影響。
OpenAI在新模型發布時特別強調,開放權重雖帶來創新與合作契機,但也伴隨一定風險,如模型可能被惡意微調繞過安全機制。目前,OpenAI已啟動包括50萬美元獎金的紅隊挑戰賽,鼓勵全球研究人員一同參與發掘並解決安全問題,以促進整個開源AI生態系統的安全和穩定發展。
這次OpenAI重啟開放權重策略,被廣泛視為CEO Sam Altman在2025年Reddit AMA中提及「改變過去錯誤」的具體落實,對整體AI產業具有重大的示範和推動意義。
(首圖來源:Unsplash)
文章看完覺得有幫助,何不給我們一個鼓勵
請我們喝杯咖啡您的咖啡贊助將是讓我們持續走下去的動力
總金額共新臺幣 0 元 《關於請喝咖啡的 Q & A》 取消 確認(责任编辑:六盘水市)
华商韬略(微信公众号:hstl8888)总结如下: 黑牛食品是一家A股上市公司,主要生产豆奶、麦片、核桃粉等产品,从2012年开始,其业绩由于产品市场饱和持续下滑,管理层迫切需要一个能快速扭转局面的...[详细]每日关注!中南大学一校友向母校捐赠6亿元 系该校迄今接受的最大一笔
写稿五分钟,标题有套路 无论是以算法平台为导向的今日头条,还是以算法+人工推荐的企鹅自媒体平台,又或是几乎纯靠人工推荐的网易号,一篇做号者的稿子能否赚钱,标题占了80%的因素。...[详细]
放在从前,正经如《大秦帝国之崛起》根本不会在被90后一统天下的B站投放广告。...[详细]
付完以后就可以用我那套系统了,当时用了一个概念国外的叫做SaaS。...[详细]
因此,手机科技网站运用不同颜色搭配,不仅在视觉给人造成冲击力,还让网站更加具有科技感。...[详细]
(就像)我前面说的,创业是为了给社会给用户创造价值这是最核心的。...[详细]
2016年7月27日,中小企业股份转让系统公布了“北京新东方迅程网络科技股份有限公司”(后简称新东方网)的公开转让说明书(申报稿)...[详细]
而恰恰是消费者心理的这种不成熟状态为企业实施各种营销策略尤其是“饥饿营销”策略提供了条件。...[详细]
AD-1的位置实现的转化明细数最多,点击量最高. AD-2的位置实现的转化量次之,但与AD-3相比,点击量远高于AD-3,再对比二者的转化明细数,不难发现AD-3的位置所带来的转化好于AD-2。...[详细]
江苏稻草熊影业成立以来,已经参与出品了《新白发魔女传》《蜀山战纪》等多个“头部作品”,在业内口碑不俗。...[详细]