Mistral AI 28 日公布有里程碑意義的環境審計報告,揭示人工智慧(AI)隱藏的環境成本。報告全面評估旗艦模型 Mistral Large 2,18 個月訓練期產生 20.4 千噸二氧化碳,消耗 281,000 立方公尺水。正值眾企業推動 AI 保持競爭力,同時面臨可持續性壓力。
Mistral審計報告為技術決策者提供前所未有資料,AI採購決策時考慮環境影響,過去難以量化。報告指出,訓練有1,230億參數的模型能量,相當於4,500輛汽油車開一年,水消耗量約112個奧林匹克標準游泳池。每次用Mistral的Le Chat查詢,會產生1.14克二氧化碳,並消耗約45毫升水,等於種植一顆小蘿蔔的水量。
經營階段對環境的影響更明顯。訓練和推理占85%水資源消耗,遠超過硬體製造或蓋資料中心環境成本。代表模型用量增加,環境成本就會一直累積。
Mistral研究還提出減少環境影響的可行策略。地理位置對碳足跡有影響,可再生能源和氣候較冷地區訓練的模型,排放量較低。模型大小與環境成本有強相關性,大模型產生同量標記時,環境影響約高一個等級。
報告建議企業選擇模型時,應根據用例選擇合適模型,而不是一律採用大型系統;查詢分批處理減少計算浪費,並在清潔能源電網的地區部署模型,能降低碳排放。
Mistral透明度策略與競爭對手大相逕庭。雖然OpenAI首席執行長Sam Altman最近聲稱,ChatGPT查詢每次僅消耗0.32毫升水,但缺乏詳細方法論使有意義比較更困難。透明度全披露是願意提供環境資訊公司的機會,使其競爭時能脫穎而出。
這份審計報告確立環境透明度為企業AI市場關鍵因素。可持續性指標越來越影響採購決策,有詳細環境影響數據的供應商將更占優勢。透明度使供應商評估更複雜,卻能讓客戶在性能需求與環境成本間取得平衡。
對技術高層來說,Mistral審計報告提供以前無法取得的決策標準。組織現在可AI採購決策時也考慮環境影響,與傳統性能和成本指標並列。這些數據使企業更精確計算總擁有成本,將環境外部性納入考量,未來環境表現可能會與計算性能一樣,成為選擇AI供應商的關鍵因素。
(首圖來源:Mistral AI)
文章看完覺得有幫助,何不給我們一個鼓勵
請我們喝杯咖啡您的咖啡贊助將是讓我們持續走下去的動力
總金額共新臺幣 0 元 《關於請喝咖啡的 Q & A》 取消 確認(责任编辑:莱芜市)
新华社记者黄孝邦摄这是空中护旗梯队从反舰导弹方队上空飞过。...[详细]
新时代新征程,河南省佛教协会一定充分发挥桥梁纽带作用,团结带领广大佛教僧众,深学笃行习近平总书记关于宗教工作的重要论述,紧紧围绕推动我国佛教中国化目标,全力指导少林寺僧团正确认识禅宗祖庭的定位,切实担...[详细]
某些外部势力妄图搞以台制华,纵容支持台独分裂势力破坏台海和平稳定。...[详细]誰說 AI 只能靠輝達?RNGD 晶片採台積電製程打入推論市場
泰国总理府30日发布通报说,内阁当天召开特别会议,批准任命副总理兼内政部长普坦继续担任代理总理。...[详细]
3,还有耐人寻味的,请代我向……谁代他传达。...[详细]
新华社记者刘大伟摄这是歼击机梯队接受检阅。...[详细]三星困境都怪自己!2018 年黃仁勳曾上門尋求三大合作遭短視拒絕
铭记历史,缅怀先烈,愿伟大祖国繁荣昌盛。...[详细]
事实上,劳动法、社会保险法早已明确规定,用人单位和劳动者必须依法应当参加社会保险,缴纳社会保险费。...[详细]
所以,与其追逐短期的风口,不如练好内功。...[详细]