阿里巴巴發布 WorldPM 系列模型！

阿里巴巴集團旗下 Qwen 團隊宣布發表 WorldPM 系列全新偏好建模模型，包括 WorldPM-72B 及其衍生版本 WorldPM-72B-HelpSteer2、WorldPM-72B-RLHFLow、WorldPM-72B-UltraFeedback 等。這項聲明引起了全球人工智慧開發者社群的廣泛關注，被認為是偏好建模領域的重大突破。

WorldPM：偏好建模的新探索

WorldPM（世界偏好建模）是Qwen在偏好建模領域的最新成果。根據官方介紹，該模型透過對超過1500萬個偏好資料點的訓練，驗證了偏好建模與語言建模遵循類似的縮放規律。這項發現表明，隨著數據和模型規模的擴大，偏好模型可以學習統一的偏好表示，從而顯著提高監督學習的表現。

WorldPM-72B 系列擁有 72 億個參數規模，專為評估和優化其他模型的輸出而設計。官方表示，基於WorldPM進行微調比從零開始訓練有顯著提升效能，尤其在需要捕捉人類偏好的場景下表現優異。這使其成為強化學習和監督微調的理想工具，為開發人員提供模型最佳化的有效途徑。

開源策略：賦能全球開發者

Qwen 始終秉持開源精神； WorldPM 系列模型全部採用 Apache2.0 授權協議發布，現已在 Hugging Face 上開放供全球開發者免費下載使用。這項開放策略不僅降低了技術門檻，也進一步鞏固了Qwen在全球開源AI生態系統中的領導地位。 X平台的開發者回饋將WorldPM的發布描述為“開源模型生態系統的新里程碑”，引發了熱烈的討論，尤其是在監督學習和偏好評估領域。

值得注意的是，WorldPM 並不是一個通用的對話模型，而是專注於為其他模型提供偏好評分和最佳化指導。例如，開發人員可以使用 WorldPM-72B 對生成式 AI 的回應進行評分，從而提高特定任務的模型效能。這種專業化的定位使其在人工智慧發展鏈中發揮關鍵作用。

技術亮點：平衡規模與效率

在 WorldPM 的開發過程中，Qwen 團隊從公共論壇收集了多樣化的偏好數據，涵蓋了多個使用者社區，以確保跨不同文化和語言背景的適應性。 WorldPM 的訓練資料規模為 1,500 萬，結合 15 億至 720 億個參數的模型架構，展現出強大的泛化能力。官方技術報告顯示，WorldPM 在對抗性評估中表現優異，測試損失呈現冪律下降趨勢，顯示模型可以有效識別包含故意錯誤的答案，以及不相關或不完整的答案。

此外，WorldPM 中風格偏見的優化值得關注。隨著模型規模的擴大，WorldPM 逐漸表現出風格中立的特徵，克服了主觀評估中常見的偏見問題。這使得它在客觀領域表現尤為出色，尤其是在編碼和數學等需要精確推理的任務中展現出明顯的優勢。

https://kopyai.com/zh-tw/latest/view/type.news/0/31

Picture Source:

Alibaba Cloud

留言

這個網誌中的熱門文章

標普 500 指數和那斯達克指數結束兩週連漲勢頭，人工智慧引發的動盪令科技股承壓

週五美國股市波動劇烈，半導體股在有關 OpenAI ( OPAI.PVT ) IPO 可能推遲的報道出現後回落，這加劇了本週令市場劇烈震蕩的不利因素。科技股為主的那斯達克指數（^IXIC）下跌 0.2%，而標準普爾 500 指數（^GSPC）小幅下跌，這兩個指數本週分別下跌超過 4% 和近 2%。道瓊工業指數（^DJI）科技股佔比較低，跌破橫盤整理線，但周漲幅不到 1%。蘋果公司（ AAPL）上調 MacBook 和 iPad 價格後，人們越來越擔心記憶體和儲存組件成本飆升可能會衝擊設備製造商。內存晶片製造商美光科技（ MU）亮眼的財報表明，這種成本壓力還將繼續。同時，《紐約時報》報道稱，OpenAI 正在考慮將其巨額 IPO 推遲到 2027 年，這也抑制了人們對科技股的興趣。由於市場預期聯準會今年將升息，人工智慧交易已承壓。聯準會首選的通膨指標—個人消費支出指數— —5月份的強勁表現，進一步鞏固了這一預期。 https://kopyai.com/zh-tw/markets/view/type.stock.us/0/165 Picture Source unsplash

閱讀完整內容

西班牙監管機構表示，歐盟數位貨幣監管截止日期不會延長，幣安仍未獲得許可

西班牙最高證券監管機構週五表示，該國不會延長數位貨幣公司根據新規註冊的最後期限——儘管幣安公司正努力完成註冊。根據歐盟新實施的 MiCA 數位貨幣框架，企業必須在 7 月 1 日前在成員國註冊並繼續營運。如果未能在下週前完成註冊，則將強制停止營業。下週後，歐洲消費者將無法與未經授權的數位貨幣服務提供者進行交易。全球最大的數位貨幣交易所幣安曾申請在希臘根據《貨幣與公司法》（MiCA）註冊。但先前有報告指出希臘不太可能批准註冊申請，幣安本周宣布撤回在希臘的申請。目前，幣安正尋求在另一個歐盟成員國註冊，但由於下週三截止日期臨近，幣安很可能被迫至少暫時停止在歐洲的業務運作。根據路透社報道，西班牙國家證券市場委員會主席卡洛斯·聖巴西利奧週五表示，7 月 1 日的最後期限“不會有任何例外或延期”。聖巴西利奧對幣安等大型數位貨幣平台表示擔憂，這些平台由於缺乏 MiCA 合規性，可能在幾天內關閉。他說：“我們擔心的是……過渡期的結束將如何展開，以及人們將如何適應新的環境。” 該監管機構補充說，他和一些人正在與尚未獲得牌照的主要數位貨幣公司聯繫，以確保他們制定計劃將客戶資產轉移到其他提供者，並確保投資者的權利。一旦數位貨幣公司在歐盟國家註冊，其牌照即可「通行」至其他司法管轄區。歐盟成員國在金融監管方面採取了多種不同的方法，從塞浦路斯和馬耳他等較為寬鬆的監管體系，到法國和德國等以監管嚴格著稱的體系，不一而足。雖然每個歐盟國家處理申請的方式可能各不相同，但所有國家都將執行同一套更廣泛的數位貨幣相關規則。 https://kopyai.com/zh-tw/markets/view/type.stock.us/0/166 Picture Source unsplash

閱讀完整內容

DeepSeek-V3.1 發布，邁向 AI Agent

DeepSeek-V3.1 在 DeepSeek-V3.1-Base 的基礎上進行後訓練，後者基於原始 V3 基礎檢查點，通過兩階段長上下文擴展方法構建，遵循原始 DeepSeek-V3 報告中概述的方法。 DeepSeek 透過收集更多長文件並大幅擴展兩個訓練階段來擴展資料集。32K 擴展階段的標記數量增加了 10 倍，達到 6,300 億個標記，而 128K 擴展階段的標記數量增加了 3.3 倍，達到 2,090 億個標記。此外，DeepSeek-V3.1 使用 UE8M0 FP8 規模資料格式進行訓練，以確保與微尺度資料格式相容。 DeepSeek-V3.1 是一個同時支持思考模式和非思考模式的混合模型。相較於上一版本，本次升級帶來了多個方面的改進：混合推理：思考與非思考－一個模型，兩種模式更快的思考：DeepSeek-V3.1-Think 與 DeepSeek-R1-0528 相比，可以在更短的時間內找到答案更強大的代理商技能：後製訓練可提高工具使用率和多步驟代理任務 DeepSeek-V3.1 模型提升了工具使用、程式碼生成和推理效率，在高難度基準測試中實現了與 DeepSeek-R1 相當的效能，同時響應速度更快。它支援結構化工具呼叫、代碼代理和搜尋代理，適用於研究、編碼和代理工作流程。工具和代理程式升級在 SWE / Terminal-Bench 上獲得更好的結果針對複雜搜尋任務的更強大的多步驟推理思考效率大幅提升模型更新 V3.1 基礎：在 V3 基礎上繼續對 840B 個 token 進行預訓練，以進行長上下文擴展 Tokenizer 和聊天範本已更新 - 新的 tokenizer 設定： https://huggingface.co/deepseek-ai/DeepSeek- V3.1/blob/main/tokenizer_config.json V3.1 基礎開源權重： https://huggingface.co/deepseek-ai/DeepSeek-V3.1-Base V3.1 開源權重： https://huggingface.co/deepseek-ai/DeepSeek-V3.1 價格變動新定價開始及非高峰折扣結束時間為 2025 年 9 月 5 日 16:00（UTC 時間）在此之前，API 遵循當前定價 ...

閱讀完整內容

Kopy AI Blog

搜尋此網誌