跳到主要內容

阿里巴巴發布 WorldPM 系列模型!


阿里巴巴集團旗下 Qwen 團隊宣布發表 WorldPM 系列全新偏好建模模型,包括 WorldPM-72B 及其衍生版本 WorldPM-72B-HelpSteer2、WorldPM-72B-RLHFLow、WorldPM-72B-UltraFeedback 等。這項聲明引起了全球人工智慧開發者社群的廣泛關注,被認為是偏好建模領域的重大突破。

WorldPM:偏好建模的新探索

WorldPM(世界偏好建模)是Qwen在偏好建模領域的最新成果。根據官方介紹,該模型透過對超過1500萬個偏好資料點的訓練,驗證了偏好建模與語言建模遵循類似的縮放規律。這項發現表明,隨著數據和模型規模的擴大,偏好模型可以學習統一的偏好表示,從而顯著提高監督學習的表現。

WorldPM-72B 系列擁有 72 億個參數規模,專為評估和優化其他模型的輸出而設計。官方表示,基於WorldPM進行微調比從零開始訓練有顯著提升效能,尤其在需要捕捉人類偏好的場景下表現優異。這使其成為強化學習和監督微調的理想工具,為開發人員提供模型最佳化的有效途徑。

開源策略:賦能全球開發者

Qwen 始終秉持開源精神; WorldPM 系列模型全部採用 Apache2.0 授權協議發布,現已在 Hugging Face 上開放供全球開發者免費下載使用。這項開放策略不僅降低了技術門檻,也進一步鞏固了Qwen在全球開源AI生態系統中的領導地位。 X平台的開發者回饋將WorldPM的發布描述為“開源模型生態系統的新里程碑”,引發了熱烈的討論,尤其是在監督學習和偏好評估領域。

值得注意的是,WorldPM 並不是一個通用的對話模型,而是專注於為其他模型提供偏好評分和最佳化指導。例如,開發人員可以使用 WorldPM-72B 對生成式 AI 的回應進行評分,從而提高特定任務的模型效能。這種專業化的定位使其在人工智慧發展鏈中發揮關鍵作用。

技術亮點:平衡規模與效率

在 WorldPM 的開發過程中,Qwen 團隊從公共論壇收集了多樣化的偏好數據,涵蓋了多個使用者社區,以確保跨不同文化和語言背景的適應性。 WorldPM 的訓練資料規模為 1,500 萬,結合 15 億至 720 億個參數的模型架構,展現出強大的泛化能力。官方技術報告顯示,WorldPM 在對抗性評估中表現優異,測試損失呈現冪律下降趨勢,顯示模型可以有效識別包含故意錯誤的答案,以及不相關或不完整的答案。

此外,WorldPM 中風格偏見的優化值得關注。隨著模型規模的擴大,WorldPM 逐漸表現出風格中立的特徵,克服了主觀評估中常見的偏見問題。這使得它在客觀領域表現尤為出色,尤其是在編碼和數學等需要精確推理的任務中展現出明顯的優勢。

https://kopyai.com/zh-tw/latest/view/type.news/0/31

Picture Source:

Alibaba Cloud

留言

這個網誌中的熱門文章

標普 500 指數和那斯達克指數結束兩週連漲勢頭,人工智慧引發的動盪令科技股承壓

週五美國股市波動劇烈,半導體股在有關 OpenAI ( OPAI.PVT ) IPO 可能推遲的報道出現後回落,這加劇了本週令市場劇烈震蕩的不利因素。 科技股為主的那斯達克指數(^IXIC)下跌 0.2%,而標準普爾 500 指數(^GSPC)小幅下跌,這兩個指數本週分別下跌 超過 4% 和近 2%。 道瓊工業指數(^DJI)科技股佔比較低,跌破橫盤整理線,但周漲幅不到 1%。 蘋果公司( AAPL)上調 MacBook 和 iPad 價格後,人們越來越擔心記憶體和儲存組件成本飆升可能會衝擊設備製造商。內存晶片製造商美光科技( MU)亮眼的財報表明,這種成本壓力還將繼續。 同時,《紐約時報》報道稱,OpenAI 正在考慮將其巨額 IPO 推遲到 2027 年,這也抑制了人們對科技股的興趣。 由於市場預期聯準會今年將升息,人工智慧交易已承壓。聯準會首選的通膨指標—個人消費支出指數— —5月份的強勁表現,進一步鞏固了這一預期。 https://kopyai.com/zh-tw/markets/view/type.stock.us/0/165 Picture Source unsplash

Figure AI 發布新一代的神經系統 Helix 02

Figure AI 推出新一代的單一神經系統 Helix 02,可直接從像素控制全身,從而在整個房間內實現靈巧、遠距離的自主移動。 新特色 自主長距離移動操作: Helix 02 能夠在一個完整的廚房內完成洗碗機的裝卸工作——這項全程自主任務耗時四分鐘,整合了行走、操作和平衡能力,無需任何重置或人工幹預。我們相信這是迄今為止人形機器人自主完成的最長距離、最複雜的任務。 所有感測器輸入,所有執行器輸出: Helix 02 透過一個統一的視覺運動神經網絡,將每個板載感測器(視覺、觸覺和本體感覺)直接連接到每個執行器。 基於人體資料的類人全身控制:所有結果均由系統 0實現,該系統是一個經過訓練的全身控制器,基於超過 1000 小時的人體運動資料和模擬到實際的強化學習進行訓練。系統 0 用一個神經網路先驗取代了 109,504 行手工編寫的 C++ 程式碼,從而實現了穩定、自然的運動。 新的靈巧度類別:借助 Figure 03 的嵌入式觸覺感測和掌心攝像頭,Helix 02 可以執行以前無法完成的操作:取出單個藥丸、分配精確的注射器容量,以及在自身遮擋的情況下從雜亂中取出細小的、不規則的物體。 根據最新的影片結果說明: 在操作約束下的運動。機器人能夠一邊行走一邊抓取易碎物品,並在每一步都保持穩定的抓握。 充分利用全身:當雙手被佔用時,機器人會用臀部關上抽屜,用腳抬起洗碗機門——將整個身體當作工具,而不是只依靠雙手。 雙手協調配合貫穿始終:物體被拿起、在雙手之間轉移、堆疊和放置,而雙臂則作為一個協調的系統進行操作。 跨尺度的運動範圍。同一個神經網路既能產生毫米級的指尖運動,也能產生房間尺度的移動-動態範圍跨越四個數量級。 長時域序列執行:61 個運動操作動作,順序正確,並具有隱式錯誤恢復能力。機器人可在數分鐘的執行時間內保持任務狀態。 Helix 02 的觸覺感測和掌部攝影機突破了純視覺策略的限制,實現了更多操作任務。 Helix 02 的 S0 提供學習到的全身控制,S1 將所有感測器連接到所有執行器,S2 實現對擴展任務的語義推理,從而實現了新的目標:連續的、房間規模的自主性,無縫地融合了行走和操作,目前研究結果尚處於初步階段,但已展現出持續性全身自主控制所能達到的成就 https://kopyai.com/zh-tw/latest/view/type.news/0/60...

西班牙監管機構表示,歐盟數位貨幣監管截止日期不會延長,幣安仍未獲得許可

西班牙最高證券監管機構週五表示,該國不會延長數位貨幣公司根據新規註冊的最後期限——儘管幣安公司正努力完成註冊。 根據歐盟新實施的 MiCA 數位貨幣框架,企業必須在 7 月 1 日前在成員國註冊並繼續營運。如果未能在下週前完成註冊,則將強制停止營業。下週後,歐洲消費者將無法與未經授權的數位貨幣服務提供者進行交易。 全球最大的數位貨幣交易所幣安曾申請在希臘根據《貨幣與公司法》(MiCA)註冊。但先前有報告指出希臘不太可能批准註冊申請,幣安本周宣布撤回在希臘的申請。目前,幣安正尋求在另一個歐盟成員國註冊,但由於下週三截止日期臨近,幣安很可能被迫至少暫時停止在歐洲的業務運作。 根據路透社報道,西班牙國家證券市場委員會主席卡洛斯·聖巴西利奧週五表示,7 月 1 日的最後期限“不會有任何例外或延期”。 聖巴西利奧對幣安等大型數位貨幣平台表示擔憂,這些平台由於缺乏 MiCA 合規性,可能在幾天內關閉。 他說:“我們擔心的是……過渡期的結束將如何展開,以及人們將如何適應新的環境。” 該監管機構補充說,他和一些人正在與尚未獲得牌照的主要數位貨幣公司聯繫,以確保他們制定計劃將客戶資產轉移到其他提供者,並確保投資者的權利。 一旦數位貨幣公司在歐盟國家註冊,其牌照即可「通行」至其他司法管轄區。歐盟成員國在金融監管方面採取了多種不同的方法,從塞浦路斯和馬耳他等較為寬鬆的監管體系,到法國和德國等以監管嚴格著稱的體系,不一而足。 雖然每個歐盟國家處理申請的方式可能各不相同,但所有國家都將執行同一套更廣泛的數位貨幣相關規則。 https://kopyai.com/zh-tw/markets/view/type.stock.us/0/166 Picture Source unsplash