感謝 DeepSeek:Predibase 發(fā)布全球首個(gè)端到端強(qiáng)化微調(diào)平臺(tái)并開(kāi)源,支持無(wú)服務(wù)器和端到端訓(xùn)練方法
2025-03-20 14:55:29 小編:鑫昌軟件園
本站 3 月 20 日消息,昨日晚間,大模型訓(xùn)練、開(kāi)發(fā)平臺(tái) Predibase 發(fā)布了一個(gè)完全托管、無(wú)服務(wù)器、端到端的強(qiáng)化微調(diào)平臺(tái),也是首個(gè)端到端強(qiáng)化微調(diào)(RFT)平臺(tái)。
Predibase 表示,DeepSeek-R1 的開(kāi)源在全球 AI 領(lǐng)域產(chǎn)生了巨大影響,讓很多人意識(shí)到強(qiáng)化學(xué)習(xí)微調(diào)對(duì)訓(xùn)練大模型的重要性。受此啟發(fā),他們開(kāi)發(fā)了這個(gè)端到端無(wú)服務(wù)器強(qiáng)化微調(diào)平臺(tái)。
與傳統(tǒng)的監(jiān)督式微調(diào)相比,RFT 不依賴大量的標(biāo)注數(shù)據(jù),而是通過(guò)獎(jiǎng)勵(lì)和自定義函數(shù)來(lái)完成持續(xù)地強(qiáng)化學(xué)習(xí),同時(shí)支持無(wú)服務(wù)器和端到端訓(xùn)練方法,從數(shù)據(jù)管理、訓(xùn)練模型到應(yīng)用部署可以在同一個(gè)平臺(tái)完成。用戶只需要一個(gè)瀏覽器,設(shè)定微調(diào)目標(biāo)、上傳數(shù)據(jù)、就能完成以前非常復(fù)雜的大模型微調(diào)流程。
為了展示 RFT 的強(qiáng)大,Predibase 基于阿里 Qwen2.5-Coder-32B-instruct 微調(diào)了一個(gè)專門用于將 PyTorch 代碼翻譯為 Triton 的模型 Predibase-T2T-32B-RFT,并根據(jù)其他更大的基礎(chǔ)模型(包括 DeepSeek-R1、Claude 3.7 Sonnet 和 OpenAI o1)對(duì)內(nèi)核正確性進(jìn)行了基準(zhǔn)測(cè)試。
與傳統(tǒng)的監(jiān)督式微調(diào)方法不同,Predibase-T2T-32B-RFT 利用 RFT 以交互方式調(diào)整模型行為,以最少的標(biāo)記數(shù)據(jù)優(yōu)化下游任務(wù)質(zhì)量。這使其成為專有 LLM 的高性價(jià)比、高性能替代方案。
通過(guò) RFT,Predibase 在訓(xùn)練過(guò)程結(jié)合了冷啟動(dòng)監(jiān)督式微調(diào)、強(qiáng)化學(xué)習(xí)和課程學(xué)習(xí),并且只使用了十幾個(gè)標(biāo)記數(shù)據(jù)點(diǎn)。
在 Kernelbench 數(shù)據(jù)集上進(jìn)行的基準(zhǔn)測(cè)試顯示,Qwen2.5-Coder-32B-instruct 經(jīng)過(guò)強(qiáng)化后,其正確率比 DeepSeek-R1 和 OpenAI 的 o1 高出 3 倍,比 Claude 3.7 Sonnet 高出 4 倍以上,而模型占用的空間卻小了一個(gè)數(shù)量級(jí)。
本站附開(kāi)源地址:https://huggingface.co/predibase/Predibase-T2T-32B-RFT
在線體驗(yàn)地址:https://predibase.com/reinforcement-fine-tuning-playground
- 猜你喜歡
-
四海旅人手機(jī)版739.92MB手游下載
-
黑星勇者成名錄最新版519.11MB手游下載
-
打了個(gè)龍破解版120.4MB手游下載
-
星際守護(hù)者0.1折免費(fèi)版691.6MB手游下載
-
上古修仙0.1折版3.5MB手游下載
-
粉碎傳奇國(guó)際服官方正版1.3GB手游下載
-
小魚傳奇沉默版151.27MB手游下載
-
炸彈輪盤九游渠道服51.22MB手游下載
-
獵影0.1折火影打喪尸版2.44MB手游下載
- 相關(guān)手機(jī)游戲
-
魔獸三國(guó)0.05折每日領(lǐng)神將版316.28MB手游下載
-
新網(wǎng)球王子RisingBeat日服最新版90.25MB手游下載
-
曦恩之城手游2025最新版16.73MB手游下載
-
雅果視頻安卓版下載76.63MB手游下載
-
澀澀軟件安卓版最新版73.98MB手游下載
-
韓語(yǔ)翻譯助手99.29MB手游下載
-
ZzzFun主題148.94MB手游下載
-
浪花直播觀看最新版68.23MB手游下載
-
美拍2022最新版80.31M手游下載
- 推薦鑫昌秘籍
- 感謝 DeepSeek:Predibase 發(fā)布全球首個(gè)端到端強(qiáng)化微調(diào)平臺(tái)并開(kāi)源,支持無(wú)服務(wù)器和端到端訓(xùn)練方法
- 推薦好玩的游戲有哪些?這幾款讓你玩到停不下來(lái)!
- 空解是什么原理?一篇文章幫你徹底搞明白!
- 盤點(diǎn)休杰克曼最好看的幾部電影,影迷必看系列!
- 虛擬軌道 + AI 調(diào)度:英偉達(dá)專利揭示未來(lái)自動(dòng)駕駛交通藍(lán)圖
- 誰(shuí)與爭(zhēng)瘋在哪看?各大平臺(tái)免費(fèi)資源這里找!
- 凱迪拉克 LYRIQ-V 申報(bào)圖公布:零百 3 秒俱樂(lè)部,年內(nèi)登陸中國(guó)
- 我不要睡覺(jué)怎么辦?試試這幾個(gè)方法讓你快速入眠!
- 想知道sexy什么意思?這篇文章給你講清楚!
- 國(guó)產(chǎn)沃爾沃 EX30 CC 申報(bào)圖公布:四驅(qū)動(dòng)力、雙色涂裝,海外版今夏上市
- 最新手機(jī)精選
-
櫻桃視頻直播官方版下載2025-01-28手游下載 | 88.51MB
-
TFS飛行模擬器破解版2025-02-14手游下載 | 86.66MB
-
Poppy Playtime第五章正版2025-01-15手游下載 | 603MB
-
道歉模擬器最新版2025-02-18手游下載 | 113.27MB
-
地鐵跑酷火山難度版2025-02-21手游下載 | 57.33MB
-
幕后的Nexbox沙盒最新版本2025-01-17手游下載 | 593.47MB