Facebook開源Horizon,揭秘其AI強(qiáng)化學(xué)習(xí)
11月1日,F(xiàn)acebook開源了Horizon,一個(gè)由Facebook的AI研究人員、推薦系統(tǒng)專家和工程師共同搭建的強(qiáng)化學(xué)習(xí)平臺(tái),其框架的構(gòu)建工作開始于兩年半前,在過(guò)去一年中一直被Facebook內(nèi)部使用。
公司或研究團(tuán)隊(duì)可以在Horizon平臺(tái)大規(guī)模部署AI執(zhí)行各種操作,達(dá)到同樣的效果可能需要幾千個(gè)CPU或GPU訓(xùn)練數(shù)以十億計(jì)的觀測(cè)報(bào)告。而利用Apache Spark進(jìn)行預(yù)處理和PyTorch訓(xùn)練AI系統(tǒng),Horizon同樣可以部署在單臺(tái)計(jì)算機(jī)上。
Facebook的產(chǎn)品團(tuán)隊(duì)已經(jīng)利用Horizon平臺(tái)提供諸如M Suggestions的服務(wù),該服務(wù)能推薦翻譯工具、Spotify歌單、Food Network食譜,以及各種基于Facebook Messenger對(duì)話用詞的其他事物。Horizon還能被用來(lái)確定Facebook 360視頻碼率和個(gè)性化設(shè)置Facebook應(yīng)用程序的推送通知。
強(qiáng)化學(xué)習(xí)通過(guò)獎(jiǎng)勵(lì)(rewards)來(lái)驅(qū)動(dòng)智能體(agents)的活動(dòng)以達(dá)到預(yù)期目標(biāo)。Facebook開源Horizon主要是為了推進(jìn)強(qiáng)化學(xué)習(xí)的發(fā)展,同時(shí)為AI領(lǐng)域的新手、學(xué)生和需要數(shù)千臺(tái)機(jī)器訓(xùn)練AI系統(tǒng)的大型研究項(xiàng)目提供無(wú)監(jiān)督學(xué)習(xí)的方法。
谷歌曾利用強(qiáng)化學(xué)習(xí)訓(xùn)練DeepMind AI如何導(dǎo)航虛擬酷跑的路線,加州大學(xué)伯克利分校的研究人員也曾借此訓(xùn)練計(jì)算機(jī)的“好奇心”。對(duì)Facebook而言,強(qiáng)化學(xué)習(xí)將是AI產(chǎn)業(yè)的下一個(gè)前沿技術(shù),在機(jī)器學(xué)習(xí)中會(huì)被廣泛采用,該公司相信強(qiáng)化學(xué)習(xí)也有助于改進(jìn)大型系統(tǒng)和應(yīng)用程序,也希望看到強(qiáng)化學(xué)習(xí)的新方法和應(yīng)用,尤其在機(jī)器人和游戲領(lǐng)域。
Facebook對(duì)開源工具的AI培訓(xùn)和部署并不陌生,公司在今年10月份把深受歡迎的深度學(xué)習(xí)框架PyTorch 1.0集合到谷歌云、AWS和Azure機(jī)器學(xué)習(xí)平臺(tái),同期發(fā)布的還有用于AI模型訓(xùn)練的Caffe2和Parlai框架。除了PyTorch和Apache Spark,AI愛(ài)好者還能用TensorBoard X進(jìn)行可視化訓(xùn)練,在完成訓(xùn)練之后還可以利用ONNX使AI模型在不同框架之間進(jìn)行轉(zhuǎn)移。
不同于其他形式的強(qiáng)化學(xué)習(xí),Horizon可以離線訓(xùn)練AI系統(tǒng)。Horizon使用一種被稱為反事實(shí)策略評(píng)估(counterfactual policy evaluation)的技術(shù)來(lái)評(píng)估AI系統(tǒng)的離線性能,確定替代方法是否比在線運(yùn)行的性能更好。
Facebook認(rèn)為Horizon是第一個(gè)“利用強(qiáng)化學(xué)習(xí)規(guī)格化大規(guī)模數(shù)據(jù)集訓(xùn)練的開源端對(duì)端的平臺(tái)”,該平臺(tái)配有步進(jìn)式的用法說(shuō)明,只要具備計(jì)算機(jī)基礎(chǔ)知識(shí)的人士都可以在Faecbook的Horizon GitHub資源庫(kù)中進(jìn)行克隆和嘗試,不局限于大型公司的研究人員和專家。

發(fā)表評(píng)論
請(qǐng)輸入評(píng)論內(nèi)容...
請(qǐng)輸入評(píng)論/評(píng)論長(zhǎng)度6~500個(gè)字
圖片新聞
-
機(jī)器人奧運(yùn)會(huì)戰(zhàn)報(bào):宇樹機(jī)器人摘下首金,天工Ultra搶走首位“百米飛人”
-
存儲(chǔ)圈掐架!江波龍起訴佰維,索賠121萬(wàn)
-
長(zhǎng)安汽車母公司突然更名:從“中國(guó)長(zhǎng)安”到“辰致科技”
-
豆包前負(fù)責(zé)人喬木出軌BP后續(xù):均被辭退
-
字節(jié)AI Lab負(fù)責(zé)人李航卸任后返聘,Seed進(jìn)入調(diào)整期
-
員工持股爆雷?廣汽埃安緊急回應(yīng)
-
中國(guó)“智造”背后的「關(guān)鍵力量」
-
小米汽車研發(fā)中心重磅落地,寶馬家門口“搶人”
最新活動(dòng)更多
-
10月23日火熱報(bào)名中>> 2025是德科技創(chuàng)新技術(shù)峰會(huì)
-
10月23日立即報(bào)名>> Works With 開發(fā)者大會(huì)深圳站
-
10月24日立即參評(píng)>> 【評(píng)選】維科杯·OFweek 2025(第十屆)物聯(lián)網(wǎng)行業(yè)年度評(píng)選
-
11月27日立即報(bào)名>> 【工程師系列】汽車電子技術(shù)在線大會(huì)
-
12月18日立即報(bào)名>> 【線下會(huì)議】OFweek 2025(第十屆)物聯(lián)網(wǎng)產(chǎn)業(yè)大會(huì)
-
精彩回顧立即查看>> 【限時(shí)福利】TE 2025國(guó)際物聯(lián)網(wǎng)展·深圳站
推薦專題