強(qiáng)化學(xué)習(xí)在無人機(jī)項(xiàng)目中的應(yīng)用
近年來,無人機(jī)已被廣泛應(yīng)用于很多領(lǐng)域,它不僅可以完成很多的任務(wù),包括軌跡規(guī)劃、避障、巡航等,在民用、軍事都有很廣泛應(yīng)用,而且還有降低成本、提高效率、減少損失等很多作用。
但是傳統(tǒng)的無人機(jī)任務(wù)都采用飛控控制,需要人為操作。為了使無人機(jī)可以具備更廣的適用性,或者從技術(shù)上來說擁有更好的泛化能力,深蘭科學(xué)院嘗試用強(qiáng)化學(xué)習(xí)來訓(xùn)練無人機(jī)做指定的任務(wù)。如果訓(xùn)練效果能夠達(dá)到足夠穩(wěn)定的性能,則可以進(jìn)一步實(shí)現(xiàn)商用目的。本文在此基礎(chǔ)上,帶大家簡(jiǎn)單了解一下強(qiáng)化學(xué)習(xí)的基礎(chǔ)知識(shí)。
強(qiáng)化學(xué)習(xí)小課堂
什么是強(qiáng)化學(xué)習(xí)?
1、強(qiáng)化學(xué)習(xí)
強(qiáng)化學(xué)習(xí)(Reinforcement Learning RL)也有很多其他名字,例如再勵(lì)學(xué)習(xí)、增強(qiáng)學(xué)習(xí)、評(píng)價(jià)學(xué)習(xí),是機(jī)器學(xué)習(xí)的范式和方法論之一,用于描述和解決智能體在與環(huán)境的交互過程中,通過學(xué)習(xí)策略以達(dá)成回報(bào)最大化或?qū)崿F(xiàn)特定目標(biāo)的問題。
上圖為經(jīng)典的強(qiáng)化學(xué)習(xí)結(jié)構(gòu)圖,從圖片中可以看出,強(qiáng)化學(xué)習(xí)過程主要由4部分構(gòu)成:智能體(agent)、觀測(cè)到的狀態(tài)(observation/state)、獎(jiǎng)勵(lì)(reward)和行為(action)。
一個(gè)強(qiáng)化學(xué)習(xí)的過程中,智能體獲得從當(dāng)前環(huán)境中觀測(cè)到的狀態(tài),然后根據(jù)這一狀態(tài)采取一定的行為或策略,同時(shí),有一個(gè)評(píng)價(jià)系統(tǒng)來評(píng)價(jià)這個(gè)行為的好壞,并返回正/負(fù)獎(jiǎng)勵(lì)給到智能體。循環(huán)往復(fù),直到完成整個(gè)任務(wù),此為一次強(qiáng)化學(xué)習(xí)的交互。整個(gè)強(qiáng)化學(xué)習(xí)訓(xùn)練過程就是,智能體與環(huán)境不斷的交互,最終會(huì)學(xué)習(xí)到合理的策略,讓獎(jiǎng)勵(lì)最大或者達(dá)到某個(gè)任務(wù)(指定的狀態(tài))。
強(qiáng)化學(xué)習(xí)受行為主義心理學(xué)的啟發(fā),例如巴甫洛夫條件反射實(shí)驗(yàn),訓(xùn)練搖鈴小狗流口水。小狗看到吃的流口水、搖鈴不流口水,實(shí)驗(yàn)中就采取搖鈴并給狗喂狗糧的方法不停訓(xùn)練,最終即使在沒有狗糧,只搖鈴的情況下,小狗也會(huì)流口水。
強(qiáng)化學(xué)習(xí)與此類似,是讓智能體在與環(huán)境交互的過程中,一旦選擇對(duì)的行為則給予正獎(jiǎng)勵(lì)加強(qiáng)這種行為,在不斷的訓(xùn)練過程中使得智能體選擇最合適的行為,最終使得智能體的每一步都能選擇合理的行為,從而達(dá)到整體任務(wù)獎(jiǎng)勵(lì)最大化,并完成任務(wù)。
2、深度強(qiáng)化學(xué)習(xí)
我們一般所說的強(qiáng)化學(xué)習(xí)其實(shí)是深度強(qiáng)化學(xué)習(xí)(Deep Reinforcement Learning DRL),深度強(qiáng)化學(xué)習(xí)是強(qiáng)化學(xué)習(xí)與深度學(xué)習(xí)結(jié)合的結(jié)果。顧名思義,就是將傳統(tǒng)強(qiáng)化學(xué)習(xí)中的某一部分用深度學(xué)習(xí)來完成。
傳統(tǒng)強(qiáng)化學(xué)習(xí)中的行為以及價(jià)值都是需要人為定義的,這也就是為什么傳統(tǒng)強(qiáng)化學(xué)習(xí)起源較早,但是應(yīng)用并不廣泛的原因之一。而深度學(xué)習(xí)恰好將這一問題解決了,強(qiáng)化學(xué)習(xí)中的行為以及價(jià)值都用一個(gè)深度學(xué)習(xí)的網(wǎng)絡(luò)來學(xué)習(xí)得到,這樣不需要人為設(shè)定,使得強(qiáng)化學(xué)習(xí)可以廣泛應(yīng)用于很多領(lǐng)域。而傳統(tǒng)強(qiáng)化學(xué)習(xí)無法解決的連續(xù)性動(dòng)作的問題,深度強(qiáng)化學(xué)習(xí)也可以解決,使用對(duì)應(yīng)的Actor-critic網(wǎng)絡(luò)即可。
深度強(qiáng)化學(xué)習(xí)的分類,有很多種分類標(biāo)準(zhǔn)。
從智能體的個(gè)數(shù)上,可分為單智能體算法和多智能體算法;
從是否基于模型的角度,可分為model-based和model-free;
從訓(xùn)練時(shí)策略的選擇,可分為on-policy和off-policy等等。
這里不一一展開,但在實(shí)際運(yùn)用強(qiáng)化學(xué)習(xí)的時(shí)候,根據(jù)具體的任務(wù)或者項(xiàng)目,需要選擇合適的深度強(qiáng)化學(xué)習(xí)算法。

發(fā)表評(píng)論
請(qǐng)輸入評(píng)論內(nèi)容...
請(qǐng)輸入評(píng)論/評(píng)論長(zhǎng)度6~500個(gè)字
最新活動(dòng)更多
-
7月22-29日立即報(bào)名>> 【線下論壇】第三屆安富利汽車生態(tài)圈峰會(huì)
-
7.30-8.1火熱報(bào)名中>> 全數(shù)會(huì)2025(第六屆)機(jī)器人及智能工廠展
-
7月31日免費(fèi)預(yù)約>> OFweek 2025具身智能機(jī)器人產(chǎn)業(yè)技術(shù)創(chuàng)新應(yīng)用論壇
-
免費(fèi)參會(huì)立即報(bào)名>> 7月30日- 8月1日 2025全數(shù)會(huì)工業(yè)芯片與傳感儀表展
-
即日-2025.8.1立即下載>> 《2024智能制造產(chǎn)業(yè)高端化、智能化、綠色化發(fā)展藍(lán)皮書》
-
8月5日立即報(bào)名>> 【在線會(huì)議】CAE優(yōu)化設(shè)計(jì):醫(yī)療器械設(shè)計(jì)的應(yīng)用案例與方案解析
推薦專題
- 1 AI 眼鏡讓百萬 APP「集體失業(yè)」?
- 2 豆包前負(fù)責(zé)人喬木出軌BP后續(xù):均被辭退
- 3 一文看懂視覺語言動(dòng)作模型(VLA)及其應(yīng)用
- 4 “支付+”時(shí)代,支付即生態(tài) | 2025中國跨境支付十大趨勢(shì)
- 5 中國最具實(shí)力AI公司TOP10
- 6 深圳跑出40億超級(jí)隱形冠軍:賣機(jī)器人年入6.1億,港股上市
- 7 特斯拉Robotaxi上路,馬斯克端上畫了十年的餅
- 8 “AI六小虎”到了下一個(gè)賽點(diǎn)
- 9 張勇等人退出阿里合伙人
- 10 AI視頻,攪動(dòng)1.5萬億市場(chǎng)