當(dāng)系統(tǒng)內(nèi)存不足以分配時(shí),Linux內(nèi)核會(huì)使用一種OOM Killer(Out-Of-Memory Killer)機(jī)制釋放內(nèi)存,該機(jī)制通過(guò)一系列比較選擇出最適合的進(jìn)程并將其kill掉,從而達(dá)到保障系統(tǒng)穩(wěn)定運(yùn)行的目的。那么在內(nèi)核中,OOM Killer具體是怎么運(yùn)轉(zhuǎn)的呢?
一、觸發(fā)過(guò)程
在申請(qǐng)內(nèi)存時(shí),必然會(huì)調(diào)用alloc_page(),在__alloc_pages中有以下調(diào)用關(guān)系:
其中,在__alloc_pages_slowpath中,當(dāng)反復(fù)嘗試reclaim和compact后仍不成功,就會(huì)調(diào)用__alloc_pages_may_oom進(jìn)行內(nèi)存釋放。
/* *Ifwefailedtomakeanyprogressreclaiming,thenweare *runningoutofoptionsandhavetoconsidergoingOOM */ if(!did_some_progress){ if(oom_gfp_allowed(gfp_mask)){ if(oom_killer_disabled) gotonopage; /*Coredumpscanquicklydepleteallmemoryreserves*/ if((current->flags&PF_DUMPCORE)&& !(gfp_mask&__GFP_NOFAIL)) gotonopage; page=__alloc_pages_may_oom(gfp_mask,order, zonelist,high_zoneidx, nodemask,preferred_zone, classzone_idx,migratetype); ...... }
如果定義了oom_killer_disabled,就會(huì)直接goto到nopage,不會(huì)觸發(fā)OOM機(jī)制(此值默認(rèn)為0).
二、工作過(guò)程(基于Linux-3.18)
當(dāng)內(nèi)核檢測(cè)到內(nèi)存不足,執(zhí)行到out_of_memory時(shí),OOM Killer會(huì)選擇一個(gè)進(jìn)程并把他kill掉:
p = select_bad_process(&points, totalpages, mpol_mask, force_kill);
具體的選擇過(guò)程在select_bad_process中進(jìn)行:
/* *Simpleselectionloop.Wechosetheprocesswiththehighest *numberof'points'.Returns-1onscanabort. * *(notdocbooked,wedon'twantthisoneclutteringupthemanual) */ staticstructtask_struct*select_bad_process(unsignedint*ppoints, unsignedlongtotalpages,constnodemask_t*nodemask, boolforce_kill) { structtask_struct*g,*p; structtask_struct*chosen=NULL; unsignedlongchosen_points=0; rcu_read_lock(); for_each_process_thread(g,p){ unsignedintpoints; switch(oom_scan_process_thread(p,totalpages,nodemask, force_kill)){ caseOOM_SCAN_SELECT: chosen=p; chosen_points=ULONG_MAX; /*fallthrough*/ caseOOM_SCAN_CONTINUE: continue; caseOOM_SCAN_ABORT: rcu_read_unlock(); return(structtask_struct*)(-1UL); caseOOM_SCAN_OK: break; }; points=oom_badness(p,NULL,nodemask,totalpages); if(!points||points
select_bad_process會(huì)選擇一個(gè)points數(shù)值最高的進(jìn)程并返回。在宏for_each_process_thread循環(huán)里,通過(guò)switch和oom_scan_process_thread對(duì)一些進(jìn)程做特殊化處理,如一些進(jìn)程不適合被結(jié)束,就跳過(guò)本次循環(huán)。如果該進(jìn)程沒(méi)有特殊狀態(tài),oom_scan_process_thread返回OOM_SCAN_OK,繼續(xù)向下進(jìn)行判斷。這里使用了oom_badness對(duì)其points值進(jìn)行計(jì)算。
/** *oom_badness-heuristicfunctiontodeterminewhichcandidatetasktokill *@p:taskstructofwhichtaskweshouldcalculate *@totalpages:totalpresentRAMallowedforpageallocation * *Theheuristicfordeterminingwhichtasktokillismadetobeassimpleand *predictableaspossible.Thegoalistoreturnthehighestvalueforthe *taskconsumingthemostmemorytoavoidsubsequentoomfailures. */ unsignedlongoom_badness(structtask_struct*p,structmem_cgroup*memcg, constnodemask_t*nodemask,unsignedlongtotalpages) { longpoints; longadj; if(oom_unkillable_task(p,memcg,nodemask)) return0; p=find_lock_task_mm(p); if(!p) return0; adj=(long)p->signal->oom_score_adj; if(adj==OOM_SCORE_ADJ_MIN){ task_unlock(p); return0; } /* *ThebaselineforthebadnessscoreistheproportionofRAMthateach *task'srss,pagetableandswapspaceuse. */ points=get_mm_rss(p->mm)+atomic_long_read(&p->mm->nr_ptes)+ get_mm_counter(p->mm,MM_SWAPENTS); task_unlock(p); /* *Rootprocessesget3%bonus,justlikethe__vm_enough_memory() *implementationusedbyLSMs. */ if(has_capability_noaudit(p,CAP_SYS_ADMIN)) points-=(points*3)/100; /*Normalizetooom_score_adjunits*/ adj*=totalpages/1000; points+=adj; /* *Neverreturn0foraneligibletaskregardlessoftherootbonusand *oom_score_adj(oom_score_adjcan'tbeOOM_SCORE_ADJ_MINhere). */ returnpoints>0?points:1; }
在oom_badness的上半部分,對(duì)進(jìn)程做了一些判斷,排除了不可進(jìn)行kill的進(jìn)程以及oom_score_adj為OOM_SCORE_ADJ_MIN(-1000)的進(jìn)程,進(jìn)行了return 0。接著是進(jìn)行比重計(jì)算,將rss、nr_ptes、swap空間使用量占RAM比重相加。如果是Root進(jìn)程則去掉3%的比重points -= (points * 3) / 100;。之后對(duì)adj進(jìn)行歸一化并與points相加,在返回值計(jì)算時(shí),使用了一個(gè)三目運(yùn)算符,即當(dāng)points大于0時(shí),返回points,否則返回1。這里注釋給出的原因是,對(duì)于有資格的進(jìn)程(即可以被OOM Killer掉的進(jìn)程),是絕不能返回0的。(這里我的理解是,如果points返回0,這個(gè)進(jìn)程可能在之后的比較中就處于劣勢(shì),成為漏網(wǎng)之魚(yú))
再回到select_bad_process中看,之后跟的一個(gè)if比較就是為了進(jìn)行取最大值的判斷,再之后判斷該進(jìn)程是否為thread_group_leader,若是則continue跳過(guò)本次循環(huán),否則該進(jìn)程就是被chosen的進(jìn)程。
再回到out_of_memory中,得到p值后,需要對(duì)其進(jìn)行判斷:
if(!p){ dump_header(NULL,gfp_mask,order,NULL,mpol_mask); panic("Outofmemoryandnokillableprocesses... "); } if(p!=(void*)-1UL){ oom_kill_process(p,gfp_mask,order,points,totalpages,NULL, nodemask,"Outofmemory"); killed=1; }
當(dāng)p是0時(shí),即沒(méi)有找到可以kill掉的進(jìn)程,內(nèi)核發(fā)出一個(gè)panic。當(dāng)p不是0時(shí),即找到了可以kill掉的進(jìn)程,則通過(guò)oom_kill_process將其kill。
在oom_kill_process中有個(gè)“有意思”的事是,在kill之前,會(huì)先遍歷其子進(jìn)程,重新通過(guò)oom_badness計(jì)算出一個(gè)最適合被kill掉的子進(jìn)程,該子進(jìn)程會(huì)有限考慮被kill掉,從而避免kill父進(jìn)程導(dǎo)致的接管子進(jìn)程的工作開(kāi)銷(xiāo)。并且最終被kill掉的進(jìn)程的名字叫victim,這個(gè)單詞的中文含義是犧牲者,有點(diǎn)是為了整個(gè)系統(tǒng)的穩(wěn)定運(yùn)轉(zhuǎn)而犧牲的意思。在這之后OOM Killer會(huì)kill掉和victim使用相同虛擬內(nèi)存的進(jìn)程,并通過(guò)發(fā)送SIGKILL信號(hào)將其終止。
三、到底為什么會(huì)發(fā)生Out Of Memory?
因?yàn)槲锢韮?nèi)存頁(yè)的分配發(fā)生在使用的瞬間而非分配的瞬間。若某個(gè)進(jìn)程申請(qǐng)了200MB內(nèi)存,但實(shí)際上只使用了100MB,未使用到的100MB根本沒(méi)有分配物理內(nèi)存頁(yè)。當(dāng)進(jìn)程需要內(nèi)存時(shí),進(jìn)程從內(nèi)核得到的只是虛擬地址的使用權(quán),而不是實(shí)際的物理地址,實(shí)際的物理內(nèi)存只有當(dāng)進(jìn)程真的去訪(fǎng)問(wèn)新獲取的虛擬地址時(shí),產(chǎn)生缺頁(yè)異常,從而進(jìn)入分配實(shí)際物理地址的過(guò)程,之后系統(tǒng)返回產(chǎn)生異常的地址,重新執(zhí)行內(nèi)存訪(fǎng)問(wèn)。虛擬內(nèi)存需要物理內(nèi)存作為支撐,當(dāng)分配了太多虛擬內(nèi)存,導(dǎo)致物理內(nèi)存不夠時(shí),就發(fā)生了Out Of Memory。這種允許超額commit的機(jī)制就是overcommit。
overcommit即操作系統(tǒng)在應(yīng)用申請(qǐng)內(nèi)存空間時(shí)不去檢查是否超出當(dāng)前可用量,隨意滿(mǎn)足申請(qǐng)要求,應(yīng)用也不管實(shí)際是否有足夠多的內(nèi)存可使用,認(rèn)為我申請(qǐng)了2G,OS肯定就給我2G使用。最后,隨著內(nèi)存越用越多,OS發(fā)現(xiàn)內(nèi)存不夠用了,必須要收回一些內(nèi)存才行,就觸發(fā)了上述的OOM Killer機(jī)制回收內(nèi)存。
Linux根據(jù)參數(shù) vm.overcommit_memory設(shè)置overcommit:
0 ——默認(rèn)值,啟發(fā)式overcommit,它允許overcommit,但太明顯的overcommit會(huì)被拒絕,比如malloc一次性申請(qǐng)的內(nèi)存大小就超過(guò)了系統(tǒng)總內(nèi)存。
1 ——Always overcommit. 允許overcommit,對(duì)內(nèi)存申請(qǐng)來(lái)者不拒。
2 ——不允許overcommit,提交給系統(tǒng)的總地址空間大小不允許超過(guò)CommitLimit。(CommitLimit 就是overcommit的閾值,申請(qǐng)的內(nèi)存總數(shù)超過(guò)CommitLimit的話(huà)就算是overcommit)
四、總結(jié)
由于物理內(nèi)存的分配機(jī)制,以及overcommit的存在,導(dǎo)致了在物理內(nèi)存不夠時(shí)的OOM Killer。OOM Killer機(jī)制很有意思,它為了保護(hù)整個(gè)系統(tǒng)的安全穩(wěn)定運(yùn)行,需要找出一個(gè)最合適的進(jìn)程kill掉。這是不得已而為之,內(nèi)核必須在kill掉進(jìn)程和系統(tǒng)崩潰之間選擇其中一個(gè)。內(nèi)核代碼中out_of_memory注釋中也體現(xiàn)了這種無(wú)奈。> * If we run out of memory, we have the choice between either
killing a random task (bad), letting the system crash (worse)
OR try to be smart about which process to kill. Note that we
don't have to be perfect here, we just have to be good.
在選擇合適的進(jìn)程時(shí),OOM Killer會(huì)挑選一個(gè)占用內(nèi)存最大的進(jìn)程,這也很好理解,畢竟kill掉一個(gè)大的可以獲得更多的物理內(nèi)存,并且損失也比較小。如果kill掉多個(gè)小的,損失會(huì)比較大。Linux內(nèi)核總是去選擇更高效的方法。
審核編輯:湯梓紅
-
內(nèi)核
+關(guān)注
關(guān)注
3文章
1382瀏覽量
40425 -
Linux
+關(guān)注
關(guān)注
87文章
11345瀏覽量
210400 -
內(nèi)存
+關(guān)注
關(guān)注
8文章
3055瀏覽量
74331
原文標(biāo)題:OOM Killer機(jī)制學(xué)習(xí)
文章出處:【微信號(hào):magedu-Linux,微信公眾號(hào):馬哥Linux運(yùn)維】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
評(píng)論