摘要:搶占式調度我們在今年年初就計劃實現的搶占式調度,以滿足實現有些場景下的不均衡調度帶來的問題。考慮開線程,負責檢查當前執行協程執行時間。達到我們的第二個協程主動搶占第一個協程的效果。
前言
Swoole內核團隊開設的專欄,會逐漸投入精力寫文章介紹Swoole的開發歷程,實現原理,應用實踐等,大家可以更好的交流,共同學習,建設PHP生態。
協程調度去年Swoole推出了4.0版本后,完整的支持PHP協程,我們可以基于協程實現CSP編程,身邊的開發者驚呼,原來PHP代碼還可以這樣寫。Swoole的協程默認是基于IO調度,程序中有阻塞會自動讓出當前協程,協程的各種優勢我們不在這里展開討論。如果是IO密集型的場景,可以表現得很不錯。但是對于CPU密集型的場景,會導致一些協程因為得不到CPU時間片被餓死。
搶占式調度我們在今年年初就計劃實現Swoole的搶占式調度,以滿足實現有些場景下的不均衡調度帶來的問題。我們中間經歷了幾個版本,在這里和大家分享一下開發過程中的動機和解決辦法。
我們目的是為了均衡調度每個協程的CPU時間,比如協程3需要比較長的執行時間,我們必須把協程3的CPU時間主動中斷,而不依賴IO事件,使得每個協程得到平均的執行時間。
起初,我們的想法是可以從PHP的循環中自動檢測執行實踐,若達到限制,可以自動讓出當前協程。因為畢竟很少有人一馬平川的寫出占用很多CPU的代碼,大都通過循環條件來控制。我們hook循環指令,每次執行循環指令的時候,都來檢查協程的執行時間,我們很欣喜的得到了最初的版本。但是這樣做比較hack,而且opcode經過opcache優化后,情況會變得有些復雜。
后來我們使用PHP的ticks機制,也就是在PHP代碼編譯期間,注入ticks指令,可以執行相應的函數,我們可以在這些函數中檢測處理協程的時間,達到搶占式的效果,但是這里有一個問題,PHP的declare(ticks=N)語法,只對當前腳本范圍有效,也就是說項目稍微大點,require或者include進來的腳本,并不會自動注入ticks指令,這樣Swoole開發者幾乎是無法接受的。我們也試圖給PHP官方提一個PR,可以在擴展層設置一個全局默認的ticks,但是官方不愿意采納我們的提交,因為官方覺得這個功能對性能損耗比較大,而且有可能在PHP8移除這個功能。其實經過實測這個性能損耗并不大,而且我們已經在生產環境驗證,并取得了顯著的效果,即可以讓出某些CPU密集的邏輯部分,使得服務整個相應時間更加均衡。
下圖是我們生產環境一個RPC接口的調用端統計數據對比,客戶端等待超時時間為2s,超時則統計為錯誤。
左邊一側是沒有搶占式調度,右側是開了搶占式調度,可以發現,左側總是會有偶爾超時情況,而經過優化之后,沒有一個超時的請求,請求響應時間非常平滑,提升了服務的穩定性。
可以從上圖看出,由于搶占式調度的加入,去除了請求耗時高的毛刺,使得平均請求時間變得更加平滑,穩定。
想要做搶占式調度,對于PHP來說,有兩個途徑
單線程的PHP的執行流,通過執行指令做文章,可以在PHP執行流程中注入邏輯,以檢查執行時間,再加上Swoole的協程能力,可以在不同的協程中切換,以達到搶占CPU的目的。
考慮開線程,負責檢查當前執行協程執行時間。
經過以上辦法的嘗試,注入指令的路數基本是無法得到官方的支持,我們只能另謀出路,多開一個線程,只負責檢查當前協程。具體的做法是,利用PHP-7.1.0引入的VM interrupt機制,默認每隔5ms檢查一下當前協程是否達到最大執行時間,默認為10ms,如果超過,則讓出當前協程,達到被其他協程搶占的目的。
示例代碼需要Swoole 4.4或更高版本
執行結果start coro 1 start to loop use time 11.121988296509 coro 2 set flag = false end coro 1 can exit可以發現,代碼邏輯可以從第一個協程的死循環中自動yield出來,執行第二個協程,如果沒有這個特性,第二個協程永遠不會被執行,導致被餓死。而這樣做,第二個協程可以順利被執行,最后執行結束后,第一個協程也會接著繼續往下執行。達到我們的第二個協程主動搶占第一個協程CPU的效果。
這個特性在生產環境非常有用,尤其是對于實時系統或者響應時間比較敏感的場景。
最后感謝大家對 Swoole 的長期支持和關注。
文章版權歸作者所有,未經允許請勿轉載,若此文章存在違規行為,您可以聯系管理員刪除。
轉載請注明本文地址:http://m.specialneedsforspecialkids.com/yun/31532.html
摘要:協程完全有用戶態程序控制,所以也被成為用戶態的線程。目前支持協程的語言有很多,例如等。協程之旅前篇結束,下一篇文章我們將深入分析原生協程部分的實現。 寫在最前 ??Swoole協程經歷了幾個里程碑,我們需要在前進的道路上不斷總結與回顧自己的發展歷程,正所謂溫故而知新,本系列文章將分為協程之旅前、中、后三篇。 前篇主要介紹協程的概念和Swoole幾個版本協程實現的主要方案技術; 中篇主...
摘要:如果僅依靠程序自動交出控制的話,那么一些惡意程序將會很容易占用全部時間而不與其他任務共享。多個操作可以在重疊的時間段內進行。 PHP下的異步嘗試系列 如果你還不太了解PHP下的生成器,你可以根據下面目錄翻閱 PHP下的異步嘗試一:初識生成器 PHP下的異步嘗試二:初識協程 PHP下的異步嘗試三:協程的PHP版thunkify自動執行器 PHP下的異步嘗試四:PHP版的Promise ...
摘要:概述本系列文章將從開發者角度梳理開發實時聯網游戲后臺服務過程中可能面臨的挑戰,并針對性地提供相應解決思路,期望幫助開發者依據自身游戲特點做出合理的技術選型。多路復用避免了讀寫阻塞,減少了上下文切換,提升了利用率和系統吞吐率。 概述:本系列文章將從開發者角度梳理開發實時聯網游戲后臺服務過程中可能面臨的挑戰,并針對性地提供相應解決思路,期望幫助開發者依據自身游戲特點做出合理的技術選型。 關...
閱讀 1165·2021-11-24 10:43
閱讀 3123·2021-11-22 09:34
閱讀 3560·2021-10-08 10:04
閱讀 3942·2021-09-23 11:58
閱讀 3126·2019-08-30 15:44
閱讀 494·2019-08-30 13:01
閱讀 1167·2019-08-28 18:07
閱讀 1460·2019-08-26 13:42