我們曾經(jīng)研究過如何讓Python和Go互相調(diào)度,當(dāng)時發(fā)現(xiàn),將Go語言寫的模塊打包成動態(tài)鏈接庫,就能在Python中進行調(diào)度:
優(yōu)劣互補! Python+Go結(jié)合開發(fā)的探討
Go的優(yōu)勢很明顯,從1億減到1,在我的設(shè)備上測試,用Go運行只需要50ms,Python可能需要接近100倍的時間。
但是,這種寫法也有缺點:實在太麻煩了,大大增加了整個項目的耦合性。
那Python中有沒有辦法不通過打包成動態(tài)鏈接庫的方法,用Python調(diào)度Go的任務(wù)呢?答案是Go celery.
https://github.com/gocelery/gocelery
我們可以用Go寫一個計算密集型任務(wù)的Worker,然后用Python的Celery beat來調(diào)度這個Worker,下面給大家演示一下:
1.編寫Go Worker
最好是將計算密集型的任務(wù)改造成Go語言版的,這樣收益才能最大化。
比如這里,我使用的是上回從1億減到1的老梗。
PS,別被下面這段代碼嚇到了,其實大部分是可以去掉的配置項,核心代碼就幾行。
輸入命令:
go run main.go
即可運行該worker
2.編寫Python客戶端
每5秒調(diào)度一次1億減到1,不過不跑Python worker. 由于Go Worker在運行,這里的minus會被Go Worker消費。
另外請注意,這里的minus函數(shù)實際上只是為了能被識別到而編寫的,其內(nèi)容毫無意義,直接寫個pass都沒問題(因為實際上是Go Worker在消費)。
編寫完后,針對go_tasks模塊啟動beat:
celery -A go_tasks beat
此時,調(diào)度器就會調(diào)度Go Worker執(zhí)行任務(wù):
可以看到,我們成功用Python的Celery Beat調(diào)度了Go寫的Worker!可喜可賀。
接下來可以看看如果單純用Python的Worker做這樣的計算是有多耗時:
啟動worker:
celery worker -A python_tasks -l info --pool=eventlet
啟動beat調(diào)度器:
celery -A python_tasks beat
結(jié)果如下:
可以看到,Python從1億減到1平均需要5.2秒左右的時間,和Go版相差了100倍左右。
如果我們將調(diào)度器的頻率提高到每秒計算1次,Python版的Worker,其任務(wù)隊列一定會堵塞,因為Worker消費能力不夠強大。相比之下,Go版的Worker可就非常給力了。
因此,如果你的項目中有這種計算密集型的任務(wù),可以嘗試將其提取成Go版本試試,說不定有驚喜呢。
-
Go
+關(guān)注
關(guān)注
0文章
43瀏覽量
12270 -
python
+關(guān)注
關(guān)注
56文章
4807瀏覽量
85037 -
Worker
+關(guān)注
關(guān)注
0文章
8瀏覽量
6481 -
動態(tài)鏈接庫
+關(guān)注
關(guān)注
0文章
11瀏覽量
7077
發(fā)布評論請先 登錄
相關(guān)推薦
評論