gevnet、gunicorn部署flask

gevent、gunicorn部署Flask服务

​

flask作为一个轻量级的框架简直不要方便&＃xff01;

from flask import Flaskapp &＃61; Flask(__name__)&＃64;app.route(&＃39;/&＃39;)
def hello_world():time.sleep(10)return &＃39;Hello World!&＃39;&＃64;app.route(&＃39;/index&＃39;)
def beijing():return &＃39;Beijing&＃39;
if __name__ &＃61;&＃61; &＃39;__main__&＃39;:app.run(host&＃61;&＃39;0.0.0.0&＃39;, port&＃61;5001,threaded&＃61;False)#app.run(host&＃61;&＃39;0.0.0.0&＃39;, port&＃61;5001)


网上很多说flask只能是同步不支持并发&＃xff0c;感觉很坑呀&＃xff0c;app.run这里的threaded参数&＃xff0c;经过我的测试&＃xff0c;默认其实是True,对多个服务其实会开启多个线程来处理.

1、使用threaded&＃61;False时候

用浏览器先后访问127.0.0.1:5001和127.0.0.1:5001/index时&＃xff0c;index路由确实要等’/&＃39;路由运行才出来&＃xff0c;说明False的时候是同步的&＃xff0c;两次服务是串行的&＃xff0c;这个时候不支持并发

2、threaded&＃61;True或者不写threaded参数

用浏览器先后访问127.0.0.1:5001和127.0.0.1:5001/index时&＃xff0c;index立马出来&＃xff0c;说明是并发的&＃xff0c;这里有个坑&＃xff0c;注意一下&＃xff0c;就是用浏览器同时访问127.0.0.1:5001&＃xff0c;这个时候是无法并发的&＃xff0c;这里我怀疑了好几天&＃xff0c;为啥同一个路由就不并发&＃xff0c;后来发现时浏览器的坑&＃xff0c;可以用别的 测试工具试试&＃xff0c;其实是并发&＃xff0c;只不过相同的参数和url浏览器会将这两个请求作为一个请求所以是串行的。不放心可以这样试试&＃xff0c;将’/&＃39;路由的函数修改GET并传入参数。

&＃64;app.route(&＃39;/&＃39;)
def hello_world():para &＃61; request.args.get("time", type&＃61;int)time.sleep(para)return &＃39;Hello World!&＃39;


用浏览器访问127.0.0.1&＃xff1a;5001&＃xff1f;time&＃61;10和127.0.0.1:5001&＃xff1f;time&＃61;9&＃xff0c;你会发现这个时候同时返回结果&＃xff0c;所以说&＃xff0c;flask自身是并发的框架&＃xff0c;可以用多线程实现。

flask开发速度快&＃xff0c;但是自带的WSGI服务器性能极弱&＃xff0c;尤其在压力测试&＃xff0c;空接口一千并发都无法通过&＃xff0c;百分之4.9无法通过。

接下来我们用gunicorn&＃43;gevent的方式部署&＃xff0c;其中Genvent库是接收http request时&＃xff0c;开启新的协程处理&＃xff0c;避免开启线程频繁开销。Flask内置web服务器是单个 Worker&＃xff0c;只有一个进程在跑所有的请求&＃xff0c;内置 webserver 很容易卡死&＃xff0c;并且只有一个 Worker 在跑请求&＃xff0c;在多核 CPU 下&＃xff0c;仅仅占用一核&＃xff0c;Gunicorn 可以调节 Worker 的数量&＃xff08;多个线程&＃xff09;并管理&＃xff0c;一个 master 进程管理多个 worker 进程&＃xff0c;所有请求和响应均由 Worker 处理&＃xff0c;Master 进程是一个简单的 loop, 监听 worker 不同进程信号并且作出响应。比如接受到 TTIN 提升 worker 数量&＃xff0c;TTOU 降低运行 Worker 数量。如果 worker 挂了&＃xff0c;则重启失败的 worker, 同步的 Worker 一次处理一个请求。

具体部署流程如下&＃xff0c;安装gevent和gunicorn&＃xff0c;直接用pip install gevent gunicorn即可&＃xff0c;安装完后&＃xff0c;增加一个gun.py文件在你的app路径下&＃xff0c;内容如下&＃xff0c;可以根据需求增加一些其他参数

import multiprocessing
backlog &＃61; 8192
workers &＃61; multiprocessing.cpu_count()*2&＃43;1
worker_class &＃61; "gevent" #使用gevent模式&＃xff0c;开启多协程
bind &＃61; "0.0.0.0:5001"
worker_connections &＃61; 2000


最后直接使用以下命令部署即可&＃xff0c;不需要再启动原来的服务&＃xff0c;只用gunicorn启动就行&＃xff0c;第一个app表示你flask服务的文件名&＃xff0c;第二个表示你服务中应用的app的变量名&＃xff0c;这个两个名称一致而已&＃xff0c;可以根据自己需求命名。

gunicorn -c gun.py app:app


最后压力测试结果如下&＃xff0c;1000并发&＃xff0c;loop10次&＃xff0c;大幅度提高&＃xff0c;但是这个也是吃了不少内存资源的和cpu资源的。