Skip to content
New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

利用paddleHub serving进行多进程部署时,如何修改默认的gunicorn的配置 #738

Open
AugusXing opened this issue Jul 8, 2020 · 6 comments
Assignees

Comments

@AugusXing
Copy link

现在gunicorn中的work_class为sync模式,想更换为gevent模式,修改gunicorn对应的配置文件,但一直不生效,用的还是sync模式
import multiprocessing
from gevent import monkey
monkey.patch_all()
bind = '0.0.0.0:8888'
backlog = 2048
workers = multiprocessing.cpu_count() * 2 + 1
threads = 1
worker_class = 'gevent'
worker_connections = 1000
timeout = 500
keepalive = 40
daemon = True
loglevel = 'info'
errorlog = '-'
accesslog = '-'

@ShenYuhan
Copy link
Contributor

您好,目前PaddleHub-Serving还不支持自定义gunicorn配置,后面会把对gunicorn的配置加入其中。

@AugusXing
Copy link
Author

您好,目前PaddleHub-Serving还不支持自定义gunicorn配置,后面会把对gunicorn的配置加入其中。
image
在源码中修改options字典,是不是就可以实现对gunicorn配置的修改

@ShenYuhan
Copy link
Contributor

是的,这里其实就和您使用配置文件一样了,可以通过设置这里对gunicorn进行配置,但是要使用gunicorn的话还要记得启动的时候使用--use_multiprocess,否则就仅使用flask

@AugusXing
Copy link
Author

是的,这里其实就和您使用配置文件一样了,可以通过设置这里对gunicorn进行配置,但是要使用gunicorn的话还要记得启动的时候使用--use_multiprocess,否则就仅使用flask

您好,在module模块中我去掉@@Serving@@moduleinfo等注释,通过gunicorn方式命令行启动,一直报
error: unrecognized arguments: -w 2 -b 0.0.0.0:8090 这样的错误
引入的包如下:
from paddlehub.dataset.base_nlp_dataset import BaseNLPDataset
import paddlehub as hub
from flask import Flask, request, render_template
import logging

这是和引入import paddlehub as hub有关系吗?不支持自己用gunicorn方式启动吗?

@AugusXing
Copy link
Author

同样的命令行启动方式,启动我自己的demo都是可以的

@caiiiac
Copy link

caiiiac commented Jun 5, 2023

是的,这里其实就和你使用配置文件一样了,可以通过设置这里对gunicorn进行配置,但是要使用gunicorn的话还是要记得启动的时候使用用--use_multiprocess,否则就只使用flask

你好,现在支持对gunicorn进行配置了吗?
我发现启动use_multiprocess后,超时时间变短了,想修改却不知道怎么配置。

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment
Labels
None yet
Projects
None yet
Development

No branches or pull requests

3 participants