Django Celery 的配置及使用
Redis提供队列消息功能
一、安装redis
系统版本:Ubuntu 20.04
1、获取最新软件包
sudo apt update
sudo apt install redis-server
2、安装完成后,Redis服务器会自动启动。查看redis是否启动成功
sudo systemctl status redis-server
或者 service redis-server status
二、开启远程服务
1、找到redis配置文件
vim /etc/redis/redis.conf
# 允许任何主机访问
注释掉这行 # bind 0.0.0.0 ::1允许任何主机访问
protected-mode yes 改为 protected-mode no
2、重启 Redis 服务,使应用生效
sudo systemctl restart redis-server
三、开启默认端口
1、查看已开启的端口
sudo ufw status
2、开启6379端口
sudo ufw allow 6379
或者直接关闭防火墙
ufw disable //关闭防火墙
ufw enable //开启
3、验证设置是否完成
# 远程机器ping redis服务器
redis-cli -h 10.0.5.17 ping# 输出PONG就代表欧克
PONG
四、常用命令
启动Redis服务:
sudo systemctl start redis-server 或者 service redis-server start
关闭Redis服务:
sudo systemctl stop redis-server 或者service redis-server stop
重启Redis服务:
sudo systemctl restart redis-server或者service redis-server restart
django-celery的配置
1、安装celery
pip install celery 或者 pip install celery==4.4.2
2、添加配置(settings.py)
# celery 相关配置
# 配置celery时区,默认时UTC。
CELERY_TIMEZONE = TIME_ZONE# 任务队列的链接地址 celery配置redis作为队列。redis有16个数据库,编号0~15。
CELERY_BROKER_URL = 'redis://10.0.5.17:6379/2'# 设置存储结果的后台 结果队列的链接地址
CELERY_RESULT_BACKEND = 'redis://10.0.5.17:6379/3'# 可接受的内容格式
CELERY_ACCEPT_CONTENT = ["json"]
# 任务序列化数据格式
CELERY_TASK_SERIALIZER = "json"
# 结果序列化数据格式
CELERY_RESULT_SERIALIZER = "json"
3、在项目同名目录下创建celery.py(必须按照要求来)
from __future__ import absolute_import, unicode_literalsimport logging
import os
from celery import Celery# 指定Django默认配置文件模块
os.environ.setdefault('DJANGO_SETTINGS_MODULE', 'RpkiProject.settings')# 为项目demos创建一个Celery实例。
app = Celery('RpkiProject')# 这里指定从django的settings.py里读取celery配置,且setting中的配置文件必须以'CELERY_'开头
app.config_from_object('django.conf:settings', namespace='CELERY')# 自动从所有已注册的django app中加载任务
app.autodiscover_tasks()# 配置 Celery 日志
# logger = logging.getLogger('celery')
# logger.setLevel(logging.DEBUG) # 设置日志级别为 DEBUG
#
# # 创建一个文件处理程序,并将其添加到日志
# file_handler = logging.FileHandler('celery.log')
# file_handler.setLevel(logging.DEBUG)
# formatter = logging.Formatter('%(asctime)s - %(levelname)s - %(message)s')
# file_handler.setFormatter(formatter)
# logger.addHandler(file_handler)
4、将程序导入项目同名目录下的init.py中
from __future__ import absolute_import, unicode_literalsfrom .celery import app as celery_app__all__ = ('celery_app',)
5、在已经注册app目录中,创建名为tasks.py的文件(如果取别的名字,celery就扫描不到了)
import logging
import sysfrom celery import shared_task
from django.http import JsonResponse@shared_task
def your_async_task(arg1):try:# 异步任务逻辑result = arg1return f"The result is: {result}"except Exception as e:# 处理异常raise e
调用异步任务
def some_view(request):# 定义参数arg1 = [1,2,3]arg2 = 10# 调用异步任务并传递参数result = your_async_task.delay(arg1)res = result.ready()# res1 = result.traceback()return JsonResponse(data=111, safe=False)
6、启动celery
pip install gevent
celery -A RpkiProject worker -l info -P gevent#后台启动:nohup celery -A RpkiProject worker -l info -P gevent >/dev/null 2>&1 & exit
nohub celery -A projetname worker -P gevent -c 1000 > celery.log 2>&1 . nohub 忽略所有挂断信号(sighup)#2. projectname 项目配置目录 #3. -P 使用python协程进行任务的开启,开启1000个协程#4. celery.log 在当前目录下生成日志文件,也可以使用绝对路径。#5. 标准输入输入是文件描述符0,它是命令的输入,缺省是键盘,也可以是文件或其他命令的输出。#6. 标准输出输出是文件描述符1,它是命令的输出,缺省是屏幕,也可以是文件。#7. 标准错误输入是文件描述符2,这是命令错误的输出,缺省是屏幕,也可以是文件。#8. &符号:代表将命令在后台启动。#9. 2>&1 将错误输出重定向给标准输出,中间加&f符号。