今天小编就为大家分享一篇Linux部署python爬虫脚本,并设置定时任务的方法,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧

去年因项目需要,用python写了个爬虫。因爬到的数据需要存到生产环境的PG数据库。所以需要将脚本部署到CentOS服务器,并设置定时任务,自动启动脚本。

实施步骤如下:

1.安装pip(操作系统自带了python2.6可以直接用,但是没有pip)

# 下载pip安装包
wget "https://pypi.python.org/packages/source/p/pip/pip-1.5.4.tar.gz#md5=834b2904f92d46aaa333267fb1c922bb" --no-check-certificate
# 解压安装包并安装
tar -xzvf pip-1.5.4.tar.gz
cd pip-1.5.4
python setup.py install

2.用pip安装第三方库

pip install PyGreSQL==5.0.3
pip install requests==2.18.3

3.设置定时任务

# 开启定时任务服务
service crond start
# 查看定时任务服务状态
service crond status
# 打开定时任务编辑窗口
crontab -e 
# 添加两条定时任务,即每天0点0分和12点20分各执行一次,并写入日志
0 0 * * * /usr/bin/python /home/longrise/psrd/collect.py > /home/longrise/psrd/collect.log 2>&1 &

20 12 * * * /usr/bin/python /home/longrise/psrd/collect.py > /home/longrise/psrd/collect.log 2>&1 &

定时任务语法如下:
# For details see man 4 crontabs

# Example of job definition:
# .---------------- minute (0 - 59)
# | .------------- hour (0 - 23)
# | | .---------- day of month (1 - 31)
# | | | .------- month (1 - 12) OR jan,feb,mar,apr ...
# | | | | .---- day of week (0 - 6) (Sunday=0 or 7) OR sun,mon,tue,wed,thu,fri,sat
# | | | | |
# * * * * * user-name command to be executed

以上这篇Linux部署python爬虫脚本,并设置定时任务的方法就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持爱安网。

最新资讯
华为消费者BG成立新部门 主管自有HMS生态建设

华为消费者BG成立新部

华为方面确认,消费者BG已经成立一个全新部门:全球生态发
华为新设HMS主管机构全球生态发展部

华为新设HMS主管机构

华为消费者业务(CBG)新设了一个二级部门:消费者BG全球生
联想集团第三财季营收141亿美元 净利润2.581亿美元

联想集团第三财季营收

财报显示,联想集团第三财季营收141亿美元,净利润2.581亿
车企直播卖车,车商转型“前置仓”:活在一起吧

车企直播卖车,车商转型

“店里(2月)10号就开始营业了,好几天都没有顾客上门。”
2月24日华为将发布折叠屏5G手机Mate Xs

2月24日华为将发布折

华为2月24日将在巴塞罗那发布今年华为首款5G折叠屏手
芯片“3纳米时代”加速驶来,产业链迎投资良机

芯片“3纳米时代”加

全球光刻机巨头ASML正在研发新一代极紫外光刻机,主要面
最新文章
linux中批量添加文件前缀的操作方法

linux中批量添加文件

这篇文章主要介绍了linux中批量添加文件前缀的操作方
Linux安装与卸载Tomcat8的详细图文教程

Linux安装与卸载Tomca

这篇文章主要介绍了Linux安装与卸载Tomcat8的详细图文
Linux bridge桥接两个VirtualBox虚拟网络的方法步骤

Linux bridge桥接两个

这篇文章主要介绍了Linux bridge桥接两个VirtualBox虚
在 awk 中使用循环

在 awk 中使用循环

awk 脚本有三个主要部分:BEGIN 和 END 函数(都可选),用户
Linux tee命令使用详解

Linux tee命令使用详

这篇文章主要介绍了Linux tee命令使用详解,文中通过示
docker 使用mysqldump命令备份导出项目中的mysql数据

docker 使用mysqldump

这篇文章主要介绍了docker 使用mysqldump命令备份导出