今天小编就为大家分享一篇Python3爬虫之urllib携带cookie爬取网页的方法,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧

如下所示:

import urllib.request
import urllib.parse
 
url = 'https://weibo.cn/5273088553/info'
#正常的方式进行访问
# headers = {
#  'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/63.0.3239.84 Safari/537.36'
# }
# 携带cookie进行访问
headers = {
'GET https':'//weibo.cn/5273088553/info HTTP/1.1',
'Host':' weibo.cn',
'Connection':' keep-alive',
'Upgrade-Insecure-Requests':' 1',
'User-Agent':' Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/63.0.3239.84 Safari/537.36',
'Accept':' text/html,application/xhtml+xml,application/xml;q=0.9,image/webp,image/apng,*/*;q=0.8',
# 'Referer: https':'//weibo.cn/',
'Accept-Language':' zh-CN,zh;q=0.9',
'Cookie':' _T_WM=c1913301844388de10cba9d0bb7bbf1e; SUB=_2A253Wy_dDeRhGeNM7FER-CbJzj-IHXVUp7GVrDV6PUJbkdANLXPdkW1NSesPJZ6v1GA5MyW2HEUb9ytQW3NYy19U; SUHB=0bt8SpepeGz439; SCF=Aua-HpSw5-z78-02NmUv8CTwXZCMN4XJ91qYSHkDXH4W9W0fCBpEI6Hy5E6vObeDqTXtfqobcD2D32r0O_5jSRk.; SSOLoginState=1516199821',
}
request = urllib.request.Request(url=url,headers=headers)
response = urllib.request.urlopen(request)
#输出所有
# print(response.read().decode('gbk'))
#将内容写入文件中
with open('weibo.html','wb') as fp:
 fp.write(response.read())

以上这篇Python3爬虫之urllib携带cookie爬取网页的方法就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持爱安网。

最新资讯
快递柜到底方便了谁?

快递柜到底方便了谁?

快递柜催生的“懒人快递”也是令多数用户对其生厌的主
同程艺龙CFO:低线城市渗透率20% 将借微信提高渗透

同程艺龙CFO:低线城市

同程艺龙CFO范磊在20日的电话会议中向新浪科技等媒体
评论:4G慢不慢,不能用“话术”来解释

评论:4G慢不慢,不能用“

近来网上流出的某运营商“话术”,更是令人震惊,也让之前
Steam中国定名“蒸汽平台” 几乎完全独立于Steam

Steam中国定名“蒸汽

在今天的完美世界发布会上,Steam中国终于正式定名,叫作
索尼正式宣布与漫威"分手":失望,但尊重迪士尼的决定

索尼正式宣布与漫威"

索尼影业发布声明回应,正式宣布漫威影业和凯文·费奇将
一台5G基站要花多少钱?业内:初期高达60万元

一台5G基站要花多少钱

据悉移动联通电信三家公司今年的资本开支约合3000亿元
最新文章
python+pyqt5实现图片批量缩放工具

python+pyqt5实现图片

这篇文章主要为大家详细介绍了Python+pyqt5实现图片批
python+pyqt5编写md5生成器

python+pyqt5编写md5

这篇文章主要为大家详细介绍了python+pyqt5编写md5生
Python动态赋值的陷阱知识点总结

Python动态赋值的陷阱

在本文中我们给大家整理了关于Python动态赋值的陷阱的
Python中super函数用法实例分析

Python中super函数用

这篇文章主要介绍了Python中super函数用法,结合实例形
Python操作MySQL数据库的两种方式实例分析【pymysql和pandas】

Python操作MySQL数据

这篇文章主要介绍了Python操作MySQL数据库的两种方式,
matplotlib实现区域颜色填充

matplotlib实现区域颜

这篇文章主要为大家详细介绍了matplotlib实现区域颜色