python怎么设置cookie

python怎么设置cookie,第1张

比如在访问网站首页得到cookie,通过下面代码添加cookie:

#install cookie

cj = cookiejar.CookieJar()

opener = urllib.request.build_opener(urllib.request.HTTPCookieProcessor(cj))

urllib.request.install_opener(opener)

#build request for accessed url

homeReq = urllib.request.Request(

url = csdnAccessModuleUrl

)

我们需要使用爬虫程序对目标网站登录时的请求进行一次抓取,获取请求中的cookie数据;

在使用个人信息页的url进行请求时,该请求需要携带cookie,只有携带了cookie后,服务器才可识别这次请求的用户信息,方可响应回指定的用户信息页数据。

爬虫除了要注意Cookie的限制之外,还需要注意其他的反爬虫,比如IP限制,这就需要使用极光代理IP进行更换IP地址,以其他的IP地址继续访问,突破网络限制。当然,还有其它很多的限制,爬虫在进行采集之前需要好好分析网站的反爬虫策略。

       NodeJS做爬虫也是很方便的。因为nodejs有HTTP模块直接可以使用,而且还有很多简单粗暴的库可以即拿即用。

      首先,需要的库文件,

      1、superagent 是个轻量的的 http 方面的库,就像jquery的post,和get一样,很简单。

      2、cheerio 是一个服务端 *** 作DOM的库,简直就是服务端的jquery。

     好的,我们需要抓取某个网站的题目。如下图。这个系统下,及时是游客状态也是可以查看题目的,只是答案我们看不到。会显示我没有登录。

现在我们有个需求,先抓取15页,根据URL的参数可以页数就是地址中 的P。并且要有本地cookie,获取cookie的方法,最简单的是,利用浏览器登录网站之后,在控制台直接打印document.cookie,得到之后,复制进txt文本。用fs模块读取并转换成字符串。在superagent请求时,把cookie传进去。

好了,控制台已经不输出“未登录”,说明已经登录成功了。


欢迎分享,转载请注明来源:内存溢出

原文地址:https://54852.com/bake/11616341.html

(0)
打赏 微信扫一扫微信扫一扫 支付宝扫一扫支付宝扫一扫
上一篇 2023-05-17
下一篇2023-05-17

发表评论

登录后才能评论

评论列表(0条)

    保存