Python爬虫技术:爬虫时如何知道是否代理ip伪装成功?(爬虫使用代理ip)

网友投稿 783 2022-09-10

Python爬虫技术:爬虫时如何知道是否代理ip伪装成功?(爬虫使用代理ip)

Python爬虫技术:爬虫时如何知道是否代理ip伪装成功?(爬虫使用代理ip)

前言

python爬虫时如何知道是否代理ip伪装成功:

有时候我们的爬虫程序添加了代理,但是我们不知道程序是否获取到了ip,尤其是动态转发模式的,这时候就需要进行检测了,以下是一种代理是否伪装成功的检测方式,这里推介使用亿牛云提供的代码示例。

PS:如有需要Python爬虫+数据分析学习资料的粉丝可以点击下方链接自行获取

http://note.youdao.com/noteshare?id=a3a533247e4c084a72c9ae88c271e3d1

Python¶

requests

#! -*- encoding:utf-8 -*-

import requests

import random

# 要访问的目标页面

targetUrl = "http://httpbin.org/ip"

# 要访问的目标HTTPS页面

# targetUrl = "https://httpbin.org/ip"

# 代理服务器

proxyHost = "t.16yun-"

proxyPort = "31111"

# 代理隧道验证信息

proxyUser = "16ZKBRLB"

proxyPass = "234076"

proxyMeta = "http://%(user)s:%(pass)s@%(host)s:%(port)s" % {

"host" : proxyHost,

"port" : proxyPort,

"user" : proxyUser,

"pass" : proxyPass,

}

# 设置 http和https访问都是用HTTP代理

proxies = {

"http" : proxyMeta,

"https" : proxyMeta,

}

# 设置IP切换头

tunnel = random.randint(1,10000)

headers = {"Proxy-Tunnel": str(tunnel)}

resp = requests.get(targetUrl, proxies=proxies, headers=headers)

print resp.status_code

print resp.text

要检测代理是否获取到,直接在配置代理后访http://httpbin.org/ip网站,获取到ip后再访问ip138.com就知道是否获取到了ip。

版权声明:本文内容由网络用户投稿,版权归原作者所有,本站不拥有其著作权,亦不承担相应法律责任。如果您发现本站中有涉嫌抄袭或描述失实的内容,请联系我们jiasou666@gmail.com 处理,核实后本网站将在24小时内删除侵权内容。

上一篇:第十二章 信号(二)- 生产者消费者示例
下一篇:Python3教程:copy模块详细用法
相关文章

 发表评论

暂时没有评论,来抢沙发吧~