1. python 爬虫的问题
方法：
用工具，包括你的Firefox，可以用Firefox中的firebug，或者IE的F12等，去调试分析出对应的逻辑，即：
此处你所想要的浮标的数据，内部是如何生成的
看懂逻辑后，再去用代码模拟出来
简答：
你的那个地址，是需要你先搞懂逻辑，再代码模拟，动态生成后，加上对应的header，（和相关的post data，甚至相关的cookie等信息），才能正常获得的。
具体需要哪些数据，如何发送，参见下面的教程。
详解：
具体的逻辑，一两句话说不清，看了我的解释，包括原理和工具，示例代码后，
再来处理你自己的此处的问题，就懂了。
详见：
先看：
详解抓取网站，模拟登陆，抓取动态网页的原理和实现（Python，C#等）再看：
Python专题教程：抓取网站，模拟登陆，抓取动态网页
2. python爬虫怎么处理豆瓣网页异常请求
1.URLError
首先解释下URLError可能产生的原因：
网络无连接，即本机无法上网
连接不到特定的服务器
服务器不存在
在代码中，我们需要用try-except语句来包围并捕获相应的异常。下面是一个例子，先感受下它的风骚
Python
1
2
3
4
5
6
7
import urllib2
requset = urllib2.Request('http://www.xxxxx.com')
try:
urllib2.urlopen(requset)
except urllib2.URLError, e:
print e.reason
我们利用了 urlopen方法访问了一个不存在的网址，运行结果如下：
Python
1
[Errno 11004] getaddrinfo failed
它说明了错误代号是11004，错误原因是 getaddrinfo failed
2.HTTPError
HTTPError是URLError的子类，在你利用urlopen方法发出一个请求时，服务器上都会对应一个应答对象response，其中它包含一个数字”状态码”。举个例子，假如response是一个”重定向”，需定位到别的地址获取文档，urllib2将对此进行处理。
其他不能处理的，urlopen会产生一个HTTPError，对应相应的状态吗，HTTP状态码表示HTTP协议所返回的响应的状态。下面将状态码归结如下：
100：继续 客户端应当继续发送请求。客户端应当继续发送请求的剩余部分，或者如果请求已经完成，忽略这个响应。
101： 转换协议 在发送完这个响应最后的空行后，服务器将会切换到在Upgrade 消息头中定义的那些协议。只有在切换新的协议更有好处的时候才应该采取类似措施。
102：继续处理 由WebDAV（RFC 2518）扩展的状态码，代表处理将被继续执行。
200：请求成功 处理方式：获得响应的内容，进行处理
201：请求完成，结果是创建了新资源。新创建资源的URI可在响应的实体中得到 处理方式：爬虫中不会遇到
202：请求被接受，但处理尚未完成 处理方式：阻塞等待
204：服务器端已经实现了请求，但是没有返回新的信 息。如果客户是用户代理，则无须为此更新自身的文档视图。 处理方式：丢弃
300：该状态码不被HTTP/1.0的应用程序直接使用， 只是作为3XX类型回应的默认解释。存在多个可用的被请求资源。 处理方式：若程序中能够处理，则进行进一步处理，如果程序中不能处理，则丢弃
301：请求到的资源都会分配一个永久的URL，这样就可以在将来通过该URL来访问此资源 处理方式：重定向到分配的URL
302：请求到的资源在一个不同的URL处临时保存 处理方式：重定向到临时的URL
304：请求的资源未更新 处理方式：丢弃
400：非法请求 处理方式：丢弃
401：未授权 处理方式：丢弃
403：禁止 处理方式：丢弃
404：没有找到 处理方式：丢弃
500：服务器内部错误 服务器遇到了一个未曾预料的状况，导致了它无法完成对请求的处理。一般来说，这个问题都会在服务器端的源代码出现错误时出现。
501：服务器无法识别 服务器不支持当前请求所需要的某个功能。当服务器无法识别请求的方法，并且无法支持其对任何资源的请求。
502：错误网关 作为网关或者代理工作的服务器尝试执行请求时，从上游服务器接收到无效的响应。
503：服务出错 由于临时的服务器维护或者过载，服务器当前无法处理请求。这个状况是临时的，并且将在一段时间以后恢复。
HTTPError实例产生后会有一个code属性，这就是是服务器发送的相关错误号。
因为urllib2可以为你处理重定向，也就是3开头的代号可以被处理，并且100-299范围的号码指示成功，所以你只能看到400-599的错误号码。
下面我们写一个例子来感受一下，捕获的异常是HTTPError，它会带有一个code属性，就是错误代号，另外我们又打印了reason属性，这是它的父类URLError的属性。
Python
1
2
3
4
5
6
7
8
import urllib2
req = urllib2.Request('httt/cqcre')
try:
urllib2.urlopen(req)
except urllib2.HTTPError, e:
print e.code
print e.reason
运行结果如下
Python
1
2
403
Forbidden
错误代号是403，错误原因是Forbidden，说明服务器禁止访问。
我们知道，HTTPError的父类是URLError，根据编程经验，父类的异常应当写到子类异常的后面，如果子类捕获不到，那么可以捕获父类的异常，所以上述的代码可以这么改写
Python
1
2
3
4
5
6
7
8
9
10
11
import urllib2
req = urllib2.Request('hcqcre')
try:
urllib2.urlopen(req)
except urllib2.HTTPError, e:
print e.code
except urllib2.URLError, e:
print e.reason
else:
print "OK"
如果捕获到了HTTPError，则输出code，不会再处理URLError异常。如果发生的不是HTTPError，则会去捕获URLError异常，输出错误原因。
另外还可以加入 hasattr属性提前对属性进行判断，代码改写如下
Python
1
2
3
4
5
6
7
8
9
10
11
12
import urllib2
req = urllib2.Request('httcqcre')
try:
urllib2.urlopen(req)
except urllib2.URLError, e:
if hasattr(e,"code"):
print e.code
if hasattr(e,"reason"):
print e.reason
else:
print "OK"
首先对异常的属性进行判断，以免出现属性输出报错的现象。
以上，就是对URLError和HTTPError的相关介绍，以及相应的错误处理办法，小伙伴们加油！
3. python爬虫 如何解决http error 503问题
从表面上看，Python爬虫程序运行中出现503错误是服务器的问题，其实真正的原因在程序，由于Python脚本运行过程中读取的速度太快，明显是自动读取而不是人工查询读取，这时服务器为了节省资源就会给Python脚本反馈回503错误。其实只要把爬取的速度放慢一点就好了。比如读取一条记录或几条记录后适当添加上time.sleep(10)，这样就基本上不会出现503错误了。我本人在使用中一般是在每一次读取后都运行time.sleep(1)或time.sleep(3)，具体的数值根据不同的网站确定。
4. 在学习python爬虫，有没有用于测试500错误的网站，可以让我尝试重试下载网址
没有，自己搭建个写个错误代码就会报500错了。
5. python爬虫出现了错误，怎么弄
调用test函数超时监控，使用sleep模拟函数执行超时 2、引入signal模块，设置handler捕
6. 爬虫访问导致服务器500报错
500是服务器内部错误，服务器日志中应该有体现的，个人推测应该是服务对于爬虫访问传递的参数跟用浏览器访问不同的处理异常导致的
7. python 爬虫时，urllib2.HTTPError:HTTP Error 502：Bad Gateway是什么原因怎么解决
可能是那个网站阻止了这类的访问，只要在请求中加上伪装成浏览器的header就可以了，比如：
headers={
'User-Agent':'Mozilla/5.0(Windows;U;WindowsNT6.1;en-US;rv:1.9.1.6)Gecko/20091201Firefox/3.5.6'
}
req=urllib2.Request(
url="http://www.qiushike.com/imgrank"
,
headers=headers
)
myResponse=urllib2.urlopen(req)
8. 如何使用python爬虫时增加延时和重试.比如一旦出现500错误，就等待1分钟再重试
def main():
try:
代码(打开网址的代码)
except Exception as e:
time模块延时(自己查一下，我忘了)
main()
9. python爬虫时出现internal server error
这种500错误是对方服务器抗不住压力，所以超时或者发生其它错误。和你的程序没有太大关系。
10. python爬虫返回错误
你的脚本里写的有点问题，正常情况下不应该直接使用except来捕获所有错误，因为这样你根本看不到错误的原因，根据你图片里那爬取异常四个字，谁知道错误原因呢？正常的代码应该是这样写：
except Exception as e:
print("错误原因是：", e)
这样才能把系统给发送的异常信息显示出来，根据异常信息才能判断是哪一步执行出错了。
根据你图片中的代码信息，很有可能是你在链接中给出的参数出错了，就是那个keyword值。你可以把异常结果发出来就能看的比较明显了。
不知道我讲清楚了没有，希望可以帮助到你。