python爬虫socket.timeout的使用

1、python3在使用urllib.request.urlopen或者urlllib.request.urlretrieve时候最好设置一个超时时间，这样在长时间获取不到内容时候可以做进一步的处理，打开python开发工具IDLE，新建‘timeout.py’文件，并写代码如下:import socket

3、导入urllib.request包，代码如下：import socketimport urllib.requestsocket.setdefaulttimeout(30)

5、F5运行代码，就会出现timeout异常

7、F5运行代码，捕捉到异常，可以进行处理，但是urlopen捕捉不到timeout异常，会被忽略，欢迎高手指点原因，urlretrieve可以捕捉到。一般可以设置个循环次数如果超过几次都会timeout异常，就可以选择记日志，不影响后续内容的抓取