LOFTER-网易轻博

一些爬虫工作者在爬虫的过程中，虽然使用了代理IP但是依旧出现了请求失败的情况。这是因为如果爬虫使用不当或者用了质量较低的代理IP都可能会导致上述情况的发生。以下是一些使用代理IP时常见的报错及原因：

1、错误代码401

如果错误代码为401，那么网页会先请求身份验证，这种错误一般是在需要登录账号密码来访问网页时会发生的。如果用户在使用代理IP浏览器访问时，会转跳到一个有账号密码登录的窗口。发生这种错误是由于在使用代理IP前没有授权白名单IP，或者是没有绑定固定的IP授权，因此应该再次去绑定授权白名单IP，并且重新进入。

2、错误代码403

这个错误代码是爬虫用户遇见比较多的代码，它意味着服务器拒绝了用户的请求。一般是由于爬虫抓取的频率太大，在反复高速访问页面时给目标服务器带来了过大的压力，从而导致服务器判定爬虫用户的IP为非正常访问，因此禁止了爬虫用户的IP。这种时候爬虫用户可以通过更换新的IP地址来解决。

华科云商已向众多互联网知名企业提供服务，对提高爬虫的抓取效率提供帮助，支持API批量使用，支持多线程高并发使用。