「自学哈网」蓝天采集器采集中断、自动采集无效、图片下载不了,解决方法!
也想出现在这里?
联系我们吧
因为web服务器有运行时间限制,所以只要采集执行时间太长都会导致程序中断,需要修改web服务器的超时时间
IIS服务器:
桌面>计算机>右键>管理>服务和应用程序>IIS>根目录>FastCGI 设置>双击"php-cgi.exe">活动超时
apache服务器:
apache目录confextrahttpd-default.conf,修改Timeout
nginx服务器:
nginx目录conf
ginx.conf,修改 fastcgi_connect_timeout
修改以上的参数值可让采集不再中断,修改完后记得重启服务器!
其他服务器请自行百度
如果你是虚拟主机无法修改配置,唯一方法就是设置采集数量,每次不要采集太多,一般web服务器运行时间为30秒,尽量不要超时!
网页自刷新执行采集,可以做到无人值守一直抓取。
代码大概如下:设置的2分钟采集间隔,下面代码设置的125秒刷新一次。
<meta http-equiv="Content-Type" content="text/html; charset=utf-8" /> <meta http-equiv="refresh" content="125"> <div id='numDiv'>...</div> <script src="http://www.xxx.cn/caiji/index.php?s=/admin/Task/collect&id=3"></script> <script type="text/javascript"> var num=125; var interval=setInterval(function(){ if(num==0){ clearInterval(interval); } numDiv.innerHTML=num--; numDiv.innerHTML=numDiv.innerHTML+"秒后刷新本页面"; },1000); </script> </body>
本站声明:
本站所有资源来源于网络,分享目的仅供大家学习和交流!如若本站内容侵犯了原著者的合法权益,可联系邮箱976157886@qq.com进行删除。
自学哈专注于免费提供最新的分享知识、网络教程、网络技术的资源分享平台,好资源不私藏,大家一起分享!
自学哈网 » 「自学哈网」蓝天采集器采集中断、自动采集无效、图片下载不了,解决方法!
本站所有资源来源于网络,分享目的仅供大家学习和交流!如若本站内容侵犯了原著者的合法权益,可联系邮箱976157886@qq.com进行删除。
自学哈专注于免费提供最新的分享知识、网络教程、网络技术的资源分享平台,好资源不私藏,大家一起分享!
自学哈网 » 「自学哈网」蓝天采集器采集中断、自动采集无效、图片下载不了,解决方法!
也想出现在这里?
联系我们吧