-
YisouSpider疯狂爬取不存在的URL与地址导致服务器资源CPU100%跑满耗尽解决方案
大家好,我是Funion数字营销实战派飞小优,最近有个道友的网站遇到问题,当看到服务器后发现神马蜘蛛是不要命的抓取不存在的页面,如题,那如何解决? 先说蜘蛛抓取不存在的URL危害 从访问来看,YisouSpider抓取后的状态码为301 ,所以这就造成站点资源被耗尽的罪魁祸首,最直接危害2个: 解决方案思路 实施步骤 检查文件是否存在 登录服务器,检查这些文件是否确实存在。在服务器或者终端执行命令例如: 如果文件不存在,需要检查前端项目的源代码,确认这些文件是否被遗漏或未正确部署。 检查前端代码…