热门标签 | HotTags
当前位置:  开发笔记 > 运维 > 正文

如何查看spider蜘蛛,那么怎么才能知道蜘蛛是否来过你的站?

这个可以从你服务器或者虚拟主机的日志中看出来,比如我用的站的www.com-edu.cn的完整使用日志中有这样的记录:(IIS日志文件位置:c:windowssystem32LogFilesW3SVCXXXXXXXXexyymmdd.log)220.181.38.198

这个可以从你服务器或者虚拟主机的日志中看出来,比如我用的站的 www.com-edu.cn 的完整使用日志中有这样的记录: (IIS 日志文件位置: c:/windows/system32/LogFiles/W3SVC XXXXXXXX /ex yymmdd .log) 220.181.38.198 - - [11/Nov/2007:04:28:29 +0800] "GE

这个可以从你服务器或者虚拟主机的日志中看出来,比如我用的站的www.com-edu.cn的完整使用日志中有这样的记录:(IIS日志文件位置:c:/windows/system32/LogFiles/W3SVCXXXXXXXX/exyymmdd.log)

220.181.38.198 - - [11/Nov/2007:04:28:29 +0800] "GET / HTTP/1.1" 200 61083 "-" "Baiduspider+

(+http://www.baidu.com/search/spider.htm)"这就说明蜘蛛来过我的站了,如果你还想知道有没有其它搜索引擎的蜘蛛来过你的站,你可以在日志文件中搜索“spider”这个词,或者搜索蜘蛛的IP,都可以查到。

+;+.NET+CLR+1.1.4322;+.NET+CLR+2.0.50727;+CIBA;+.NET+CLR+3.0.04506.648;+.NET+CLR+3.5.21022) 200 0 0 2009-05-07 01:07:48 W3SVC1774326157 110.110.110.39 GET /images_index/icon_gaozhong.jpg - 8077 - 110.110.110.36 Mozilla/4.0+(compatible;+MSIE+8.0;+Windows+NT+5.2;+Trident/4.0;+GTB6;+Mozilla/4.0+(compatible;+MSIE+6.0;+Windows+NT+5.1;+SV1)

其他经常碰到的HTTP状态码列表如下:

HTTP状态码 摘要说明


成功2×× 成功处理了请求的状态码。
200
服务器已成功处理了请求并提供了请求的网页。
204
服务器成功处理了请求,但没有返回任何内容。
重定向3×× 每次请求中使用重定向不要超过 5 次。

301
请求的网页已永久移动到新位置。当URLs发生变化时,使用301代码。搜索引擎索引中保存新的URL
302
请求的网页临时移动到新位置。搜索引擎索引中保存原来的URL
304
如果网页自请求者上次请求后没有更新,则用304代码告诉搜索引擎机器人,可节省带宽和开销。
客户端错误4×× 表示请求可能出错,妨碍了服务器的处理。
400
服务器不理解请求的语法。
403
服务器拒绝请求。
404
服务器找不到请求的网页。服务器上不存在的网页经常会返回此代码。
410
请求的资源永久删除后,服务器返回此响应。该代码与 404(未找到)代码相似,但在资源以前存在而现在不存在的情况下,有时用来替代404 代码。如果资源已永久删除,应当使用 301 指定资源的新位置。
服务器错误5×× 表示服务器在处理请求时发生内部错误。这些错误可能是服务器本身的错误,而不是请求出错。
500
服务器遇到错误,无法完成请求。
503
服务器目前无法使用(由于超载或停机维护)。通常,这只是暂时状态。

推荐阅读
  • FTP作为一种传统的文件传输协议,广泛用于不同设备间的文件交换。然而,随着网络安全需求的提升及传输效率的要求,选择合适的FTP客户端变得尤为重要。本文将介绍如何利用WinSCP这款强大且安全的工具,实现两台电脑之间的文件高效传输。 ... [详细]
  • 对于初次购买阿里云服务器的新手用户来说,如何高效地利用服务器资源并成功部署网站是一个重要的课题。本文将详细指导您完成从购买服务器到网站上线的六个关键步骤。 ... [详细]
  • 本文详细介绍了在 Windows 7 上安装和配置 PHP 5.4 的 Memcached 分布式缓存系统的方法,旨在减少数据库的频繁访问,提高应用程序的响应速度。 ... [详细]
  • 深入解析轻量级数据库 SQL Server Express LocalDB
    本文详细介绍了 SQL Server Express LocalDB,这是一种轻量级的本地 T-SQL 数据库解决方案,特别适合开发环境使用。文章还探讨了 LocalDB 与其他轻量级数据库的对比,并提供了安装和连接 LocalDB 的步骤。 ... [详细]
  • 本文介绍了如何使用C# Winform开发局域网内的文件传输功能,详细描述了从用户界面到后端网络通信的具体实现。 ... [详细]
  • 解决远程桌面连接时的身份验证错误问题
    本文介绍了如何解决在尝试远程访问服务器时遇到的身份验证错误,特别是当系统提示‘要求的函数不受支持’时的具体解决步骤。通过调整Windows注册表设置,您可以轻松解决这一常见问题。 ... [详细]
  • Redis: 高效的键值存储系统
    Redis是一款遵循BSD许可的开源高性能键值存储系统,它不仅支持多种数据类型的存储,还提供了数据持久化和复制等功能,显著区别于其他键值缓存解决方案。 ... [详细]
  • Mysqlcheck作为MySQL提供的一个实用工具,主要用于数据库表的维护工作,包括检查、分析、修复及优化等操作。本文将详细介绍如何使用Mysqlcheck工具,并提供一些实践建议。 ... [详细]
  • 告别繁琐安装!微软推出Windows软件包管理器winget
    2020年5月20日,在Build 2020全球开发者大会上,微软正式推出了全新的Windows Package Manager(winget),旨在简化Windows应用的安装流程。 ... [详细]
  • LIN总线技术详解
    LIN(Local Interconnect Network)总线是一种基于UART/SCI(通用异步收发器/串行接口)的低成本串行通信协议,主要用于汽车车身网络中智能传感器和执行器之间的通信。 ... [详细]
  • 本文详细介绍了如何在本地环境中安装配置Frida及其服务器组件,以及如何通过Frida进行基本的应用程序动态分析,包括获取应用版本和加载的类信息。 ... [详细]
  • 使用Pandas DataFrame探索十大城市房价与薪资对比
    在本篇文章中,我们将通过Pandas库中的DataFrame工具,深入了解中国十大城市的房价与薪资水平,探讨哪些城市的生活成本更为合理。这是学习Python数据分析系列的第82篇原创文章,预计阅读时间约为6分钟。 ... [详细]
  • 对抗电话推销:超级英雄的机器人解决方案
    尽管Roger Anderson看起来并不像是传统的超级英雄,但他通过发明一种能与电话推销员长时间对话的机器人,成为了许多人的英雄。白天,Anderson是一名电话系统的咨询顾问,而夜晚,他则致力于开发技术,以保护公众免受侵扰性电话的骚扰。 ... [详细]
  • 探索手机Java游戏及其模拟器
    本文探讨了手机Java游戏的发展历程及几款经典游戏,同时介绍了如何在现代安卓设备上使用模拟器重温这些经典。 ... [详细]
  • 杭州国际数字教育大会:高照实验学校Pepper机器人课程引发关注
    随着数字经济的蓬勃发展,教育领域的数字化转型成为必然趋势。2020年12月10日至11日,杭州国际博览中心举办了2020(杭州)国际数字教育大会,会议聚焦教育与科技的深度融合,展示了包括高照实验学校Pepper机器人课程在内的多项创新成果。 ... [详细]
author-avatar
老屋时光_503
这个家伙很懒,什么也没留下!
PHP1.CN | 中国最专业的PHP中文社区 | DevBox开发工具箱 | json解析格式化 |PHP资讯 | PHP教程 | 数据库技术 | 服务器技术 | 前端开发技术 | PHP框架 | 开发工具 | 在线工具
Copyright © 1998 - 2020 PHP1.CN. All Rights Reserved | 京公网安备 11010802041100号 | 京ICP备19059560号-4 | PHP1.CN 第一PHP社区 版权所有