CCbot蜘蛛你有见过吗？
短视频，自媒体，达人种草一站服务
不清楚您的网站日志中是否有出现过一个不太常见的CC蜘蛛，访问名称为：CCBot/2.0，下面我们具体来了解一下CCbot是什么蜘蛛?
一. CCbot是什么蜘蛛?
CCbot，全称为Common Crawl Bot，是一个非营利性基金会致力于提供可以被所有人访问和分析的Web爬网数据的开放存储库。
二. 你如何处理CCbot蜘蛛?
方法1. 使用robots.txt
使用robots.txt文件来允许或禁止蜘蛛访问页面的权限。robots.txt是放在网站根目录中，蜘蛛来访问时会先查找并查看robots.txt文件，并遵守robots协议来访问网站上的内容，允许访问则访问，不允许访问蜘蛛则离开。
①. 不允许任何蜘蛛访问您站点的任何部分
User-agent：*
Disallow：/
②. 允许任何蜘蛛访问您站点的任何部分
User-agent：*
Disallow：
③. 不允许CCbot蜘蛛访问网站的任何部分
User-agent：ccbot
Disallow：/
④. 允许CCbot蜘蛛访问您站点的任何部分
User-agent：ccbot
Disallow：
⑤. 允许CCbot蜘蛛访问您站点，但不允许CCbot访问“wp-admin”文件夹
User-agent：ccbot
Disallow：/wp-admin
方法2. 使用元标记
可以在页面中使用元标记来帮助控制搜索引擎蜘蛛对您网站的访问权限。如果您为所有页面使用模板，则可以在和之间添加元标记， 它将适用于使用该模板的所有页面。如果要控制特定页面，可以在和之间的各个页面上添加元标记 。
①. 允许所有蜘蛛访问您的页面
②. 允许所有蜘蛛访问您的网页并跟踪页面上的链接
③. 允许所有蜘蛛访问您的网页，但不允许他们跟踪链接
④. 不允许任何蜘蛛访问您的网页
⑤. 允许CCbot访问您的网页
⑥. 不允许CCbot访问您的页面
⑦. 允许CCbot访问您的页面并跟踪更多页面的链接
如果你在网站日志中也发现了CCbot，不要惊慌，你接下来需要做的就是是允许它继续爬行还是禁止爬行?May个人觉得这类蜘蛛没有多大的意义，一旦发现这类蜘蛛爬行比较频繁，最好的方式就是禁止这些蜘蛛继续访问我们的网站。
原创：MAY的SEO博客 https://may90.com/share/ccbot.html 未经允许，请勿转载!
尊敬的看官您对CCbot蜘蛛你有见过吗？有什么看法呢？互联网品牌制作专家愿与您共同探讨！版权声明：本文内容由互联网用户自发贡献，该文观点仅代表作者本人。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容， 请加微信号oem365 举报，一经查实，本站将立刻删除。上一篇: 为什么谷歌SEO排名需要持续不断地优化 返 回 下一篇:http和https的区别
