通过robots文件屏蔽搜索引擎,但还是被收录,什么原因?

深圳SEO
深圳SEO
深圳SEO
29450
文章
1
评论
2020年4月8日02:08:08 评论 3,610
摘要

如果网站一些页面不想被搜索引擎抓取和收录,我们会用到robots文件,里面设置搜索引擎的抓取规则。这种情况常用于新网站上线并处于测试阶段或者网站页面新增。有些人可能会有疑问,搜索引擎蜘蛛爬行url页面,页面需要有内容呈现出来反馈给到蜘蛛,才有可能会被收录。那么,robots屏蔽搜索引擎后,为什么还是被收录?先来说说robots协议到底是在做什么?既然是协议,那肯定是双方同意

如果网站一些页面不想被搜索引擎抓取和收录,我们会用到robots文件,里面设置搜索引擎的抓取规则。这种情况常用于新网站上线并处于测试阶段或者网站页面新增。

有些人可能会有疑问,搜索引擎蜘蛛爬行url页面,页面需要有内容呈现出来反馈给到蜘蛛,才有可能会被收录。那么,robots屏蔽搜索引擎后,为什么还是被收录?

先来说说robots协议到底是在做什么?既然是协议,那肯定是双方同意、认可的规矩。这个甲乙自然就是网站和搜索引擎(或者说搜索引擎蜘蛛)之间的协议。robots文件会放在根目录下,蜘蛛进入网站会第一时间访问这个文件,然后看看协议里面有没有禁止了那些页面不能抓取,如果禁止了就不会再去抓取。

个页面想要去搜索引擎索引(收录),收录要有蜘蛛爬行和抓取,既然不抓取,理所当然的就会被认为这个页面是不会被收录。这样的思维是错误的,不抓取也是可以被索引(收录)。如淘宝就是一个典型的案例,网站添加了禁止协议,最后还是被收录。原因在于,百度从其它渠道平台推荐的外部链接了解到这个网站,虽然被禁止抓取,但从标题和推荐链接的数据里还是可以判断出与该页面相应的内容信息。

深圳SEO
图像应用工具 SEO优化

图像应用工具

图像应用工具 1.Photoshop Adobe公司的Photoshop是一套专业级的图像应用软件。它提供了富有创新的艺术工具、强化的Web特性,而且捆绑销售其功能强大的AdobelmageReady...
谷歌自然优化排名怎么做 Google运营

谷歌自然优化排名怎么做

谷歌自然优化排名怎么做 在 企 业 进 行 外 贸 网 站 推 广 时 , 谷 歌 优 化 是 拓 展 海 外 客 户 , 树 立 品 牌 形 象 的 重 要 渠 道 。 而 谷 歌 优 化 是 很 ...
网站运营SEO搜索技巧 SEO优化

网站运营SEO搜索技巧

可 以 说 , 搜 索 引 擎 是 我 们 最 好 的 自 学 老 师 , 不 仅 效 率 高 , 而 且 这 种 学 习 方 法 真 的 是 你 自 己 的 经 验 , 更 重 要 的 是 , 它 ...
匿名

发表评论

匿名网友 填写信息

:?: :razz: :sad: :evil: :!: :smile: :oops: :grin: :eek: :shock: :???: :cool: :lol: :mad: :twisted: :roll: :wink: :idea: :arrow: :neutral: :cry: :mrgreen: