抓取预算
什么是抓取预算?
抓取预算是 Googlebot 在给定时间范围内在网站上抓取和编制索引的页面数。
为什么抓取预算对 SEO 很重要?
简而言之:如果 Google 不索引某个页面,它就不会获得任何排名。
因此,如果您的页面数量超过了网站的抓取预算,您网站上的页面将不会被编入索引。
也就是说,绝大多数网站都不需要担心抓取预算。Google 非常擅长查找和索引页面。
也就是说,在某些情况下您确实需要注意抓取预算:
- 您经营着一个大型网站:如果您的网站(如电子商务网站)有超过 1 万个页面,Google 可能很难找到所有页面。
- 您刚刚添加了一堆页面:如果您最近向您的站点添加了一个包含数百个页面的新部分,您需要确保您有足够的抓取预算来快速将它们全部编入索引。
- 大量重定向:大量重定向和重定向链耗尽了您的抓取预算。
因此,这里有一些简单的方法可以最大限度地提高您网站的抓取预算。
最佳实践
提高网站速度
提高您网站的页面速度可能会导致 Googlebot 抓取您网站的更多网址。
事实上,谷歌声明:
“使网站更快可以改善用户体验,同时还可以提高抓取速度。”
换句话说:
页面加载缓慢会占用宝贵的 Googlebot 时间。
但是,如果您的网页加载速度很快,Googlebot 就有时间访问您的更多网页并将其编入索引。
使用内部链接
Googlebot 会优先处理具有大量指向它们的外部和内部链接的页面。
是的,理想情况下,您会获得指向您网站上每个页面的反向链接。但这在大多数情况下是不现实的。
这就是为什么内部链接如此关键。
您的内部链接会将 Googlebot 发送到您网站上您希望编入索引的所有不同页面。
平面网站架构
根据谷歌:
“在 Internet 上更受欢迎的 URL 往往会被更频繁地抓取,以使它们在我们的索引中保持最新状态。”
在谷歌的世界里,流行=链接权威。
这就是为什么您想在您的网站上使用平面网站架构。
平面架构设置了一些东西,以便您网站的所有页面都有一些链接权限流向它们。
避免“孤立页面”
孤立页面是没有指向它们的内部或外部链接的页面。
Google 很难找到孤立页面。因此,如果您想充分利用您的抓取预算,请确保至少有一个内部或外部链接指向您网站上的每一页。
限制重复内容
出于很多原因,限制重复内容是明智的。
事实证明,重复的内容会损害您的抓取预算。
这是因为 Google 不想通过索引具有相同内容的多个页面来浪费资源。
因此,请确保您网站 100% 的页面都由独特、优质的内容组成。
对于拥有 10k+ 页面的网站来说,这并不容易。但如果您想从抓取预算中获得最大收益,这是必须的。
了解更多
优化您的抓取和索引:有关 Google 如何查找、抓取和索引页面的有用指南。
Complete Guide to Crawl Budget Optimization:关于优化爬行预算的超级深入视频(包括现实生活中的例子)。
抓取统计报告(网站) :来自 Google 的一篇关于如何阅读和解释Google Search Console中的抓取报告的帖子。