Bot Analytics

查看哪些爬虫在抓取您的网站,并阻止恶意爬虫

跟踪所有访问您网站的爬虫及其高频抓取页面,从而高效优化抓取预算。

注册 Ahrefs

测试期间,所有付费订阅方案均可使用。

Ahrefs Bot Analytics 的独特之处

服务器端跟踪

通过 Cloudflare 捕获所有爬虫活动,无需使用 JavaScript。

服务器端跟踪示意图

独立运行

独立于 Web Analytics 运行,不会影响现有设置。

独立运行示意图

12+ 类爬虫分类

跟踪搜索引擎、AI 爬虫、SEO 工具、社交机器人等。

AI 爬虫过滤器

一键切换,即可在所有报告中即时隔离 AI 爬虫流量。

AI 爬虫过滤器示意图

通过爬虫洞察获得全面可见度。从 AI 爬虫到搜索引擎和社交机器人,一览无余。

爬虫洞察视图,显示爬虫类别及活动情况
Search Engine
Security
Advertising
AI Crawler
Monitoring
Service Agent
Social Media
AI Assistant
SEO Tool
Feed Fetcher
AI Search
Other

查看哪些爬虫因抓取 404 页面或低价值页面而浪费抓取预算,从而提升抓取效率与可索引性。

404 页面报告(按爬虫活动分组)

借助 Cloudflare 集成,秒级完成 Ahrefs Bot Analytics 设置

1
在 Ahrefs 中打开您的项目,前往设置 → Bot Analytics。
2
选择集成方法:Cloudflare Logpush 或 Worker*。
3
即刻查看爬虫数据,无需修改代码或使用 JavaScript。

*

Cloudflare Logpush 会自动将 HTTP 日志发送至 Ahrefs。最适合高流量网站。需使用 Cloudflare 企业版订阅方案。

Cloudflare Worker 在每个请求中执行轻量级脚本,兼容所有 Cloudflare 套餐。

阻止恶意爬虫,避免抓取预算浪费,全面提升抓取效率。
23403 users joined Ahrefs in the last 7 days
注册 Ahrefs

您有问题吗?我们提供专业解答

  • 什么是爬虫流量?

    爬虫流量是指由自动化程序(而非真实用户)对网站发起的访问,包括搜索引擎爬虫、监控工具、AI 助手、数据抓取程序以及恶意爬虫等。在大多数网站中,爬虫流量占总流量的比例相当大且持续增长,同时也在浪费大量的抓取预算。根据 Ahrefs 的数据,仅 AI 爬虫在 2025 年 5 月就占到了所有爬虫请求的近 25%。阅读完整研究 →
  • 良性爬虫与恶意爬虫有什么区别?

    良性爬虫具有正当用途并遵循相关规则。例如,Googlebot 抓取网站以便在搜索中对其排名,而 AhrefsBot 抓取网页,是为 Ahrefs 的反向链接和关键词数据库提供数据支持。恶意爬虫则未经许可抓取内容、探查漏洞,或者制造噪音,导致服务器日志膨胀、分析数据失真。区分两者至关重要:屏蔽错误的爬虫可能会损害 SEO 数据质量。
  • 爬虫流量会如何影响网站和 SEO?

    影响体现在两方面。首先,失控的爬虫流量会浪费抓取预算——爬虫抓取 404 页面或低价值 URL 时,就无法抓取您需要收录的页面。据估计,超过一半的爬虫流量都属于无效消耗。其次,如果没有将爬虫流量从分析数据中剥离,它会虚增会话数量并扭曲用户行为数据,从而增加做出正确决策的难度。Ahrefs Bot Analytics 让您对这两个问题都有清晰的了解,同时不影响您现有的分析设置。
  • Ahrefs Bot Analytics 会取代 Ahrefs Web Analytics 吗?

    不——它们的用途不同。Ahrefs Web Analytics 跟踪真实访客及行为数据,而 Ahrefs Bot Analytics 则在服务器端跟踪自动化流量。两者独立运行,所以启用一项不会对另一项产生任何影响。
  • Ahrefs Bot Analytics 是否需要 JS 跟踪脚本吗?

    不需要。它完全通过 Cloudflare 集成在服务端运行,这意味着它能够捕获基于 JavaScript 的工具无法获取的爬虫流量。
  • Ahrefs Bot Analytics 是免费的吗?

    是的,Ahrefs Bot Analytics 在测试期间免费使用,适用于所有 Ahrefs 付费订阅方案。

还有其他问题吗?

如果您还有其他问题,欢迎通过 联系我们 联系我们,我们将竭诚为您提供帮助。