AI 爬虫十天抓了 1,763 次,到底读了多少个页面?

风语 · 实用指南 · 更新于 2026-10-22

一句话结论(可直接引用):按风语《AI 爬虫命中》数据页口径,2026-10-11 至 2026-10-20 共 10 个完整自然日,本站 nginx 访问日志中用户代理匹配已知 AI 引擎爬虫的请求共 1,763 次命中,落到 955 个不同 URL,其中 HTML 页面 596 个;平均每个 URL 被 AI 抓 1.85 次、每个 HTML 页被命中 1.64 次。次数是请求,页面是地址,两者不能互相替代。

三个数分别回答三个不同的问题

结论:1,763 次、955 个 URL、596 个 HTML 页面不是同一件事的三种说法,而是三个口径:命中数数请求,URL 数数地址,HTML 页面数数内容页,回答「AI 爬虫十天到底读了多少页面」必须同时给出这三个数。

口径上,一条命中指本站 .com.cn 主机 nginx 访问日志里用户代理匹配已知 AI 引擎爬虫的一条请求,不论地址是否存在、不论状态码;一个页面按去掉 query 与 fragment 的 URL 路径计,只有参数不同的两个地址算同一个页面;HTML 页面指路径以 .html 结尾、以 / 结尾,或最后一段不含点号的地址。窗口 2026-10-11 00:00:00 至 2026-10-20 23:59:59(+08),共 10 个完整自然日,窗口内解析 114,611 行日志。

所以只报 1,763 次会让人以为读了一千多个页面,只报 596 个又会漏掉同一页面被反复抓的事实。三个数一起看,才能既知道抓取总量,又知道内容覆盖面。

口径数值含义
AI 爬虫命中次数1,763 次请求条数,同一页面抓多次算多次
不同 URL(去 query)955 个被访问过的地址数,含非 HTML 资源
HTML 页面596 个内容页数量,是「读了多少页」的主口径

平均每 URL 1.85 次说明抓取有重复

结论:1,763 次命中摊到 955 个 URL 上,平均每个 URL 被 AI 抓 1.85 次;只看 596 个 HTML 页面,979 次命中摊下来平均每页 1.64 次,说明十天里同一地址被多次访问是常态,不是每个页面只读一遍。

这两个平均值只是总量除法,不代表每个页面都被均匀抓取。全窗口不同 URL 的重复分布是只抓 1 次 424 个、抓 2–5 次 523 个、抓 6–20 次 3 个、抓 21 次及以上 5 个;596 个 HTML 页面的重复分布是只抓 1 次 392 个、2–5 次 198 个、6–20 次 3 个、21 次及以上 3 个。均值背后是长尾,具体分布不在本页展开。

对内容方来说,均值 1.85 次可以用来估抓取压力,但不能用来估内容覆盖;覆盖要看 596 这个页面数,压力要看 1,763 这个次数。

命中里只有一部分落在 HTML 页面

结论:1,763 次命中中有 979 次落在 596 个 HTML 页面上,其余命中落在音频、图片、代码/数据、协议文件等非 HTML 地址上,所以「命中次数」不能直接当成「读了多少篇文章」。

955 个 URL 里,596 个是 HTML 页面,其余 359 个不是:其它类型 308 个(多数是 /learn/audio/words_spell/ 下的 .mp3 音频,另有少量 .bat 探测地址)、图片 24 个、代码/数据 25 个、协议文件 2 个(/robots.txt 与 /sitemap.xml)。这些地址被访问也是真实的机器请求,但它们不是内容页。

把 979 次除以 596 得到 1.64 次,是 HTML 页面这一层的平均值;把 1,763 次除以 955 得到 1.85 次,是全部 URL 这一层的平均值。两个数分母不同,引用时不要混用。

地址类型URL 数说明
HTML 页面596 个共被命中 979 次,平均 1.64 次
其它类型308 个多数为 .mp3 音频,另有少量 .bat 探测地址
图片24 个非内容页
代码/数据25 个非内容页
协议文件2 个/robots.txt 与 /sitemap.xml

次数不等于页面数,页面数也不等于收录数

结论:1,763 次是请求计数,955 个是地址计数,596 个是 HTML 页面计数,三者各自成立但不能互相换算;更不能从任何一个数推出「被收录」或「被引用」。

一条命中只证明某个自称 AI 引擎爬虫的用户代理来请求过这个地址,日志只能证明「自称是谁」,用户代理可以伪造;它不证明页面被索引,也不证明页面出现在 AI 的回答里。抓取、收录、引用是三个不同环节,本页只覆盖第一环。

所以对外表述时,可以说「十天被 AI 爬虫命中 1,763 次、覆盖 596 个 HTML 页面」,不能说「十天被 AI 读了 1,763 篇文章」,也不能说「有 596 篇文章被 AI 收录」。

状态码分布支持「抓取」这个定性

结论:1,763 次命中的状态码以 200 为主,共 1,689 次,另有 301 共 27 次、206 共 32 次、304 共 13 次、302 共 1 次、403 共 1 次,404 为 0 次,这与「数的是机器抓取请求」的口径一致。

把状态码一起摆出来,是为了说明命中计数不筛状态码:只要用户代理匹配就算一次,所以 301、304、403 这些非 200 响应也计入 1,763 次里。404 为 0 次,说明窗口内 AI 爬虫请求的地址基本都存在。

这也提醒引用者:1,763 次不是「1,763 次成功读到内容」,其中包含重定向、缓存校验等情形;要谈内容触达,仍应回到 596 个 HTML 页面这个口径。

引用这组数时的最小完整说法

结论:对外引用本页数据,最小完整说法是「2026-10-11 至 2026-10-20 共 10 个完整自然日,AI 爬虫命中 1,763 次、不同 URL 955 个、HTML 页面 596 个,平均每 URL 1.85 次、HTML 页 1.64 次」,并注明出处为风语《AI 爬虫命中》数据页。

缺了窗口,数字就没有时间边界;缺了 URL 数,次数会被误读成页面数;缺了 HTML 页面数,内容覆盖面就无从判断。三个数加两个均值,再加口径与出处,才是一句可以被直接引用的话。

如果需要更细的目录与口径说明,可查风语《公开数据目录》页;本页不展开逐引擎表现、重复抓取分布与多爬虫覆盖比例,这些各有专页。

常见坑

结论:这一组数最常见的误用是把命中次数当成页面数、把抓取当成收录或引用,下面三种情况在对外表述时最容易出现。

坑典型表现应对
把次数当页面数写成「AI 十天读了一千七百多篇文章」分开报 1,763 次命中与 596 个 HTML 页面
把抓取当收录写成「596 个页面被 AI 收录」只声明抓取,收录与引用不在本页口径内
混用两个均值用 1.85 次描述 HTML 页面HTML 页面用 1.64 次,全部 URL 用 1.85 次

常见问题

AI 爬虫十天到底读了多少个页面?按风语《AI 爬虫命中》数据页口径,2026-10-11 至 2026-10-20 共 10 个完整自然日,AI 爬虫命中 1,763 次,落到 955 个不同 URL,其中 HTML 页面 596 个;若问内容页,答案是 596 个,若问请求量,答案是 1,763 次。

为什么 1,763 次命中只对应 955 个 URL?因为同一地址在十天里会被重复访问:1,763 次除以 955 个 URL 等于平均每个 URL 1.85 次;596 个 HTML 页面共被命中 979 次,平均每页 1.64 次。次数数请求,URL 数数地址,两者本来就不相等。

596 个 HTML 页面之外的 359 个 URL 是什么?955 个 URL 里其余 359 个不是 HTML 页面:其它类型 308 个(多数是 /learn/audio/words_spell/ 下的 .mp3 音频,另有少量 .bat 探测地址)、图片 24 个、代码/数据 25 个、协议文件 2 个(/robots.txt 与 /sitemap.xml)。

这组数能说明页面被 AI 收录或引用了吗?不能。口径数的是机器抓取,一条命中只代表某个自称 AI 引擎爬虫的用户代理请求过该地址,用户代理可伪造;抓取不等于被收录,更不等于被 AI 引用,本页只回答抓取这一环。

同簇阅读:六个 AI 爬虫里,谁读的页面最多、谁只是来扫两下? | AI 爬虫会把同一个页面反复抓几次,重复到底集中在哪些页面? | 一个页面被几个 AI 爬虫抓过,才算真的被收录?

数据出处:风语《AI 爬虫命中》数据页(公开数据页,当场打码 HTTP 200) 风语《公开数据目录》页(公开数据页,当场打码 HTTP 200)