直接回答:把“有效地址集合”定义为能被唯一内容状态解释、且可被有限规则枚举的参数组合,而不是所有可能拼出的 URL。做法是先找出真正改变页面内容的参数,再为其余参数规定顺序、去重和默认值,最后只把符合该规则的地址交给抓取与索引流程。参数组合无限增长时,任何试图逐条提交的做法都会失败,必须回到集合定义。
同一个路径下,参数可能只影响排序、筛选、分页、会话或追踪。只有会改变主体内容的参数才值得进入有效集合。判断依据不是参数名看起来像什么,而是同一路径分别带与不带该参数时,返回的标题、正文主体和主要链接集合是否出现稳定差异。
假设一个列表页有 sort、page、color、utm_source 四类参数。若 color 只改变商品顺序,utm_source 只用于统计,那么它们不应各自产生独立有效地址;page 改变可见条目集合,sort 只改变同一批条目的排列,则前者可保留有限分页,后者应折叠为默认排序。这个例子只用于说明比较方法,不代表任何站点的真实表现。
需要区分两种解释:参数组合暴增后抓取量下降,可能是有效集合定义过宽,也可能是服务器响应变慢、内链结构变化或站点整体抓取预算被其他目录占用。仅凭抓取量下降不能证明参数处理正确,也不能证明百度已经拒绝这些地址。
条件一:参数只影响展示,不影响主体内容。此时应把有效地址集合收缩为“路径 + 默认参数”或“路径 + 必要分页参数”。实施动作是:在服务端对非内容参数做 301 到规范地址,或在页面输出指向规范地址的链接;同时让站内导航只使用规范形式。结果是同一内容不再产生多套可抓取地址,后续排查收录时样本更干净。
条件二:参数确实产生不同内容,且组合有业务意义。此时不能简单全部折叠,而应定义可枚举的子集:保留单参数维度,限制多参数交叉,并为每个保留组合生成稳定标题和独立主体内容。实施动作是:先列出允许交叉的参数白名单,再让不在白名单内的组合返回默认页或 404,而不是返回一套看似不同、实际主体重复的页面。结果是有效集合从无限变为有限,抓取和索引对象可以被清点。
两种选择的分界不是“参数多不多”,而是“去掉参数后主体内容是否仍然成立”。如果成立,就应折叠;如果不成立,就应保留但限制组合。例外是:某些参数组合虽然内容不同,但差异极小且没有独立搜索需求,这时仍可折叠到主地址,只是要在页面上保留用户可切换的入口。
要区分两种解释,不能只看百度是否收录。可核对的证据包括:
如果日志显示抓取集中在少数规范形式,而收录量仍低,问题更可能在内容质量、站点整体信任或竞争环境,而不是参数集合定义。如果日志显示大量随机组合被抓取但未收录,则应优先收紧有效集合,而不是继续提交更多组合。
robots.txt 的抓取限制不等于可靠的索引移除。即使屏蔽了某些参数,已存在的地址仍可能以其他方式被引用;站点地图也不保证收录。把这两件事分开,才能避免把“抓取限制”误当成“索引清理”。
建议按以下顺序动作:
验收口径应写成可复查的条件,例如“同一内容不再出现两套以上可抓取地址”“白名单外组合不再返回独立标题”。不要用“收录量必须增长”作为唯一验收条件,因为收录还受内容质量和站点整体状态影响。
如果实施后抓取量短期下降,先确认下降的是白名单外组合还是规范地址。若只有前者下降,说明收紧生效;若规范地址也下降,则要检查是否误伤了有效分页或有效筛选,下一步应回退部分规则,而不是继续扩大屏蔽范围。
有效地址集合不是永久不变的。当业务新增真正独立的内容维度时,需要重新评估是否纳入白名单;当某个参数维度长期没有独立内容差异时,应移出白名单。HTTPS 不保证安全无漏洞或排名,参数处理也不能替代内容质量判断。若站点同时面向多个搜索引擎,支持情况须分别核查,不能把百度的处理结果直接套用到其他引擎。
最终要守住一条线:有效地址集合必须是有限、可解释、可复查的。只要这条线成立,参数组合再多,也不会让收录判断失去依据。