上周有位同行在我的群里发了一张截图:他花了两个多月做的技术博客,原创、日更、每篇三千字,结果百度收录停了,Google 那边搜索展示一夜之间从每天六百多掉到个位数。他一开始怀疑是站点被降权,把服务器、DNS、证书、robots 全查了一遍,什么都没问题。最后打开自己的网站目录才发现,后台那个「自动采集」插件还开着,每天凌晨定时从十几家同行的 RSS 里扒二十篇内容,混在他的原创里一起发。
采集这件事之所以值得单独写一篇,不是因为它「不道德」——道德层面的讨论网上已经足够多,而且大多数站长入行时都干过类似的事,包括我自己。它真正麻烦的地方在于:采集的代价是滞后的、非线性的,而且在出事之前几乎看不到任何信号。你每天看后台,文章数在涨,收录在涨,甚至流量也在涨;等信号出现的时候,通常已经是整站层面的事,单个页面无论怎么改都救不回来。
这篇把自己踩过的坑、以及从十几个类似案例里总结出来的判据整理成四块:搜索引擎怎么算把一篇内容「算作重复」、采集站在什么阶段开始被识别、人工穿插原创为什么救不了、以及被判定之后还有哪些可行的处置顺序。
一、搜索引擎判断「重复」的三层,很多人只想到第一层
大部分人理解的重复内容,是「两篇文章文字一模一样」。这只占实际情况的一小部分,而且是最容易躲开的那部分。真实世界里,搜索引擎至少做三层判断。
第一层:字节级近似
最基础的一层是文档指纹。搜索引擎会把页面正文抽出来,做一次分词与归一化(去掉标点、统一全半角、压缩空白),然后取若干段片段计算滚动哈希,得到一个指纹集合。两个页面只要有大比例片段重叠,就会被归到同一个「文档簇」里。
这一层的特点是:同义词替换、段落调序、加几段自己的开头结尾,全都躲不过去。因为归一是按片段做的,只要段落内部的结构没变,片段哈希就不变。很多人以为「伪原创」工具能过这一关,实际上伪原创工具做的是词级替换,恰好是这一层最不敏感的位置。
第二层:结构与模板指纹
这一层更容易被忽视。搜索引擎除了看正文内容,还会看页面的结构特征:标题的字数分布、H2 小节的数量与顺序、列表项数量、图片的排布、甚至连页面上广告块的位置都会算进去。一大批页面如果在小节结构上高度同构,就会被识别为「由同一个模板/同一套规则生成」。
这就是为什么有些采集站即使做了同义词替换,仍然会被成片判定:它的文章全部是「导语 + 三个小标题 + 结尾总结」这个结构,每个小标题下三到四段,段落长度也差不多。这种规整感本身就是一个信号,因为真人写作很少这么整齐。
第三层:站点级内容构成比例
最致命的一层,也是本文重点:搜索引擎评估的不只是单页,还有整站的内容构成。如果站内大量页面的指纹都能在别的站点找到对应物,那么即使你有一半原创,整站的「可信内容比例」也是被拉低的。表现出来就是:原创文章也收不进去,或者收进去了排不上,或者干脆整站抓取频次下降。
我见过一个很典型的案例:某站日更 20 篇,其中 14 篇采集、6 篇原创。站长以为「原创占了三成,应该没问题」,结果六篇原创里只有两篇被收录。他后来把采集全停了、只发原创,收录没有立刻恢复——因为整站的构成比例是滑动窗口计算的,要把旧的采集页面从窗口里挤出去,需要时间和足够的原创量。
二、采集站被识别的三个阶段:从看不出问题到整站衰退
把时间线拉开看,采集站被处理通常会经历三个阶段。认清自己处在哪个阶段,比慌张地到处「修」有用得多。
阶段一:顺风期(1~3 个月)
这个阶段最危险,因为一切看起来都在变好。新站权重低,搜索引擎对新站有个观察期,抓取频次低、索引慢,但页面还是能进索引;因为内容都是别处验证过有搜索需求的主题,偶尔还能拿到一些长尾词的排名。站长看到数据在涨,就会加大采集量,甚至上更多域名复制同一套流程。
这个阶段的典型错觉是「这套方法有效」。实际上搜索引擎这时还没有足够的样本判断站点的内容来源,数据上涨只是「有内容 + 有需求」的自然结果,不代表方法被接受。
阶段二:摩擦期(3~6 个月)
信号开始出现,但都很分散,容易被解释成别的原因。常见的几个:
- 新发的文章「已发现但未编入索引」的条目开始堆积,找理由说是抓取预算不够;
- 部分文章收录了但几乎零展示,解释成关键词没选好;
- 原本排在第 2~3 页的词掉了,解释成对手在发力;
- 抓取日志里 Googlebot 的请求量下降,解释成站点最近改版。
这个阶段最有效的判据,是去对比「同一天发的原创和采集,收录率差多少」。如果原创 90% 收、采集 20% 收,问题已经不在单篇质量上,而是整站在被筛选。另一个便宜的判据是看手改标题/手写描述的文章和模板生成的文章在 GSC 里的表现差异,如果差距在拉大,也是同一个信号。
阶段三:结算期(6 个月以后)
这个阶段的特征是整站性的:抓取频次跌到每天个位数、索引量下滑、站点搜索展示断崖式下降、部分页面被从索引里移除。这时候无论你怎么改单页都没有用了,因为处理的粒度是站点。
有一个反常识的点值得强调:被处理的站并不是「所有的页面都不见了」。通常表现为索引量掉到一个远低于总页面数的水平,然后停住。剩下的那部分页面往往是站点最早的、最有外链的、或者内容结构最独特的。这给人一种「只是部分页面有问题」的错觉,实际上它是整站评分的结果,只是不同页面的分数不同,越过了阈值的那部分被留下了。
三、人工穿插原创为什么救不了整站
最常见也最无效的应对方式,是「采集三篇、手动写一篇」。这个策略在直觉上很合理——提高了原创比例,丰富了内容构成。实际效果通常接近于零,原因有三条。
1. 采集页面的绝对量在增长
比例是个相对数。如果你的采集机器每天固定产出 20 篇,你手动写 3 篇,比例是 13%;但你写 3 篇的代价是一天的工作时间,而采集是自动的,你会本能地把采集量往上调来维持「日更量」。三个月后回头看,原创占比可能只有 5%。
真正需要控制的不是比例,而是采集页面的绝对增量。这句话的意思是:如果决定要清理,必须让采集停止累积,而不是让它慢慢被稀释。
2. 原创被同一批采集内容的指纹「粘」住
如果你的原创文章和采集文章共用同一套模板、同一套内链策略、同样的标题生成规则、同样的标签体系,那么原创在结构指纹上和采集是同一族。搜索引擎做文档簇聚类时,会把它们分到同一个簇里,整簇只有一个代表页能排上去。
解决方案不是「多写点原创」,而是让原创在结构上也不一样:小标题数量不固定、段落长度不均、有真实的第一人称叙述、有具体的数字和时间、有能看出是本人经历过的细节。这一条没有捷径,也是我判断一篇稿子是否值得发的最简单标准——我自己写得出来的,机器写不出来。
3. 旧采集页面仍在被索引、仍在被访问
很多人只关注「不再发新的采集」,对站上已经存在的几千篇采集页面视而不见。这些页面在搜索引擎眼里是历史的证据,只要它们还在索引里,整站构成比例的分子就不会变。更要命的是有些采集页面还真带来了长尾流量,站长舍不得删,于是这些页面成了长期负债。
四、已经被判定之后,处置顺序比处置手段重要
如果你已经确认处在阶段二或阶段三,接下来的动作要有严格顺序。下面这个顺序是踩过坑之后总结出来的,顺序错了会让情况更难收拾。
第一步:先量化,别着急动手
动手之前必须先知道自己的家底。至少要把三个数字算出来:
- 站内采集页面的数量:导出一份 URL 清单,用标题和发布时间做粗筛(同一天批量发布、标题风格一致的通常就是采集);
- 这些页面占总索引量的比例:如果超过一半,整站策略要按重构来做;
- 这些页面带来的流量占比:从日志里统计它们的访问量,这个数字决定了你能不能承受直接删。
顺手还要看一件事:这些采集页面有没有外链。如果一个采集页面被别的站引用过,那么它就不是纯负债,删了会掉外链。
第二步:先摘除,再谈删除
对确定要清理的采集页面,最稳的做法不是立刻 404,而是先降低它们的「存在感」:从站内导航、标签页、相关文章、站点地图里全部移除,页面本身保留原状,但对搜索引擎标成不索引。这样做的好处是:
- 你自己的用户体验不受影响(真要删的话,直接访问会 404);
- 如果判断有误,可以随时改回来,不损失任何东西;
- 观察一个月,看流量与索引量的变化,再决定是 301、410 还是保留不索引。
这里有个容易踩的坑:「不索引」和「禁止抓取」不能同时用。如果 robots 里禁止抓取这个目录,搜索引擎就看不到页面上的不索引标记,结果是页面被永久留在索引里。要么放开抓取只标不索引,要么整体删除走 404/410,两条路选一条。
第三步:让站点地图只反映真实价值
清理期间,站点地图应该只包含你真正希望被收录的页面。把采集页面从站点地图里剔除,是成本最低的一步,也是最快生效的一步。同时要确认站点地图里的每个 URL 都返回 200、都是可索引的、canonical 都指向自己——这三条只要有一条不满足,站点地图的价值就会打折。
第四步:接一段时间的原创输出,压实构成
摘除之后不是等就行了。整站构成比例是滑动窗口,需要有新的、干净的、结构独特的页面进来把窗口填满。这个阶段建议的节奏是:宁可一天两篇高质量,也不要一天十篇拼凑。我在自己的站上做过对照,同样的时间里,六篇把一个小主题写透的文章带来的搜索展现,是三十篇泛泛而谈的文章的三倍以上。
第五步:按周盯四个数字
恢复期的观察指标要固定,别每天换着看。我的清单是四个:索引量、抓取频次、文章页在抓取请求里的占比、以及「已发现未编入索引」的条目数。前两个看趋势,第三个判断爬虫是否愿意深入,第四个判断能否把内容吃下去。这四个数字里只要有两项连续两周向好,说明方向对了。
五、我没有用采集,但站点也有类似问题?
还有一种情况也值得说:有些站长确实没做采集,但站点仍然表现出「内容同构」的特征。常见的三种来源:
一是使用同一个 AI 工具批量生成。这和采集的问题本质相同——结构太整齐、观点太圆滑、没有任何具体的时间地点数字,搜索引擎识别这类文本的能力在过去两年里提升得非常快。
二是模板化的「资讯站」结构,比如每篇都是「行业动态 / 政策解读 / 案例分析 / 结论」四段。哪怕内容是自己写的,套同一个骨架久了也会被当成低差异化内容。
三是转载别人的文章但标了来源。标明出处不等于不重复,原站已经在索引里了,你转的那份通常拿不到排名,还会拉低整站的新鲜度评分。
对这三种情况的建议是一样的:降低产出量,提高单篇的具体性与不可替代性。技术站最好的差异化其实很简单——写你自己遇到过的问题,带上你环境里的具体版本号、具体报错、具体数字。这些东西网上没有第二份。
六、几条边界,避免走到另一个极端
清理采集内容这件事,也有过度执行的风险,这里列三条边界。
不要一次性大批量删除。几千个页面同时 410,会让爬虫短时间内收到大量失效信号,抓取行为会变得混乱。建议按周分批,每周几百个,配合站点地图的更新节奏。
不要删有外链的页面。哪怕内容是采集的,只要有外部链接指向它,删掉就等于把外链的权重扔掉。这类页面更适合改成不索引、保留可访问,或者在页面顶部加一句「本文转载自 XXX,原地址见下」,把价值还给原作者,同时留住链接。
不要拿「收录量」当恢复的唯一标准。索引量恢复到原来的水平,但那些恢复的都是采集页面,那就是白折腾。恢复的判断标准应该是「有效文章页的搜索展示是否回到下降前的水平」,这个指标比索引量实在得多。
最后一句实话:采集带来的问题,修复周期通常以月为单位,最快也要六到八周才能看到明确转折。这期间最难的不是技术动作,而是忍住不再去采集的冲动。因为日子照过,日更的压力照在,唯一的解是把「日更」这个目标本身降低——一个能长期活下去的站,从来不是靠每天二十篇撑起来的。