Cloudflare 擋在全球大約五分之一的網站前面,而 9 月 15 日起,這五分之一的預設值要整個換掉。從 7 月 1 日開始,所有方案——連免費版都算——都能把 AI 流量分成三種:Search、Agent、Training。問題出在 9 月之後:新上線的網域只要選了封鎖 Training,這道封鎖就會跟著爬蟲「有沒有拿去訓練」一路擴散,除非你主動退出,不然 Googlebot 也會被一起掃進去。公告後第五天,Google 的 John Mueller 直接在 Reddit 上打臉 Cloudflare 的配套設計,說 robots.txt 裡那條 Content-Signal 指令「對任何爬蟲或 LLM 都完全沒用」。所以你手上同時有兩件事,還有一條死線。
可信度:高。兩個說法都能追到第一手來源:一篇 Cloudflare 官方部落格,加上一位具名 Google 員工的 Reddit 發言(Search Engine Roundtable 完整引述)。立場也得先說清楚:Cloudflare 靠賣機器人管理賺錢,把 AI 爬取講成威脅對它有利;Mueller 代表 Google 發言,而網站維持開放爬取對 Google 有利。
- 2026 年 7 月 1 日:Search / Agent / Training 三段控制開放給所有 Cloudflare 方案,免費版也有(Cloudflare 官方部落格)
- 2026 年 9 月 15 日:新加入 Cloudflare 的網域,只要頁面上有放廣告,Training 和 Agent 爬蟲一律預設封鎖;Search 預設放行
- 2026 年 9 月 15 日:一支爬蟲身兼多職的話,Cloudflare 會照它全部的行為來判斷。官方寫得很白:只要客戶選了封鎖 Training,Googlebot、Applebot、BingBot「都會被擋下來」,除非客戶到 Security 設定裡主動退出
- 2026 年 7 月 1 日:Cloudflare 幫 Content Signals 加上第四個 robots.txt 欄位 use=(immediate / reference / full),它代管的 robots.txt 現在會自動補一行 use=reference
- 2026 年 7 月 6 日:Mueller 在 Reddit 上說,這些 content-signal 指令是「某家 CDN 自己編出來的」,「對任何爬蟲或 LLM 都完全沒有效果」,寫進去只會「讓 robots.txt 更肥、以後更難維護」;他同時說 Google 不使用 llms.txt
- 截至 2026 年 1 月,全球大約 21.3% 的網站擋在 Cloudflare 後面(Search Engine Roundtable 引用的數字)
掌握 AI 搜尋的每一步
會牽動你排名和 AI 引用的每個變化,加上該怎麼應對——趁還沒讓你付出代價之前。免費,每週三次。
這兩則消息其實在吵同一件事:到底是「真的擋得住」,還是「只是貼張告示」。Cloudflare 在網路層攔截,不用問過誰就生效;robots.txt 裡的 Content-Signal 和 llms.txt 只是禮貌告示,照 Google 自己的說法,根本沒有爬蟲會去讀。把一張告示當成鎖,網站就會不聲不響被封掉一半。真正會咬人的是 9 月 15 日這條線:客戶如果封了 Training,而 Google 到時候還沒把搜尋和訓練拆成兩支爬蟲,Googlebot 就會一起被擋在外面,自然搜尋加上 AI Overviews 的能見度也一起不見。這不是叫你把所有機器人都放進來,而是趁預設值還沒替你決定之前,一個客戶一個客戶、白紙黑字把設定講定。
9 月 15 日之前要做完的事:
- 找管網站基礎設施的人,把每個客戶網域的 Cloudflare Security 分頁打開,明確決定一件事:封鎖 Training 這道規則,要不要一起套到身兼多職的爬蟲身上(Googlebot、Bingbot、Applebot)。搜尋能見度優先的客戶,就主動退出;每一個客戶的理由都寫下來。
- 別再把 Content-Signal 或 llms.txt 當成控制項。客戶真的要擋,就擋在 Cloudflare 的機器人規則裡,或者寫成爬蟲真的會遵守的 robots.txt disallow。
- 在行事曆上排一次複查,時間抓 2026 年 9 月 8 日那一週:趁新預設值還沒上線,確認每個網域線上的設定跟你當初寫下的決定對得起來。
Cloudflare: Your site, your rules: new AI traffic options for all customers, Cloudflare blog, July 1, 2026 · https://blog.cloudflare.com/content-independence-day-ai-options/
Search Engine Roundtable: Google: Cloudflare Content Signals Robots.txt Directive Has No Effects, RustyBrick, July 6, 2026 · https://www.seroundtable.com/google-cloudflare-content-signals-41631.html