Cloudflares KI-Sperre blockiert jetzt alle – außer Google, Apple und Microsoft
Die Woche, die Cloudflare für die Umwandlung der Sperren seiner Kunden gegen KI-Training in robots.txt-Vorgaben angesetzt hatte, ist verstrichen. Google, Apple und Microsoft werden künftig nur noch gebeten, diese Vorgaben zu respektieren; die Trainings-Crawler aller anderen stoppt das Unternehmen weiterhin an der Edge.
Vincent Jiang · 3 min read
Cloudflare hatte in seiner Kunden-E-Mail vom 16. September 2026 angekündigt, dass die bisherigen Einstellungen Block AI Bots automatisch im Laufe der folgenden Woche migriert würden und der Schalter nach Abschluss der Migration aus dem Dashboard verschwinde 1. Diese Woche ist verstrichen. Was Verlage per Klick als Sperre gesetzt haben, ist für die drei Unternehmen, die am meisten zählen, jetzt nichts weiter als eine höfliche Notiz in einer Textdatei.
Was aus der Sperre wurde
Die Zuordnung steht fest: Ein alter Schalter wird künftig abgebildet auf „Allow“ bei der Suche, „Disallow AI Training“ beim Training und Agent blockiert auf Seiten mit Werbung 12. „Disallow AI Training“ trägt ein Trainingsverbot in die robots.txt ein – Googlebot, Applebot und Bingbot rufen Seiten trotzdem weiter ab, denn alle drei Unternehmen setzen einen einzigen Crawler sowohl für die Suchindexierung als auch für das Modelltraining ein 12. Die Lücke, die das schließen soll, ist real: 17 Prozent der Websites auf Cloudflares Netzwerk blockieren Training in irgendeiner Form, weniger als 1 Prozent sperren Such-Crawler – und das Netzwerk liegt vor mehr als einem Fünftel des Webs 13.
Das Blockieren von KI-Training ist auf Cloudflares Netzwerk verbreitet – das Blockieren von Such-Crawlern selten
Data
| Value | |
|---|---|
| Websites, die KI-Training blockieren | 17% |
| Websites, die Such-Crawler blockieren | <1% |
| Web hinter Cloudflares Netzwerk | >20% |
Die Durchsetzung erfolgt jetzt in zwei Stufen
Die Einstellung hält nach wie vor jemanden auf. Die Trainings-Crawler von OpenAI, Anthropic, Meta und Amazon blockiert Cloudflare an der Edge kompromisslos 4. Google, Apple und Microsoft dagegen rufen unter Cloudflares Label „Accountable“ weiter ab; was anschließend mit der Seite geschieht, hängt davon ab, ob der Betreiber sich an die Datei hält 14. Microsoft kann die neue Regel nicht einmal lesen: Seine robots.txt-Unterstützung ist erst für Anfang 2027 angepeilt 12.
„Accountable“ ist eine Bezeichnung von Cloudflare selbst – keine Zertifizierung von außen 4. Vergeben wurde das Label für Fähigkeiten, die jeder der Betreiber bereits mitbringt – verknüpft mit befristeten Zusagen für alles Übrige 12. Im August verlangte die vierte Bedingung noch, dass ein Betreiber „öffentlich“ nachweist, dass das Untersagen von Training die Suchergebnisse nicht beeinträchtigt; die Septemberfassung verlangt nur noch eine Zusicherung 51.
Die Dokumentation verspricht bis heute das Gegenteil
Cloudflares eigene Dokumentation, zuletzt aktualisiert am 1. Juli 2026, besagt weiterhin, dass Doppelzweck-Crawler „auch von allen Konfigurationen zum Blockieren von KI-Training blockiert werden, einschließlich der alten Option ‚Block AI Bots‘“ 6. Die Seite führt für jedes Steuerelement drei Optionen auf: „Allow“, „Block on pages with ads“ und „Block“ 6. Das ausgelieferte Produkt kennt eine vierte Option, „Disallow AI Training“ – in der Dokumentation kommt sie mit keinem Wort vor 1. Was Cloudflare ausgeliefert hat, ist die Umkehrung dessen, was auf der Seite steht, die das Unternehmen noch immer online stellt.
Zurück zu einer harten Sperre führt nur die Option „Block“ – und die schneidet eine Website jetzt komplett von der Suche bei Google, Apple und Microsoft ab 12. Wer den Bingbot blockiert, verschwindet auf einen Schlag aus Bing, Yahoo und Copilot 1.
Der Beleg kommt erst in Wochen – nicht jetzt
Das Reporting auf URL-Ebene – der Mechanismus, der aufdecken soll, welche untersagten Seiten trotzdem verwendet wurden – ist bei Google noch Wochen entfernt, bei Apple erst für nächstes Jahr geplant 124. Bis dahin liest sich die Bilanz nur so: Die Verlage behalten ihren Such-Traffic, die Konzerne den Korpus, Cloudflare beide Seiten als Kunden – und die einzigen Crawler, die weiterhin zwangsweise gestoppt werden, gehören den KI-Rivalen der Konzerne 4. Als Nächstes stehen Zusammenfassungen an; zentrale Steuerungen sind für Anfang 2027 vorgesehen 13.
How this brief was made
01Gathered & sourced272 channels · 1,762 articles▾
Agents swept 272 channels and ingested 1,762 articles, then de-duplicated and ranked them for signal.
02Verified & cross-validated6 claims · 22 data feeds▾
Every one of 6 load-bearing claims was checked against primary sources, with 22 live data feeds reconciling the figures and charts.
- 1PPC Land, "Cloudflare drops planned Googlebot block for sites refusing AI training", 27 September 2026
- 2Search Engine Journal, Matt G. Southern, "Cloudflare Lets Sites Disallow AI Training Without Blocking Googlebot", 15 September 2026
- 3Best Media Info, "Cloudflare separates AI training opt-outs from search crawling for publishers", 16 September 2026
- 4heise online, Moritz Förster, "Google search yes, model training no: New Cloudflare rules", 18 September 2026
- 5Cloudflare blog, Jin-Hee Lee, "Say it once: introducing Bot Preference Sync", 21 August 2026, updated 15 September 2026
- 6Cloudflare documentation, "Block AI Bots", last updated 1 July 2026
03Reviewed & edited1 human editor▾
One editor read the draft against the evidence, tuned the framing, and signed off before it shipped.
Become a contributor
Reporting on the business of AI and want it read? We take pitches from outside contributors who bring primary sources and a number worth arguing about.
Deepdive
AI-generated from this story and its cited sources. Not investment advice.



