Cloudflares KI-Sperre blockiert jetzt alle – außer Google, Apple und Microsoft

Die Woche, die Cloudflare für die Umwandlung der Sperren seiner Kunden gegen KI-Training in robots.txt-Vorgaben angesetzt hatte, ist verstrichen. Google, Apple und Microsoft werden künftig nur noch gebeten, diese Vorgaben zu respektieren; die Trainings-Crawler aller anderen stoppt das Unternehmen weiterhin an der Edge.

Original lesen

Vincent JiangVincent Jiang · 3 min read
Share
Matthew Prince, Mitgründer und CEO von Cloudflare, bei einem Auftritt auf der TechCrunch-Disrupt-Konferenz
1 / 7Slide 1 of 7
Cloudflare-Mitgründer und CEO Matthew Prince. Die einwöchige Migration hat aus den Sperren der Kunden gegen KI-Training robots.txt-Vorgaben gemacht.

Cloudflare hatte in seiner Kunden-E-Mail vom 16. September 2026 angekündigt, dass die bisherigen Einstellungen Block AI Bots automatisch im Laufe der folgenden Woche migriert würden und der Schalter nach Abschluss der Migration aus dem Dashboard verschwinde 1. Diese Woche ist verstrichen. Was Verlage per Klick als Sperre gesetzt haben, ist für die drei Unternehmen, die am meisten zählen, jetzt nichts weiter als eine höfliche Notiz in einer Textdatei.

Was aus der Sperre wurde

Die Zuordnung steht fest: Ein alter Schalter wird künftig abgebildet auf „Allow“ bei der Suche, „Disallow AI Training“ beim Training und Agent blockiert auf Seiten mit Werbung 12. „Disallow AI Training“ trägt ein Trainingsverbot in die robots.txt ein – Googlebot, Applebot und Bingbot rufen Seiten trotzdem weiter ab, denn alle drei Unternehmen setzen einen einzigen Crawler sowohl für die Suchindexierung als auch für das Modelltraining ein 12. Die Lücke, die das schließen soll, ist real: 17 Prozent der Websites auf Cloudflares Netzwerk blockieren Training in irgendeiner Form, weniger als 1 Prozent sperren Such-Crawler – und das Netzwerk liegt vor mehr als einem Fünftel des Webs 13.

Das Blockieren von KI-Training ist auf Cloudflares Netzwerk verbreitet – das Blockieren von Such-Crawlern selten

05101520Websites, die KI-Training blockieren17%Websites, die Such-Crawler blockieren<1%Web hinter Cloudflares Netzwerk>20%
Data
Value
Websites, die KI-Training blockieren17%
Websites, die Such-Crawler blockieren<1%
Web hinter Cloudflares Netzwerk>20%
Anteil der Kunden-Websites auf Cloudflares Netzwerk, die KI-Training in irgendeiner Form blockieren (17 Prozent), und Anteil derer, die Such-Crawler sperren (weniger als 1 Prozent); das Netzwerk selbst liegt vor mehr als einem Fünftel des Webs – entsprechend groß ist die Wirkung einer einzigen Einstellung im Dashboard. Quellen: PPC Land, 27. September 2026; Best Media Info, 16. September 2026.1,3

Die Durchsetzung erfolgt jetzt in zwei Stufen

Die Einstellung hält nach wie vor jemanden auf. Die Trainings-Crawler von OpenAI, Anthropic, Meta und Amazon blockiert Cloudflare an der Edge kompromisslos 4. Google, Apple und Microsoft dagegen rufen unter Cloudflares Label „Accountable“ weiter ab; was anschließend mit der Seite geschieht, hängt davon ab, ob der Betreiber sich an die Datei hält 14. Microsoft kann die neue Regel nicht einmal lesen: Seine robots.txt-Unterstützung ist erst für Anfang 2027 angepeilt 12.

„Accountable“ ist eine Bezeichnung von Cloudflare selbst – keine Zertifizierung von außen 4. Vergeben wurde das Label für Fähigkeiten, die jeder der Betreiber bereits mitbringt – verknüpft mit befristeten Zusagen für alles Übrige 12. Im August verlangte die vierte Bedingung noch, dass ein Betreiber „öffentlich“ nachweist, dass das Untersagen von Training die Suchergebnisse nicht beeinträchtigt; die Septemberfassung verlangt nur noch eine Zusicherung 51.

Die Dokumentation verspricht bis heute das Gegenteil

Cloudflares eigene Dokumentation, zuletzt aktualisiert am 1. Juli 2026, besagt weiterhin, dass Doppelzweck-Crawler „auch von allen Konfigurationen zum Blockieren von KI-Training blockiert werden, einschließlich der alten Option ‚Block AI Bots‘“ 6. Die Seite führt für jedes Steuerelement drei Optionen auf: „Allow“, „Block on pages with ads“ und „Block“ 6. Das ausgelieferte Produkt kennt eine vierte Option, „Disallow AI Training“ – in der Dokumentation kommt sie mit keinem Wort vor 1. Was Cloudflare ausgeliefert hat, ist die Umkehrung dessen, was auf der Seite steht, die das Unternehmen noch immer online stellt.

Zurück zu einer harten Sperre führt nur die Option „Block“ – und die schneidet eine Website jetzt komplett von der Suche bei Google, Apple und Microsoft ab 12. Wer den Bingbot blockiert, verschwindet auf einen Schlag aus Bing, Yahoo und Copilot 1.

Der Beleg kommt erst in Wochen – nicht jetzt

Das Reporting auf URL-Ebene – der Mechanismus, der aufdecken soll, welche untersagten Seiten trotzdem verwendet wurden – ist bei Google noch Wochen entfernt, bei Apple erst für nächstes Jahr geplant 124. Bis dahin liest sich die Bilanz nur so: Die Verlage behalten ihren Such-Traffic, die Konzerne den Korpus, Cloudflare beide Seiten als Kunden – und die einzigen Crawler, die weiterhin zwangsweise gestoppt werden, gehören den KI-Rivalen der Konzerne 4. Als Nächstes stehen Zusammenfassungen an; zentrale Steuerungen sind für Anfang 2027 vorgesehen 13.

How this brief was made

01Gathered & sourced272 channels · 1,762 articles▾

Agents swept 272 channels and ingested 1,762 articles, then de-duplicated and ranked them for signal.

02Verified & cross-validated6 claims · 22 data feeds▾
03Reviewed & edited1 human editor▾

One editor read the draft against the evidence, tuned the framing, and signed off before it shipped.

Become a contributor

Reporting on the business of AI and want it read? We take pitches from outside contributors who bring primary sources and a number worth arguing about.

Share

Deepdive

AI-generated from this story and its cited sources. Not investment advice.

Reader comments

0 comments

    Sign up

    Get your curated digest

    After email confirmation, you will receive a daily digest of the most relevant news that matter to your portfolio