Zum Inhalt springen
regensbot
DEV-SRV-09Vermeiden9 von 11 in SRV

Do not answer crawlers with 401, 402 or 403 on pages that should be in Search

Der Anforderungstext steht im englischen Original.

Stufe
Vermeiden

Verboten: Solange die Website das tut, ist sie nicht startklar.

Dokumentation

Dokumentiert

Mindestens ein zitiertes Google-Dokument sagt es aus oder stützt es.

Abdeckung

Automatisch

Automatisch entschieden, sobald Sie Google verbinden: die Search Console und, wo es passt, Merchant Center oder BigQuery.

Warum es zählt

Google does not index URLs that return a 4xx status (except 429) and removes already indexed ones. Said at Search Central Live by Gary Illyes: Google has recently seen more 403 responses to its crawlers (described on stage as "authentication required"), treats them as client errors like 404 or 410 and drops those pages from Search and its AI features; more recently still it has seen an uptick in 402 Payment Required responses, which it treats as a 404 because Googlebot cannot pay. A 403 tells the crawler it may not see the content, so there is nothing to index.

So setzen Sie es um

Check that login walls, paywalls, geo-blocks and bot-management rules never return 401, 402 or 403 to verified Google crawlers on public pages. For paywalled articles serve the content with the paywalled-content markup instead of an error (DEV-SDA-13). Keep 401 and 403 for pages that must stay out of Search, such as account areas.

So prüfen Sie es

Crawl stats and server logs show no 401, 402 or 403 responses to verified Googlebot on indexable templates, and URL Inspection's live test returns 200 for one URL per template.

So deckt Regensbot sie ab

AutomatischBrauchtSearch Console, Merchant Center oder BigQuery

Automatisch entschieden, sobald Sie Google verbinden: die Search Console und, wo es passt, Merchant Center oder BigQuery.

Ein Zustimmungsdialog gewährt lesenden Zugriff auf die Search Console. Merchant Center und BigQuery werden nur bei Bedarf separat angefragt, und Regensbot liest dort nur. Stichproben aus der URL-Prüfung und Search Analytics ergänzen Googles eigene Sicht auf Ihre Seiten.

So funktionieren die UrteileWas Sie verbinden

Quellen

Google-Dokumente03

  1. 01How HTTP status codes affect Google's crawlersGoogle (öffnet in einem neuen Tab)
  2. 02Page indexing reportGoogle Search Console Help (öffnet in einem neuen Tab)
  3. 03Structured data for subscription and paywalled content (CreativeWork)Google Search Central (öffnet in einem neuen Tab)

Aussagen in der Wissensbasis05

  1. D1-C365GestütztHow crawling errors affect SearchAuf der Bühne gesagt
  2. D1-C366GestütztHow crawling errors affect SearchAuf der Bühne gesagt
  3. D1-C352GestütztHow crawling errors affect SearchAuf der Bühne gesagt
  4. D1-C351BestätigtHow crawling errors affect SearchAuf der Bühne gesagt
  5. D1-C509Nicht dokumentiertHow crawling errors affect SearchAuf der Bühne gesagt

Die Aussage-IDs verweisen auf die Wissensbasis zu Search Central Live 2026. Die Wissensbasis (öffnet in einem neuen Tab)

Bestätigt
Googles Dokumentation sagt dasselbe.
Gestützt
Googles Dokumentation stützt es, ohne es auszusprechen.
Nicht dokumentiert
Bei der Veranstaltung gesagt oder gezeigt, nicht in der Dokumentation.

Audit

Prüfen Sie es auf Ihrer Website.

Ein Audit prüft eine URL gegen alle 138 Anforderungen und liefert zu jeder einen Befund, mit Quelle. Eine URL entscheidet 66; bei allen übrigen sagt der Befund, welche Quelle Sie verbinden.