System with various wires managing access to centralized resource of server in data center

Google: migracja na CDN może nagle zwiększyć crawlowanie strony

Google wyjaśnia, że migracja na CDN może nagle zwiększyć crawlowanie strony i przeciążyć serwer źródłowy. Podaje też ryzyko blokowania crawlerów Google.

Google opublikowało finalny odcinek serii wideo Non-Canonical Cabinet, poświęcony sieciom dostarczania treści (CDN). Według Google przeniesienie strony na CDN może nagle zwiększyć aktywność Googlebota, co może przeciążyć serwer źródłowy. Materiał wskazuje też, jak uniknąć przypadkowego blokowania crawlerów Google.

Najważniejsze

  • Migracja na CDN może spowodować nagły wzrost crawlowania strony przez Googlebota.
  • Taki wzrost może przeciążyć serwer źródłowy (origin server), z którego CDN pobiera treści.
  • Błędna konfiguracja CDN może przypadkowo blokować crawlery Google.
  • Komunikat nie podaje liczb dotyczących skali wzrostu ruchu crawlerów ani progów obciążenia.

Dlaczego migracja na CDN zmienia zachowanie Googlebota

Przeniesienie witryny na CDN zmienia drogę, jaką pokonują żądania crawlerów. Według Google aktywność Googlebota po takiej migracji może wzrosnąć nagle, a nie stopniowo. Komunikat nie wyjaśnia szczegółowo, z jakiego mechanizmu ten wzrost wynika.

Wzrost obciążenia dotyczy serwera źródłowego, czyli miejsca, z którego CDN pobiera treści. Jeśli żądania crawlerów trafiają na origin w dużej liczbie, serwer może zostać przeciążony. Google wskazuje to jako ryzyko samej migracji.

Blokowanie crawlerów po migracji

Drugim wątkiem materiału jest przypadkowe blokowanie crawlerów Google. Google pokazuje, jak migrować na CDN bez blokowania Googlebota. Komunikat nie podaje listy konkretnych ustawień CDN, które najczęściej prowadzą do takiego problemu.

Co to oznacza w praktyce

Strony, które planują lub właśnie wykonały migrację na CDN, powinny sprawdzić logi serwera i raporty crawlowania w Search Console. Warto porównać liczbę żądań Googlebota przed i po zmianie oraz czas odpowiedzi serwera źródłowego. Jeśli origin zaczyna zwracać błędy, trzeba ograniczyć obciążenie, zanim wpłynie to na indeksację.

EtapCo sprawdzić
Przed migracjąReguły CDN, zapory i limity zapytań pod kątem blokowania crawlerów Google
Po migracjiLiczbę żądań Googlebota w logach i obciążenie serwera źródłowego
Po migracjiKody odpowiedzi HTTP oraz dostęp crawlerów do kluczowych podstron

Czytaj także

Najczęstsze pytania

Czy migracja na CDN może zwiększyć crawlowanie strony przez Google?

Tak, według Google przeniesienie strony na CDN może nagle zwiększyć aktywność Googlebota. Komunikat nie podaje jednak skali tego wzrostu ani progów, przy których serwer zaczyna mieć problemy.

Czy CDN może zablokować Googlebota?

Tak, może to nastąpić przypadkowo, jeśli konfiguracja CDN ogranicza crawlery Google. Google omawia, jak uniknąć takiego blokowania, a materiał nie zawiera pełnej listy ustawień do sprawdzenia.

Gdzie znaleźć materiał Google o CDN?

Materiał jest ostatnim odcinkiem serii wideo Google Non-Canonical Cabinet. Komunikat, na którym opiera się ten tekst, nie podaje bezpośredniego adresu URL.