Physical Address
304 North Cardinal St.
Dorchester Center, MA 02124
Physical Address
304 North Cardinal St.
Dorchester Center, MA 02124

Gary Illyes z Google powiedział, że AI nasiliło podszywanie się botów pod Googlebota. Sam nagłówek user-agent nie wystarcza, weryfikacja wymaga IP i odwrotnego DNS.
Gary Illyes z Google, w wywiadzie dla podcastu Odys opublikowanym 30 października 2026 roku, powiedział, że sztuczna inteligencja pogłębiła problem podszywania się botów pod inne crawlery, w tym pod Googlebota. Google nie wydało w tej sprawie oficjalnego komunikatu, a informacje pochodzą z wypowiedzi podczas rozmowy. Tekst jest przeznaczony dla właścicieli stron i zespołów technicznych, które analizują ruch botów w logach serwera.
Illyes wskazał AI jako główną przyczynę. Jego zdaniem firmy zbierają treści do trenowania modeli i traktują internet jako źródło, z którego można pobrać potrzebne dane. Zapory sieciowe i CDN-y coraz lepiej wykrywają fałszywe crawlery, ale nie są doskonałe i część niechcianego ruchu przepuszczają.
Powód podszywania się pod Googlebota jest prosty: mniejszy silnik AI lub scraper, który podaje się za Googlebota, ma większą szansę na wpuszczenie na stronę. Illyes dodał, że część szkód może wynikać z błędnej konfiguracji albo niewiedzy, a nie z celowych ataków. Źle skonfigurowany bot może wielokrotnie żądać tych samych adresów URL, zużywać łącze i zasoby serwera oraz utrudniać dostęp prawdziwym użytkownikom.
Illyes zalecał, aby właściciele stron nie ufali samemu nagłówkowi user-agent, tylko sprawdzali adres IP i odwrotny DNS. Opisał, że prowadzi przynęty (honeypoty) przyciągające crawlery i wykrywał żądania podające się za Googlebota, pochodzące z adresów niezwiązanych z Google. Szczegółowe kroki opisuje dokumentacja Google dotycząca weryfikacji żądań Googlebota.
| Metoda | Ocena według wypowiedzi Illyesa |
|---|---|
| Nagłówek user-agent | Łatwy do podrobienia, nie wystarcza do potwierdzenia |
| Adres IP i odwrotny DNS | Podstawowa weryfikacja, którą Google zaleca w dokumentacji |
| Zapora WAF lub CDN | Ochrona na poziomie sieci, wykrywa część fałszywych botów, ale nie wszystkie |
| Podpisane kryptograficznie żądania (Web Bot Auth) | Kierunek omawiany przez Illyesa, bez podanego terminu wdrożenia |
Illyes opisał robots.txt jako sugestię. Uczciwe crawlery zwykle go respektują, ale boty mogą go zignorować, więc do blokowania niechcianego ruchu służą zabezpieczenia sieciowe, na przykład WAF.
Google rozdziela indeksowanie wyszukiwarki od części zastosowań AI. Właściciel strony może zezwolić Googlebotowi na indeksowanie i jednocześnie tokenem Google-Extended ograniczyć wykorzystanie treści do trenowania lub ulepszania niektórych modeli i usług AI Google. Illyes wspomniał, że Apple stosuje podobny token Applebot-Extended, i spodziewa się, że kontrola dostępu dla różnych typów zautomatyzowanych klientów będzie bardziej szczegółowa.
Illyes omówił też dwa kierunki. Web Bot Auth opiera się na podpisanych kryptograficznie żądaniach HTTP, które pozwalają sprawdzić, czy żądanie pochodzi od deklarowanej organizacji. Drugi pomysł, według Illyesa na wczesnym etapie, to system reputacji botów zbierający opinie stron i dostawców zabezpieczeń. Ostrzegł, że system kontrolowany przez jedną firmę może wprowadzać stronniczość. Komunikat nie podaje terminów wdrożenia żadnego z tych rozwiązań.
Zanim zmienisz robots.txt albo zainwestujesz w ochronę, sprawdź logi. Wpis Googlebota w user-agent bez weryfikacji IP i odwrotnego DNS nie daje gwarancji, że to Google.
Komentarz redakcji Info24
Źródło: Dokumentacja Google Search Central: weryfikacja żądań Googlebota