Skocz do zawartości

Nowa mozliwosc g-bota


USD

Rekomendowane odpowiedzi

Just spotted something while looking through Apache logs:

66.249.67.106 ... "GET /ajax/xr/ready?x=clcgvsgizgxhfzvf HTTP/1.1" ...

This is an ajax request issued from document.ready() callback of one website’s pages. This means that the bot now executes the Javascript on the pages it crawls. The IP of 66.249.67.106 is crawl-66-249-67-106.googlebot.com and the A record is a match, so this is in fact a Google Bot.

Moreover, few lines below there is this:

66.249.67.106 ... "GET /content/halloc/index.html?&x=clcgvsgizgxhfzvf ...

This is an URL that is fetched via Ajax by a Javascript function in response to the menu item click. Also, note the x argument - it is dynamically added and only by that specific function. This means that the bot now emulates a user clicking around the site and then seeing which actionable items lead to which additional pages.

This is pretty incredible in and of itself.

It also means that Google Bot has smarten up to a point where it can crawl an arbitrary Ajax’ified website and not “some dynamic comments” as before.

Good stuff, never liked that escaped_fragment contraption anyway :P

https://swapped.tumblr.com/post/23133779276...avascript-sites

Odnośnik do komentarza
Udostępnij na innych stronach

Zarchiwizowany

Ten temat przebywa obecnie w archiwum. Dodawanie nowych odpowiedzi zostało zablokowane.

  • Ostatnio przeglądający   0 użytkowników

    • Brak zarejestrowanych użytkowników przeglądających tę stronę.
×
×
  • Dodaj nową pozycję...

Powiadomienie o plikach cookie

Umieściliśmy na Twoim urządzeniu pliki cookie, aby pomóc Ci usprawnić przeglądanie strony. Możesz dostosować ustawienia plików cookie, w przeciwnym wypadku zakładamy, że wyrażasz na to zgodę. Warunki użytkowania Polityka prywatności