Skocz do zawartości

Ukrywanie zaplecza SEO


thunder

Rekomendowane odpowiedzi

Witam, mam pytanie czy ma ktoś i podzieli się jakimś skutecznym sposobem na ukrywanie zaplecza przed site explorerami typu seokick, seomoz, majestic etc? Skorzystałem z rozwiązań które blokują roboty poprzez blokadę w htaccess, ale po kilku miesiąch prób okazało się, że "g...o" blokują i wszystkie jest widoczne jak na dłoni:(

Odnośnik do komentarza
Udostępnij na innych stronach

Może nie umiem, mam taki kod w hta:

ErrorDocument 403 /403.html

RewriteEngine On
RewriteBase /

# IF THE UA STARTS WITH THESE
RewriteCond %{HTTP_USER_AGENT} AhrefsBot [NC,OR]
RewriteCond %{HTTP_USER_AGENT} Baiduspider [NC,OR]
RewriteCond %{HTTP_USER_AGENT} Discobot [NC,OR]
RewriteCond %{HTTP_USER_AGENT} EdisterBot [NC,OR]
RewriteCond %{HTTP_USER_AGENT} HuaweiSymantecSpider [NC,OR]
RewriteCond %{HTTP_USER_AGENT} JikeSpider [NC,OR]
RewriteCond %{HTTP_USER_AGENT} Magpie-Crawler [NC,OR]
RewriteCond %{HTTP_USER_AGENT} MJ12bot [NC,OR]
RewriteCond %{HTTP_USER_AGENT} SISTRIX [NC,OR]
RewriteCond %{HTTP_USER_AGENT} Sogou [NC,OR]
RewriteCond %{HTTP_USER_AGENT} Sosospider [NC,OR]
RewriteCond %{HTTP_USER_AGENT} TurnitinBot [NC,OR]
RewriteCond %{HTTP_USER_AGENT} YandexBot [NC]
RewriteCond %{HTTP_USER_AGENT} ^(aesop_com_spiderman|alexibot|backweb|bandit|batchftp|bigfoot) [NC,OR]
RewriteCond %{HTTP_USER_AGENT} ^(black.?hole|blackwidow|blowfish|botalot|buddy|builtbottough|bullseye) [NC,OR]
RewriteCond %{HTTP_USER_AGENT} ^(cheesebot|cherrypicker|chinaclaw|collector|copier|copyrightcheck) [NC,OR]
RewriteCond %{HTTP_USER_AGENT} ^(cosmos|crescent|curl|custo|da|diibot|disco|dittospyder|dragonfly) [NC,OR]
RewriteCond %{HTTP_USER_AGENT} ^(drip|easydl|ebingbong|ecatch|eirgrabber|emailcollector|emailsiphon) [NC,OR]
RewriteCond %{HTTP_USER_AGENT} ^(emailwolf|erocrawler|exabot|eyenetie|filehound|flashget|flunky) [NC,OR]
RewriteCond %{HTTP_USER_AGENT} ^(frontpage|getright|getweb|go.?zilla|go-ahead-got-it|gotit|grabnet) [NC,OR]
RewriteCond %{HTTP_USER_AGENT} ^(grafula|harvest|hloader|hmview|httplib|httrack|humanlinks|ilsebot) [NC,OR]
RewriteCond %{HTTP_USER_AGENT} ^(infonavirobot|infotekies|intelliseek|interget|iria|jennybot|jetcar) [NC,OR]
RewriteCond %{HTTP_USER_AGENT} ^(joc|justview|jyxobot|kenjin|keyword|larbin|leechftp|lexibot|lftp|libweb) [NC,OR]
RewriteCond %{HTTP_USER_AGENT} ^(likse|linkscan|linkwalker|lnspiderguy|lwp|magnet|mag-net|markwatch) [NC,OR]
RewriteCond %{HTTP_USER_AGENT} ^(mata.?hari|memo|microsoft.?url|midown.?tool|miixpc|mirror|missigua) [NC,OR]
RewriteCond %{HTTP_USER_AGENT} ^(mister.?pix|moget|mozilla.?newt|nameprotect|navroad|backdoorbot|nearsite) [NC,OR]
RewriteCond %{HTTP_USER_AGENT} ^(net.?vampire|netants|netcraft|netmechanic|netspider|nextgensearchbot) [NC,OR]
RewriteCond %{HTTP_USER_AGENT} ^(attach|nicerspro|nimblecrawler|npbot|octopus|offline.?explorer) [NC,OR]
RewriteCond %{HTTP_USER_AGENT} ^(offline.?navigator|openfind|outfoxbot|pagegrabber|papa|pavuk) [NC,OR]
RewriteCond %{HTTP_USER_AGENT} ^(pcbrowser|php.?version.?tracker|pockey|propowerbot|prowebwalker) [NC,OR]
RewriteCond %{HTTP_USER_AGENT} ^(psbot|pump|queryn|recorder|realdownload|reaper|reget|true_robot) [NC,OR]
RewriteCond %{HTTP_USER_AGENT} ^(repomonkey|rma|internetseer|sitesnagger|siphon|slysearch|smartdownload) [NC,OR]
RewriteCond %{HTTP_USER_AGENT} ^(snake|snapbot|snoopy|sogou|spacebison|spankbot|spanner|sqworm|superbot) [NC,OR]
RewriteCond %{HTTP_USER_AGENT} ^(superhttp|surfbot|asterias|suzuran|szukacz|takeout|teleport) [NC,OR]
RewriteCond %{HTTP_USER_AGENT} ^(telesoft|the.?intraformant|thenomad|tighttwatbot|titan|urldispatcher) [NC,OR]
RewriteCond %{HTTP_USER_AGENT} ^(turingos|turnitinbot|urly.?warning|vacuum|vci|voideye|whacker) [NC,OR]
RewriteCond %{HTTP_USER_AGENT} ^(libwww-perl|widow|wisenutbot|wwwoffle|xaldon|xenu|zeus|zyborg|anonymouse) [NC,OR]

# STARTS WITH WEB
RewriteCond %{HTTP_USER_AGENT} ^web(zip|emaile|enhancer|fetch|go.?is|auto|bandit|clip|copier|master|reaper|sauger|site.?quester|whack) [NC,OR]

# ANYWHERE IN UA -- GREEDY REGEX
RewriteCond %{HTTP_USER_AGENT} ^.*(craftbot|download|extract|stripper|sucker|ninja|clshttp|webspider|leacher|collector|grabber|webpictures).*$ [NC]

# ISSUE 403 / SERVE ERRORDOCUMENT
RewriteRule . - [F,L]

RewriteRule ^(dane|xml) - [L]
RewriteRule ^(.+)-(.+).html /index.php?dzial=$1&zakres=$2 [L,NE]
RewriteRule ^(.+).html /index.php?dzial=$1 [L,NE]

Odnośnik do komentarza
Udostępnij na innych stronach

Po pierwsze, musisz zrobić domenę przelotową z 301 na której to dopiero umieścisz twój kod htaccess. Ahrefsy i Majesticboty budując indeks linków nie muszą zescrapować zawartości twojej strony. Może ona nawet nie istnieć a i tak pokażą dla niej wartości bl.

Jednak nawet to rozwiązanie jest jak najbardziej do obejścia, ale dotyczy to tylko nisz o wysokiej konkurencji. W Polsce jednak powinno ono wystarczyć.

Ciemna strona mocy!

Odnośnik do komentarza
Udostępnij na innych stronach

Sting jak nie masz nic ciekawego do powiedzenia to milcz.

Co masz na myśli z domeną przelotową? Takie przekierowanie 301 z kolei negatywnie wpłynie chyba na roboty google? Czemu w Polsce powinno wystarczyć, te narzędzia to zagraniczne oprogramowanie?

Na pewno taki lafior nie będzie mi mówił kiedy mam milczeć.

To, że jesteś cwaniaczkiem, któremu sie nie chciało użyć szukajki to nie moja wina.

Odnośnik do komentarza
Udostępnij na innych stronach

Thunder rozwiązania działają ?

Czy User-agent: googlebot Disallow nie zablokuje indeksacji ?

Jeżeli czegoś nie da się zrobić, potrzebny jest ktoś kto o tym nie wie ... Przyjdzie i to zrobi

Odnośnik do komentarza
Udostępnij na innych stronach

  • 5 tygodni później...

profanoom ciężko teraz stwierdzić, wrzuciłem na serwer, czekam, okaże się w czasie.

Thunder jak efekty ?

Jeżeli czegoś nie da się zrobić, potrzebny jest ktoś kto o tym nie wie ... Przyjdzie i to zrobi

Odnośnik do komentarza
Udostępnij na innych stronach

Zarchiwizowany

Ten temat przebywa obecnie w archiwum. Dodawanie nowych odpowiedzi zostało zablokowane.

×
×
  • Dodaj nową pozycję...

Powiadomienie o plikach cookie

Umieściliśmy na Twoim urządzeniu pliki cookie, aby pomóc Ci usprawnić przeglądanie strony. Możesz dostosować ustawienia plików cookie, w przeciwnym wypadku zakładamy, że wyrażasz na to zgodę. Warunki użytkowania Polityka prywatności