ФАКЕР
Проверенные
- Сообщения
- 844
- Решения
- 9
- Реакции
- 84
- Баллы
- 1,730
Я страницы в форуме от 1 до 23000 заколхозил через эксель :Dнемного страшилок.. дергануло меня выгрузить, все страницы которые болтаются в поиске яндекса, по результатам изучения родился вот такой вот франкештейн. Гарантировать, что верно, не буду, но "это" тоже имеет право на существование.
# robots.txt
User-agent: Bytespider
Disallow: /
User-agent: Yandex
Disallow: */rate$
Disallow: */filters$
Disallow: */reactions$
Disallow: */preview$
Disallow: */review$
Disallow: */insert-gif$
Disallow: */tag-auto-complete$
Disallow: */post-thread*
Disallow: /login/
Disallow: /admin.php
Disallow: /whats-new/
Disallow: /posts/
Disallow: /members/
Disallow: /goto/
Disallow: /search/
Disallow: /attachments/
Disallow: /lost-password/
Disallow: /forums/*/page*
Disallow: /account-confirmation/
Clean-param: order&direction
Clean-param: do&dlfileid
Clean-param: act&do&id
Clean-param: team
User-agent: *
Disallow: /login/
Disallow: /admin.php
Disallow: /whats-new/
Disallow: /posts/
Disallow: /members/
Disallow: /goto/
Disallow: /search/
Disallow: /attachments/
Disallow: /lost-password/
Disallow: */post-thread*
В общем не включайте обход по счетчикам.
Код:
Disallow: /page-5000/
что означает?
Код:
Disallow: /forums/*/page*
такая:
Код:
Disallow: /page-5000/
Последнее редактирование: