Если нужно, то как закрыть форум от ботов

кот

Проверенные
Сообщения
548
Реакции
140
Баллы
8,145
Например Гугл и Яндекс нужен, Бинг и Яхо вроде тоже, а вот такие как Робот: Proximic нужны?
Если нет, то как правильно закрыть от индексации от ненужных ботов, может у кого либо есть список
 
Все роботы для чего-то нужны и все они повышают общий рейтинг сайта.
 
robots.txt в помощь
Примерно так:
Код:
User-agent: Proximic
User-agent: Другой_робот
User-agent: Еще_один_другой_робот
Disallow: /

User-agent: *
Disallow: /find-new/
...другие записи...
...
 
Современный облачный хостинг провайдер | Aéza
Назад
Сверху Снизу