Перейти к содержимому
ToolMug

Проверка IP поисковых роботов

Парсеры часто выдают себя за Googlebot в User-Agent. Поисковые системы рекомендуют такую проверку — reverse DNS для IP, проверка, что имя хоста принадлежит их домену, и прямой запрос по этому имени, который должен вернуть тот же IP. Инструмент выполняет эти шаги за вас.

Обрабатывается на наших серверах и удаляется в течение часа

По одному в строке или вставьте строки лога — IP будут найдены автоматически. Не больше 20 за раз.

Найдено IP: 0

Как пользоваться

  1. Вставьте IP для проверки по одному в строке — или вставьте строки лога, и IP будут найдены автоматически.
  2. Нажмите Проверить.
  3. Результатам с пометкой Настоящий робот можно доверять; помеченные как Подделка можно блокировать на файрволе или в CDN.

Описание параметров

Поддерживаемые поисковые системы
Google (googlebot.com, google.com, googleusercontent.com), Bing (search.msn.com), Baidu (baidu.com, baidu.jp), Yandex, Sogou (sogou.com), Apple (applebot.apple.com) и Petal (petalsearch.com).
Как проверяется
Reverse DNS для IP → имя хоста должно быть одним из этих доменов или их поддоменом → прямой DNS для имени хоста → проверка пройдена, только если вернулся исходный IP.

Принимаемые имена хостов и что означает каждый результат

Имя хоста обратного DNS должно в точности совпадать с одним из этих доменов или быть его поддоменом. Имя вроде crawl.googlebot.com.example.net не засчитывается, потому что сравнивается только конец имени.

Поисковая система Принимаемые домены
Google googlebot.com, google.com, googleusercontent.com
Bing search.msn.com
Baidu baidu.com, baidu.jp
Yandex yandex.ru, yandex.net, yandex.com
Sogou sogou.com
Apple applebot.apple.com
Petal petalsearch.com

Для адреса IPv4 прямой запрос запрашивает записи A, а для IPv6 — записи AAAA. IP проходит проверку только в том случае, если одна из них совпадает с введённым вами адресом. Вот результаты, которые можно получить в столбце «Результат»:

Результат Что произошло
Настоящий робот (поисковая система) Обратное имя находится в принимаемом домене, а прямой запрос возвращает тот же IP.
Подделка: имя хоста не разрешается обратно в этот IP Обратное имя похоже на поисковую систему, но прямой запрос не возвращает этот IP.
Не хост поисковой системы У IP есть обратное имя, но оно не относится ни к одному принимаемому домену.
Нет reverse DNS: не известный робот У IP вообще нет записи PTR.
DNS-запрос не удался Сам DNS-запрос завершился ошибкой или превысил время ожидания. Повторите попытку, прежде чем делать вывод.
Некорректный IP Текст не удалось прочитать как адрес IPv4 или IPv6.

За один раз проверяется до 20 IP. Когда вы вставляете строки лога, из них выбирается каждый найденный адрес IPv4 или IPv6, включая адрес сервера в строке, а не только адрес посетителя.

Часто задаваемые вопросы

Можно ли проверить DuckDuckBot или ИИ-роботов вроде GPTBot?

Пока нет. Они публикуют списки диапазонов IP, а не имена для reverse DNS; здесь они отображаются как не хост поисковой системы, что не доказывает подделку.

Где выполняются запросы?

Наш сервер обращается к публичному DNS-резолверу. Выполняются только DNS-запросы; к самим IP мы не обращаемся.

Означает ли отсутствие reverse DNS, что IP вредоносный?

Нет, только то, что это не один из перечисленных поисковых роботов.

Конфиденциальность

Файлы передаются по HTTPS для обработки и автоматически удаляются в течение часа.

Похожие инструменты