Давайте для начала определимся с основными понятиями, и о том, что мы будем рассматривать в этой статье?
Бот (англ. bot) является частью программного обеспечения поисковой системы, цель которого – найти и пройти по каждой странице вашего сайта, классифицировать ее по определенным признакам, и поместить в MySQL базу Google.
На данный момент Google имеет следующих хорошо известных вам ботов:
1) Adsense Bot
2) Freshbot
3) DeepCrawl
Adsense Bot, как вы могли, наверное, догадаться, используется для вебмастеров, которые имеют рекламные блоки Adsense на своих сайтах. Как только новая страница появляется на вашем сайте, нужный скрипт в пределах кода Adsense посылает сообщение боту -Adsense Bot, и в течение 10-20 минут, он начнет индексировать страницу сайта, для того чтобы показывать наиболее релевантные объявления.
Если вас не интересует Adsense Bot, переходим к следующим, наиболее важным ботам — DeepCrawl и Freshbot.
Freshbot выполняет задачу сканирования наиболее популярных страниц на вашем сайте. Не имеет значение, одна это страница или несколько тысяч. Такие крупные сайты, как DIGG.com и YouTube.com имеют несколько сотен тысяч страниц, которые сканируются каждые пять минут, и все потому, что Google отслеживает сайты с высокой степенью изменений контента. Известно, что эти страницы имеют большое количество частых изменений. Будь Google медлительнее, страницы утратили бы свою актуальность. Обычный сайт с более-менее обновляемым контентом, может рассчитывать на то, что Freshbot посетит его до 14-ти дней, в зависимости от того, как популярны эти страницы.
Что происходит с вашим сайтом, когда его посещает Freshbot?
Он сканирует страницы, начиная с главной и проходит все глубже в ваш сайт. Затем он помещает найденные ссылки в MySQL базу (базу данных). Так что, когда DeepCrawl наведывает ваш сайт, он знает какие ссылки есть на нем.
Примерно раз в месяц, DeepCrawl посещает ваш сайт и переходит по всем ссылкам, которые были найдены Freshbot. Это и есть та причина, почему индексация вашего сайта в Google может занять до одного месяца. Не спасает, даже добавление карты сайта.
В подведении итогов, хочу сказать, что будьте терпеливы и продолжайте пополнять свой сайт интересной и нужной информацией. Работайте на получение ценных и качественных ссылок с уважаемых порталов и Google, непременно, воздаст вам за это!
