27 июня 2019

Несмотря на то, что представители Google уже давно утверждают, что поисковый робот не реагирует на директиву noindex в файле robots.txt, многие веб-мастера по-прежнему используют ее, утверждая, что атрибут неплохо работает и по сей день.

Эту тему в очередной раз подняли на видеоконференции, где задали вопрос по этому поводу сотрудникам службы поиска Джону Мюллеру и Гэри Илшу.  В итоге экспертам компании пришлось подтвердить, что атрибут по-прежнему содержится в кодовой части Googlebot, но вскоре они постараются полностью прекратить его поддержку.

По словам Гэри Илша, robots.txt не имеет практической пользы, так как индексация производится с использованием мета-тэгов, и этого поисковому роботу вполне достаточно.

Однако, благодаря большому количеству возражений со стороны SEO-специалистов, представителю Google пришлось пообещать, что он лично изучит, насколько часто веб-мастера применяют robots.txt в своей деятельности. Если атрибут действительно популярен, Илш поделится информацией об этом со своим руководством.