На что я больше не рассчитываю
Раньше тегом noindex закрывали всё подряд: абзац, служебный блок, ссылку, иногда целый внутренний раздел. Ожидание было простое — Яндекс не возьмёт то, что внутри. На это я больше не опираюсь. Тег не выключает страницу. Адрес остаётся отдельным документом: на него можно сослаться, его можно открыть, и обёртка вокруг одного абзаца этого не отменяет.
На ссылку расчёта нет совсем. Ссылку внутри старого noindex робот может учесть, и она способна появиться во внешних или внутренних ссылках Вебмастера. Пустая строка в отчёте тоже ничего не доказывает. Показ ссылки не значит, что алгоритм её учитывает. Список ссылок я не использую как экзамен для этого тега.
Сохранённая копия — слабый аргумент. Робот скачивает HTML целиком, и текст внутри noindex в копии может остаться. Это значит только то, что страница была загружена, а не то, что фрагмент пошёл в поиск или адрес из поиска выпал. Директива noarchive убирает из сниппета ссылку на копию и к решению про индекс страницы не относится.
Скрывать ссылку или кусок скриптом я не буду. Если человек видит блок, а робот должен получить пустое место, это уже не настройка индексации. Такой приём я не применяю. Ненужную ссылку убираю из кода или помечаю атрибутом. Ненужный абзац либо не попадает в HTML, либо стоит в noindex с закрытием. Невидимый текст в код я не кладу.
Чем тег отличается от meta robots и robots.txt
Слово noindex стоит в двух местах и значит разное. В метатеге это запрет индексировать текст страницы: в результаты поиска она попадать не должна. В старом элементе это запрет на кусок между открытием и закрытием. В robots.txt этого слова нет. Там Disallow, и он про обход адреса, а не про абзац и не про метатег.
| Что закрываю | Что ставлю | Где смотрю | На что не рассчитываю |
|---|
| Кусок текста | Элемент noindex парой | В теле страницы | Что пропадёт вся страница или ссылка |
| Вся страница | Meta robots noindex или заголовок X-Robots-Tag | В head или в ответе сервера | Что сработает, если адрес закрыт в robots.txt |
| Обход адреса | Disallow | В файле robots.txt | Что адрес гарантированно исчезнет из поиска |
| Ссылка | rel nofollow, ugc или sponsored | На самой ссылке | Что строка пропадёт из Вебмастера |
Скобки вокруг блока — кусок текста. Метка в полоске сверху — запрет на всю страницу.
Метатег и заголовок X-Robots-Tag читаются только на открытой странице. Если тот же URL запрещён в robots.txt, директива не действует. Робот смотрит файл раньше, чем HTML, и до строки в head не доходит. Связка «и Disallow, и noindex» для живой страницы у меня не рабочая. Я оставляю один способ, а не два запрета друг на друге.
У Disallow есть свой предел. Страница, закрытая в файле, может иногда появляться в поиске, если на неё ведут ссылки с других сайтов. Запрет обхода не прячет адрес, о котором Яндекс уже знает. Когда документ должен открываться у человека и не должен быть в выдаче, я не кладу его в Disallow. Ставлю meta noindex и оставляю адрес доступным для робота.