Закрыть определенные разделы или ссылки от индексации
Закрыть определенные разделы или документы от индексации можно с помощью директивы robots.txt
которая должна находится в корне вашего сайта, так же вы можете создать этот файл самостоятельно.
User-agent: *
Sitemap: http://test.ru/sitemap
Disallow: /admin/
Disallow: *?*
Disallow: *.php
Disallow: *.html
Disallow: *.pdf$
Disallow: *.psd$
Disallow: *.doc$
Disallow: *.xls$
Disallow: *login$
Host: test.ru
Ссылки а так же определенные абзацы можно закрывать с помощью noindex
и nofolow
.
<noindex>
на этот параметр реагирует Яндекс им можно закрывать не только ссылки но даже целые абзацы.
rel="nofollow"
параметр распознаваемый Google и он добавляется в ссылку чтобы закрыть ее от индексации.
Если вы хотите закрыть ссылку поисковой системы лучше сразу воспользоваться двумя параметрами одновременно.
Пример:
<noindex><a href="http://test.ru" rel="nofollow">текст</a></noindex>