Закрыть определенные разделы или ссылки от индексации

Закрыть определенные разделы или документы от индексации можно с помощью директивы robots.txt которая должна находится в корне вашего сайта, так же вы можете создать этот файл самостоятельно.

User-agent: *
Sitemap: http://test.ru/sitemap
Disallow: /admin/
Disallow: *?*
Disallow: *.php
Disallow: *.html
Disallow: *.pdf$
Disallow: *.psd$
Disallow: *.doc$
Disallow: *.xls$
Disallow: *login$
Host: test.ru 

Ссылки а так же определенные абзацы можно закрывать с помощью noindex и nofolow.

<noindex> на этот параметр реагирует Яндекс им можно закрывать не только ссылки но даже целые абзацы.

rel="nofollow" параметр распознаваемый Google и он добавляется в ссылку чтобы закрыть ее от индексации.

Если вы хотите закрыть ссылку поисковой системы лучше сразу воспользоваться двумя параметрами одновременно.

Пример:

<noindex><a href="http://test.ru" rel="nofollow">текст</a></noindex>

Метки: seo, noindex