Редактирование файла robots.txt

Автор Тема: Редактирование файла robots.txt  (Прочитано 2074 раз)

Оффлайн xanАвтор темы

  • Бизнес оценка: (0)
  • Рекрут
  • *
  • СПАСИБО: 4
  • Сообщений: 22
  • Карма: 0
  • Пол: Мужской
    • Просмотр профиля
    • Рекламная фотостудия, профессиональная фотосъемка в Минске

Оффлайн xanАвтор темы

  • Рекрут
  • *
Привет всем! Нужна небольшая помощь по редактированию robots.txt.

Проект работает на Wordpress. Титульная страница сайта - портфолио, агрегатор всех проектов + SEO текст.
Страница отдельного проекта имеет адрес www.my-site.com/portfolio/project-page.
Также автоматически темой создаётся страница агрегатор портфолио с адресом www.my-site.com/portfolio, которая дублирует титульную страницу со списком проектов. Закрыть страницу от индексации через метатег не представляется возможным (а может это возможно?)   

Как правильно добавить в robots.txt адрес страницы www.my-site.com/portfolio, чтобы закрыть её от индексирования, но не закрывались при этом отдельные страницы проектов?


Оффлайн Sky-fi

  • Глобальный модератор
  • Бизнес оценка: (9, 100%)
  • *****
  • СПАСИБО: 3776
  • Сообщений: 5396
  • Карма: 333
  • Пол: Мужской
  • Раскрутка сайтов
  • Награды Мастер поисковой оптимизации Более одной тысячи спасибо
    • Просмотр профиля
    • Частный SEO оптимизатор Sky-fi

Оффлайн Sky-fi

  • Глобальный модератор
  • *****
  • Доп. информация
    • Бизнес оценка: (9, 100%)
    • СПАСИБО: 3776
    • Сообщений: 5396
    • Карма: 333
    • Пол: Мужской
    • Раскрутка сайтов
    • Награды Мастер поисковой оптимизации Более одной тысячи спасибо
      • Просмотр профиля
      • Частный SEO оптимизатор Sky-fi
Re: Редактирование файла robots.txt
« Ответ #1 : 16-07-2019, 13:50:02 »
Должно сработать "Disallow: /portfolio$" или "Disallow: /portfolio/$", в зависимости от того, что идет в конце урла.
Однако, если страница www.my-site.com/portfolio уже в поисковой выдаче - лучше использовать мета-тег, так как запрет в роботсе не удалит страницу из выдачи.
Закрыть страницу от индексации через метатег не представляется возможным (а может это возможно?)   
Если у вас стоит seo-плагин (напр. Yoast или AIO) - в админке перейдите на редактирование страницы и в seo настройках установите запрет на индексацию.

Оффлайн xanАвтор темы

  • Бизнес оценка: (0)
  • Рекрут
  • *
  • СПАСИБО: 4
  • Сообщений: 22
  • Карма: 0
  • Пол: Мужской
    • Просмотр профиля
    • Рекламная фотостудия, профессиональная фотосъемка в Минске

Оффлайн xanАвтор темы

  • Рекрут
  • *
Re: Редактирование файла robots.txt
« Ответ #2 : 16-07-2019, 14:08:01 »
Благодарю, буду пробовать. Если адрес www.my-site.com/portfolio, то что нужно писать? 
К сожалению, страницы www.my-site.com/portfolio как таковой в админке нет, в настройках темы задаётся только название этого раздела (portfolio, project и т.д.), это меня и парит. Поэтому и тегами закрыть её я не знаю как.

Должно сработать "Disallow: /portfolio$" или "Disallow: /portfolio/$", в зависимости от того, что идет в конце урла.
Однако, если страница www.my-site.com/portfolio уже в поисковой выдаче - лучше использовать мета-тег, так как запрет в роботсе не удалит страницу из выдачи.Если у вас стоит seo-плагин (напр. Yoast или AIO) - в админке перейдите на редактирование страницы и в seo настройках установите запрет на индексацию.
« Последнее редактирование: 16-07-2019, 14:13:34 от xan »

Оффлайн Sky-fi

  • Глобальный модератор
  • Бизнес оценка: (9, 100%)
  • *****
  • СПАСИБО: 3776
  • Сообщений: 5396
  • Карма: 333
  • Пол: Мужской
  • Раскрутка сайтов
  • Награды Мастер поисковой оптимизации Более одной тысячи спасибо
    • Просмотр профиля
    • Частный SEO оптимизатор Sky-fi

Оффлайн Sky-fi

  • Глобальный модератор
  • *****
  • Доп. информация
    • Бизнес оценка: (9, 100%)
    • СПАСИБО: 3776
    • Сообщений: 5396
    • Карма: 333
    • Пол: Мужской
    • Раскрутка сайтов
    • Награды Мастер поисковой оптимизации Более одной тысячи спасибо
      • Просмотр профиля
      • Частный SEO оптимизатор Sky-fi
Re: Редактирование файла robots.txt
« Ответ #3 : 16-07-2019, 14:24:48 »
Если адрес www.my-site.com/portfolio, то что нужно писать?
Disallow: /portfolio$
Но если страница доступна по адресу со слешем в конце и без него - придется прописать оба правила.

в настройках темы задаётся только название этого раздела (portfolio, project и т.д.), это меня и парит. Поэтому и тегами закрыть её я не знаю как.
Как вариант, можно поискать в папке темы вывод шаблона этой страницы, и там уже по коду думать, как закрыть.

Оффлайн xanАвтор темы

  • Бизнес оценка: (0)
  • Рекрут
  • *
  • СПАСИБО: 4
  • Сообщений: 22
  • Карма: 0
  • Пол: Мужской
    • Просмотр профиля
    • Рекламная фотостудия, профессиональная фотосъемка в Минске

Оффлайн xanАвтор темы

  • Рекрут
  • *
Re: Редактирование файла robots.txt
« Ответ #4 : 16-07-2019, 14:33:47 »
Благодарю! Думал уже про шаблон этой страницы, он есть, но там только нужный фрагмент из <body>, который выводит все проекты списком.
 
Disallow: /portfolio$
Но если страница доступна по адресу со слешем в конце и без него - придется прописать оба правила.
Как вариант, можно поискать в папке темы вывод шаблона этой страницы, и там уже по коду думать, как закрыть.


Онлайн artur2k

  • Бизнес оценка: (1, 100%)
  • Рекрут
  • *
  • СПАСИБО: 32
  • Сообщений: 39
  • Карма: 6
    • Просмотр профиля

Онлайн artur2k

  • Рекрут
  • *
Re: Редактирование файла robots.txt
« Ответ #5 : 17-07-2019, 19:49:44 »
Чтобы не потерять вес ссылок на те страницы, что уже проиндексировались я бы прописал в шаблоне WP следующий код:
Код:
Только зарегистрированные пользователи могут видеть код. Пожалуйста, войдите или зарегистрируйтесь.или даже лучше rel canonical
« Последнее редактирование: 17-07-2019, 19:51:39 от artur2k »
Инструменты seoшника https://artur2k.ru/tools/

Оффлайн xanАвтор темы

  • Бизнес оценка: (0)
  • Рекрут
  • *
  • СПАСИБО: 4
  • Сообщений: 22
  • Карма: 0
  • Пол: Мужской
    • Просмотр профиля
    • Рекламная фотостудия, профессиональная фотосъемка в Минске

Оффлайн xanАвтор темы

  • Рекрут
  • *
Re: Редактирование файла robots.txt
« Ответ #6 : 17-07-2019, 22:36:00 »
я так понимаю, что эта команда назначает noindex при условии равности ссылки адресу site.com/portfolio ?
Чтобы не потерять вес ссылок на те страницы, что уже проиндексировались я бы прописал в шаблоне WP следующий код:
Код:
Только зарегистрированные пользователи могут видеть код. Пожалуйста, войдите или зарегистрируйтесь.или даже лучше rel canonical

Онлайн artur2k

  • Бизнес оценка: (1, 100%)
  • Рекрут
  • *
  • СПАСИБО: 32
  • Сообщений: 39
  • Карма: 6
    • Просмотр профиля

Онлайн artur2k

  • Рекрут
  • *
Re: Редактирование файла robots.txt
« Ответ #7 : 17-07-2019, 23:31:43 »
Этот тег будет проставлен на все страницы с url-адресом оканчивающимся на "portfolio"
Инструменты seoшника https://artur2k.ru/tools/

Оффлайн iProger

  • Бизнес оценка: (0)
  • Рекрут
  • *
  • СПАСИБО: 6
  • Сообщений: 36
  • Карма: 0
  • Пол: Мужской
    • Просмотр профиля

Оффлайн iProger

  • Рекрут
  • *
Re: Редактирование файла robots.txt
« Ответ #8 : 18-07-2019, 02:10:24 »
А может лучше закрыть список проектов на главной?
https://yandex.ru/support/webmaster/adding-site/indexing-prohibition.html#indexing-prohibition__content
В итоге у обоих страниц получится уникальный контент.


Онлайн artur2k

  • Бизнес оценка: (1, 100%)
  • Рекрут
  • *
  • СПАСИБО: 32
  • Сообщений: 39
  • Карма: 6
    • Просмотр профиля

Онлайн artur2k

  • Рекрут
  • *
Re: Редактирование файла robots.txt
« Ответ #9 : 18-07-2019, 11:58:17 »
А может лучше закрыть список проектов на главной?
https://yandex.ru/support/webmaster/adding-site/indexing-prohibition.html#indexing-prohibition__content
В итоге у обоих страниц получится уникальный контент.
Тег <noindex> не работает для Google (для гугла есть <!--googleoff: all-->), да и реализация этого намного сложнее чем мой пример выше.
+ у второй страницы не будет никакого контента, где тут уникальность?
Инструменты seoшника https://artur2k.ru/tools/


 

Похожие темы

  Тема / Автор Ответов Последний ответ
5 Ответов
1601 Просмотров
Последний ответ 26-10-2013, 22:28:51
от jeekka
21 Ответов
2808 Просмотров
Последний ответ 25-03-2015, 07:48:56
от Rencontrez
4 Ответов
1369 Просмотров
Последний ответ 04-12-2015, 00:13:59
от Вадим Костин
6 Ответов
1446 Просмотров
Последний ответ 28-01-2016, 16:57:24
от jansen
5 Ответов
2044 Просмотров
Последний ответ 15-08-2018, 23:54:45
от vold57