robots.txt – это текстовый файл, который доступен по адресу http://ваш_сайт/robots.txt и предназначен для роботов поисковых систем. В нем вы можете задать параметры индексировании для всего сайта или для отдельных поисковых ботов в частности.
В центре администрирования перейдите в раздел Система → Сайты, далее в списке сайтов нажмите редактировать справа от требуемого сайта, перейдите на вкладку robots.txt
Типовой файл robots.txt может содержать следующие строки:
Sitemap: https://www.адрес-вашего-сайта.ru/sitemap.xml
User-Agent: *
Disallow: /admin
Disallow: /search
Disallow: /templates
Disallow: /showbanner
Disallow: /captcha.php
Disallow: /403
Disallow: /404
Allow: /hostcmsfiles/css/*
Allow: /hostcmsfiles/js/*
Allow: /hostcmsfiles/jquery/*
в опции Sitemap: укажите пусть к карте сайта с учетом http/https и полным адресом сайта.
В robots.txt для сайта добавьте следующее запрещающее правило:
Disallow: /*?
Рекомендации по использованию файла robots.txt см. на сайте Yandex.ru и Google.com