формат URL robots.txt
В соответствии сэта страница
globbing и регулярное выражение не поддерживаются ни в User-agent, ни в Disallow
Тем не менее, я заметил, чтоstackoverflow robots.txt включает в себя символы, такие как * и? в URL. Они поддерживаются или нет?
Кроме того, имеет ли какое-либо значение, включает ли URL завершающий слеш, или эти два эквивалента?
Disallow: /privacy
Disallow: /privacy/