14.08.2024 12:13
fomin

Как правильно настроить файл robots.txt ? 

Я использую 

User-agent: *

Allow: /
Allow: /attacher

Disallow: /datas
Allow: /images
Disallow: /js
Disallow: /lang
Disallow: /lib
Disallow: /themes
Disallow: /system
Disallow: /orderform?*
Allow /users?*
Disallow: /login
Disallow: /license.txt
Disallow: /*?*
Disallow: /*.php$
Disallow: /*.js$
Disallow: /*.inc$
Disallow: /*.css$
Disallow: /*.gz$
Disallow: /*.wmv$
Disallow: /*.cgi$
Disallow: /*.xhtml$
Disallow: /*/wp-*
Allow /*/feed/*
Disallow: /*/*?s=*
Disallow: /*/*.js$
Disallow: /*/*.inc$
 

14.08.2024 13:28
#153 fomin:

Как правильно настроить файл robots.txt ? 

вобще правильно сразу запретить всё, а потом указать какие разрешено.

не нужно вываливать в индекс системные/служебные страницы - в поиске это мусор.