web-dev-qa-db-ja.com

robots.txtは、1つのディレクトリ以外のすべてとサイトマップへのアクセスを許可しません

robots.txtには次の指示が含まれています。

User-agent: *
Allow: /public/
Disallow: /
Sitemap: http://sitedomain.com/sitemapindex.xml

この場合、sitemapindexは検索クローラーからアクセスできないため、publicフォルダーに移動する必要があります。それは正しいですか、クローラーはサイトマップを処理しますか?

1
ntl

sitemapindexは検索クローラーからアクセスできないため、publicフォルダーに移動する必要があります

はい、それは正しいです。XMLサイトマップは、/public/フォルダーに移動しない限り、クロールできません。

または、サイトマップに例外を追加することもできます。

Allow: /sitemapindex.xml
1
MrWhite