web-dev-qa-db-ja.com

robots.txtは、誤ってクロールを許可しないように変更されました

robots.txtが誤って変更されました:

User-agent: *
Disallow: /

これは約2週間前に発生し、昨日はクロールできるように変更されました。

Googleのリストページは大幅に減少しましたが、robots.txtを変更したため、Googleは問題のサイトの検索結果の追加を既に開始しているようです。

この問題の長期的な影響はありますか、それともサイトが再びクロールされるとすべてが正常に戻りますか?

5
TomHarrigan

Googleがページの追加を再び開始した場合、問題ありません。開発から実稼働にプッシュされたいくつかのサイトでこれが発生しましたが、robots.txtは変更されませんでした。

実際、ページをブロックしようとしない限り、robots.txtを完全に削除することをお勧めします。 robots.txtのすべてが許可されていると言っても、それがデフォルトのアクションである場合は意味がありません。

6
jeffatrackaid