これまで、robots.txtファイルは次のように構成されていました。
User-agent: *
Disallow: /wp-admin/
Allow: /wp-admin/admin-ajax.php
これに最後に触れてからしばらく経ちましたが、2018年の現在のベストプラクティスを確認し、ファイルを更新する必要があるかどうかを調べています。
私は Yoastによるこの記事 を見つけました。基本的には、何もブロックしないようにし、最良の結果を得るためにrobots.txtファイルを次のように設定します。
# This space intentionally left blank
User-agent: *
Disallow: /suggest/?*
うーん、今私は混乱しています... Yoastによるこの記事は評判の良い情報源から来ており、いくつかのヒントを与える良い読み物ですが、実際にボットに指示することを説明するのは完全に失敗しています。
まず、/suggest/?*
は実際にはどういう意味ですか? 「提案」は単なるプレースホルダーを意味しますか?行は実際にDisallow: /?*
を代わりに( 'suggest'なしで)言うべきですか?
第二に、これは本当に最高のSEO結果を得るための理想的なrobots.txtですか?または、私が現在持っているものだけに固執する必要がありますか?または、他に提案はありますか?
リンクした記事は、/suggest/
はYoast独自のサジェストツールからのものであると説明しています。それは彼らのサイトのみに固有のものであり(プラグインを使用するサイトではない)、あなたにとっては無関係です。
したがって、何もブロックする必要はありません。空のrobots.txt
ファイル、または何も許可しないこのような単純なバージョンを使用できます。
User-agent: *
Disallow: