WordPress.comにはrobots.txtファイルが既にインストールされていますが、直接編集することはできません。ただし、ブログの プライバシー設定 を編集すると、それに応じてrobots.txt自体が更新されます。
publicの設定は、このrobots.txtファイルを提供します。
# If you are regularly crawling WordPress.com sites, please use our firehose to receive real-time Push updates instead.
# Please see https://developer.wordpress.com/docs/firehose/ for more details.
Sitemap: https://example.wordpress.com/sitemap.xml
Sitemap: https://example.wordpress.com/news-sitemap.xml
User-agent: *
Disallow: /wp-admin/
Allow: /wp-admin/admin-ajax.php
Disallow: /wp-login.php
Disallow: /wp-signup.php
Disallow: /press-this.php
Disallow: /remote-login.php
Disallow: /activate/
Disallow: /cgi-bin/
Disallow: /mshots/v1/
Disallow: /next/
Disallow: /public.api/
# This file was generated on Thu, 13 Dec 2018 19:12:49 +0000
hiddenまたはprivateの設定は、このrobots.txtファイルを提供します。
User-agent: *
Disallow: /
# This file was generated on Thu, 13 Dec 2018 19:13:08 +0000