Google クローラの概要(ユーザー エージェント)

「クローラ」は、ウェブページ間のリンクをたどることによってウェブサイトを自動的に検出してスキャンするプログラム(ロボットやスパイダーなど)の総称です。Google のメインのクローラは Googlebot と呼ばれます。次の表に、リファラーログに表示される可能性のある一般的な Google のクローラと、robots.txtrobots メタタグX-Robots-Tag HTTP ディレクティブでそのクローラをどのように指定するかについて示します。

次の表は、Google のさまざまなサービスで使用されているクローラを示しています。

  • ユーザー エージェント トークンは、サイトのクロールルールを作成するにあたってクローラのタイプを指定するために使われます。具体的には robots.txt の User-agent: 行に記述します。表に示すように、複数のトークンを持つクローラもありますが、適用する各ルールで指定できるクローラ トークンは 1 つのみです。次のリストでは、すべてではありませんが、お客様のウェブサイトを訪れる可能性があるほとんどのクローラについて記載しています。
  • 完全なユーザー エージェント文字列は、クローラの詳細な説明であり、リクエストとウェブのログに表示されます。

クローラ

APIs-Google

ユーザー エージェント トークン APIs-Google
完全なユーザー エージェント文字列 APIs-Google (+https://developers.google.com/webmasters/APIs-Google.html)

AdSense

ユーザー エージェント トークン Mediapartners-Google
完全なユーザー エージェント文字列 Mediapartners-Google

モバイルウェブ Android 用 AdsBot

Android のウェブページの広告品質をチェックします。

ユーザー エージェント トークン AdsBot-Google-Mobile
完全なユーザー エージェント文字列 Mozilla/5.0 (Linux; Android 5.0; SM-G920A) AppleWebKit (KHTML, like Gecko) Chrome Mobile Safari (compatible; AdsBot-Google-Mobile; +http://www.google.com/mobile/adsbot.html)

モバイルウェブ用 AdsBot

iPhone のウェブページの広告品質をチェックします。

ユーザー エージェント トークン AdsBot-Google-Mobile
完全なユーザー エージェント文字列 Mozilla/5.0 (iPhone; CPU iPhone OS 9_1 like Mac OS X) AppleWebKit/601.1.46 (KHTML, like Gecko) Version/9.0 Mobile/13B143 Safari/601.1 (compatible; AdsBot-Google-Mobile; +http://www.google.com/mobile/adsbot.html)

AdsBot

パソコンのウェブページの広告品質をチェックします。

ユーザー エージェント トークン AdsBot-Google
完全なユーザー エージェント文字列 AdsBot-Google (+http://www.google.com/adsbot.html)

画像用 Googlebot

ユーザー エージェント トークン
  • Googlebot-Image
  • Googlebot
完全なユーザー エージェント文字列 Googlebot-Image/1.0

ニュース用 Googlebot

ユーザー エージェント トークン
  • Googlebot-News
  • Googlebot
完全なユーザー エージェント文字列 Googlebot-News

動画用 Googlebot

ユーザー エージェント トークン
  • Googlebot-Video
  • Googlebot
完全なユーザー エージェント文字列 Googlebot-Video/1.0

パソコン用 Googlebot

ユーザー エージェント トークン Googlebot
完全なユーザー エージェント文字列
  • Mozilla/5.0 (compatible; Googlebot/2.1; +http://www.google.com/bot.html)
  • Mozilla/5.0 AppleWebKit/537.36 (KHTML, like Gecko; compatible; Googlebot/2.1; +http://www.google.com/bot.html) Chrome/W.X.Y.Z Safari/537.36
  • Googlebot/2.1 (+http://www.google.com/bot.html)

スマートフォン用 Googlebot

ユーザー エージェント トークン Googlebot
完全なユーザー エージェント文字列 Mozilla/5.0 (Linux; Android 6.0.1; Nexus 5X Build/MMB29P) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/W.X.Y.Z Mobile Safari/537.36 (compatible; Googlebot/2.1; +http://www.google.com/bot.html)

モバイル AdSense

ユーザー エージェント トークン Mediapartners-Google
完全なユーザー エージェント文字列 (Various mobile device types) (compatible; Mediapartners-Google/2.1; +http://www.google.com/bot.html)

モバイルアプリ Android

Android のアプリページの広告品質をチェックします。AdsBot-Google ロボットルールに従います。

ユーザー エージェント トークン AdsBot-Google-Mobile-Apps
完全なユーザー エージェント文字列 AdsBot-Google-Mobile-Apps

Feedfetcher

ユーザー エージェント トークン FeedFetcher-Google
完全なユーザー エージェント文字列 FeedFetcher-Google; (+http://www.google.com/feedfetcher.html)

Google Read Aloud

ユーザー エージェント トークン Google-Read-Aloud
完全なユーザー エージェント文字列

現在のエージェント:

  • デスクトップ エージェント:
    Mozilla/5.0 (X11; Linux x86_64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/41.0.2272.118 Safari/537.36 (compatible; Google-Read-Aloud; +https://developers.google.com/search/docs/advanced/crawling/overview-google-crawlers)
  • モバイル エージェント:
    Mozilla/5.0 (Linux; Android 7.0; SM-G930V Build/NRD90M) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/59.0.3071.125 Mobile Safari/537.36 (compatible; Google-Read-Aloud; +https://developers.google.com/search/docs/advanced/crawling/overview-google-crawlers)

過去のエージェント(非推奨):

google-speakr

ウェブ上の Duplex

ユーザー エージェント トークン DuplexWeb-Google
完全なユーザー エージェント文字列 Mozilla/5.0 (Linux; Android 11; Pixel 2; DuplexWeb-Google/1.0) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/86.0.4240.193 Mobile Safari/537.36

Google Favicon

ユーザー エージェント トークン Google Favicon
完全なユーザー エージェント文字列 Mozilla/5.0 (X11; Linux x86_64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/49.0.2623.75 Safari/537.36 Google Favicon

Web Light

ユーザー エージェント トークン googleweblight
完全なユーザー エージェント文字列 Mozilla/5.0 (Linux; Android 4.2.1; en-us; Nexus 5 Build/JOP40D) AppleWebKit/535.19 (KHTML, like Gecko; googleweblight) Chrome/38.0.1025.166 Mobile Safari/535.19

Google StoreBot

ユーザー エージェント トークン Storebot-Google
完全なユーザー エージェント文字列
  • デスクトップ エージェント:

    Mozilla/5.0 (X11; Linux x86_64; Storebot-Google/1.0) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/79.0.3945.88 Safari/537.36

  • モバイル エージェント:

    Mozilla/5.0 (Linux; Android 8.0; Pixel 2 Build/OPD3.170816.012; Storebot-Google/1.0) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/81.0.4044.138 Mobile Safari/537.36

robots.txt のユーザー エージェント

robots.txt ファイルの中で、複数のユーザー エージェントが見つかった場合は、最も限定的なものに従って Google のクロールが行われます。サイトのページをすべてクロールさせたい場合は、robots.txt ファイルを作成する必要はありません。一部のコンテンツに対して Google のクローラによるアクセスをブロックまたは許可する場合は、Googlebot をユーザー エージェントとして指定します。たとえば、サイトのどのページも Google 検索に表示されるようにしたい場合や、AdSense 広告をサイトのページ上に表示したい場合は、robots.txt ファイルは必要ありません。また、一部のページに対して Google からのアクセスを一切ブロックしたい場合は、ユーザー エージェント Googlebot をブロックすると、Google の他のユーザー エージェントもすべてブロックされます。

さらに細かくコントロールしたい場合は、より限定的に指定します。たとえば、サイトのページを Google 検索に表示させても、/personal ディレクトリにある画像はクロールの対象外にしたい場合があります。その場合、robots.txt を使用して、ユーザー エージェント Googlebot-Image による /personal ディレクトリ内のファイルのクロールを禁止する(一方で、Googlebot にはすべてのファイルのクロールを許可する)ように指定します。次に例を示します。

User-agent: Googlebot
Disallow:

User-agent: Googlebot-Image
Disallow: /personal

別の例として、サイトのすべてのページに広告を表示させても、ページを Google 検索には表示したくない場合が考えられます。その場合は、次のように、Googlebot をブロックし、ユーザー エージェント Mediapartners-Google によるアクセスは許可します。

User-agent: Googlebot
Disallow: /

User-agent: Mediapartners-Google
Disallow:

robots メタタグのユーザー エージェント

ページによっては、次のように、複数の robots メタタグを使用してクローラごとにディレクティブを指定することもあります。

<meta name="robots" content="nofollow">
<meta name="googlebot" content="noindex">

このような場合、Google はすべての不許可ディレクティブに従います。つまり、Googlebot は noindexnofollow の両方のディレクティブに従います。Google によるサイトのクロール方法とインデックス登録方法の管理について詳細をご確認ください。