本文へスキップ

GLOSSARY

ブラウジングエージェント

実際にWebブラウザを操作してページを閲覧・操作するAIエージェント。ユーザーの求めに応じてその場でページを取得するuser-triggered fetch(ユーザー起点フェッチ)と地続きで、robots.txtの効き方が通常のクロールと異なります。

ぶらうじんぐえーじぇんと11分で読めます

ブラウジングエージェントとは何か

ブラウジングエージェントは、実際のブラウザを操作してWebを閲覧・操作するAIエージェントです。AIエージェント一般が「計画・ツール利用・環境フィードバックのループ」で動くのに対し、ブラウジングエージェントはその「ツール」として本物のブラウザ操作(ページを開く・リンクをたどる・入力する・クリックする)を持ちます。これにより、あらかじめ収集・索引化された情報だけでなく、その場の生きたページから最新の内容を読み取り、必要なら手続きまで進められます。近年は、対話型AIの提供各社が「ユーザーの代わりにWebを操作して調べ・手続きするエージェント」を打ち出しており、Known Agents(旧Dark Visitors=AI関連ボットのUA情報をまとめる第三者サービス)はこうしたエージェントの挙動やUA(User-Agent=アクセス元が自分を名乗る識別子)を分類・記録しています。

重要なのは、ブラウジングエージェントの動きが「ユーザー起点」である点です。学習用クローラー(モデル訓練のためにWebを無差別収集するボット)が、誰の依頼もなく自動で巡回するのに対し、ブラウジングエージェントは基本的に「いまユーザーがこう頼んだから、この操作をする」という個別の指示に紐づいて動きます。これは、Perplexity-UserやChatGPT-User、Claude-Userといった「ユーザー起点フェッチ」型ボット(ユーザーが求めた瞬間にページを取りに行く取得系)と同じ系譜にあり、性質も制御の効き方も、自動クロールとは分けて考える必要があります。

なぜ重要か(AI検索・代行での位置づけ)

ブラウジングエージェントは、AI検索が「情報を読む」から「行為を代行する」広がる最前線です。エージェントが実際にサイトを開いて比較し、条件に合う選択肢を選び、予約や購買の画面操作まで進めるなら、人がサイトを直接クリックしなくても物事が進みます。サイト運営者にとっては、人間だけでなくエージェントに「正しく読まれ・正しく操作してもらえる」ことが新たな論点になります。ボタンやフォームが機械にも解釈しやすい構造か、価格・在庫・仕様が機械に拾われる形で正確・最新か——こうした整備が、エージェント時代の可視化(=AIやエージェントに選ばれること)を左右します。

仕組み(クロールとユーザー起点取得の違い)

ブラウジングエージェントは「ユーザー起点の取得・操作」に属し、自動クロールとは制御の効き方が異なります。
種類きっかけrobots.txtの尊重AI検索での意味
学習用クローラー誰の依頼もなく自動巡回尊重する(拒否可)訓練データ候補に入る(引用の証拠ではない)
検索用インデックスクローラー自動巡回で索引化尊重する回答の出典候補になる
ブラウジングエージェント/ユーザー起点フェッチユーザーの依頼でその場で取得・操作事業者ごとに異なる(公式で要確認)ユーザー個別の閲覧・代行に近い

横にスクロールできます

流れとしては、ユーザーがエージェントに「この条件で調べて/この手続きを進めて」と依頼すると、エージェントはブラウザを操作して該当ページを開き、内容を読み、必要ならリンクをたどったり入力・クリックをしたりして、結果をまとめて返します。UAには、そのエージェント固有の識別子が入ることが多く、サイト側はアクセスログでこれを手がかりに来訪を捉えられます。ただしUA(自分を名乗る識別子)は詐称(=別のボットが名前を騙ること)が可能なため、重要な判断では、提供各社が公開する公式IPレンジ(=正規のアクセス元IP一覧)との照合で裏を取るのが定石です。

具体例・データ

  • ユーザー起点フェッチの仲間:Perplexity-User・ChatGPT-User・Claude-Userなど、ユーザーが求めた瞬間にページを取得するボットは、ブラウジングエージェントと同じ「ユーザー起点」の系譜にあります。
  • UAでの検知:アクセスログのUA文字列にエージェント固有の識別子が含まれるかで来訪を判別できます(部一致で拾います)。
  • 第三者の記録:Known Agents(旧Dark Visitors)が、各社エージェントのUAや挙動・カテゴリを分類・公開しており、公式文書が薄いエージェントの把握に使えます。
  • IPでの裏取り:UAは詐称可能なため、遮断・許可・課金などの重要判断は、提供各社が公開する公式IPレンジとの照合で本物を確かめます。

よくある誤解・注意点

実務での扱い方

  1. 種類を分けて捉える:学習用クローラー・検索用インデックスクローラー・ユーザー起点フェッチ(ブラウジングエージェント含む)を、ログ上で別々に数えます。
  2. robots.txtの限界を理解する:robots.txtは自動クローラー向けであり、ユーザー起点の取得までは止められないことを前提に方針を立てます。
  3. 機械に操作しやすい構造にする:フォーム・ボタン・リンクや、価格・在庫・仕様など機械が拾う一次情報を、正確・最新・解釈しやすい形で整えます。
  4. UAだけで判断しない:遮断・許可の重要判断は、公式IPレンジとの照合で詐称を排除します。
  5. エージェント経由の接触・代行を測る:人間のクリックだけでなく、サーバーログのボット挙動やエージェントの行動での自社登場を継続的に観測します。

なぜrobots.txtだけでは制御しきれないのか

ブラウジングエージェントの扱いで最もつまずきやすいのが、robots.txtの効き方です。robots.txt(=クローラーに巡回可否を伝える取り決めファイル)は、そもそも「自動で無差別にページを収集するクローラー」を対象にした紳士協定です。ところがブラウジングエージェントの取得は、多くの場合「いま目の前のユーザーが、このページを見てと頼んだから取りに行く」というユーザー起点(user-triggered)の行為です。ユーザー本人がブラウザでページを開くのを止められないのと同じ理屈で、ユーザーの依頼に基づく取得は、通常のクロールと同じにはrobots.txtに従わない設計になっていることがあります。つまり「学習用クローラーはrobots.txtで拒否できても、ユーザーがエージェントに頼んだ取得までは止まらないことがある」という対称性が生まれます。

ただし、ユーザー起点フェッチ型ボットならすべてrobots.txtが効かない、というわけではありません。扱いは事業者ごとに分かれます。OpenAIはChatGPT-Userについて、ユーザーが起点であるためrobots.txtのルールが適用されない場合があると公式に説明し、PerplexityもPerplexity-Userについて一般にrobots.txtを無視すると明記しています。これに対しAnthropicは、Claude-Userを含む自社の全ボットがrobots.txtの指示を尊重すると公式に説明しており、Claude-Userの拒否指定は効きます。したがってAI経由のアクセスをコントロールしたいなら、(1) 各社の公式ドキュメントでrobots.txtの効き方を個別に確認し、(2) 効かないと明記されている取得については、ファイアウォール(=不正アクセスを遮る防御層)などの別手段を併用する、という順序で考えるのが現実的です。

UAだけを信じてはいけない理由

  • UA(User-Agent=アクセス元が自分を名乗る識別子)は、リクエストを送る側が自由に書き換えられます。悪意ある第三者が有名エージェントの名前を騙る「なりすまし(UA詐称)」が起こり得ます。
  • そのため、UA名の一致だけで「本物のエージェント」と判断して許可・遮断・課金を決めるのは危険。
  • 対策は公式IPレンジ(=提供各社が公開する正規のアクセス元IP一覧)との照合。UA名が合致し、かつアクセス元IPが公式範囲に入るかを確かめて初めて、本物と判断します。
  • 第三者サービス(Known Agents=旧Dark Visitors)は、公式文書が薄いエージェントのUAや挙動を分類・記録しており、把握の補助に使えます。ただし一次情報(各社公式)で裏を取るのが原則。

まとめると、ブラウジングエージェントの実務対応は「種類を分けて数える(学習・検索・ユーザー起点)」「robots.txtの限界を理解する」「UAだけで判断せずIPで裏を取る」の3点に集約されます。そのうえで、機械が操作しやすいページ構造(明快なフォーム・ボタン・リンク、機械が拾える正確な価格・在庫・仕様)を整えることが、エージェント時代に「選ばれ、正しく手続きしてもらえる」ための前向きな最適化になります。

「閲覧」から「操作・代行」への広がり

ブラウジングエージェントが従来のクローラーと質的に異なるのは、「読む」だけでなく「操作する」点です。クローラーはページの中身を収集して索引化するのが仕事で、ボタンを押したりフォームに入力したりはしません。対してブラウジングエージェントは、リンクをたどり、検索窓に語句を入れ、絞り込み条件を選び、時にはカートに入れて購入手続きを進める——人がブラウザでやる一連の操作を代行します。これは、AI検索が「情報提供」から「行為の代行」へと役割を広げつつあることの象徴です。ユーザーは「一番安い選択肢を見つけて予約まで進めて」と頼むだけで、エージェントが複数サイトを実際に操作して完了させる、という世界が視野に入ります。

この広がりは、サイト運営者に「エージェントに正しく操作してもらえるか」という新しい品質基準をもたらします。ボタンやリンクが機械にも意味の分かる形になっているか、手続きの各段階が明快か、エラー時の案内が機械にも解釈できるか——こうした「操作のしやすさ」が、エージェント経由での取りこぼしを左右します。人間のユーザビリティ(=使いやすさ)を磨く努力は、そのままエージェントにとっての操作しやすさにもつながる部分が大きく、両者は多くの場面で同じ方向を向きます。だからこそ、エージェント対応を特別な追加作業と捉えるより、「人にも機械にも分かりやすいサイトを作る」という一貫した姿勢で臨むのが得策です。

よくある質問(FAQ)

ブラウジングエージェントと普通のクローラーは何が違いますか?

クローラーは誰の依頼もなく自動でページを巡回・収集しますが、ブラウジングエージェントは基本的に「いまユーザーがこう頼んだから」という個別の依頼に基づいて、実際にブラウザを操作してページを閲覧・操作します。ユーザー起点である点と、閲覧だけでなく操作まで行う点が違いです。

robots.txtでブラウジングエージェントを止められますか?

必ずしも止まりません。robots.txtは自動クローラー向けの取り決めで、ユーザー本人の依頼に基づく取得(ユーザー起点フェッチ)は通常のクロールと同じには従わない場合があります。学習用クローラーを拒否していても、ユーザーが頼んだ取得までは止まらないことがあります。

user-triggered fetch(ユーザー起点フェッチ)とブラウジングエージェントの関係は?

地続きです。ブラウジングエージェントの取得の多くはユーザーの依頼に紐づく「ユーザー起点」の性質を持ち、Perplexity-UserやChatGPT-User、Claude-Userといったユーザー起点フェッチ型ボットと同じ系譜にあります。制御の効き方も自動クロールとは分けて考えます。

エージェントのUAが本物かどうかはどう確かめますか?

UA(自分を名乗る識別子)は詐称可能なので、UA名だけでは判断できません。遮断・許可・課金などの重要判断では、提供各社が公開する公式IPレンジ(正規のアクセス元IP一覧)と照合して裏を取ります。

関連する出典

この記事の根拠にした一次情報(=発表元がみずから出している資料)です。

  1. Known Agents (Dark Visitors): ChatGPT Agent(新しいタブで開く)https://darkvisitors.com/agents/chatgpt-agent
  2. OpenAI: OpenAIのボット(GPTBot / OAI-SearchBot / ChatGPT-User)(新しいタブで開く)https://platform.openai.com/docs/bots
  3. Anthropic サポート: Anthropic のクローラー(ClaudeBot / Claude-SearchBot / Claude-User)とブロック方法(新しいタブで開く)https://support.anthropic.com/en/articles/8896518
  4. Perplexity: PerplexityのボットとIPレンジ(PerplexityBot / Perplexity-User)(新しいタブで開く)https://docs.perplexity.ai/guides/bots

関連用語

AIエージェント

えーあいえーじぇんと

目標を与えると、自分で手順を決め、道具(ツール)を使い、環境からの反応を見ながら遂行するAIシステム。指示のたびに人が細かく操作するチャットとは自律性の点で異なります。

自律エージェント

じりつえーじぇんと

人の逐次指示なしに、タスクを分解して複数ステップを回し続けるAIエージェント。自律の度合いが高いほど、決済や本人確認といった「信頼のレール」が課題になります。

ツール利用(tool use)

つーるりよう

LLMが検索・計算・API呼び出しなど外部の道具を呼び出し、その結果を回答に取り込む仕組み。RAGや自律エージェントの基礎で、「文章を書く力」に「現実へ働きかける手足」を足します。

robots.txt

ろぼっつてきすと

サイト直下に置き、クローラーに取得してよい範囲を伝える取り決めファイル。強制力はなく準拠は任意。

クローラー(クロール)

くろーらー

リンクをたどってページを次々に取得して回る巡回プログラム(クローラー)と、その巡回作業(クロール)。

ユーザーエージェント

ゆーざーえーじぇんと

HTTPリクエストでソフトが自己申告する名前。ブラウザとボットの見分けに使うが、詐称も可能。

Perplexity-User

ぱーぷれきしてぃゆーざー

Perplexity(出典付きで回答するAI検索エンジンを運営する企業)が公開する、ユーザーの質問時にその場でページを取りに行くユーザー起点フェッチャー。索引用のPerplexityBotとは区別します。

ChatGPT-User

ちゃっとじーぴーてぃーゆーざー

OpenAIが公開する、ChatGPT利用者がその場で指示したときにだけ発火してページを取りに行くユーザー起点フェッチャー。学習用のGPTBot・回答検索用のOAI-SearchBotとは目的が別。

Claude-User

くろーどゆーざー

Anthropic(対話型AI「Claude」を開発するAI企業)が公開する、Claude利用者がその場でURLを渡したときにだけ発火してページを取りに行くユーザー起点フェッチャー。

AI検索

エーアイけんさく

生成AIを使って答えを導く検索の総称。

CONTACT US

お問い合わせ

調査・取材・共同研究のご相談を承ります。

FOLLOW US

最新情報をチェック

新着のレポートと研究員コラムをお知らせします。

調査レポート日本のAI検索 実態レポート 第1回:通信キャリア編