GLOSSARY
ブラウジングエージェント
実際に
ブラウジングエージェントとは 何か
ブラウジングエージェントは、
重要なのは、
なぜ重要か (AI検索・代行での 位置づけ)
ブラウジングエージェントは、
仕組み (クロールと ユーザー起点取得の 違い)
| 種類 | きっかけ | robots.txtの | AI検索での |
|---|---|---|---|
| 学習用クローラー | 誰の | 尊重する | 訓練データ候補に |
| 検索用インデックスクローラー | 自動巡回で | 尊重する | 回答の |
| ブラウジングエージェント/ユーザー起点フェッチ | ユーザーの | 事業者ごとに | ユーザー個別の |
横にスクロールできます
流れと
具体例・ データ
- ユーザー起点フェッチの
仲間:Perplexity-User・ChatGPT-User・Claude-Userなど、 ユーザーが 求めた 瞬間に ページを 取得する ボットは、 ブラウジングエージェントと 同じ 「ユーザー起点」の 系譜に あります。 - UAでの
検知:アクセスログの UA文字列に エージェント固有の 識別子が 含まれるかで 来訪を 判別できます (部 分 一致で 拾います)。 - 第三者の
記録:Known Agents (旧Dark Visitors)が、 各社エージェントの UAや 挙動・カテゴリを 分類・ 公開しており、 公式文書が 薄いエージェントの 把握に 使えます。 - IPでの
裏取り:UAは 詐称可能な ため、 遮断・許可・課金などの 重要判断は、 提供各社が 公開する 公式IPレンジとの 照合で 本物を 確かめます。
よく ある 誤解・ 注意点
実務での 扱い方
- 種類を
分けて 捉える :学習用クローラー・検索用インデックスクローラー・ユーザー起点フェッチ (ブラウジングエージェント含む)を、 ログ上で 別々に 数えます。 - robots.txtの
限界を 理解する :robots.txtは 自動クローラー向けであり、 ユーザー起点の 取得までは 止められない ことを 前提に 方針を 立てます。 - 機械に
操作しやすい 構造に する :フォーム・ボタン・リンクや、 価格・在庫・仕様など 機械が 拾う 一次情報を、 正確・ 最新・ 解釈しやすい形で 整えます。 - UAだけで
判断しない :遮断・許可の 重要判断は、 公式IPレンジとの 照合で 詐称を 排除します。 - エージェント経由の
接触・代行を 測る :人間の クリックだけでなく、 サーバーログの ボット挙動や エージェントの 行動での 自社登場を 継続的に 観測します。
なぜrobots.txtだけでは 制御しきれないのか
ブラウジングエージェントの
ただし、
UAだけを 信じてはいけない 理由
- UA
(User-Agent=アクセス元が 自分を 名乗る 識別子)は、 リクエストを 送る 側が 自由に 書き換えられます。 悪意ある 第三者が 有名エージェントの 名前を 騙る 「なりすまし (UA詐称)」が 起こり得ます。 - その
ため、 UA名の 一致だけで 「本物の エージェント」と 判断して 許可・遮断・課金を 決めるのは 危険。 - 対策は
公式IPレンジ (=提供各社が 公開する 正規の アクセス元IP一覧)との 照合。 UA名が 合致し、 かつアクセス元IPが 公式範囲に 入るかを 確かめて 初めて、 本物と 判断します。 - 第三者サービス
(Known Agents=旧Dark Visitors)は、 公式文書が 薄いエージェントの UAや 挙動を 分類・ 記録しており、 把握の 補助に 使えます。 ただし一次情報 (各社公式)で 裏を 取るのが 原則。
まとめると、
「閲覧」から 「操作・代行」への 広がり
ブラウジングエージェントが
この
よく ある 質問 (FAQ)
ブラウジングエージェントと 普通の クローラーは 何が 違いますか?
クローラーは
robots.txtで ブラウジングエージェントを 止められますか?
必ずしも
user-triggered fetch (ユーザー起点フェッチ)と ブラウジングエージェントの 関係は?
地続きです。
エージェントの UAが 本物か どうかは どう 確かめますか?
UA
関連する出典
この記事の根拠にした一次情報(=発表元がみずから出している資料)です。
関連用語
AIエージェント
えーあいえーじぇんと目標を与えると、自分で手順を決め、道具(ツール)を使い、環境からの反応を見ながら遂行するAIシステム。指示のたびに人が細かく操作するチャットとは自律性の点で異なります。
自律エージェント
じりつえーじぇんと人の逐次指示なしに、タスクを分解して複数ステップを回し続けるAIエージェント。自律の度合いが高いほど、決済や本人確認といった「信頼のレール」が課題になります。
ツール利用(tool use)
つーるりようLLMが検索・計算・API呼び出しなど外部の道具を呼び出し、その結果を回答に取り込む仕組み。RAGや自律エージェントの基礎で、「文章を書く力」に「現実へ働きかける手足」を足します。
robots.txt
ろぼっつてきすとサイト直下に置き、クローラーに取得してよい範囲を伝える取り決めファイル。強制力はなく準拠は任意。
クローラー(クロール)
くろーらーリンクをたどってページを次々に取得して回る巡回プログラム(クローラー)と、その巡回作業(クロール)。
ユーザーエージェント
ゆーざーえーじぇんとHTTPリクエストでソフトが自己申告する名前。ブラウザとボットの見分けに使うが、詐称も可能。
Perplexity-User
ぱーぷれきしてぃゆーざーPerplexity(出典付きで回答するAI検索エンジンを運営する企業)が公開する、ユーザーの質問時にその場でページを取りに行くユーザー起点フェッチャー。索引用のPerplexityBotとは区別します。
ChatGPT-User
ちゃっとじーぴーてぃーゆーざーOpenAIが公開する、ChatGPT利用者がその場で指示したときにだけ発火してページを取りに行くユーザー起点フェッチャー。学習用のGPTBot・回答検索用のOAI-SearchBotとは目的が別。
Claude-User
くろーどゆーざーAnthropic(対話型AI「Claude」を開発するAI企業)が公開する、Claude利用者がその場でURLを渡したときにだけ発火してページを取りに行くユーザー起点フェッチャー。
AI検索
エーアイけんさく生成AIを使って答えを導く検索の総称。
