本文へスキップ

GLOSSARY

データ学習(AI training)

Web上の大量データからモデルを訓練すること。学習系クローラーとの関係と、著作権・オプトアウトが論点。

でーたがくしゅう12分で読めます

データ学習(AI training)とは、Web上の大量データをAIモデルに与えて能力を獲得させる工程です。生成AIの土台であるLLM(大規模言語モデル)は、膨大な文章から言葉の並びのパターンを学びます。その学習素材を集めるのが学習系クローラー(GPTBot等)で、ここに著作権・オプトアウトという論点が生まれます。AI検索対策では「自社コンテンツを学習に使わせるか」の判断が、露出戦略と表裏一体になります。

データ学習とは(正確な定義)

AIにおける学習(training=訓練)とは、モデルに大量のデータを繰り返し与え、データに潜むパターンを内部のパラメータ(=モデルが持つ膨大な数値の調整つまみ)に反映させていく工程です。大規模言語モデルの場合、Web上の文章を大量に読み込ませ、「ある文脈の次にどの語が来やすいか」を確率的に予測できるよう調整します。この事前学習(pre-training)を経て、モデルは人間の書いた文章に近い出力を生成できるようになります。学習は膨大な計算資源と大量のテキストを必要とし、そのテキストの供給源としてWebが使われます。

押さえておきたいのは、学習と「回答時の参照」がまったく別の工程であることです。学習は、モデルを作る段階でデータをパラメータに溶かし込む一度きりの(あるいは定期的な)作業です。一方、AI検索が回答するときにその場でWebを取得して根拠にする経路(グラウンディングやRAG=検索拡張生成)は、学習とは別の仕組みです。同じ「Webを取得する」でも、前者は将来のモデルを鍛えるため、後者は今この質問に答えるためであり、目的も、使うボットも、オプトアウトの考え方も異なります。この区別を曖昧にすると、対策の議論がすぐに噛み合わなくなります。

なぜ重要か(AI検索での位置づけ)

データ学習が重要なのは、AI検索とコンテンツ保有者の利害が最も鋭く対立する接点だからです。コンテンツを持つ側から見れば、費用と労力をかけて作った記事やデータが、断りなくモデルの学習に取り込まれ、競合も使える共有の知識になってしまうことへの警戒があります。一方AI各社から見れば、多様で質の高いWebデータが、モデルの性能を左右する生命線です。この綱引きの中で、「学習にどう向き合うか」を決めることが、AI時代のコンテンツ戦略の根幹になります。

AI検索対策の観点では、学習への態度が露出戦略と直結します。学習に使われることそのものは、必ずしも自社の検索露出を増やしません。なぜなら、AI検索の回答で自社が引用・言及されるかは、多くの場合、回答時に参照される検索・回答系の経路が握っているからです。したがって「学習に使われたくない」と「AI検索で露出したい」は両立可能です。学習系クローラーは拒否しつつ、検索・回答系は歓迎する——この分離ができるという前提を理解しているかどうかが、賢い判断とそうでない判断を分けます。

もう一つの位置づけは「一度学習されると戻せない」という対称性です。回答時の参照は、robots.txtやアクセス制御で今後の取得を止めれば、それ以降は参照されなくなります。しかし学習は、いったんモデルのパラメータに溶け込むと、そのモデルから自社コンテンツ由来の要素だけを後から抜き取ることが技術的にきわめて困難です。だからこそ学習に関する判断は「入口」で行う必要があり、「あとで嫌になったら止めればいい」が通用しにくい領域です。この不可逆性が、学習へのオプトアウトを早めに検討すべき理由になります。

仕組み/Webデータが学習に至る流れ

Web上の文章が学習素材としてモデルに取り込まれるまでの、おおまかな流れを整理します。各段階に、サイト運営者が介入できる余地があります。

  1. 収集: 学習系クローラー(GPTBot・ClaudeBot等)や、Common Crawl(=非営利がWebを大規模収集し公開するデータ)がページを取得する
  2. 選別・整形: 収集した生データから、重複や低品質なものを除き、学習に使う形へ整える
  3. 事前学習: 整形したテキストを大量に読み込ませ、モデルのパラメータを調整する(一度きりでなく世代ごとに繰り返される)
  4. 微調整: 事前学習後、特定の用途向けに追加データで再調整する(ファインチューニング)こともある
  5. 提供: 学習を終えたモデルが、製品として利用者に提供される

サイト運営者が最も介入しやすいのは、最初の「収集」の段階です。robots.txtで学習系クローラーを拒否すれば、そのボット経由での取得を止められます。ただし、ここに落とし穴があります。自社サイトを直接訪れるクローラーを止めても、Common Crawlのような第三者が収集・公開したデータ経由で、間接的に学習に使われる可能性が残ります。Common Crawlのクローラー(CCBot)も別途robots.txtで拒否できますが、「特定の学習系ボットを1つ止めれば学習利用がゼロになる」とは限らない、という多層性を理解しておく必要があります。

ファインチューニング(=学習済みモデルに追加データを与えて特定用途向けに再調整する手法)にも簡単に触れておきます。事前学習が「一般的な言語能力を身につける」大きな学習だとすれば、ファインチューニングは「特定の業務や口調に合わせる」小さな追加学習です。企業が自社データでAIを微調整して使う場面では、この追加学習に入力するデータの権利や機密性を、事前学習と同じ厳しさで確認する必要があります。自社が「学習させる側」に回るときも、他者のコンテンツや顧客データを無断で学習素材にしていないか、という点は、Webからの大規模学習と地続きの論点です。学習という営みは、規模の大小を問わず、常にデータの出所への責任を伴います。

具体例・学習系クローラーの整理

学習(training)を主目的とするクローラーを、運営元とともに整理します。これらを拒否するかどうかが、学習へのオプトアウトの中心的な操作対象になります。

代表的な学習・収集系クローラー
名前運営元主な用途拒否の可否
GPTBotOpenAI基盤モデルの学習向け収集robots.txtで拒否可
ClaudeBotAnthropicClaude向けの学習・収集robots.txtで拒否可
Google-ExtendedGoogleGemini等の学習利用の制御トークンrobots.txtで学習だけ拒否可
CCBotCommon Crawl公開コーパス作成(多くのLLMが再利用)robots.txtで拒否可
BytespiderByteDanceLLM向け収集robots.txtで拒否可

横にスクロールできます

この一覧のうち、GPTBot・ClaudeBotは各社が公式に目的(学習・収集)とrobots.txtでの拒否方法を明示しています。Google-Extendedは独立したボットではなく、通常の検索クロールはそのままに、Gemini等の学習利用の可否だけを切り替える制御トークンです。CCBotは非営利のCommon Crawlが走らせるクローラーで、その成果物であるコーパス(=大規模なテキスト集)が多くのAIの学習に再利用される点で影響が大きい存在です。おrobots.txtは強制力のない要請なので、どのボットについても「名前を書けば必ず止まる」とは考えず、実測で確認する前提で扱います。

この一覧が示すもう一つの含意は、「学習利用の入口は一つではない」ことです。自社を直接訪れるGPTBotやClaudeBotを止めても、CCBotが収集し公開したコーパスを第三者のAI開発者が学習に使えば、間接的に自社コンテンツが学習に流れます。つまり学習へのオプトアウトを徹底したいなら、直接来る各社の学習系ボットに加え、大規模収集の起点になるCCBotのようなボットまで視野に入れる必要があります。一方で、そこまで厳密に絞るかは自社の針次第です。すべての経路を塞ぐことに労力をかけるより、主要な学習系ボットへの意思表示で十分と判断する企業もあります。どこまでやるかを、自社にとっての学習利用のリスクの大きさに照らして決めることが実務的です。

よくある誤解・注意点

  • 学習と回答時の参照は別工程。学習拒否とAI検索露出は両立しうる
  • 一度学習されるとモデルから遡って取り除くのは困難。判断は入口で行う
  • 直接来る学習系ボットを止めても、Common Crawl等の第三者データ経由の学習は残りうる
  • robots.txtでの拒否に法的強制力はなく、無視するボットもいる
  • 学習に使われたかどうかを外部から確実に検証する手段は限られている

著作権・権利処理との関係

データ学習は、著作権の論点と切り離せません。公開された著作物をAIの学習に使う行為が、どこまで許されるかは各国の法制度で扱いが異なり、議論も続いています。日本を含め、一定の場合に情報解析目的での利用を認める権利制限の規定が設けられている国もありますが、その適用範囲や条件は個別性が高く、一般論として断定はできません。実務では、法的にどうかという議論と並行して、robots.txtやオプトアウトで自社の意思を明示しておくという、技術的・記録的な備えを進めておくのが現実的です。

重要なのは、法的な可否とビジネス上の判断を分けて考えることです。法的に問題がないことと、事業として望ましいことは、必ずしも一致しません。仮に法的に許される利用であっても、自社の資産を無償で学習に供することが事業戦略に合うとは限りません。逆に、露出や認知の拡大を狙って積極的に学習させたい、と判断する企業もありえます。データ学習への向き合い方は、法律論だけでなく、自社のコンテンツをどう位置づけるかという経営判断そのものです。法的な確からしさは専門家に確認しつつ、意思表示の手段としてのオプトアウトは自社で整えておく、という二段構えが安全です。

この二段構えを、AI検索対策の実務に落とし込むとこうなります。まず技術・意思表示の層では、学習に使われたくないコンテンツについてrobots.txtやオプトアウトで拒否を明示し、その表明を証跡として維持します。次に法務・判断の層では、生成物の商用利用や他者コンテンツの取り込みなど、判断に迷う場面を洗い出し、専門家に確認する運用を用意します。この二つは別の層の備えであり、片方だけでは不十分です。技術的に拒否していても法的な判断が要る場面は残り、逆に法務を固めても意思表示の設定を怠れば、無断利用への異議を唱える根拠が弱くなります。両層を並行して整えることが、著作権をめぐるリスクへの現実的な備えになります。

あわせて、社内での知識共有も実務上は欠かせません。著作権をめぐる論点は、コンテンツを作る担当者、AIを業務で使う担当者、外部への納品を担う担当者など、複数の立場の人が日々直面します。特定の担当者だけが理解していても、別の担当者が知らずにAI生成物を安易に公開すれば、そこからリスクが生まれます。「どういう場面で立ち止まり、誰に相談するか」を、簡単な社内ルールとして共有しておくことが、組織全体で権利上の事故を防ぐ現実的な手立てになります。著作権への配慮は、個人の心がけに任せるより、組織の仕組みとして根づかせるほうが確実です。

実務での扱い方

  1. 自社の針を定める: 学習に使わせてよいか、資産として守るかを、コンテンツの性質ごとに判断する
  2. 学習系ボットを整理する: GPTBot・ClaudeBot・CCBot等、拒否対象になりうるボットを洗い出す
  3. robots.txtに反映する: 拒否する学習系ボットを明記し、検索・回答系は方針に応じて許可する
  4. Google/Appleは制御トークンで: Google-Extended・Applebot-Extendedで学習利用だけを拒否し、検索は維持する
  5. 第三者経路も検討する: Common Crawl(CCBot)など間接経路への対応を必要に応じて加える
  6. 記録として残す: オプトアウトの表明を、意思表示の証跡として維持・更新する

データ学習と、AI検索が回答時にWebを見るのは同じですか。

違います。学習はモデルを作る段階でデータをパラメータに取り込む工程で、回答時にその場でWebを取得して根拠にするのは別の仕組み(グラウンディングやRAG)です。目的も使うボットも異なります。

学習を拒否すると、ChatGPTやPerplexityの回答に自社が出なくなりますか。

必ずしも出なくなりません。回答での引用は主に検索・回答系の経路が決めるため、学習系だけを拒否しても検索・回答系を許可していれば露出は得られます。両者は分けて設定できます。

一度学習されたコンテンツを後から取り消せますか。

困難です。学習でモデルのパラメータに溶け込んだ内容を、後から個別に取り除くのは技術的に難しく、オプトアウトは「今後の取得・学習」を止めるものです。だからこそ入口での判断が重要になります。

関連する出典

この記事の根拠にした一次情報(=発表元がみずから出している資料)です。

  1. OpenAI: OpenAIのボット(GPTBot 等)(新しいタブで開く)https://platform.openai.com/docs/bots
  2. Common Crawl: CCBot について(新しいタブで開く)https://commoncrawl.org/ccbot

関連用語

オプトアウト(学習拒否)

おぷとあうと

自社コンテンツをAIの学習・利用に使わせない、という意思表示。robots.txt・メタタグ・各社設定で行います。

著作権(AI利用)

ちょさくけん

AIの学習・生成をめぐる著作物の権利論点。国ごとに扱いが異なり、断定を避け一般論で捉える領域。

robots.txt

ろぼっつてきすと

サイト直下に置き、クローラーに取得してよい範囲を伝える取り決めファイル。強制力はなく準拠は任意。

ClaudeBot

くろーどぼっと

Anthropic(対話型AI「Claude」を開発する企業)がモデル訓練用データを集めるために公開する学習・収集系クローラー。

CCBot

しーしーぼっと

Common Crawl(コモンクロール=Webを丸ごと収集して誰でも使える形で公開する非営利団体)が運用する学習・収集系クローラー。多くのAI学習データの源。

LLM(大規模言語モデル)

えるえるえむ

大量の文章で学習し、次に来る語を確率で予測して文章を作るAI。AI検索の心臓部。

ファインチューニング

ふぁいんちゅーにんぐ

学習済みLLMに追加データを与え特定用途に適応させる手法。RAGとの使い分けが要。

AI検索

エーアイけんさく

生成AIを使って答えを導く検索の総称。

GPTBot

じーぴーてぃーぼっと

OpenAIが公開・運用する学習・収集系クローラー。将来のモデル訓練データにするために公開Webを巡回します。ChatGPT検索の回答表示用OAI-SearchBotや、ユーザー起点取得のChatGPT-Userとは目的が別。

Google-Extended

ぐーぐるえくすてんでっど

Googleが、AI用途(Gemini/Vertex AIの学習や、Google検索のAI機能のグラウンディング)に自サイトを使ってよいかを制御するトークン。固有のクローラー(独自User-Agent)を持たず、実際の取得はGooglebotが行う「制御トークン」である点が最重要。

CONTACT US

お問い合わせ

調査・取材・共同研究のご相談を承ります。

FOLLOW US

最新情報をチェック

新着のレポートと研究員コラムをお知らせします。

調査レポート日本のAI検索 実態レポート 第1回:通信キャリア編