テクニカルSEO

【2026年3月】Googlebotの正体とは?クロールで処理される「2MBの壁」をGoogleが解説

【2026年3月】Googlebotの正体とは?クロールで処理される「2MBの壁」をGoogleが解説

Googleは2026年3月31日、公式ブログ「Google Search Central Blog」で、Googlebotのクロールと取得(フェッチ)の仕組みを解説する記事を公開しました。普段は見えない「クローラーがページの何バイトまでを処理するのか」という内部の挙動を、公式が具体的な数値とともに説明した内容です。

本記事では、SEO担当者が実務で押さえておくべき要点――集中型クロール基盤という位置づけ、HTMLとPDFの取得上限、そしてHTMLの書き方への示唆――を整理します。

何が発表されたか

Google Search Central Blogに、Gary氏による「Inside Googlebot: demystifying crawling, fetching, and the bytes we process(Googlebotの内側:クロール・フェッチと処理するバイトの解明)」と題した記事が掲載されました。テーマは、Googlebotがページを取得する際にどこまでのデータを読み、どこで打ち切るのかという、クロールの基礎的な挙動です。

記事のポイントは大きく分けて、(1)Googlebotは単体のプログラムではなく共有の基盤であること、(2)取得できるバイト数には上限があること、(3)その上限を踏まえたHTML設計の考え方、の3点です。

Googlebotは「集中型のクロール基盤」

まず、Googlebotは1つの独立したプログラムではなく、複数のGoogleサービスが共有する「集中型のクロール基盤(centralized crawling platform)」だと説明されています。Google ショッピングやAdSenseなど数多くのクライアントが、同じ土台となるインフラを通じて、それぞれ別のクローラー名でクロール要求を送っているという構造です。

「Googlebot」という名前は検索向けのクローラーを指しますが、その裏側の仕組みは他のGoogleプロダクトと共通している、と理解しておくとよいでしょう。

取得できるバイト数の上限:HTMLは2MB、PDFは64MB

記事で最も実務に直結するのが、取得(フェッチ)できるデータ量の上限です。原文では次のように示されています。

ファイル種別 取得上限
HTML 2MB(HTTPヘッダーを含む)
PDF 64MB
種別が指定されない場合のデフォルト 15MB

HTMLが2MBを超えた場合、Googlebotはちょうどその上限で取得を打ち切ります。ダウンロードした範囲は、あたかもそれが完全なファイルであるかのようにインデックス処理やレンダリングへ渡され、上限を超えた部分はGoogleのシステムからは一切見えなくなります。つまり、2MBより後ろに置かれた要素は評価対象にならない可能性があるということです。

レンダリング(WRS)とHTML設計への示唆

取得後、Web Rendering Service(WRS)がJavaScriptを処理し、ブラウザと同じようにクライアントサイドのコードを実行して最終的なページの状態を把握します。WRSはステートレスに動作し、リクエストごとにローカルストレージをクリアするとされています。

この仕組みを踏まえ、記事では次のような設計が推奨されています。

・title・meta・canonical・構造化データといった重要な要素は、HTMLの早い位置(上部)に置く。2MBの打ち切りより後ろに埋もれないようにするためです。

・重いCSSやJavaScriptは外部ファイルに切り出す。外部リソースは別途取得され、それぞれ独自の上限が適用されるため、HTML本体を軽く保てます。

・サーバーの応答時間にも目を配る。

SEO担当者はどう活かすか

実務上のチェックポイントは明快です。まず、自サイトのHTMLソース(レンダリング前の生のHTML)が肥大化していないかを確認します。特に、大量のインラインCSS/JavaScriptや自動生成される巨大なデータ属性で2MBに迫っていないか。ページビルダーやタグの盛りすぎで生HTMLが膨らむケースは珍しくありません。

次に、SEO上重要なタグ(title、meta description、canonical、構造化データ)がHTMLの冒頭付近に出力されているかを確認します。CMSやテーマによっては、これらが本文より後ろに出力される場合があるため、生成後のHTMLを実際に見て並び順をチェックすると安全です。

まとめ

・Googlebotは単体プログラムではなく、複数サービスが共有する集中型クロール基盤である。

・取得上限はHTMLが2MB(ヘッダー含む)、PDFが64MB。上限を超えた部分はGoogleに読まれない。

・重要タグはHTML上部に、重いCSS/JSは外部ファイルへ。生HTMLを軽く保つ設計が有効。

・これはクロール・取得の技術仕様の解説であり、検索順位を直接上下させるアルゴリズム変更の告知ではない。

よくある質問

Q1: HTMLが2MBを超えるとどうなりますか?

Googlebotは2MBの時点で取得を打ち切ります。ダウンロードされた範囲だけがインデックス処理とレンダリングに渡され、それより後ろの内容はGoogleのシステムからは見えません。重要な要素が2MB以降に置かれていると、認識されない恐れがあります。

Q2: この2MBにはCSSやJavaScriptのファイルも含まれますか?

2MBの上限はHTMLドキュメント本体(HTTPヘッダーを含む)に対する制限です。外部ファイルとして読み込まれるCSSやJavaScriptは別途取得され、それぞれ独自の上限が適用されると説明されています。だからこそ重いコードは外部化が推奨されています。

Q3: この発表で検索順位は変わりますか?

いいえ。これはGooglebotのクロール・取得の仕組みを解説した技術記事であり、ランキングアルゴリズムの変更を告知するものではありません。ただし、重要な要素が取得上限を超えて読まれていなかった場合は、HTML構造を見直すことでインデックスの精度が改善する可能性はあります。

出典:Inside Googlebot: demystifying crawling, fetching, and the bytes we process(2026年3月31日)https://developers.google.com/search/blog/2026/03/crawler-blog-post

scale-basics編集部
監修

scale-basics編集部

SEO・AI検索最適化(AIO/LLMO/GEO)・Web制作の最前線で活動する専門チーム。テクニカルSEOからコンテンツ戦略、データ分析まで幅広い実務経験をもとに、最新のナレッジと実践的なノウハウを発信しています。

編集部について詳しく見る →