Googleが誇るBERTとは？特徴・仕組み・必要なSEO対策

この記事の監修SEO会社

株式会社NEXER

2005年にSEO事業を開始し、計10,000社以上にSEOコンサルティング実績を持つSEOの専門会社。
自社でSEO研究チームを持ち、「クライアントのサイト分析」「コンテンツ対策」「外部対策」「内部対策」「クライアントサポート」全て自社のみで提供可能なフルオーダーSEOを提供している。
SEOのノウハウを活かして、年間数百万PVの自社メディアを複数運営。

現在AIによる技術は、さまざまなところで活用されています。企業の公式アカウントやチャットボットなども、そのひとつです。チャットボットには自然言語処理と呼ばれるAI技術が活用されています。

中でも2018年にGoogleが発表した手法である「BERT」は、過去最大のアップデートと呼ばれるほど大きく取り上げられています。BERTの内容を解説しつつ、今後のSEO対策で必要なことをご説明します。

もしSEO対策の基本から対策方法まで全て詳しく知りたい場合は「SEO対策とは？検索上位表示を狙う方法まとめ！」の記事でSEO対策の情報をまとめているので参考にしてみてください。

BERTとは

BERT（バート）は、自然言語処理技術の一種で「Bidirectional Encoder Representations from Transformers」の頭文字をとったものです。自然言語処理技術は、人間が使う言語をコンピューターに理解させるための技術で、検索エンジンやスマートスピーカーなどに活用されています。

BERTにはTransformer（トランスフォーマー）と呼ばれる構造が搭載されており、文章を文頭と文末を双方向から学習・文章を読み込みます。これにより、従来のNLPにはできなかった文脈の読みが可能になりました。

BERTは単語ごとの関係性を理解し、文脈からユーザーが求めている検索結果を提示できます。つまり今までできなかった文章の複雑な検索や指示に、的確な結果を返せるようになったのです。

自然言語処理とは

コンピューターは人と違う言語であるコンピューター言語を通して情報のやり取りや指示を行います。人間の言語である自然言語を理解するには、処理が必要です。

自然言語は複数の単語とつなぎ合わせる名詞で作られます。複雑な構成に加え、あいまいな表現もあります。NLPは自然言語をコンピューター言語に翻訳し、ユーザーが求めた結果を表示するための仕組みです。

人がコンピューターやネットを使う上で必要な機能ですが、正確さにまだ課題がありました。単語は理解できても、文章や文脈をとらえる機能が低い点です。文脈を理解できないため、入力の際はユーザー側でコンピューターが検索しやすいかたちで入力する必要があります。BERTは、この課題を解決しました。

BERTの特徴

BERTは文脈の理解をはじめとした、さまざまな特徴があります。従来のNLPにはない特徴は、SEO対策にもかかわる重要な要素です。

文脈の理解

BERTの最大の特徴は、自然言語の文法や文脈がわかることです。従来のNLPでは、単語しか読み取れないため、検索エンジンで複雑な内容や条件を調べるには、ユーザー側で工夫する必要がありました。

BERTは文法や文脈からユーザーが求めている内容を判断し、結果に反映します。複雑な内容や文章を検索したい場合にも対応可能です。たとえば「小麦粉を使っていないパン」を検索しようとしたとします。

従来のNLPでは「小麦粉」と「パン」に引っかかってしまい、小麦粉が入ったパンに関する結果が多数表示される状態になります。ほしい検索結果を表示させるには、マイナス検索などのテクニックを利用しなくてはなりません。それでも、満足いく結果に結びつかないこともあります。

しかし、BERTは文法を理解しているため、小麦粉の入っていないパンに関する結果を表示することが可能です。このほか「東京駅近くのグルテンフリー専門店に行きたい」などの複雑な検索にも、ユーザーが求めている結果を導き出せます。

BERTの文法理解機能は、検索エンジンだけでなく、近年普及し始めているスマートスピーカーなどの音声で操作する機器にも活用されています。

高い汎用性

BERTの機能は文脈を理解できるだけではありません。高い汎用性も機能の一部です。通常、従来のタスク処理は、特定のタスクだけに対応させていました。ほかのタスクに対応させるには、修正が必要になります。

しかし、BERTは既存のタスク処理を行う前に、必要な情報に接続して転移学習させれば、自然言語処理の制度を高めることが可能です。さまざまなタスクに応用できます。

優れたデータセットの処理

AIには学習のためのデータセットが必要です。NLPも例外ではなく、従来のものはラベルがつけられたデータセットを使って学習しなくてはなりません。

しかし、現状ラベル付きのデータセットは少なく入手困難です。NLPのために、データセットの内容にひとつずつラベルを付ける作業を行わなくてはなりません。

BERTは従来のものとは違い、ラベルのないデータセットでも処理できます。データ不足の克服が簡単なうえに、ラベル付けの手間がかかりません。BERTが注目を集めているのは、文脈の理解だけでなく、データが少なくても簡単に開始できる点も関係しています。

BERTの仕組み

NLPは、単語を高次元のベクトルに置き換える「分散表現」と呼ばれる技術を用いて入力されます。入力された単語データを「シーケンス」と呼びます。自然言語でいうところの文章に当たるものです。

BERTはただ入力された文章を処理するのではなく、処理と同時に別のシーケンスを予測する事前学習モデルです。ラベルが付与されていない表現を見つけたら、トランスフォーマーが処理・学習します。

この作業と一緒に、ふたつの手法を同時進行で行うことで、文脈の読み取りやラベルのないデータセットの読み取りができるようになりました。BERTを理解するには、トランスフォーマーだけでなく、これから解説するふたつの手法も理解しておく必要があります。

Masked Language Modelとは

BERTの文頭と文末からトランスフォーマーによる学習を行いますが、これを実現しているのが「Masked Language Mode」です。入力した文章のうち、15％の単語を3つのパターンを用いて単語を周りの文脈から当てるタスクを実施し、置き換える前の単語を予測する仕組みです。

Masked Language Modeは選択した単語のうち、80％は〔MASK〕に置き換えます。その残りの10％はランダムに別単語に変換・残り10％はそのままの単語でタスク処理します。ちょうど人間が穴埋めクイズの答えを考えるように、このモデルは単語を予測し、文脈情報を学習するのです。

Next Sentence Predictionとは

Masked Language Modeは、単語に関する学習はできますが、文単位の学習はできません。文脈を完全に理解するには、不十分です。そこで活用されるのが「Next Sentence Prediction」です。

Next Sentence Predictionは、文章のうち、あとの文章を50％の確率で前にある文章と無関係な文章に置き換えます。あとの文が前の文に来る表現として正いかどうかを判断・学習する仕組みです。

処理のとき、ふたつの文は〔SEP〕のトークンで分けられ、正しければisNext・間違っていればnotNextかを分類する〔CLS〕トークンが用意されます。

Masked Language Modeで行っていた単語クイズを、Next Sentence Predictionは文章単位で行うわけです。このチェックを大量に行うことで、BERTは広範囲の言語処理能力を獲得しています。

BERTが導入された背景

BERTが生み出された背景のひとつに、検索語句の多様化があげられます。現在、モバイル端末の普及により、パソコンが検索の主流だった時代に比べ、検索する行為はとても身近なものになりました。

たくさんの人が検索エンジンを利用すれば当然検索ワードも多様化するため、高い処理能力が必要です。BERTのように、自然言語を正確に理解できる仕組みが求められます。

BERTが求められたのは、検索語句の多様化に加え音声検索システムやスマートスピーカーの普及も関係しています。音声検索やスマートスピーカーは、話し言葉のような口語的な入力で使われることが多いです。

たとえば「今日の天気は？」「電気を消して」など。このような入力は従来のNLPからすると長文で複雑なため、処理を満足にこなせない可能性がありました。BERTが導入されたのは、技術の進歩により、多くの人が検索エンジンや音声検索を使いこなせるようになったのが要因であるといえます。

BERTアップデートによる検索順位への影響

技術の進歩により生み出されたBERTは、さまざまなところで活用され影響を与えています。Google検索も、例外ではありません。GoogleはBERTをベースにした自然言語処理技術を採用し、検索アルゴリズムをアップデートしています。このアップデートが「BERTアップデート」です。

BERTアップデートにより、会話調の語句に対しても正確な検索結果が表示されるようになりました。現在は日本語にも対応しており、検索結果にも一部影響が出ています。今後は、BERTによる長い語句の検索に対する対策が必要であるといえるでしょう。

とはいえ、現状はそれほど大きな影響が出ているわけではありません。しかし、長い語句の順位変動幅が加味されれば、順位が大きく変動する可能性は高いです。これからのSEO対策は、BERTによる会話帳の検索にも対応できるようになる必要があるといえます。

BERTの1000倍以上の性能を誇るMUMも登場

Googleは、2021年5月にBERTをさらに進化させた検索アルゴリズム「MUM」を発表しました。MUMは従来のアルゴリズムでは複数回の検索が必要になるような質問でも、ユーザーがほしい情報をより正確に提供できます。

MUMはBERTの1000倍以上も強力であると紹介されており、複雑な検索語句を理解するのはもちろん、自然言語の微妙なニュアンスにも対応できるようになります。画像情報を識別し、有益な検索結果を提示する・言語の壁を越えてユーザーが求めている適切な情報を提供するなどの新たな機能も搭載される予定です。

現在、テスト段階ではありますが、MUMはグーグル検索において活用され始めています。たとえば、新型コロナワクチンの名称は世界各国で800種以上の名称でそれぞれ呼ばれています。

MUMは名称を正しく識別・反映することで、新型コロナワクチンの信ぴょう性が高い情報を、世界中から探すことを可能にしたのです。実験的な導入が始まり成功していることを考えると、MUMの完全実装もそう遠くないうちに開始されるでしょう。

BERTやMUMに対応したSEO対策は必要か

BERTやMUMは、すでに一部が実装されています。しかし、BERTやMUMに対応する対策を行う必要はありません。

そもそもBERTやMUMの導入は、ユーザーの複雑で多様な検索に対応するために行われています。あくまでも検索語句の意味や意図をより正確に読み取れるようにするのが、導入の目的です。

ユーザーのニーズを満たす良質なサイトやコンテンツを作らないと、上位表示されないという点は変わりません。これまで通りのSEO対策を行っていれば、新しい検索アルゴリズムにも対応できます。

とはいえ、これからも特に気を付けるべき点を知りたい方もいらっしゃるでしょう。新しい検索アルゴリズムにも対応できる対策を、ピックアップして解説します。

網羅性の高いコンテンツを作成する

コンテンツを作成する際は、競合上位サイトを分析します。このとき、ユーザーが求める情報量やつかみやすさにも注目しましょう。ユーザーが求めている情報をただ集めるのではなく、情報の背景まで具体的にしてください。

検索ワードと関連性の深い情報を幅広く扱いつつユーザーが手に入れやすい状態で提供すれば、たくさんの人に閲覧してもらえます。根本的にGoogleが評価できるサイト作りを心がけましょう。

また、従来の対策で行われていた、タイトルやコンテンツ内容にSEOキーワードを含めることも忘れずに行ってください。ユーザーが求める情報が含まれれば、その分評価が高くなります。

ほかのコンテンツを丸写しした状態だと評価が下がってしまうため、独自の意見や知識・言い回しなどのオリジナル要素を盛り込むのも忘れないようにしましょう。

読みやすいコンテンツを作成する

BERTやMUM対策で重要なのが、わかりやすい文章を記載することです。具体的には誤字脱字をなくし、無駄に長い文章を避けるなどの対策です。校閲・校正作業が、これまで以上に重要になります。

わかりにくい文章だと、BERTやMUMが内容を正確に理解できません。検索語句のニュアンスと文脈の関係性が認識しにくい状態だと、新しい検索アルゴリズムでは低い評価をつけられてしまいます。

コンテンツを作成するときは、まったく知識のない人が読んでもわかりやすい内容であるかを意識しましょう。完成したらすぐに登校するのではなく、一晩置いて文章を読み直すのもおすすめです。

まとめ

BERTはGoogleが生み出した新しいNLPです。単語だけでなく文脈を理解することで、より複雑な検索や指示に対応できます。現在の検索エンジンにも導入されており、SEOにも小さいながらも影響を与えています。

とはいえ、新しい対策を実施する必要はありません。今までと同様ユーザーのことを意識して読みやすく、有益な情報を記載している内容を作成すれば、検索順位を高い状態で保てます。

新しい技術や手法が誕生していることを意識しつつ、今まで以上にユーザー目線でのコンテンツ作りを心がけましょう。

NEXERは各社の課題に合わせた
専用SEOプランをご提案いたします！

• どんな対策をすればいいかわからない…
• 最適な対策キーワードがわからない
• 施策実行のリソースが不足している

SEOコンサルタントが貴社サイトの課題を洗い出し、最適なSEO対策を一緒に考えます。

SEO無料相談はこちら

監修者プロフィール

NEXER 工藤6つのオウンドメディアの運営責任者

詳細プロフィールはこちら

2017年NEXERに入社。前職はスマートフォンの販売員。
NEXER入社後はSEOコンサルティング営業部、クライアントマーケティング事業部を経て、現在はオウンドメディアを6つ運営&管理の責任者を任されている。
新規で1から立ち上げた2つのサイトは年間100万PV以上のメディアに成長。
既存のオウンドメディアと、サイト買収をおこなった3つのサイトは、運用当初に比べて3倍～5倍の収益を出すメディアに成長。
さらに、2022年12月より新規でもう1サイトに挑戦中。

この記事の監修者が手掛けたSEO記事一覧