極予測TD、独自日本語LLM「CyberAgentLM」バージョン2の実装によりテキスト自動生成機能をアップデート ー9割のアカウントにおいて生成の品質が向上ー

株式会社サイバーエージェント（本社：東京都渋谷区、代表取締役：藤田晋、東証プライム市場：証券コード4751）は、AIで効果の出せる広告テキストを予測・自動生成する「極予測TD(キワミヨソクティーディー)」において、独自の日本語LLMのバージョン2「CyberAgentLM2-7B・CyberAgentLM2-7B-Chat」※1 を実装いたしました。
その結果、先行テストでは9割のアカウントにおいて生成の品質が高まりました。

※1
当社が開発した独自の日本語LLM
「CyberAgentLM（バージョン1）」（2023年5月公開）
「CyberAgentLM2-7B・CyberAgentLM2-7B-Chat（バージョン2)」（2023年11月公開）


■背景
昨今、検索連動型広告をはじめとする運用型広告では、広告効果最大化を目的とした継続的な運用が重要とされており、当社では広告効果向上に向け、AIを活用し広告テキストの自動生成および効果の事前予測を行う「極予測TD」を2020年5月より提供しております。

これまで極予測TDでは、自社LLM技術およびGPT-4を活用した「繰り返し試行生成機能」を開発 するなど、LLMの活用を積極的に行い、広告効果向上を実現してまいりました。


■概要
このたび極予測TDでは、すでに導入済みのGPT-4や「CyberAgentLM」に加え、「CyberAgentLM2-7B・CyberAgentLM2-7B-Chat」を実装し、自動生成手法をアップデートいたしました。日本語および広告に特化した大規模言語モデルによる自動生成手法のアップデートにより、これまでよりも大量に実際に活用可能なテキスト生成を行うことが可能となりました。

極予測TDでは、社内外の大規模言語モデルを活用しており、どのモデルが適しているかを複数の指標を元に判断しております。一例として「媒体の入稿規定」に従っているか、「KW（キーワード）の含有率」などを指標としております。

先行テストの結果では、独自LLMバージョン1とバージョン2の「KWの含有率」を比較したところ、バージョン2を導入している91.1%のアカウントにおいて生成品質が高まったことが確認できました。また、生成品質が194％向上したクライアント実績が出るなど、広告効果への貢献が期待できます。

なお「極予測TD」では、独自の日本語LLMのみならず、GPT-4など汎用LLMも活用し最も効果が見込めるクリエイティブを提供しております。今後も様々な大規模言語モデルを活用することで、さらなる広告効果の向上を目指してまいります。


■今後
当社は今後も高い技術力をいかし、広告クリエイティブ・テキストにおける表現の多様性や予測精度の更なる向上を図る研究開発を進め、新しい広告クリエイティブの価値提供を目指すとともに、広告主企業のみなさまの広告効果最大化に尽力してまいります。