人工知能技術の研究開発組織「AI Lab」研究員の関井大気および邊土名朝飛らによる論文2本が「COLING 2025」にて採択されたことをお知らせいたします。
なお、邊土名らによる論文は東北大学の赤間怜奈助教との共同研究成果となります。
なお、邊土名らによる論文は東北大学の赤間怜奈助教との共同研究成果となります。
■採択された2本の論文について
近年、インターネット広告市場の急速な成長に伴い、広告効果を最大化することを目的として、AI技術を活用したクリエイティブ制作や運用の効率化が注目されています。さらに、インターネット上だけでなく、DX推進やマーケティング支援など、私たちが生活する実世界にAIサービスを実装する取り組みも活発におこなわれています。
2023年に発足したActivity Understanding（行動理解）チームにおいては、実世界における人々の行動を理解することで、より効果的なAIサービスを提供することを目指し研究を行っており、既に当社が展開するリテールメディア事業において、小売実店舗向け動線推定システムに関する研究をはじめとした社会実装を進めてまいりました。
また行動理解のためのマルチモーダルAIに関する研究プロジェクトを立ち上げ、コンピュータビジョンをはじめ自然言語処理、音声認識など、分野やモダリティの壁を超えたマルチモーダルな基盤モデルの構築にも取り組んでいます。
2023年に発足したActivity Understanding（行動理解）チームにおいては、実世界における人々の行動を理解することで、より効果的なAIサービスを提供することを目指し研究を行っており、既に当社が展開するリテールメディア事業において、小売実店舗向け動線推定システムに関する研究をはじめとした社会実装を進めてまいりました。
また行動理解のためのマルチモーダルAIに関する研究プロジェクトを立ち上げ、コンピュータビジョンをはじめ自然言語処理、音声認識など、分野やモダリティの壁を超えたマルチモーダルな基盤モデルの構築にも取り組んでいます。
「Flashback: Memory Mechanism for Enhancing Memory Efficiency and Speed in Deep Sequential Models」
著者：関井大気 (サイバーエージェント AI Lab)
「生成AI」を支える基盤技術の一つに、大規模言語モデルやマルチモーダルモデルで用いられる深層系列処理モデルがあります。特に、Transformerと呼ばれるモデルは、生成AIの発展において極めて重要な役割を果たしています。
本研究では、計算資源が限られた環境でのアプリケーション開発や、より長い系列長・大規模なデータ処理を可能にするため、深層系列処理モデルの高速化と省メモリ化に取り組みました。具体的には、深層系列処理モデルの隠れ層における情報の記憶を効率化する手法を提案し、Transformer++やMambaなどのモデルを用いた常識推論タスクの実験において、精度を維持しつつ、モデルを高速化・省メモリ化できることを示しました。
＜論文リンク＞TBA
著者：関井大気 (サイバーエージェント AI Lab)
「生成AI」を支える基盤技術の一つに、大規模言語モデルやマルチモーダルモデルで用いられる深層系列処理モデルがあります。特に、Transformerと呼ばれるモデルは、生成AIの発展において極めて重要な役割を果たしています。
本研究では、計算資源が限られた環境でのアプリケーション開発や、より長い系列長・大規模なデータ処理を可能にするため、深層系列処理モデルの高速化と省メモリ化に取り組みました。具体的には、深層系列処理モデルの隠れ層における情報の記憶を効率化する手法を提案し、Transformer++やMambaなどのモデルを用いた常識推論タスクの実験において、精度を維持しつつ、モデルを高速化・省メモリ化できることを示しました。
＜論文リンク＞TBA
また、Interactive Agentチームにおいては人間の行動を促す対話エージェントの実現を目指し接客対話に関する研究開発を行うとともに、2021年にAI Labの各研究チームの合同組織である「完全自動対話研究センター」を設立するなど対話AI研究にも注力してまいりましたが、2022年より、東北大学データ駆動科学・AI教育研究センターと共同研究を開始し、自然言語処理や人工知能に関する研究を専門とする赤間怜奈助教と共に「ターゲットタスクの達成率を高める接客対話AIの構築」に取り組んでまいりました。
「User Willingness-aware Sales Talk Dataset」
著者：邊土名朝飛 (サイバーエージェント AI Lab)、馬場惇 (サイバーエージェント AI Lab)、佐藤志貴 (サイバーエージェント AI Lab)、赤間怜奈 (東北大学)
近年、商業施設、宿泊施設、飲食店をはじめとする接客業務において、アバターやロボットを用いた新たな接客手法が拡大しています。セールストークを対話システムで自動化することができれば、ユーザーは時間や場所にとらわれず商品について相談することが可能になり、また企業も広告のランディングページやECサイトといったこれまで人間のセールスパーソンが介在できない領域においても営業活動を展開できるようになるなど、企業・ユーザー双方に多くのメリットがあります。
本研究では、「優れたセールストーク」を実行できるセールス対話システム実現の第一歩として、商品販売を対象としたセールス対話データセットを構築しました。対話データを収集するにあたり、ユーザーの対話途中離脱を考慮した人間-システム間の対話のシナリオにするなど、セールス対話システムの想定稼働環境に可能な限り近づけた対話設定・環境を構築しました。さらに本データセットはユーザーの購買意欲を高めるセールス対話戦略のきめ細やかな分析や、ユーザーの反応に応じて柔軟に対話戦略を切り替える効果的なセールス対話システムの開発につながることが期待できます。
実際のユーザー評価実験においても、本データセットを分析して得られたセールス対話戦略の知見を取り入れてファインチューニングしたLLM（GPT-3.5）が、単純にファインチューニングしたLLMよりもユーザーの購買意欲を高めることを示しました。
＜論文リンク＞TBA
著者：邊土名朝飛 (サイバーエージェント AI Lab)、馬場惇 (サイバーエージェント AI Lab)、佐藤志貴 (サイバーエージェント AI Lab)、赤間怜奈 (東北大学)
近年、商業施設、宿泊施設、飲食店をはじめとする接客業務において、アバターやロボットを用いた新たな接客手法が拡大しています。セールストークを対話システムで自動化することができれば、ユーザーは時間や場所にとらわれず商品について相談することが可能になり、また企業も広告のランディングページやECサイトといったこれまで人間のセールスパーソンが介在できない領域においても営業活動を展開できるようになるなど、企業・ユーザー双方に多くのメリットがあります。
本研究では、「優れたセールストーク」を実行できるセールス対話システム実現の第一歩として、商品販売を対象としたセールス対話データセットを構築しました。対話データを収集するにあたり、ユーザーの対話途中離脱を考慮した人間-システム間の対話のシナリオにするなど、セールス対話システムの想定稼働環境に可能な限り近づけた対話設定・環境を構築しました。さらに本データセットはユーザーの購買意欲を高めるセールス対話戦略のきめ細やかな分析や、ユーザーの反応に応じて柔軟に対話戦略を切り替える効果的なセールス対話システムの開発につながることが期待できます。
実際のユーザー評価実験においても、本データセットを分析して得られたセールス対話戦略の知見を取り入れてファインチューニングしたLLM（GPT-3.5）が、単純にファインチューニングしたLLMよりもユーザーの購買意欲を高めることを示しました。
＜論文リンク＞TBA
■今後
これらの研究の成果は、DX推進に向けた「マルチモーダルデータの理解」などへの活用や、Webページ上のチャットシステムや実店舗に設置されている接客対話エージェントへの活用が期待されます。今後も「AI Lab」では効率的かつ効果的なAIサービスの実世界への社会実装に向けて、研究・開発に努めてまいります。