このページの本文へ移動

Menu

メニュー

  • 企業 
  • ニュース 
  • サービス 
  • 技術・デザイン 
  • 採用 
  • 投資家情報 
  • サステナビリティ 
  • CyberAgent Way 

 

プレスリリース

AI Lab、機械学習分野のトップカンファレンス「AISTATS 2023」にて2本の主著論文採択

ーマルチエージェント環境における学習手法 /確率分布間の距離尺度を提案 ー

広告

株株式会社サイバーエージェント(本社:東京都渋谷区、代表取締役:藤田晋、東証プライム市場:証券コード4751)は、人工知能技術の研究開発組織「AI Lab」に所属する研究員の阿部拳之、蟻生開人および加藤真大らによる2本の主著論文が、機械学習分野の国際会議「AISTATS」※1 に採択されたことをお知らせいたします。

「AISTATS」(International Conference on Artificial Intelligence and Statistics) は世界中の研究者によって毎年開催される国際会議で、機械学習の分野において権威のある会議の1つです。このたび「AI Lab」から採択された2本の論文は、2023年4月に開催される「AISTATS 2023」にて発表を行うほか、その会議録である「Proceedings of Machine Learning Research」※2 に掲載される予定です。


■背景
「AI Lab」ではマーケティング全般に関わる幅広いAI技術を研究・開発しており、大学・学術機関との産学連携を強化しながら様々な技術課題に取り組んでいます。なかでも、機械学習領域における研究では、「マルチエージェント環境における学習」や「データの確率密度の比(密度比)」など、機械学習のビジネス応用を広めるにあたって重要なテーマに取り組んでおります。
当社では、この領域に対して「AAMAS 2021」・「UAI 2022」・「ICML2021」といった権威ある国際会議にて発表を行うなど、積極的な学術貢献を行ってまいりました。

■採択された2本の主著論文について

「Last-Iterate Convergence with Full and Noisy Feedback in Two-Player Zero-Sum Games」
Kenshi Abe, Kaito Ariu, Mitsuki Sakamoto, Kentaro Toyoshima, Atsuishi Iwasaki

著者: 阿部拳之(サイバーエージェント AI Lab)、蟻生開人(サイバーエージェント AI Lab)、坂本充生(電気通信大学)、豊島健太郎(電気通信大学)、岩崎敦准教授(電気通信大学)
今回採択された共著論文「Last-Iterate Convergence with Full and Noisy Feedback in Two-Player Zero-Sum Games ※3 では、マルチエージェント環境において得られる観測が不完全な場合にも利用可能な学習手法を提案しました。

多くの機械学習タスクでは、学習時間の短縮やシステム制約のため、意思決定モデルの更新に用いる勾配情報にノイズが加わった不完全な形で観測される場合があり、マルチエージェント環境における学習においてもこのような状況は頻繁に発生します。完全な観測が得られる場合において最適なモデルへと収束することが保証されている学習手法であっても、このような不完全な観測下ではモデルの学習が不安定となることが知られています。

本研究では、観測した不完全な勾配情報を特定の方向へとわずかに摂動させ、それを元にモデルの更新を行うアルゴリズムを提案しました。本提案手法の元では、観測される勾配情報が不完全な場合においても、学習させるモデルが最適なモデルの近傍へと収束することを理論解析によって示しました。また、摂動させる方向を適応的に調整することで、学習させるモデルを最適なモデルそのものへと収束することを理論解析・実験の双方によって示しました。


「Unified Perspective on Probability Divergence via the Density-Ratio Likelihood: Bridging KL-Divergence and Integral Probability Metrics」
Masahiro Kato, Masaaki Imaizumi, Kentaro Minami

著者: 加藤真大(サイバーエージェント AI Lab)、今泉允聡(東京大学)、南賢太郎
今回採択された共著論文「Unified Perspective on Probability Divergence via Maximum Likelihood Density Ratio Estimation: Bridging KL-Divergence and Integral Probability Metrics ※4 では、2つのデータセットが得られる状況で、それらのデータを生成する確率分布間の「距離」を、密度比モデルの尤度で計測することを提案しました。

これまで機械学習や統計学では、確率分布間の「距離」の測り方について、様々な尺度が提案されてきました。加えて、それらの尺度同士がどのように関連しているのかについての研究も行われてきました。
本研究では、2つのデータを生成する確率密度の比である密度比を考え、その密度比のモデルの妥当性(尤度)をデータを通じて測ることで、その尤度が確率分布間の「距離」として機能することを示しました。
私たちは、その新しい確率分布間の「距離」を密度比計量(density ratio metrics)と名づけました。

さらに、その密度比計量から、今までに使われてきた確率分布間の差異を測る重要な指標であるカルバック・ライブラー情報量(Kullback–Leibler divergence)と積分確率計量(Integral probability metrics)を導出できることを示しました。このように、密度比計量の提案・解析により、従来様々な応用で使われてきた確率分布間の「距離」についての理解を深めたことが、この研究の主たる貢献になります。
また、密度比計量を用いる応用例として、密度比推定・画像生成・二標本検定・異常検知を実験で紹介しました。


■今後
今回提案した手法は、機械学習の実応用において幅広く適用が可能であり、広告クリエイティブ素材の自動生成や推薦システムなどへの貢献が期待されます。「AI Lab」は今後も競争力のあるプロダクトの核となるような技術を実現すべく、研究・開発に努めてまいります。


※1 「AISTATS」International Conference on Artificial Intelligence and Statistics
※2  「Proceedings of Machine Learning Research」
※3 Kenshi Abe, Kaito Ariu, Mitsuki Sakamoto, Kentaro Toyoshima, Atsushi Iwasaki. “Last-Iterate Convergence with Full and Noisy Feedback in Two-Player Zero-Sum Games.” AISTATS 2023.
※4 Masahiro Kato, Masaaki Imaizumi, Kentaro Minami.“Unified Perspective on Probability Divergence via Maximum Likelihood Density Ratio Estimation: Bridging KL-Divergence and Integral Probability Metrics.”AISTATS 2023.