今年度の人工知能学会全国大会(JSAI2024) において、当社の坂本充生・野村将寛・森村哲郎(AI Lab)、伊原滉也・叶穎睿(ゲーム・エンターテイメント事業部 AI戦略本部)、田村和範(株式会社QualiArts)による2件の研究発表が全国大会優秀賞を受賞しました。
■人工知能学会全国大会について
人工知能学会全国大会はAIに関する日本最大級の学会のひとつで、年に1回開催されています。今年で38回目の開催となる学会で、機械学習から人工知能の応用の話まで幅広く発表が行われました。
人工知能学会全国大会:https://www.ai-gakkai.or.jp/jsai2024/
受賞について:https://www.ai-gakkai.or.jp/about/award/jsai_award-conf/#CONFERENCE
■人工知能学会全国大会について
人工知能学会全国大会はAIに関する日本最大級の学会のひとつで、年に1回開催されています。今年で38回目の開催となる学会で、機械学習から人工知能の応用の話まで幅広く発表が行われました。
人工知能学会全国大会:https://www.ai-gakkai.or.jp/jsai2024/
受賞について:https://www.ai-gakkai.or.jp/about/award/jsai_award-conf/#CONFERENCE
■全国大会優秀賞の受賞について
このたび全国大会優秀賞を受賞した研究は以下2件です。
①タイトル「悲観的なRLHF」
▼研究概要
大規模言語モデル(LLM)のファインチューニングには、人間のフィードバックからの強化学習(RLHF)が広く用いられています。RLHFでは報酬モデルを学習しますが、報酬モデルの推定には誤差が伴うため、過剰適応が発生しやすく、RLHFの適用を困難にしています。本研究では、この問題に対処するため、多様な報酬モデルを複数作成し、報酬の評価を悲観的に行うアプローチを提案しました。具体的には、報酬モデル間の出力のばらつきから報酬計算の確信度を評価し、確信度が低いときには悲観的に報酬を評価します。提案法の有効性を言語モデルを用いた実験により検証し、精度の向上を確認しました。
https://www.jstage.jst.go.jp/article/pjsai/JSAI2024/0/JSAI2024_4Xin213/_article/-char/ja
著者:森村 哲郎, 坂本 充生
②タイトル「『IDOLY PRIDE』におけるアイドル埋め込みを用いたユニット編成最適化」
▼研究概要
『IDOLY PRIDE』は、プレイヤーがマネージャーとしてアイドルを育成するスマートフォン向けRPGです。このゲームにおける重要な要素の一つに、ライブのためのユニット編成があります。最適なユニット編成を見つけることは、新たなアイドルの実装時にその影響を事前に把握し、ゲームのバランスを適切に調整するために非常に重要な課題です。本研究では、多種多様なアイドルの中からユニットに配置するアイドルを選択するユニット編成を組合せ最適化問題として定式化し、遺伝的アルゴリズム(GA)を用いた解法を提案しました。さらに、アイドルのライブスキル効果などのテキスト情報を最適化に利用するため、大規模言語モデル(LLM)によるテキスト埋め込みを活用したアイドルの特徴表現を開発し、それに基づく突然変異オペレータを提案しました。 『IDOLY PRIDE』のハイスコアライブにおけるシミュレーション実験により、ユニット編成最適化へのGA適用の有効性と提案手法による探索性能の改善を確認しました。
https://www.jstage.jst.go.jp/article/pjsai/JSAI2024/0/JSAI2024_3Xin273/_article/-char/ja
著者:伊原 滉也, 田村 和範, 叶 穎睿, 野村 将寛
本論文の詳細は著者紹介やコメントと共に11月に発行される学会誌に掲載予定です。
ぜひご覧ください。
①タイトル「悲観的なRLHF」
▼研究概要
大規模言語モデル(LLM)のファインチューニングには、人間のフィードバックからの強化学習(RLHF)が広く用いられています。RLHFでは報酬モデルを学習しますが、報酬モデルの推定には誤差が伴うため、過剰適応が発生しやすく、RLHFの適用を困難にしています。本研究では、この問題に対処するため、多様な報酬モデルを複数作成し、報酬の評価を悲観的に行うアプローチを提案しました。具体的には、報酬モデル間の出力のばらつきから報酬計算の確信度を評価し、確信度が低いときには悲観的に報酬を評価します。提案法の有効性を言語モデルを用いた実験により検証し、精度の向上を確認しました。
https://www.jstage.jst.go.jp/article/pjsai/JSAI2024/0/JSAI2024_4Xin213/_article/-char/ja
著者:森村 哲郎, 坂本 充生
②タイトル「『IDOLY PRIDE』におけるアイドル埋め込みを用いたユニット編成最適化」
▼研究概要
『IDOLY PRIDE』は、プレイヤーがマネージャーとしてアイドルを育成するスマートフォン向けRPGです。このゲームにおける重要な要素の一つに、ライブのためのユニット編成があります。最適なユニット編成を見つけることは、新たなアイドルの実装時にその影響を事前に把握し、ゲームのバランスを適切に調整するために非常に重要な課題です。本研究では、多種多様なアイドルの中からユニットに配置するアイドルを選択するユニット編成を組合せ最適化問題として定式化し、遺伝的アルゴリズム(GA)を用いた解法を提案しました。さらに、アイドルのライブスキル効果などのテキスト情報を最適化に利用するため、大規模言語モデル(LLM)によるテキスト埋め込みを活用したアイドルの特徴表現を開発し、それに基づく突然変異オペレータを提案しました。 『IDOLY PRIDE』のハイスコアライブにおけるシミュレーション実験により、ユニット編成最適化へのGA適用の有効性と提案手法による探索性能の改善を確認しました。
https://www.jstage.jst.go.jp/article/pjsai/JSAI2024/0/JSAI2024_3Xin273/_article/-char/ja
著者:伊原 滉也, 田村 和範, 叶 穎睿, 野村 将寛
本論文の詳細は著者紹介やコメントと共に11月に発行される学会誌に掲載予定です。
ぜひご覧ください。