AI事業本部の宮西洋輔が、PSS 2025:1st Workshop on Post-Singularity Symbiosisにて「Best Presentation Award」を受賞

AI Tech Studio ｜2025年4月22日

AI事業本部の宮西洋輔と箕谷啓太による論文が、人工知能分野のトップカンファレンス「AAAI 2025」のWorkshopであるPost-Singularity Symbiosis Workshop(以下、PSS-2025)において採択され、さらに宮西洋輔がBest Presentation Awardを受賞しました。

■ AAAIについて

「AAAI」は、世界中の様々な人工知能分野の研究者が一堂に集い毎年開催される国際会議で、「NeurIPS」「ICML」「KDD」※1などと並んで、人工知能分野で権威ある国際会議の1つです。2025年度は2025年2月25日から3月4日にかけてアメリカのペンシルバニア州・フィラデルフィアで開催されました。
公式サイト：https://aaai.org/conference/aaai/aaai-25/

■ Best Presentation Awardについて

PSS-2025に採択された12件のうち、1件に贈られたものです。

■講評

この発表は、超知能のための情報理論的分析という文脈において、「表層的意識」という新しい仮説を効果的に紹介しました。
自己回帰モデルと統合情報理論を結びつけることで、将来のAIシステムに関する潜在的リスクと評価指標について、独創的な洞察を提供しました。この発表は、PSS-2025の目的に意義のある貢献をしています。

■研究論文

「Superficial Consciousness Hypothesis for Autoregressive Transformers」
著者：宮西洋輔・箕谷啓太（サイバーエージェント AI事業本部）

本研究では、人間の意識理論を用いてAIの内部状態を評価し、事業部の様々なタスクにおけるAIの性能予測への活用を目指しました。

AIの信頼性を高めることは、AI開発における重要な課題です。特に、AIの行動を人間の意図や価値観と一致させること（AIアライメント）が求められます。将来、人間を超える「超知能（Superintelligence）」が現れた場合、この課題はさらに複雑になります。

そこで本研究では、超知能に関する以下3つの課題に対し、「表層的意識仮説」を提唱しました。
（1）実験による検証が難しいこと
（2）人間を言葉で欺く可能性があること
（3）超知能の特性が予測できないこと
この仮説は、超知能が実際の意識を持たなくても、意識があるように振る舞える可能性を示しています。

また仮説検証のため、「超知能が製作者の目的に反しない範囲で自身の目的を変更できる」というシナリオを考案し、意識レベルの指標「Φ」と言語モデル性能指標「パープレキシティ」の関連を示しました。
このシナリオを再現するため、Φの最小化とパープレキシティの最大化をGPT-2で同時に試みた結果、「表層的意識仮説」が実現可能である可能性を示す初期的な成果を得ました。

なお、本研究は技術者のスキルアップ支援を目的に一定の業務時間を使い技術の研究活動ができる CAゼミ制度における活動成果の一部となっています。

■CAゼミ制度
「ゼミ制度」とは、自由参加の勉強会とは異なり、大学における研究室やゼミのように興味関心のある研究テーマを軸にゼミ生が集まり、研究テーマに沿って活動を行う制度です。事業部やサービス単位では着手が難しい領域への技術的な取り組みや、技術者の知識向上を支援しています。
https://www.cyberagent.co.jp/techinfo/info/detail/id=25611

※1 「NeurIPS」 Neural Information Processing Systems ,「ICML」International Conference on Machine Learning ,「KDD」International Conference on Knowledge Discovery and Data Mining