学際的情報科学センターで学際的な研究開発に従事する高野雅典(株式会社サイバーエージェント)、西口真央(東京大学)、鳥海不二夫(東京大学)の共著論文「Reducing sexual predation and victimization through warnings and awareness among high-risk users」が、2025年度電気通信普及財団賞においてテレコム学際研究賞 奨励賞を受賞しました。
学際的情報科学センターでは、社外の研究機関と協働しながら、情報科学とその隣接領域の学術的な知見に基づき、主に当社のメディア事業における研究開発に取り組んでいます。
電気通信普及財団賞は、情報通信のさらなる発展に資する優れた著作や研究論文を表彰する賞です。この度受賞した論文は、オンライン上の違反行為や、トラブルになりかねない行動に対し、情報科学によるリスク予測と心理学に基づく介入を組み合わせ、商用サービス上で予防的介入の有効性を実証した研究です。
学際的情報科学センターでは、社外の研究機関と協働しながら、情報科学とその隣接領域の学術的な知見に基づき、主に当社のメディア事業における研究開発に取り組んでいます。
電気通信普及財団賞は、情報通信のさらなる発展に資する優れた著作や研究論文を表彰する賞です。この度受賞した論文は、オンライン上の違反行為や、トラブルになりかねない行動に対し、情報科学によるリスク予測と心理学に基づく介入を組み合わせ、商用サービス上で予防的介入の有効性を実証した研究です。
概要
本研究では、深層学習技術(グラフニューラルネットワーク)を用いて「ピグパーティ」ユーザーの行動ログやソーシャルグラフを分析し、青少年保護の観点で問題となる行為のリスク、または被害に遭うリスクが高いユーザーを特定しました。特定された高リスクユーザーに対し、注意喚起や啓発を促すメッセージを送信する介入を実施。その結果、以下の成果が大規模なランダム化比較試験により実証されました。
・女性ユーザーにおける違反行為・被害の顕著な低減: 介入を受けた女性ユーザーは、受けていないユーザーと比較して、違反行為の発生率が最大21.57%、違反行為を受ける確率(アバターチャット)が最大11.11%低減しました。
・効果の持続性: 上記の効果は12週間にわたり持続することが確認されました。
・ユーザーアクティビティへの影響なし: 介入によるユーザーのサービス利用日数の減少は見られず、安全性を高めつつユーザー体験を損なわないアプローチであることを確認しました。
本研究成果の発見のビジネスへの貢献は以下です。
1. 従来型の事後対応中心の対策から、AIによる「予測と予防」へと対策を高度化します。これにより、ユーザー、特に若年層がより安心してサービスを楽しめる環境を提供できるようになります。
2. プロアクティブな安全対策は、プラットフォームの健全性を長期的に維持し、安定したサービス運営基盤を強化します。
3. 「ピグパーティ」で得られたリスク検知や介入に関する知見・技術は、当社が運営する他の多様なサービスへも応用可能であり、グループ全体のサービス品質と安全性の向上に貢献します。
・女性ユーザーにおける違反行為・被害の顕著な低減: 介入を受けた女性ユーザーは、受けていないユーザーと比較して、違反行為の発生率が最大21.57%、違反行為を受ける確率(アバターチャット)が最大11.11%低減しました。
・効果の持続性: 上記の効果は12週間にわたり持続することが確認されました。
・ユーザーアクティビティへの影響なし: 介入によるユーザーのサービス利用日数の減少は見られず、安全性を高めつつユーザー体験を損なわないアプローチであることを確認しました。
本研究成果の発見のビジネスへの貢献は以下です。
1. 従来型の事後対応中心の対策から、AIによる「予測と予防」へと対策を高度化します。これにより、ユーザー、特に若年層がより安心してサービスを楽しめる環境を提供できるようになります。
2. プロアクティブな安全対策は、プラットフォームの健全性を長期的に維持し、安定したサービス運営基盤を強化します。
3. 「ピグパーティ」で得られたリスク検知や介入に関する知見・技術は、当社が運営する他の多様なサービスへも応用可能であり、グループ全体のサービス品質と安全性の向上に貢献します。
論文
・論文名:Reducing sexual predation and victimization through warnings and awareness among high-risk users
・著者:高野雅典(株式会社サイバーエージェント)、西口真央(東京大学)、鳥海不二夫(東京大学)
・DOI: 10.1007/s42001-025-00399-3
・URL: https://doi.org/10.1007/s42001-025-00399-3
・著者:高野雅典(株式会社サイバーエージェント)、西口真央(東京大学)、鳥海不二夫(東京大学)
・DOI: 10.1007/s42001-025-00399-3
・URL: https://doi.org/10.1007/s42001-025-00399-3
学際的情報科学センターは今後も、より安心して利用いただけるサービス運営につながるよう、外部の研究機関と協働し、情報科学とその隣接領域における学術的な知見に基づいた研究開発に努めてまいります。