「学際的情報科学センター」で学際的な研究開発に従事する高野雅典と東京大学 鳥海不二夫教授・西口真央研究員の論文「Reducing Sexual Predation and Victimization Through Warnings and Awareness among High-Risk Users」が国際論文誌「Journal of Computational Social Science」に採択されました。学際的情報科学センターでは、社外の研究機関と協働しながら、情報科学とその隣接領域の学術的な知見に基づき、主に当社のメディア事業における研究開発に取り組んでいます。
計算社会科学は2000年代後半以降、インターネットの普及拡大とともに急速に発展している社会科学と計算機科学の融合分野で、「Journal of Computational Social Science」は2018年に創刊された、計算社会科学分野における世界初の国際的な英文査読誌です。
計算社会科学は2000年代後半以降、インターネットの普及拡大とともに急速に発展している社会科学と計算機科学の融合分野で、「Journal of Computational Social Science」は2018年に創刊された、計算社会科学分野における世界初の国際的な英文査読誌です。
研究の背景と目的
オンラインコミュニケーションの普及に伴い、特に若年層をターゲットとした性的搾取のリスクは社会的な課題となっています。当社は、ユーザーが安心してサービスを利用できる環境を提供することが企業の重要な責務であると考え、この問題に積極的に取り組んでいます。本研究は、明確な規約違反が発生する前の初期段階でリスクを検知し、被害を未然に防ぐことを目的としました。
研究概要と主な成果
本研究では、深層学習技術（グラフニューラルネットワーク）を用いて「ピグパーティ」ユーザーの行動ログやソーシャルグラフを分析し、性的搾取に関連する違反行為を犯すリスク、または被害に遭うリスクが高いユーザーを特定しました。特定された高リスクユーザーに対し、注意喚起や啓発を促すメッセージを送信する介入を実施。その結果、以下の成果が大規模なランダム化比較試験により実証されました。
・女性ユーザーにおける違反行為・被害の顕著な低減: 介入を受けた女性ユーザーは、受けていないユーザーと比較して、違反行為の発生率が最大21.57%、被害に遭う率（アバターチャット）が最大11.11%低減しました。
・効果の持続性: 上記の効果は12週間にわたり持続することが確認されました。
・ユーザーアクティビティへの影響なし: 介入によるユーザーのサービス利用日数の減少は見られず、安全性を高めつつユーザー体験を損なわないアプローチであることを確認しました。
本研究成果の発見のビジネスへの貢献は以下です。
1. 従来型の事後対応中心の対策から、AIによる「予測と予防」へと対策を高度化します。これにより、ユーザー、特に若年層がより安心してサービスを楽しめる環境を提供できるようになります。
2. プロアクティブな安全対策は、プラットフォームの健全性を長期的に維持し、安定したサービス運営基盤を強化します。
3. 「ピグパーティ」で得られたリスク検知や介入に関する知見・技術は、当社が運営する他の多様なサービスへも応用可能であり、グループ全体のサービス品質と安全性の向上に貢献します。
・女性ユーザーにおける違反行為・被害の顕著な低減: 介入を受けた女性ユーザーは、受けていないユーザーと比較して、違反行為の発生率が最大21.57%、被害に遭う率（アバターチャット）が最大11.11%低減しました。
・効果の持続性: 上記の効果は12週間にわたり持続することが確認されました。
・ユーザーアクティビティへの影響なし: 介入によるユーザーのサービス利用日数の減少は見られず、安全性を高めつつユーザー体験を損なわないアプローチであることを確認しました。
本研究成果の発見のビジネスへの貢献は以下です。
1. 従来型の事後対応中心の対策から、AIによる「予測と予防」へと対策を高度化します。これにより、ユーザー、特に若年層がより安心してサービスを楽しめる環境を提供できるようになります。
2. プロアクティブな安全対策は、プラットフォームの健全性を長期的に維持し、安定したサービス運営基盤を強化します。
3. 「ピグパーティ」で得られたリスク検知や介入に関する知見・技術は、当社が運営する他の多様なサービスへも応用可能であり、グループ全体のサービス品質と安全性の向上に貢献します。
今後の展望
学際的情報科学センターは、今後もAIをはじめとする最先端技術の研究開発を推進し、すべてのユーザーが安心して楽しめるより良いサービスの提供を目指してまいります。本研究で明らかになった課題（例：男性ユーザーへの効果の最適化など）についても引き続き改善に取り組み、オンラインコミュニティの安全性向上に貢献してまいります。
論文情報
掲載誌: Journal of Computational Social Science
論文タイトル: Reducing Sexual Predation and Victimization Through Warnings and Awareness among High-Risk Users
著者: 高野雅典、西口真央、鳥海不二夫
DOI: https://doi.org/10.1007/s42001-025-00399-3
論文タイトル: Reducing Sexual Predation and Victimization Through Warnings and Awareness among High-Risk Users
著者: 高野雅典、西口真央、鳥海不二夫
DOI: https://doi.org/10.1007/s42001-025-00399-3