成長し続けるコミュニティを、AIと共に守る。「ピグパーティ」のボイスチャット健全化プロジェクト

── まず、「ピグパーティ」とボイスチャット機能について教えてください。

松岡：「ピグパーティ」はアバターを使って交流を楽しめるコミュニティサービスで、サービス開始から11年目を迎えます。「ピグパーティ」には複数人で会話するグループ機能があり、2021年にボイスチャット機能が追加されました。最初は限定公開だったのですが、ユーザーからの評判がとても高く、2024年に全ユーザーへ解放することになりました。ボイスチャットは現在も利用者が増え続けており、コミュニティの重要な機能の一つになっています。

── ボイスチャットをユーザーに提供したことで、運営面でどのような変化がありましたか？

松岡：ボイスチャットの利用者が広がるにつれ、コミュニティの健全化をさらに拡充していく必要性が高まりました。なぜなら、利用者の増加に伴い、人の目だけでコミュニティ全体を見守り続けることは現実的ではなくなっていたからです。誘い出しや個人情報の漏洩など、コミュニティを危険にさらす可能性のある発言からサービスを守ることが最優先で向き合うべき課題でした。

実はこれまでも、ユーザーの行動ログをもとに被害リスクの高い行動をAIで検知し、注意喚起を行うなど、コミュニティの健全化に取り組んできました。

── AIを活用したボイスチャット健全化の仕組みは、どのように実現していったのでしょうか。

岡：AIを活用した仕組みを実用化するうえでは、精度・コスト・安全性の3つを同時に成立させる必要がありました。

まず前提として、私たちがAIに判定させているのは会話全体の内容ではありません。「ピグパーティ」の利用規約に照らして、特定のユーザー自身の発話に問題となる内容が含まれているかどうかを確認しています。

例えば、個人情報のやり取りや、コミュニティの安全を脅かす可能性のある発言です。音声認識機能で文字起こしを行ったあと、そのユーザーの発言をAIが判定する仕組みになっています。

会話の相互関係や全体の文脈をAIが分析しているわけではなく、利用規約に基づいて発言単位で判定しています。まずは実際のデータで検証を行い、人間による判断とAIの判定結果が概ね一致していることを確認しました。

ただ、精度を確認できたとしても、そのままでは実用化できません。ボイスチャットは利用者が多く、コミュニティ全体を対象に監視しようとすると膨大な音声データを処理する必要があります。そのため、AIを実用化するにはコストを抑えながら必要な精度を維持しなければなりませんでした。

そこでまず、音声データのどこに無駄があり、どこを改善すればコストを下げられるのかを詳しく分析しました。

── この取り組みへの投資判断は、どのような考え方のもとで行われたのでしょうか。

松岡：コミュニティの健全化は、サービスを提供するうえでの大前提です。ボイスチャットはユーザーからの需要が高く、利用者は今も増え続けています。

より多くのユーザーが安心して楽しめる環境を維持するためには、広がるコミュニティに対応できる仕組みが欠かせません。これはコストの問題よりも先にある、サービスとして果たすべき責任だと考えています。

事業課題として、コミュニティを守るための監視体制の強化とAI活用の実現を重要なテーマとして捉えていました。

── このプロジェクトでは、どのような成果指標を設定したのでしょうか。

松岡：成果指標として設定したのは2点です。インフラコストをどこまで抑えられるか、そして監視カバレッジをどこまで広げられるかです。

AIを導入したからといって、違反件数がゼロになるかどうかを直接測ることはできません。一方で、コストとカバレッジは、AIを活用したボイスチャット健全化の取り組みが適切に機能しているかを客観的に示せる指標です。そのため、この2つを成果指標として開発を進めました。

岡：実際の成果を示す指標の一つが、月170件という検知実績です。膨大な会話の中から個人情報や出会いにつながる発言など、コミュニティの安全を脅かす可能性のある発言を継続的に検知できるようになりました。

── 今回の取り組みを通じて得られた学びや、今後の展望について教えてください。

松岡：今回の取り組みを通じて強く感じたのは、コミュニティを守る仕組みは開発チームだけでは作れないということです。

AIが検知した結果を、実際にコミュニティを見守っている監視チームに評価してもらい、そのフィードバックをすぐに改善へ反映する。そうしたサイクルを繰り返すことで、少しずつ精度を高めてきました。

今後は監視カバレッジをさらに広げるだけでなく、新しいコミュニティ機能を提供する際にも、こうした知見を最初から組み込める体制を目指しています。コミュニティを守る仕組みそのものを、サービスと一緒に育てていきたいと考えています。

岡：今回の開発では、音声処理、AI判定の設計など、コミュニティ健全化に特化した知見が数多く蓄積されました。

こうした知見はボイスチャットだけでなく、さまざまなコミュニティサービスにも応用できる可能性があります。その一部については特許出願も進めており、技術として残していきたいと考えています。

音声コミュニティの健全化は、まだ発展途上の領域です。今回の取り組みが、その分野を前進させる一歩になればと思っています。

── このプロジェクトを通じて、エンジニアとしての思考はどう変わりましたか。

岡：あるとき、AIが「違反の可能性がある」と判定した発言を、人間の監視チームが半分ほどしか採用しない状況が続いていました。

こういう場合、多くのエンジニアは「AIの精度が悪い」と考えて改善に取り組むと思います。でも、私が最初に確認したのは別のことでした。「そもそも、人間同士で判断は一致しているのだろうか」という点です。

そこで監視担当者3名に同じ発言を個別に判定してもらったところ、やはり判断が大きく分かれていました。問題はAIではなく、人間側の判断基準が揃っていなかったのです。

AIは与えられた問いに対して答えを返してくれます。しかし、「何を問うべきか」「本当に解決すべき課題は何か」を考えるのは人間の役割です。

AIを使いこなす力ももちろん大切ですが、それ以上に重要なのは、AIに渡す前に正しい問いを立てる力だと感じています。このプロジェクトを通じて、その重要性を改めて実感しました。

── サービスエンジニアとして、このプロジェクトで成長できたエピソードを教えてください。

松岡：このプロジェクトで一番印象に残っているのは、開発チームだけでは完結しなかったことです。

監視チームと一緒に検証を重ねながら仕組みを育てていく中で、自分たちのエンジニアリングがコミュニティの安全に直接つながっていることを実感しました。

AIによってコードを書くスピードはこれからさらに上がっていくと思います。ただ、その分だけ「誰のために、何を作るのか」を理解することの重要性は増していくはずです。

月数百件という実績には、テクノロジーによってユーザーを守ることができているという実感があります。それを感じられたことが、このプロジェクトで得られた一番大きな学びでした。

AI時代になっても、課題を見つけ、問いを立て、現場と向き合いながら解決していくことの価値は変わりません。むしろ、そうした力がこれまで以上に求められていくと思います。

「ピグパーティ」には、実際のサービスやユーザーに向き合いながら、まだ答えのない課題に挑戦できる環境があります。コミュニティを守る仕組みづくりもその一つです。そうしたテーマに面白さを感じるエンジニアにとって、挑戦しがいのある環境だと思います。