効果を出す「AIの共同研究」
東京工業大学 奥村・高村研究室と創る自然言語処理の未来

Profile

• 

  【インタビュアー】
  サイバーエージェント AILab リサーチサイエンティスト
  張培楠
  2018年に株式会社サイバーエージェント AI Lab に入社後、強化学習を使った広告効果を最大化する広告文の自動生成や、多様な広告文生成、生成文の人手評価など、社内の広告に関わる自然言語処理タスクに従事。同時に共同研究を通じた産学連携を推進。

自然言語処理界をリードする研究室と挑む産学連携

張：先生方の研究室は多くの共同研究を行なっています。当社とは2016年から取組みが始まりましたが、企業と共同研究をするメリットはどのような点でしょうか？

奥村：一般的には、「研究成果が世の中に出ること」が一番メリットとして大きいのではないでしょうか。また、「研究がサービスの中で活用される」だけではなく「研究内容に新規性があり、アカデミックにも評価される」その両方が同時に達成できると、価値のある共同研究になると思っています。

「広告文の自動生成」共同研究の成否を分けるポイント

張：現在「広告文の自動生成」というテーマで共同研究を行っていますが、開始前に注目していた技術や、広告ならではの課題や面白さなどへ期待はありましたか？

奥村：技術的には、今はTransformerとか、それからBERTに代表されるいわゆる事前学習したモデルを使うのが性能的にもよくなってきているのが事実だと思うので、それらを活かした研究などは検討していました。

高村：流行りのニューラルネットワークは使う前提でしたが、広告なので特定の技術というよりは、「カスタマイゼーション」が大事かなと思っていました。その人に合った広告テキストを制作するという目標が明確で、自動生成が役に立つ分野なので、「広告文の生成」というテーマはこちらにとってもチャンスといいますか、やりがいのある課題でしたね。

「企業」と「大学」共同研究における理想の形

張：「この方向性で大丈夫かな」という疑問が生じた際も、その都度、奥村先生・高村先生・上垣外先生のガイドがあったおかげで、とてもスムーズに研究が進んだなと実感しています。もしサイバーエージェントにリクエストがあればぜひ教えてください。

高村：リクエストというより感想になるのですが、サイバーエージェントには技術力がある方がたくさんいるので、すごくやりやすかったのが１つと、あとは研究開発の場と実応用の場が近いという印象がありました。生成した広告が本当にお客様が欲しい広告なのか・やったものに本当に価値があるのかという評価に関する連携が取りやすいのかなと感じています。

アカデミアと企業が一緒に研究をするのは、一般的にはいろんな問題が生じてコミュニケーションが取れないこともありますが、今回は張さんがフロントに立ってくださったこともあり、本当にうまくいったんじゃないかなと思っています。

上垣外：そうですね、「知識量に対する差があまりない」というのは大きかったと私も思います。それが非常に心地がよいと感じたのと、あと「速さ」がすごいなと思いました。技術を取り入れるのも速いし、動くのも速いしフィードバックも速い。

きっとこうしたら、こうなるだろうというものの検証というものが早期に終わるんです。実態の問題点に到達するのが非常に速くて、その問題点に対する解決策というものもきれいに決まっていくという、非常にいい流れがあると思います。ぜひこのサイバーエージェントの強みは、これからも活かしていただけるといいのではないかなと、思いました。

自然言語処理の未来

張：今後はどんなことを一緒に取り組めると面白そうでしょうか。

上垣外：プロダクトの課題や今後実現したいこと議論しつつ、継続して取り組むことで、それがどんどん研究になっていくと面白そうだなと思っています。

奥村：言語処理を実際にプロダクトに実装し使っていただけるというのは非常にありがたいと思っています。言語処理技術もそれなりに使えるようになってきていると思うので、これからも使えるものを出していきたいなと思います。

張：僕自身も、すごく良いチームで今取り組みができているので、これからも、プロダクト応用とアカデミックへの貢献、両方叶えていきたいです。
最後に、先生方が「言語処理」を通して今後成し遂げたいことを聞かせてください。

上垣外：直近で思っていることは、「機械にストーリーを理解させたい」という思いがあります。今、皆さんもGoogle翻訳などを使っているように、何か文を入れたら、ほかの言語の文にすることは出来ますが、例えば、小説を丸ごと翻訳するだとか、そういったことはできないわけです。ただ人間って、長い文章を読んだ後で、何かしら得た思いを頭の中に保存しているわけじゃないですか。そういったことを同じく機械にさせることができれば、より人間に近いような処理ができるのではと考えております。そうすると、飛躍的にいろんな文章が範疇に収まっていくと思うので、自然言語処理が対処できるものの可能性の拡大ができるのでは、と考えています。