企業の課題をAIプロダクトで解決。「AIの民主化」を目指すデータサイエンティストが挑んだ技術的ハードル

── 友松さんが開発にかかわっている株式会社AI Shiftのプロダクトについて教えてください

私はデータサイエンティストとして、2018年に新卒入社し、AI事業本部に配属されました。入社以来、子会社である株式会社AI Shiftに所属しています。

AI Shiftはミッションに「AIを民主化する」と掲げているように、AIを必要とするクライアント企業が、AIを最適かつ簡単にビジネスシーンに活用できる社会を目指しています。

事業として、カスタマーサポート向けのチャットボットサービス「AI Messenger Chatbot」、電話応対業務をDXするボイスボットサービス「AI Messenger Voicebot」、生成AIを活用しオペレーターとお客様の対話を自動要約し、アフターコールワークの削減やVoC分析への活用を行える「AI Messenger Summary」等のラインナップがあります。加えて、2023年12月にリリースされ注目を集めているのが、プロンプト不要でMicrosoft TeamsやWebブラウザ上で簡単に活用可能な業務改善プラットフォーム「AI Worker」です。

これらのAIプロダクトは、導入から運用、業務最適化のチューニングに至るまで、ワンストップでクライアント企業の業務改善をサポートすることが特徴です。

2019年に設立したAI Shiftですが、その主力である「AI Messenger」シリーズの前身となるプロダクトを含めると、内定者時代から一貫して自然言語処理を活用したサービス開発に関わってきました。

── 自然言語処理と音声対話システム開発に長年取り組んできたAI Shiftにとって、昨今の生成AI関連の技術をどう捉えていますか？

特に、OpenAI社がリリースするプロダクトのインパクトは大きく、同時に「AI ShiftがリリースしているAIプロダクトにどう活かすか？」が社内の議論のテーマとなりました。

2023年春にOpenAI社が毎週のようにAPIやプロダクトをアップデートしていた頃、我々もChatGPTをはじめとするOpenAI API等を既存プロダクトに導入可能かどうかの技術検証を重ねてきました。同年夏には、いくつかのPoC(Proof of Concept)開発の結果「AI Messenger Voicebot」が得意としていたコールセンター向けに、新規でAIプロダクトを提供できないかという仮説に至りました。

注目したのは、コールセンターにおいて、電話オペレーターが顧客との対話後に、対話メモを残す業務です。メモの内容やフォーマットの一貫性を担保する必要がありましたが、そのクオリティは人によって濃淡がありました。我々はこれをビジネス的な課題ととらえ、より具体的なPoC開発を進めました。

それが、2023年10月にリリースに至った「AI Messenger Summary」です。生成AIを活用しオペレーターとお客様の対話を自動要約する新しいAIプロダクトです。

「AI Messenger Summary」では、これまでボイスボットで培ってきた音声処理技術にLLMを組み合わせることによってオペレーターと顧客の会話や専門用語を含む応対を速く、精度高く要約する事が可能になっています。

── 生成AIと同様に企業のデジタルトランスフォーメーション(DX)もトレンドにある中、AIを手掛ける各社が、クライアント企業のビジネス課題に注目しています。AI Shiftならではのアプローチを教えてください。

サイバーエージェントのパーパスに「あらゆる産業のデジタルシフトに貢献する」とあるように、AI Shiftの社会的な意義は「企業の課題をAIプロダクトで解決する」にあります。

注力しているのは、クライアント企業向けのDX領域です。生成AIの活用に対する社会的なニーズや期待感が高まっている一方で、AIに関する理解が十分ではなかったり、社内の業務にどのように適用して生産性や顧客体験を向上するかの手法を決めかねているなど、クライアント各社が課題を抱えているのが現状でした。

日進月歩と言えるほど急速に進化する生成AI。その一方で、クライアント企業のビジネスシーンにおける具体的運用イメージが不透明な現状。このギャップを埋めるために、我々 AI Shiftはクライアント企業と伴走する形で、生成AIツールの導入とクライアント企業の課題解決にアプローチしていきました。

そんな中、2023年12月には「AI Worker」という新たなプロダクトの先行案内の受付を開始しました。生成AI活用時の大きなハードルの1つでもあったプロンプトを必要とせず、Microsoft TeamsやWebブラウザ上で誰でも簡単に使える、直感的なUI/UXが特徴です。

「AI Worker」は、社内ナレッジ検索やファイル要約、校閲などの汎用的なタスクだけでなく、企業ごとのニーズに特化した個別タスクなど、要望に合わせたカスタマイズも可能です。あわせて、生成AIの組織浸透や社員のリテラシー向上を支援し、業務改善を加速させるサービスが充実しているのが特徴です。

── 生成AIを活用してみると、簡単な操作で一定クオリティのアウトプットが得られる事に驚きます。その一方、実際のプロダクトに導入し、利益が得られるビジネスに仕上げられるかが課題かと思われます。AI Shiftが、AIプロダクトを製品化するために工夫しているポイントを教えてください。

確かに生成AIを活用すると、一定のクオリティが担保されたアウトプットが得られます。しかし、実際のビジネスシーンに導入してみると、セキュリティや各社固有の情報、運用コストなど様々な課題に直面する事に気づきます。

このビジネス的な課題に向き合い「企業の課題をAIプロダクトで解決する」のがAI Shiftの役割だと考えています。

AI Shiftは、生成AIやLLMなどの先端技術だけでなく、レガシーな技術要素も組み合わせて、ビジネス課題を解決するためのPoC開発とPDCAを迅速に回すことを重視しています。特に、社内だけでなく、クライアント企業との協力を通じてアイデアの形成と共有、フィードバックの環境を作り上げているのが、会社としての強みだと思っています。

例えば従来のチャットボットでは、ユーザーの質問に対してベクトル検索や表層検索を活用して問われている問題を特定し、設計されたシナリオを選択肢に沿いながら、事前に用意した文章を回答としてユーザーに返すことでQ&Aを行います。質問や回答のシナリオ情報の準備やデータ整備には膨大な時間や検証がかかりますが、応答の精度を高めることで、ユーザー満足度の高いチャットボットを提供する事ができます。

生成AIが登場したことでRetrieval-Augmented Generation(RAG)と呼ばれる技術が注目されています。RAGを用いることで、過去のFAQやシナリオや製品情報を事前情報として整備し、雑多な文章からユーザの質問に合わせて回答を生成(整形)したり、回答シナリオ自体を生成することができます。

しかし、RAGは事前情報をもとに最終的に回答を”生成”するため、真偽が入り混じった不確かな回答や、競合他社を推奨する回答など、ユーザーやクライアント企業にとって不利益になりかねない回答をするいわゆる「ハルシネーション」のリスクもまたあります。当然、このままではビジネスシーンに活かすことはできません。

RAGを用いることでチャットボットのデータ整備に対するコストは下がる一方で、従来のチャットボットが担保できていた回答内容の安全性を損ねてしまうという大きな欠点がありました。

そこで、私たちはチャットボットの対話エンジンとしての性能を向上させるためには、しっかりと準備すべきデータやシナリオと、生成AIが柔軟に対応できる要素を組み合わせるハイブリッド型を模索しました。事前に準備したデータやシナリオによって、ユーザーに対して信頼性が高い回答を伝えることができます。その一方、抽象度が高い質問や、従来のシナリオに当てはまらない問いに対して、RAGを活用してシナリオに適応した質問に生成してフローに載せる事ができるようになりました。

── 既存技術を生成AIなどの先端技術に刷新するだけでは、ビジネスシーンへの適用は難しいと？

生成AIをビジネスシーンに適用しようとした際、しっかりとしたシナリオ設計やデータを準備するなど、地道な下準備とリスク回避のための想像力が求められます。これにより、ハルシネーションやセキュリティのリスクを減らし、安心してAIプロダクトを利用することができるようになります。

このような、先端技術を含めた技術選定の姿勢や考え方は、AIプロダクト開発に限らず、サイバーエージェント社内で重要視している技術思想でもあります。

サイバーエージェントでは、エンジニアが自らの裁量権で、技術選定やアーキテクチャを決める組織カルチャーがあります。例えば、最新技術を導入する際には、トレンドに流されずにメンテナンス性や拡張性、スケーラビリティを考慮し、ビジネス的なメリットを見据えた上で、技術的なチャレンジをしています。最新技術の導入は目的ではなく、ビジネス価値を追求する手段として活用されているのが特徴です。

重要なのは「実際にユーザーが喜ぶ体験を提供すること」だと思っています。チャットボット開発において、生成AIの導入により自動化や省人化が進んだとしても、チャットボット自体が使いにくくなったり、回答の信頼性を損なっては本末転倒だからです。

── AIプロダクトの開発を支える、技術組織の強みやフットワークのポイントは何ですか？

職種の垣根を超えて「クライアントにとって何が良いか」を常に考えるビジネス目線の高さ。そして、技術トレンドが大きく変わろうとするタイミングに、粛々と積み上げてきた技術的資産をもってチャレンジできる環境だと思っています。

私は、入社当初1人だけのデータサイエンティストチームとして参加しました。そのため、マーケットが求め、ユーザーが望むプロダクトを作るために、エンジニア以外の職種ともたくさんの議論をしてきました。製品化を目指すプロダクトに求められる技術要素だけでなく、リリース後に大きく成長し利益を生み出すプロダクトに求められる技術要素まで、様々な事業フェーズだからこそ得られる、貴重な経験を積むことができました。

また、入社当初は1人だったデータサイエンティストチームも今では10人を超え、私はそのチームのエンジニアリングマネージャーを務めています。会社やプロダクトの成長に伴って、私が担当できる範囲も広がっていきました。

AI Shiftの組織的な特徴は、ビジネス領域とAI開発領域の距離が非常に近いことです。経営者やセールスメンバーと、エンジニアやデータサイエンティストが一緒に議論し、プロトタイプを作り、クライアント企業に提案する機会に恵まれています。クライアント企業に寄り添い、伴走しながら、たくさんのフィードバックを得られる関係性にあるのも、AI事業本部やAI Shiftの強みだと思います。

このように、AI Shiftが開発する新製品は、「AI Messenger Chatbot」などの過去のプロダクトで培ったクライアント企業との信頼関係や技術的知見の上にあり、だからこそ、ビジネス的なチャンスが訪れた時に、一気にアクセルを踏める推進力の原動になっていると言えます。