【Microsoft Teamsなどの既存プロダクトに生成AIを導入】KDDI社員1万人が利用できるKDDI AI-Chat for Teams を開発

〜生成AI活用の価値検証を実施〜

KDDIアジャイル開発センター株式会社

2023年12月6日 15時10分

KDDIアジャイル開発センター株式会社（本社：東京都港区、代表取締役社長CEO：木暮圭一、以下KAG）は、社内で活用している「Microsoft Teams(*1)」とスクラム開発のふりかえりサポートプロダクト「anycommu（エニコミュ）」の2つの既存プロダクトを対象に『生成AI』を導入し、価値検証を行いました。

KAGでは、日々急速なスピードで発展する生成AI活用の推進や、関連する情報・知識・技術の獲得のため「KAG Generative AI Lab」というチームをつくり活動しています。KAG Generative AI Labは、日々生成AIのキャッチアップとプロトタイプ開発を行い、実践的なノウハウを集約、社内の開発チームへ還元することで、最終的にはお客様へ価値貢献できるように目指しています。

今回は、「Microsoft Teams」と「anycommu（エニコミュ）」の2つの既存プロダクトを対象に生成AIを導入し価値検証を行いましたので、その概要と結果の報告及び、既存プロダクトへ生成AIを導入・活用し得た知見の報告をします。

■「Microsoft Teams」へ「KDDI AI-Chat」を導入しKDDI AI-Chat for Teamsを開発

【概要】

「 KDDI AI-Chat for Teams」は、2023年5月に社員1万人を対象に調査や文章作成支援などを目的として、KDDIが運用開始したwebブラウザ上で利用できる生成AIチャットサービス「KDDI AI-Chat(*2)」を、Microsoft Teamsでも利用できるようにしたものです。

先行してKDDI AI-Chatを開発していた、KDDI情報システム本部とKAG Generative AI Labが共同開発したもので、生成AIチャットボットをMicrosoft Teamsで利用可能にし、1万人規模の社員が日常的に使うコミュニケーションツールの中で社員が安全に生成AIを利用できるようにしました。生成AIを手軽に使いたいという社内ニーズに対し、アジャイル開発の知見を活かして短期間のスプリントで開発し、機能提供を実現しました。

Microsoft Teams上で動いているのでスマホからでも、グループ会話の中でもAIを呼び出すことができ、気軽に調べ物や文章作成の支援を受けることが可能になったことで、コミュニケーションや業務のスピードアップが期待されています。

【結果】

今回の生成AIの導入により、KAG社内のMicrosoft Azure(*3)の実装知見がまだ十分に蓄積されていない中で、ブラウザ版アプリ用リソースとの分離や安全に使うためのネットワーク閉域化など、Microsoft Teamsアプリとしての開発のコツや、後続の開発ノウハウとなるようなティップスを得ることができました。セキュリティ関連の課題については、社内NWやセキュリティ運用ルールに精通しているKDDI情報システム本部とスクラムチームを組み、KAG Generative AI Labの開発ケーパビリティと組み合わせることで、プロジェクトメンバー内で方針検討、アクションまで導くことができ、横断的なスクラムチームの強みを再確認しました。

それと同時にAzure OpenAI Service(*4)のモデルがまれに応答エラーとなる期間があり、常時高いサービスレベルを期待してしまうとリスクとなりうることもわかりました。そもそもAI活用機能を「AIが止まってしまうと直ちに困るような業務組み込みは避ける」ことを前提としつつ、実装上の対策としてモデルを呼び出すアプリケーションでタイムアウトやエラーハンドリングを適切に行い、利用者に分かりやすいメッセージを返すことで障害時の問い合わせが殺到してしまわないような工夫も必要だと学びました。

また、多くの人が毎日使うプロダクトに、生成AIを取り入れるとインパクトが大きく、他社との会議中に呼び出したりすると良い話題にもなりました。

リリース後の利用状況としては現在1,000リクエスト/日ほどで推移しており、一定の利用が続いています。一方でこのような社内向けのAIチャットボットなどは、リリースしてしばらく経つと利用率が減少する傾向があり、継続して利用率を高めるには啓蒙などの工夫や、利用者がどのような仕事をチャットボットに任せたいと思っているかなどの課題の把握が必要であると認識しています。

■「anycommu（エニコミュ）」へ生成AIを導入

【概要】

anycommuは、KAGとKDDI DIGITAL GATE(*5)で共同開発している、日々のスクラムイベントで行うふりかえりをサポートするプロダクトです。試験的なプロダクトとしてKAGのスクラムチームや教育機関、部活動、課外サークルなど多様なシーンで利用されており、社内外問わず月間100以上のチームが、このサービスを活用しています。

今回はanycommuに、スクラムの進行役となる「AIスクラムマスター」機能を実装しました。この機能は、チーム内のコミュニケーションと、思考の深化を促進させることを目指しています。 AIスクラムマスターは、チームメンバーのふりかえり内容に対して、生成AIが独自のフィードバックや問いかけをすることにより、新たな視点からの問いかけが可能となり、深い会話と理解を促します。

またAIスクラムマスターから、通常思いつかないような質問がされることで、会話が促進され、ふりかえりを通じてチームの中の円滑なコミュニケーションを促すことができます。

【結果】

現状は、まだAIスクラムマスターからのコメントの的確性にムラがある状態です。開発で日常的に使っているツールと連携することで、精度の向上を見込んでいます。また、実装上の工夫点としてはAPI発行から応答が返ってくるまで時間がかかるため、付箋が書き込まれた時点でOpenAIのAPIにはリクエストを投げ、APIの応答をデータベースにストックしておき、ふりかえりを行っていく際の付箋の拡大時にはAIからの応答をデータベースから表示するなど、画面表示方法に工夫を凝らすことで、AIスクラムマスターの応答タイミングに不必要な違和感が生まれないように配慮しました。これはサービスごとに利用者にとって違和感やストレスにならない適切なAIの応答タイミングの作り込みが必要であるという具体的な示唆でした。

その他にもAIスクラムマスターが人間ではないからこそ、受け入れられるアドバイスなどもあり、運用してみることで、初めてその価値に気づくことができました。実際AIスクラムマスター導入後からanycommuの利用チーム数は導入前と比較し最大約3倍まで増え、サービスの活発な利用に役立っています。

anycommuでは生成AIをさらに活用し、人間が気づかなかった気づきや改善策を提案できる機能拡張の追加を目

指すなど、アジャイル開発の新たな可能性の探求とDXの推進に取り組んでいきたいと考えています。

■既存プロダクトへ生成AIを導入・活用し得た知見

既存プロダクトへ生成AIを導入・活用することにより、anycommuのように人間ではもたらせない価値が発生したり、KDDI AI-Chat for Teamsのように、よく触るプロダクトの中に組み込むことで、その価値を強化できることがわかりました。

生成AI初期の取り組みということもあり、社内でも生成AIとはどのようなものなのか、どのように活用していけば良いのか手探りのなかで、日常的に使う既存プロダクトに生成AIを実装して使えるようにすることで、利用や活用に対してのハードルを大きく下げ、利用者の裾野を広げることができました。

また、生成AIを活用した機能の実装は予想していたほど複雑ではなく、より重要な課題になったのはセキュリティに関する問題でした。このようなセキュリティ上の課題やその解決方法など、実際に導入する視点に立ってみないと気付けないこと、わからないことも多くあり、生成AIに関するナレッジの習得には、とにかく実践的に触れ実装を行ってみることが重要なアクションでした。

今回試験的に社内で利用している既存プロダクト、自社プロダクトに生成AIを導入することで、実際のサービスや、対外的なプロダクトに導入する際のイメージを確立することに役立ちました。

今後はより対外的なプロダクトへの、実践的な導入へと進んでいきたいと考えています。

*1 ：Microsoft Teams

マイクロソフト社が提供するサービスの名称、及び商標・登録商標です。

https://www.microsoft.com/ja-jp/microsoft-teams/group-chat-software

*2 ：KDDI AI-Chatについて

社員1万人が「KDDI AI-Chat」の利用を開始（プレスリリース）

https://news.kddi.com/kddi/corporate/newsrelease/2023/05/25/6741.html

*3 ：Microsoft Azureについて

マイクロソフト社が提供するクラウドコンピューティングサービスの名称、及び商標・登録商標です。

https://azure.microsoft.com/ja-jp/resources/cloud-computing-dictionary/what-is-azure

*4 ：Azure OpenAI Serviceについて