Amazon Bedrockを活用したSlack用の生成AIチャットボット「かぐたん」をKDDI Digital Divergence Holdingsグループ内に展開

KDDIアジャイル開発センター株式会社

2024年2月5日 14時00分

KDDIアジャイル開発センター株式会社（本社：東京都港区、代表取締役社長CEO：木暮圭一、以下KAG）は、AWSの提供する生成AIサービス「Amazon Bedrock」を活用して、コミュニケーションツール「Slack」から生成AIと気軽にチャットができるボットアプリ「かぐたん」を開発しました。自社内のみならずKDDI Digital DIvergence Holdings（以下KDH）傘下の各社へ展開し、生成AIの業務活用を推進しています。

KAGでは、日々急速なスピードで発展する生成AI活用の推進や、関連する情報・知識・技術の獲得のため「KAG Generative AI Lab」というチームをつくり活動しています。KAG Generative AI Lab（通称KAGAIラボ）は、日々生成AIのキャッチアップとプロトタイプ開発を行い、実践的なノウハウを集約し社内の開発チームへ還元することで、最終的にはお客様へ価値貢献できるように目指しています。KAGAIラボという略称のとおり、課外活動のように各メンバーが自主的に、かつ遊び心を持って新技術の研鑽に日々励んでいます。

Slackから気軽にAIへ質問できるチャットボット「かぐたん」を開発

生成AI技術がIT業界のトレンドとなって久しい昨今、業務においても生成AIの活用は必要不可欠なものとなりました。その一方で適切に生成AIを活用しなければ情報漏洩をはじめ、セキュリティリスクにも繋がりかねません。

KAGではKDH傘下の各社が業務内で安全に生成AIを活用できるよう、セキュアなチャットボット「かぐたん」を開発しました。KAG（カグ）という社名愛称をもとに、皆から親しまれるようにとの思いを込めてネーミングしています。かぐたんはSlackから呼び出せるチャットボットで、「@かぐたん」にメンションすることで生成AIへ一般的な知識を質問したり、文書作成やアイディア出しなどの業務効率化に役立てることができます。

開発にあたっては同じくKDH傘下のアイレット株式会社、ならびに株式会社フライウィールのメンバーに先行ユーザーとして使用感をフィードバックしてもらい、実際にシステムプロンプトのチューニングに生かすなど、KDHグループ内での生成AI利活用のさまざまなアプローチのひとつとして各社のエンジニアの知見を共有しながらプロダクトをブラッシュアップしています。

かぐたんの特徴

かぐたんはよくある生成AIのWebアプリケーションと異なりSlackから利用できるため、毎回Webブラウザを起動することなく普段のコミュニケーションツールの延長でシームレスに生成AIを活用することができます。また、Slackのスレッドで会話を継続でき、スレッド内の会話履歴は記憶したうえでやり取りを継続できるため効率よく追加質問を続けることができます。

また、自社のSlackワークスペース内であれば、ダイレクトメッセージで個別にかぐたんを利用することももちろん可能ですし、任意のチャンネルにかぐたんを招待して、メンバー間でかぐたんを同時活用することもできます。

導入先の各社によってシステムプロンプトを変えることも可能です。また、かぐたんの回答の末尾には開発チームへ使用感をフィードバックするためのフォームを起動できるハイパーリンクが記載されています。

アーキテクチャ紹介

かぐたんはAWSの生成AIサービス「Amazon Bedrock」を活用して、フルAWSでセキュアに構築されています。

テキスト生成用の言語モデルにはAnthropic社のClaude 2.1を利用。アプリケーションはPython言語で開発しており、Slack用の開発フレームワーク「Bolt for Python」を活用しています。アプリケーションはコンテナ化してAmazon ECS上のFargate基盤上でサーバーレスに稼働させています。

AWSサービス間の通信はAWS PrivateLinkを使ってプライベートに行います。また、Slackの「ソケットモード」を活用することにより、ECS上のPythonコンテナをAPIとしてインターネットに公開することなく、自社のSlackワークスペースから安全に接続することができます。

実装上の工夫

かぐたんは複数の会社に展開するSaaS（Software as a Service）として開発しているため、マルチテナントに対応可能な設計とすることがポイントでした。

各社間でデータが相互にアクセス可能となってしまわないよう、会話履歴データベースなど論理分割が必要なコンポーネントは会社ごとに分けて作成しました。その一方で複数社への展開を効率よく行えるよう、基本的な設計やアプリケーションコードは共通化したうえで、インフラもTerraformを用いてIaC（Infrastructure as a Code）化し、GitHub Actionsを用いてCI/CD（継続的インテグレーション/継続的デリバリー）パイプラインを完備しました。これによって利用企業が増えても「金太郎飴方式で簡単に追加デプロイ」していくことができます。