令和AI、1ファイルでプロンプトの実行フロー定義を行えるプロンプトプログラミング環境を開発

～ChatGPT/オンプレミスLLM等の複数自然言語AIをシームレスに接続～

株式会社令和AIは、プロンプトを組み込んだシステム開発に利用可能な、プロンプトの管理・実行環境を簡素化するプロンプトプログラム実行環境を開発しました。

■ プロンプトプログラム実行環境の必要性

　現在、ChatGPT等の自然言語処理AIを使用したシステム開発のニーズは日々増加しています。

　それに伴い、自然言語処理AIに投入するプロンプトも複雑化しています。また、単一の文章としてプロンプトを実行するのみならず、複数回のAI呼び出しによる指示フローとしてのプロンプトを定義したり、異なるキャラクターをAIにロールプレイさせ対話させるマルチエージェントシステムでの利用など、複数のプロンプトを組み合わせて、AIの呼び出しを適宜調整するような高度なプロンプト実行処理が増える傾向にあります。

　そうしたシステム開発においては、プロンプトの文面の定義のみならず、AIのレスポンスによるフロー分岐の定義や、それら全体をプロンプトプログラム一式として扱ったバージョン管理などが求められます。

　そこで令和AIは1ファイルでプロンプトの実行フロー定義を行えるプロンプトプログラミング環境を開発しました。

　本環境は、令和AIが展開しているソリューション製品「SnippetBox」で使用されているプロンプト実行ロジックを発展させたもので、プロンプトのリストをプログラムにおける命令列とみなし、内部的にもつ仮想スタックポインタ/仮想レジスタによりプロンプトを順次実行するシステムと、プログラムの制御命令に相当するメタプロンプト命令セットからなります。

使用LLM/後処理ロジック選択概念図：

　プロンプトの順次実行システムは、AIのレスポンスから、自然言語AIに投入する指示文章のフローを分岐させたり、スタックにストアする情報を抽出するロジックを選択したり、新しい命令内にスタック内のデータを埋め込むことで、プロンプトの一式をプログラムと同等の自由度を持つ処理構造として作成することが出来ます。

■ 本技術の導入メリット

　本技術は、令和AIのAIコンサルティングまたはAI受託開発において基本環境として使用されており、プロンプト開発の効率化、プロンプト管理の簡素化、バージョン管理の簡便化などの効果をもたらしています。

　また、メタプロンプトによって定義される呼び出しLLMを調整することで、チャット等の対話フローとして設計されるプロンプト内においても、シームレスに使用するLLMを変更することが出来ます。

　これにより、重要な推論を行う部分では高性能なAPIを使用し、そうで無い場合はオンプレミスLLMを使うなど、LLMの利用コスト低減/実行速度最適化に寄与します。

使用LLM/後処理ロジック選択概念図：

■ 提供形態

　AIコンサルティングまたはAI受託開発において、弊社の基本環境として使用、納品物内ライブラリーとして提供いたします。

　その際のコードの再利用に関する条件等は別途お問い合わせください。

お問い合わせ先：株式会社令和AI（[e-mail]）