Kong（コング）、AIアプリ開発をAPIで実現、AI Gatewayをオープンソース版でリリース（抄訳版）

オープンソースの「ノーコード」プラグインで迅速かつセキュアに高性能AI導入を支援、あらゆるAIツールのインテグレーション・高度なプロンプトエンジニアリング・AI分析に対応

APIマネジメントプラットフォームのリーディング企業であるKong Inc.は、Kong Gateway 3.6向けのオープンソースAIプラグインを発表しました。このプラグインは、既存のKong GatewayをAI Gatewayに拡張しAIや大規模言語モデル（LLM）のインテグレーションをさらに強化します。Kong Gateway 3.6にアップグレードすることでユーザーはAIやLLMの利用に特化した6つの新しいプラグインにアクセスできます。これにより、開発者はAI機能を開発する際に、効率よく、より迅速にAIやLLMを自社製品にインテグレーションすることができるようになります。同時にアーキテクトやプラットフォームチームに、チームから送信されるすべてのAIリクエストの可視化、制御、コンプライアンスを保証する安全なソリューションを提供できるようになります。Kong Gatewayとのインテグレーションにより、AIベースのアプリケーションのパフォーマンスに不可欠な、業界最高クラスの性能と低レイテンシーで、クラウドおよびセルフホストLLM上でAIフローを簡単に管理することが可能になります。

Kong Inc.のCTO 兼 共同創設者である Marco Palladinoは次のように述べています。

​​「世界中の開発者と企業のためにAIを民主化するKongの取り組みにおいて、本リリースは非常に重要なマイルストーンとなります。この革新的なAI機能群をオープンソース化し、ノーコードのAIプラグインを提供することで、AIの導入障壁を取り除き、開発者は複数のAIツールやLLMを簡単に利用してAI搭載アプリケーションを迅速に提供できるようになります。同時に、組織で発生するすべてのAIトラフィックに対してガバナンスと可視性を提供します。」

あらゆるAIツールのインテグレーション・高度なプロンプトエンジニアリング・AI分析

開発者は、様々なAIツールのインテグレーションにかかる時間を短縮し、個々の用途に最適なAIを求めています。また、AIの使用に関する固有の要件を横断的に管理することなく、新しい機能を迅速に開発し、イノベーションを起こしたいと考えています。

Kong Gateway 3.6にアップグレードすることで、AI開発者はAIとLLMの利用に特化した新しいプラグイン群を利用することができます。オープンソース・プラグイン・スイートは、以下を含むさまざまな新機能を提供します。

• あらゆるAIツールのインテグレーションを簡素化： Kongの「ai-proxy」プラグインは、OpenAI、Azure AI、Cohere、Anthropic、Mistral、LLAMAなどの業界をリードするLLMをネイティブサポートし、複数のLLM実装のシームレスな統合を可能にします。標準化されたインターフェイスにより、アプリケーションコードを変更することなくLLMを簡単に切り替えることができ、さまざまなモデルの使用と迅速なプロトタイピングが容易になります。

• 統合型AI認証管理： 「ai-proxy」は、Kong Gateway内でAI認証情報を安全に一元管理します。この設計により、各アプリケーション内の認証情報が不要になり、Gatewayからの直接認証情報のローテーションとアップデートが簡素化されます。

• レイヤー7のAIメトリクス収集： 「ai-proxy」 プラグインを活用することで、ユーザーはレイヤー7の詳細なAI分析ができるようになります。これには、リクエストとレスポンスのトークン数、LLMプロバイダーやモデルの使用データなどのメトリクスが含まれます。Datadog、New Relicのようなサードパーティプラットフォームとの統合、およびKong Gatewayの既存のログプラグイン（TCP、Syslog、Prometheusなど）との統合がサポートされ、オブザーバビリティ（可観測性）を高め、開発者の好みを洞察します。

• ノーコードAIインテグレーション： 「ai-request-transformer」と「ai-response-transformer」プラグインを使用すると、APIリクエストとレスポンスにAI機能をコードなしで組み込むことができます。これにより、グローバル時代のリアルタイムAPIレスポンスの翻訳のようなオンザフライ変換が可能になり、APIトラフィックの充実と変換が容易になります。

• AIプロンプトデコレーション： 「ai-prompt-decorator」プラグインを使用すると、AIプロンプトのコンテキストが一貫した構成になり、各AIリクエストにルールや指示を自動的に含めることで、組織のコンプライアンスを強化し、機密性の高いトピックの議論を制限します。

• AIプロンプトファイアウォール：「ai-prompt-guard」プラグインは、アプリケーションによって作成されたフリーフォーマットのプロンプトを許可またはブロックするルールを確立するガバナンスレイヤーを提供します。これにより、プロンプトがAI（LLM）プロバイダーに送信される前に、承認された標準に準拠していることを確認できます。

• 包括的なAI連携機能： これらのAI機能をKong Gatewayに統合することで、AIトラフィックの管理、セキュリティ、監視を一元化します。Kongの1,000を超える既存の公式プラグインおよびコミュニティプラグインを活用することで、堅牢なアクセス制御、レート制限、高度なトラフィック制御ルールの作成を実現します。AI　GatewayはKong Gatewayのすべての機能を備えており、AIエコシステムの中で最も高性能であると確信しています。

本リリースにより、KongのモダンなAPIインフラストラクチャに関する高い専門性は、AIドリブンな活用にまで広がりました。Kong Gatewayのお客様や 一部のユーザーとのコラボレーションや リサーチの結果、今回リリースされたプラグインは、最も汎用的とされるAIユースケースを解決します。今後、Kongは、さらに新しいAI機能のリリースを予定しており、ユーザーからのフィードバックをお待ちしています。

詳細については:

• AI Gateway Webinar：2024年3月21日（木）17:00-18:00（日本時間）に、本リリースの内容をデモを交え、Webinarで詳細をご説明します。ぜひご参加ください。ご登録はこちらのURLから。

  https://konghq.zoom.us/webinar/register/WN_mudJPleYQSq7LDrXu90ecQ#/registration

• KongのAI Gatewayを使ってみる：こちらの英語ページ（https://docs.konghq.com/gateway/latest/get-started/ai-gateway/）には、クイックスタートガイド、デモビデオ、およびAI導入のためのさまざまなダウンロードリンクなどをご用意しています。KongのAI Gatewayのパワーを活用して、今すぐアプリケーションとサービスを強化しましょう。

※本リリースの原文はこちらをご参照ください。

https://konghq.com/press-release/ai-gateway

Kong（コング）について 

APIマネジメントプラットフォームのリーディング企業であるKongは、世界中の企業が「APIファースト」企業になることを使命としています。世界で最も採用されているAPIゲートウェイ上に構築されたKongの統合クラウドAPIプラットフォームは、APIの構築・運用・管理のライフサイクル全体を一気通貫で提供することで開発者の生産性を高めると同時に、高速かつセキュアで拡張性のある製品とサービスにより、ビジネスのデジタル体験を向上させ、イノベーションを加速します。詳細はウェブ、SNSをご覧ください。

会社概要：https://jp.konghq.com

LinkedIn : https://www.linkedin.com/company/kong-japan/

X: @KongJPN (https://twitter.com/KongJPN )

お問い合わせ：[e-mail]