AgentBoxが正式リリース：本番環境向けAIエージェントのスタックを一つに集約

本日、GMI CloudはAgentBoxを正式にリリースしました。私たちがこのサービスの提供開始を楽しみにしていた理由をご紹介します。

AIエージェントを本番環境に導入したことがある方なら、厄介なのはエージェントそのものではないことをご存じでしょう。実行基盤はあるベンダー、推論環境は別のベンダー、オブザーバビリティはさらに別のベンダーから調達し、そのうえで、構築したエージェントをユーザーにどのように見つけてもらい、利用してもらうかまで考える必要があります。こうしたコンポーネント間の分断は、そのたびにレイテンシやコスト、運用工数を増加させ、チームがプロダクト開発に集中する時間を奪います。

これらの課題の一部を解決するプラットフォームは数多くあります。AgentBoxは、その一連のプロセス全体を一つに統合します。

AgentBoxとは

AgentBoxは、チームがすぐに利用できるAIエージェントを見つけたり、開発者が独自のエージェントを公開したりできるプラットフォームです。ここでいうエージェントとは、特定のタスクに特化したAIワーカーです。たとえば、コードレビューを行うエージェント、S3、SharePoint、Confluence、Notionなどからデータを取得して検索用グラフを構築するエージェント、MMLUやHumanEvalなどのベンチマークスイートを実行するエージェントなどがあります。各エージェントのバックエンドでは、AIモデルと、そのモデルを実用的なサービスとして機能させるアプリケーションコードが動作しており、いずれもGMI Cloud上で実行されます。サーバーのセットアップ、プロビジョニング、スケーリングはGMIが担当します。

ここが、私たちが特に重要だと考えているポイントです。エージェントを構築すること自体は、決して最大の課題ではありません。難しいのは、本番環境で安定して稼働させ、実際の顧客に届けることです。

ニーズに合わせて選べる2つのデプロイ方式

多くのローンチ記事では省略されがちですが、AgentBoxをどのように活用するかを決めるうえで重要なのが、デプロイ方式です。

GMI CE Deployment（マネージド）：GMIのインフラストラクチャ上でエージェントをホストします。ダッシュボードからDeploy Wizardを開いてリージョンを選択すると、コンテナのビルドと実行が行われ、公開URLが自動的に割り当てられます。多くのチームには、まずこの方法から始めることをおすすめします。ダッシュボードから公開URLの取得までを一連のフローで完了でき、ロードバランサーの管理もGMIが行います。

GMI MaaS（セルフホスト型推論）：エージェント自体はお客様の環境でホストしながら、モデルへのリクエストをGMI CloudのModels as a Service（MaaS）経由で処理します。ランタイムはお客様側で用意し、GMIは単一のAPIキーを通じて100以上のモデルへの推論環境を提供します。

運用モデルは自由に選択できます。最初はマネージド環境から始め、後から一部を自社環境へ移行することも、初日からハイブリッド構成で運用することも可能です。

AgentBoxを支える5つの特長

100以上のモデルを1つのAPIキーで利用：Claude、GPT、Llama、DeepSeek、Qwenなど、100以上のモデルを単一の推論APIキーで利用できます。1つのキーで複数のプロバイダーを利用でき、モデルへのルーティングも自動的に処理されます。MaaSのモデル利用料金はトークン単位で課金されるため、エージェントが実際に使用した分だけ支払うことができます。

初日から利用できるマーケットプレイス：エージェントを一度公開すれば、すでにGMIを利用しているエンタープライズ顧客が、そのエージェントをすぐに見つけ、評価し、デプロイできます。顧客ネットワークがプラットフォームに組み込まれているため、リスティングを公開した時点からユーザーへの展開を開始できます。料金体系は使用量ベースです。エージェントが使用したコンピューティングリソースに対して秒単位で料金が発生し、リスティングの公開は無料で始められます。

プライベート利用にも一般公開にも対応：自社チーム向けにエージェントを非公開で運用することも、準備が整った段階でマーケットプレイスに公開することもできます。一般公開すれば、GMIを利用するエンタープライズ顧客にエージェントを提供でき、新たな収益源として活用できます。また、信頼性を示すバッジを取得することで、エンタープライズ導入時の審査プロセス短縮にもつながります。同じエージェントのまま、より幅広いユーザーに届けることができます。

購入者が一目で確認できる信頼性バッジ：Verifiedは、GMIによる審査済みで、エンドツーエンドでGMIのインフラストラクチャ上で稼働していることを示します。Powered by GMI Infrastructureは、GMIの専用コンピューティング環境上でホストされ、モデルとAPIは公開者側が提供していることを示します。Powered by GMI MaaSは、エージェントは公開者側でセルフホストされ、推論処理にGMI MaaSを利用していることを示します。エンタープライズのセキュリティチームにとって、こうした違いが明確になっていることは、迅速な承認と数週間にわたる審査プロセスを分ける重要なポイントになります。

デフォルトで分離されたエンタープライズ向け設計：すべてのエージェントは、それぞれ独立した環境で実行されます。テナント間のトラフィックは分離され、リソースクォータはコンテナレベルで適用されます。 基盤には専用のNVIDIA H100、H200、GB200インフラストラクチャを採用。テナントレベルでのデータ分離とRBAC（ロールベースアクセス制御）に加え、リアルタイムのログ、トレース、コスト分析機能も提供します。 これらの機能は、すべてのプランに標準で含まれています。

AgentBoxはどのようなユーザーに適しているのか

AIエージェント開発者であれば、GMI Cloudの販売・提供基盤を活用して、エンタープライズ顧客にエージェントを展開できます。開発したエージェントをGMI Cloudにデプロイし、他のユーザーが見つけて利用できるようマーケットプレイスに公開できます。

エンジニアリングチームであれば、分離性、オブザーバビリティ、フルマネージド環境を備えた一つのプラットフォーム上で、社内ユーザー向けのエージェントを展開できます。AIエージェントのスタック全体を一か所に集約できます。

そして、まずは迅速に試したい場合は、マネージド環境でPoC（概念実証）から始め、必要に応じてスケールできます。

デプロイ前に知っておきたい設計パターン

AIエージェントのタスクには時間がかかることがあります。複数ステップの推論、ドキュメント分析、モデルチェーンなどの処理は、30秒から数分、場合によってはそれ以上かかることもあり、多くのHTTPゲートウェイが接続を維持できる時間を超える可能性があります。この問題を適切に処理するには、リクエストの受付と結果の返却を分離する設計が有効です。リクエストを受け付けたら、すぐにjob_idを返し、バックグラウンドで処理を実行します。呼び出し元はステータスエンドポイントをポーリングし、処理が完了した時点で結果を取得します。この設計パターンについては、FastAPIとExpressによる実装例を含め、ドキュメントで詳しく解説しています。初めてデプロイする前に、ぜひご確認ください。

AgentBoxを試す

カタログの閲覧から、最初のエージェントのデプロイ、マーケットプレイスへの公開まで、すべてコンソールから行えます。

コンソールから始める：https://console.gmicloud.ai/user-console/agent-marketplace/browse-agents

ドキュメントを読む：https://docs.gmicloud.ai/agentbox-marketplace/overview