What is the Cluster Engine at GMI Cloud?

The Cluster Engine is GMI Cloud’s on-demand compute power offering platform. There are at least three types of compute services available, which are CE-CaaS (Container), CE-BMaaS (Bare-metal) and CE-Cluster (Managed K8S/Slurm). By leveraging Kubernetes, OpenStack orchestration software, and deploying RDMA networks, Cluster Engine is designed to automate different compute workloads with fine-grained control.

What role do containerization and Kubernetes play?

The CE-CaaS service, which offers prebuilt, GPU-optimized containers for rapid deployment of AI application workloads, uses native Kubernetes to ensure seamless, secure, and automated orchestration of small compute workloads, with the option to bring your own custom image templates.

What role does OpenStack play?

The CE-BMaaS service offers prebuilt, GPU-optimized bare-metal servers for rapid deployment of a GPU cluster serving AI training or finetuning workloads. By leveraging the OpenStack platform, the CE-BMaaS provisions bare-metal servers with customized OS images and user-defined configuration and post-installation setup.

How does Cluster Engine handle security and user access?

The Cluster Engine leverages the design of organizations to isolate tenants, incorporating organizational user management with fine-grained role-based access control (RBAC). For network isolation and access control, the virtual private network (VPC) mechanism is applied to internal network isolation with elastic IP for public access, while firewall rules are also introduced to assure public network security.

What additional capabilities does Cluster Engine offer?

The Cluster Engine provides real-time monitoring with customizable alerts to maintain visibility over resource usage and container health. It also includes a proprietary high-performance storage filesystem shared between containers and bare-metals, which is an ideal solution for both AI training and generative AI inferencing workloads.

GMI Cloud Cluster Engine | 容器管理平台

調度管理｜智慧自動化，彈性擴展

輕鬆管理

自動化調整並管理整個叢集中的容器化工作負載，確保 GPU 資源的最大化利用與系統高可用性。

Kubernetes 原生支援

無縫協調 Kubernetes 容器化應用，優化 AI/ML、HPC 以及雲端原生應用的運行效率。

Get Started Now

容器管理｜隨時啟動、無縫運行

預建容器 & 彈性調整

運行 AI 工作負載更快、更高效，透過預配置且 GPU 優化的容器，立即部署所需環境。無論是標準化映像還是自定義容器，我們都能滿足您的獨特運算需求。

零配置自動化

消除繁瑣設置，容器即時自動部署，縮短手動設定時間，顯著提升上市速度。簡單一鍵啟動，立即運行。

Get Started Now

監控｜即時洞察，掌握全局

即時數據 & 智慧警示

即時監控 GPU 效能與工作負載，透過智慧警示機制，即刻掌握異常狀況。不僅快速反應，更能確保運算資源隨需調整，永不間斷。

端到端全方位覆蓋

全面追蹤每個容器的運行狀況，完整了解資源使用與運作健康，消除瓶頸風險。從啟動到結束，全程無縫掌控。

Get Started Now

角色型存取控制｜精細權限，安全無憂

安全存取 & 精細管理

透過細粒度 RBAC (Role-Based Access Control)，確保正確人員擁有正確權限，維持資料安全與團隊協作。

使用者群組管理

簡化大型團隊的管理，透過群組化配置，依職能分配資源與權限。更高效、更安全、更透明。

Get Started Now

安全性｜多層防護，數據無憂

多租戶架構

每位客戶都擁有獨立隔離的 VPC (Virtual Private Cloud)，確保網路與運算資源的完全獨立與資料安全。

私有網路

提供專屬私有子網與安全訊息傳遞，確保資料不被攔截，維持絕對隱私與完整性。

GMI Cloud 直連 & 虛擬私有閘道

安全穩定的資料中心連接，透過 Direct Connect 與 Virtual Private Gateway，實現快速、私密的跨區域通訊，消除延遲並強化資料安全。

Get Started Now

立即啟動您的叢集

聯繫我們

Cluster Engine 助力，加速企業創新

GMI Cloud 自主研發的 Cluster Engine，完美整合裸機服務、Kubernetes 容器化技術與 HPC Slurm系統，為使用者與管理者提供最佳化的資源管理體驗。

Cluster Engine 系統架構

我們的 Cluster Engine 智慧管理各類運算資源，從裸機到容器化環境，提供一站式資源優化解決方案。

高速儲存、分散式檔案系統與備份方案確保資料隨時可存取並優化效能，容器化儲存與持久化存儲保障部署穩定，智慧工作負載分配讓大規模運行流暢無阻。

核心功能

No items found.

企業級安全防護

可自訂不同角色的存取權限（如讀取、寫入、建立）
彈性配置使用者或群組的角色權限
RBAC 系統提供細緻的使用者與群組權限管理機制
透過角色定義與指派，精確控制使用者對特定資源的存取權限
隨企業規模擴展，RBAC 與使用者群組系統持續確保存取安全，有效防止未授權使用

建立邏輯化的使用者分群
簡化角色指派與管理流程
使用者群組讓你能夠集中管理多位使用者的權限，使管理工作更加簡便

Multi-Tenant Architecture Isolated VPCs for each customer, ensuring secure, separate network and compute resources.
Virtual Private Subnet Dedicated subnet within each VPC for secure messaging, data transfer, and management.
Private External Gateway Ensures network isolation across VPCs in a multi-tenant setup.
GMI Cloud Direct Connect & Virtual Private Gateway Secure data center connectivity for customers and GMI Cloud teams.
TrendMicro Option Optional security enhancement with TrendMicro.

全面掌握關鍵指標：即時追蹤系統效能與流量數據，確保運行透明化與高效能。
高效監控，穩定無憂：智能化監測所有核心效能指標，保障系統始終處於巔峰狀態。
歷史數據一目了然：完整記錄運行歷程，輕鬆回顧關鍵事件，快速識別趨勢，做出更精準的商業決策。4o

根據您的需求設置特定的警示條件，精準監控各種系統指標。
當自訂的臨界值被觸發時，即時通知將被發送，確保您的團隊能即時掌握關鍵變化，迅速回應潛在風險。

從基礎設施到應用層級，提供全面的監控覆蓋，完整掌握每個元件的運行效能。透過端到端的資料收集與分析，快速識別效能瓶頸與潛在風險，確保系統穩定運行與高效能。

從部署、擴展到資源分配，輕鬆管理與監控容器。即時獲取每個容器的效能數據，迅速識別潛在問題並即時修復，確保容器化環境的最佳運行效能。

為何選擇 GMI Cloud？

GMI Cloud 核心優勢

彈性資源配置：依需求調整 GPU 運算資源，最大化成本效益
優質價格保證：與原廠直接合作，提供最實惠的價格與最佳品質
完整監控系統：直覺的管理介面，即時監控與警示功能，輕鬆掌握系統狀態

化繁為簡的基礎架構

整合運算、儲存和網路服務，簡化您的 IT 架構。統一平台管理，降低維護成本，加速創新。

企業級安全：完整的存取控制與全天候安全監控
專為效能優化的機房：我們的機房採用無阻塞 InfiniBand 網路架構，搭配強大的儲存系統，完全符合高規格效能標準。

叢集引擎
Cluster Engine

您的 AI 運算中樞

調度管理｜智慧自動化，彈性擴展