AI Gateway
企業 AI 資源採購與治理中樞
一個端點接入所有 AI 能力,統一採購、治理、安全控管與計費。
一個 API 串接 OpenAI、Anthropic、Azure、Bedrock、Cohere、Vertex 6 家 LLM,支援 BYOK 自帶金鑰與自動 fallback。
核心能力
統一存取與管理多模型,安全整合與控管
OpenAI 相容 API
OpenAI 相容 API,換網址即可接入。單一入口、單一端點,接入所有 AI 能力,快速整合既有應用。
6 家 LLM 多模型串接
一個 API 串接 OpenAI、Anthropic、Azure、Bedrock、Cohere、Vertex 多模型,10+ 上游供應商持續擴充中。
模型路由與自動 Fallback
多模型、多供應商彈性路由,自動調度最佳路徑;異常時自動 fallback,確保服務高可用。
安全治理與權限控管
資料過濾、風險控管、模型白名單、速率限制與權限控管,合規稽核全面把關。
使用紀錄與計費整合
統一計費、單一帳單、錢包共用,用量監控與計費管理一站完成,AI 成本可預測、可控管。
完整稽核留存
逐筆紀錄、報表對帳、合規可查,完整保存每一次 AI 呼叫的稽核軌跡。
部署形式
三種場景、三種定價,依企業需求彈性選擇
地端私有部署
地端客戶經 Gateway 採購外部 AI 資源
- 僅需開放一個對外連線(出站)至 MaiAgent Gateway
- 地端遮蔽與安全 Hook,資料出站前先遮蔽
- 年度預付資源包,整包共用不分倉
- 80%/100% 用量預警,寬限緩衝不中斷
- 逐筆稽核與報表,地端唯讀看板
計價方式
授權費+預付用量包(年度預付制)
SaaS 版
MaiAgent 提供 LLM Gateway 雲端服務
- OpenAI 相容 API,換網址即可接入
- Gateway 與聊天助理共用同一錢包,統一帳單
- 多模型路由,預設開放全平台模型
- 速率限制、配額、並發完整防護
- 可用模型 allowlist,逐組織可調
計價方式
按用量計費(統一帳單)
BYOK 自帶金鑰
客戶自帶模型金鑰,MaiAgent 收資料處理費
- 客戶自帶模型金鑰(BYOK)
- 依處理資料量計費(每千 token)
- 與模型無關,收的是處理資料的費用
- 搭配安全 Hook,強化安全治理與稽核
計價方式
資料處理費(依量計費)
為什麼需要 AI Gateway?
同一個模型可由不同供應商、不同區域提供;延遲多來自網路與服務承載,不是模型本身——所以換供應商/區域確實有效。
網路距離
由 Region 決定
請求送到模型所在區域的來回時間,區域越近越短。選擇離使用者或服務較近的區域,能顯著降低網路延遲。
服務承載
由 Provider 決定
供應商當下的排隊、容量與限流會影響等待時間。同一個模型,A 供應商塞車、B 供應商順暢是常見狀況。
模型本身運算
基本固定
對同一個模型而言,運算時間基本固定。更換供應商/區域不會改變這段延遲,瓶頸多在前兩段。
AI Gateway 可即時監測各供應商/區域的延遲與可用性,自動選擇最佳路徑,確保體驗穩定。