所有專案

io Software 自家產品

fluxRelay

為多租戶營運而設計的 AI 網關。

AI 網關

fluxRelay 將上游金鑰池、逐次計量計費與日常營運集中在同一個平台,適用於轉售額度、代管服務或提供 Prompt 產品的團隊;io Software 自家系統的 AI 呼叫也都經由它處理。

  • Python
  • FastAPI
  • React
  • TypeScript
遙測日誌:逐筆呼叫的模型、token、費用、延遲與結果

功能

  • 相容既有程式與高可用:無須修改核心程式即可串接 Anthropic、OpenAI 與 Gemini,並支援自動故障轉移與 6 種金鑰輪替策略。
  • 面向轉售的計費層:逐次精確計量、多租戶完全隔離,每個租戶可自訂毛利倍率與週期預算。
  • Prompt-as-Product:將 Prompt 封裝為 API 端點,客戶只能傳入變數並取得結果,無法看到 System Prompt。
  • 內建 AI 營運助理:具備 30 個工具,可依指示草擬並建立服務、發放金鑰;每項操作皆經兩段式確認並留下稽核紀錄。
個自動化測試
943
個自動化測試
家上游 AI 供應商
5
家上游 AI 供應商
個 AI 助理可操作的工具
30
個 AI 助理可操作的工具

依 2026-10-07 的程式碼與測試收集結果。