企業AI平台架構指南 · v1.1

模型接觸與評估

模型網關集中了提供者策略和品質控制。

章節目錄 · 模型接觸與評估

網關可以強制執行已批准的模型、區域、令牌限制、日誌記錄規則和後備行為。評估應包括任務品質、基礎性、安全性、延遲和成本。

  • 版本提示、工具和評估資料集。
  • 使用人工審核進行高影響力的工作流程。
  • 當品質關卡失敗時阻止自動發布。