企業AI平台架構指南 · v1.1
可觀測性和操作
將人工智慧平台作為一項可衡量的服務來運作。
章節目錄 · 可觀測性和操作
遙測應連接使用者請求、檢索、模型呼叫、工具執行、錯誤、延遲、成本、回饋和品質訊號。在廣泛部署之前必須定義服務所有權和事件程序。
- 跨編排和模型邊界追蹤請求。
- 將技術健康狀況與答案品質指標分開。
- 定義升級和回滾路徑。
將人工智慧平台作為一項可衡量的服務來運作。
遙測應連接使用者請求、檢索、模型呼叫、工具執行、錯誤、延遲、成本、回饋和品質訊號。在廣泛部署之前必須定義服務所有權和事件程序。