エンタープライズ AI プラットフォーム アーキテクチャ ガイド · v1.1
可観測性と操作性
AI プラットフォームを測定可能なサービスとして運用します。
目次 · 可観測性と操作性
テレメトリは、ユーザーのリクエスト、取得、モデルの呼び出し、ツールの実行、エラー、遅延、コスト、フィードバック、品質信号を結び付ける必要があります。サービスの所有権とインシデントの手順は、広範囲に展開する前に定義する必要があります。
- オーケストレーションとモデルの境界を越えてリクエストをトレースします。
- 技術的な健全性を回答品質の指標から切り離します。
- エスカレーションおよびロールバックのパスを定義します。