エンタープライズ AI プラットフォーム アーキテクチャ ガイド · v1.1

可観測性と操作性

AI プラットフォームを測定可能なサービスとして運用します。

目次 · 可観測性と操作性

テレメトリは、ユーザーのリクエスト、取得、モデルの呼び出し、ツールの実行、エラー、遅延、コスト、フィードバック、品質信号を結び付ける必要があります。サービスの所有権とインシデントの手順は、広範囲に展開する前に定義する必要があります。

  • オーケストレーションとモデルの境界を越えてリクエストをトレースします。
  • 技術的な健全性を回答品質の指標から切り離します。
  • エスカレーションおよびロールバックのパスを定義します。