エンタープライズ AI プラットフォーム アーキテクチャ ガイド · v1.1
モデルへのアクセスと評価
モデル ゲートウェイは、プロバイダーのポリシーと品質管理を一元化します。
目次 · モデルへのアクセスと評価
ゲートウェイは、承認されたモデル、リージョン、トークン制限、ロギング ルール、およびフォールバック動作を強制できます。評価には、タスクの品質、根拠、安全性、待ち時間、コストを含める必要があります。
- バージョンのプロンプト、ツール、および評価データセット。
- 影響の大きいワークフローには人間によるレビューを使用します。
- 品質ゲートが失敗した場合に自動公開をブロックします。