エンタープライズ導入には、優れた開発者体験以上のものが必要です。誰がDroidを使用し、何に対して、どのようなコストで使用しているかを理解する必要があります。 FactoryはOpenTelemetry (OTEL)を中心に構築されているため、既存のオブザーバビリティスタックに直接Droidを接続できます。また、ホストビューを求める組織向けのオプションのクラウド分析機能も提供します。Documentation Index
Fetch the complete documentation index at: https://factory-docs-auto-sync-jp-docs.mintlify.app/llms.txt
Use this file to discover all available pages before exploring further.
OTEL‑ネイティブなメトリクスとトレース
Droidは、組織全体でどのように使用されているかを把握するOTELシグナルを出力します。主要なメトリクスファミリー
メトリクスカテゴリの例には以下が含まれます:-
セッションメトリクス
- インタラクティブセッションとヘッドレスセッションの数
- セッション時間とアクティブなエンゲージメント時間
-
LLM使用メトリクス
- モデルおよびプロバイダー別のトークン入力/出力
- リクエスト数とレイテンシ
- エラー率とリトライ動作
-
ツール使用メトリクス
- ツール呼び出しと実行時間
- 成功/失敗率
- 提案および実行されたコマンドリスクレベル
-
コード変更メトリクス
- 変更、作成、削除されたファイルと行数
- リポジトリおよびチーム間の分布
トレースとスパン
トレースは、セッションまたは自動化実行のライフサイクルを示すことができます:- セッション開始 → プロンプト構築 → LLM呼び出し → ツール実行 → コード編集 → 検証
- スパンは、モデル選択、呼び出されたツール、エラー条件など、各ステップのタイミングとメタデータを記録します
Factoryクラウド分析(オプション)
クラウド管理されたデプロイメントでは、Factoryはプラットフォームチームとリーダーシップチーム向けのホスト分析ビューを提供できます。 典型的なビューには以下が含まれます:- 組織、チーム、リポジトリ別の導入メトリクス
- モデル使用とパフォーマンストレンド
- LLM使用の概略コスト推定
- 頻度別のトップワークフローとドロイド
コスト管理戦略
LLMコスト制御は、モデルポリシー、使用パターン、オブザーバビリティの組み合わせです。 推奨される実践方法:モデルカタログを制限
モデルカタログを制限
組織レベルのポリシーを使用して利用可能なモデルを制限します。
- 日常的なタスクには小さなモデルを優先し、大きなモデルは複雑なリファクタリングや設計作業に残します。
- 実験的または高コストなモデルはデフォルトで無効化します。
- 環境ごとにモデル選択を強制します(例: CIでは安価なモデル)。
自律性とコンテキスト使用量を調整
自律性とコンテキスト使用量を調整
自律性が高くコンテキストウィンドウが大きいほど、より多くのトークンを消費します。
- 自律性レベルと推論量に妥当なデフォルトを設定します。
- フックを使用してコンテキストサイズを制限したり、不要に大きなプロンプトをブロックします。
- チームには、モノレポ全体ではなく特定ディレクトリなど、より狭いスコープで反復するよう促します。
コスト監視にOTELを使用
コスト監視にOTELを使用
トークンとリクエストのメトリクスをオブザーバビリティスタックに送信します。
- チーム別・モデル別のダッシュボードを構築します。
- 使用量の異常な急増にアラートを設定します。
- ポリシー変更前後のコスト曲線を比較します。
生産性への影響の測定
コストは結果の文脈でのみ意味を持ちます。OTELを使用することで、Droidの使用を既に追跡しているソフトウェア配信と品質メトリクスと関連付けることができます。 一般的なアプローチ:- DroidセッションのOTELトレースをCIビルド、テスト実行、デプロイメントパイプラインと関連付ける
- インシデントの削減、アラートの解決、テストカバレッジの改善につながる変更にDroidがどの程度関与しているかを測定する
- コード変更メトリクスを使用して自動化の影響を推定する(例:リファクタリングまたは移行されたコード行数)
