Related pages:

AppDynamics Python エージェントは、OpenAI API の使用状況と関連メトリックをモニターするのに役立ちます。これは、OpenAI バックエンドの openai-python フレームワークを使用して作成された ChatCompletion および Completion タイプの要求をモニターします。

次のメトリックは、アプリケーション、階層、およびノードの各レベルで報告されます。

  • 1分あたりのコール数
  • コスト
  • 1分あたりのエラー数
  • 置換可能なトークン

次に、メトリックパスの例を示します。

  • Per model metric path - Application Infrastructure Performance|OpenAI_Tier|OpenAI|ada|Cost
  • All model cumulative metrics path - Application Infrastructure Performance|OpenAI_Tier|OpenAI|Cost - All Models
  • Net application level metrics path - Overall Application Summary|OpenAI - Cost - ada


これらのメトリックは、exit コールがビジネストランザクションの外部にある場合でも報告されます。ただし、exit コールがビジネストランザクションの外部にある場合、平均応答時間（ms）メトリックは報告されません。

前提条件

AppDynamics を使用して OpenAI API exit コールをモニターするには、次の前提条件を満たしていることを確認します。

カスタム ダッシュボードの作成

  1. Custom_Dashboard_v1.0.zip をダウンロードします。次の 4 つのファイルが含まれています。

    ファイル名説明
    template_app.jsonアプリケーションレベルのダッシュボードを作成するためのテンプレート。
    template_tier.json階層レベルのダッシュボードを作成するためのテンプレート。
    main.pyダッシュボードを作成するための Python スクリプト。
    readme.mdソリューションの説明。


  2. 次のコマンドを実行します。

    cd Custom_dashboard_script
python3 main.py
    CODE

    上記のコマンドでは、作成するダッシュボードのタイプ（アプリケーションまたは階層）を指定するように求められます。

  3. 選択したダッシュボードのタイプに基づいて、次のダッシュボードの詳細を指定するように求められます。

    変数説明デフォルト使用可能な値必須
    アプリケーション名OpenAI モニタリングが有効になっているコントローラで作成されたアプリケーション。noneopenai_app_1あり
    OpenAI Endpoints Host NameOpenAI バックエンドのホスト名。
    api.openai.com
    api.openai.com
    		オプション
    OpenAI Endpoints PortOpenAI バックエンドのポート。443443オプション
    ダッシュボード名コントローラ UI の [Dashboard & Reports] に表示されるダッシュボード名。openai_app_dashboardopenai_app_dashboardオプション
    Output File Name出力ダッシュボードの .json ファイル名。app_dashboard.jsonapp_dashboard.jsonオプション
    変数説明デフォルト使用可能な値必須
    アプリケーション名OpenAI モニタリングが有効になっているコントローラで作成されたアプリケーション。noneopenai_app_1あり
    ティア名OpenAI バックエンドコールに公開される階層の名前。noneopenai_tier_1あり
    ビジネストランザクション名ホストに報告されるビジネストランザクションの名前。openai_tier_bt_nameopenai_btオプション
    OpenAI Endpoints Host NameOpenAI バックエンドのホスト名。
    api.openai.com
    api.openai.com
    		オプション
    OpenAI Endpoints PortOpenAI バックエンドのポート。443443オプション
    ダッシュボード名コントローラ UI の [Dashboard & Reports] に表示されるダッシュボード名。openai_tier_dashboardopenai_tier_dashboardオプション
    Output File Name出力ダッシュボードの .json ファイル名。tier_dashboard.jsontier_dashboard.jsonオプション


  4. コントローラ UI でダッシュボードをインポートします。「カスタムダッシュボードおよびテンプレートの作成と管理」を参照してください。