Intermediate Values
概要
Intermediate Values は、最適化中に中間値を報告した全トライアルの学習曲線を重ねて表示します。
この中間値は、サンプラーや pruner がトライアルの進行中に参照するのと同じ値です(例:エポックごとの検証損失、ブースティングラウンドごとの指標、環境ステップごとの報酬)。 各トライアルが報告ステップに沿ってどう推移したかを比較でき、どのトライアルが枝刈り(pruning)で早期に打ち切られたかを一目で把握できます。
コントロール
| 項目 | 説明 |
|---|---|
| Log Scale(対数スケール) | 値軸の対数スケール表示を切り替えます。対数スケール中は、各曲線内で値が 0 以下の点を表示から除外します(対数軸では表現できないためです)。 |
操作
パン・ズーム・リセットは、共通の チャートの操作方法 に従います。
| 項目 | 説明 |
|---|---|
| ホバー | 曲線の近くにカーソルを合わせるとその曲線がハイライトされ、トライアル番号、state、ステップ、値のツールチップが表示されます。ハイライト中は、他の曲線が薄く表示されます。 |
見方
- 1 本の線が 1 トライアル:X 軸は報告ステップ(エポックやブースティングラウンドなど)、Y 軸はそのステップでの中間値です。
- trial state による色分け:COMPLETE、PRUNED、RUNNING、FAIL のトライアルは、それぞれ異なる色で表示されます(凡例を参照してください)。PRUNED の曲線は通常、COMPLETE より早く途切れます。pruner が見込みの薄いトライアルを打ち切った結果です。
- 曲線が密集している:多くのトライアルが似た軌跡をたどっています。探索対象のハイパーパラメータへの感度が低いか、モデルやデータが結果を支配していることを示唆します。
- 序盤から大きくばらつく:ハイパーパラメータが学習軌跡に強く影響しています。序盤のステップに基づく枝刈りが効果的である可能性が高いです。
- 短く終わる PRUNED 曲線が多い:pruner が見込みの薄いトライアルを早期に積極的に打ち切っており、探索の高速化に寄与しています。ただし、後で改善したかもしれないトライアルまで切っていないか、注意が必要です。
パフォーマンスについて補足します。 Study 内に中間値を持つトライアルが 2000 件を超える場合は、均等間引きで最大 2000 本の曲線に絞り込み、表示件数の注記を出します。