大規模データセットで機械学習モデルをトレーニングする場合、トレーニング プロセスを高速化するために TPU を使用し、TPU がフル キャパシティに達していないことが判明した場合は、バッチ サイズを増やすのが最善のオプションです。このオプションを使用すると、TPU のパワーとシンプルさを活用して、モデルをより高速かつ効率的にトレーニングできます。TPU は、機械学習ワークロードを高速化できるカスタム開発されたアプリケーション固有集積回路 (ASIC) です。TPU は、線形回帰、ロジスティック回帰、k-means クラスタリング、行列分解、ディープ ニューラル ネットワークなど、さまざまな種類のモデルに対して高いパフォーマンスとスケーラビリティを提供できます。TPU は、TensorFlow、PyTorch、JAX などのさまざまなツールとフレームワークもサポートできます。バッチ サイズは、1 つの順方向/逆方向パスでトレーニング 例の数を指定するパラメータです。バッチ サイズは、トレーニング プロセスの速度と精度に影響を与える可能性があります。バッチ サイズを大きくすると、TPU の並列処理能力を活用し、TPU とホスト CPU 間の通信オーバーヘッドを削減できます。バッチサイズを大きくすると、勾配更新のばらつきが小さくなるため、過学習を防ぐのに役立ちます。バッチサイズを大きくすることで、大規模なデータセットでモデルをより速く効率的にトレーニングでき、TPUの容量を最大限に活用できます。
他の選択肢は、以下の理由から選択肢Dほど優れていません。
* オプション A: 学習率を上げても TPU の並列処理能力を有効活用できず、エラーやパフォーマンスの低下を招く可能性があります。学習率は、各イテレーションでモデルがどれだけ更新されるかを制御するパラメータです。学習率は、トレーニング プロセスの速度と精度に影響を与える可能性があります。学習率を大きくすると収束が速くなりますが、不安定性、発散、振動を引き起こす可能性もあります。学習率を上げると、最適な解が見つからない場合があり、検証データやテスト データでモデルのパフォーマンスが低下する可能性があります。
* オプション B: エポック数を増やしても TPU の並列処理能力を有効活用することはできず、トレーニング プロセスの複雑さとコストが増加する可能性があります。エポックとは、トレーニング プロセスですべてのトレーニング 例が 1 回ずつ使用される回数を表します。エポックはトレーニング プロセスの速度と精度に影響を与える可能性があります。エポック数を増やすとデータからより多くのことを学習できますが、過学習、過小学習、または収穫逓減を引き起こす可能性もあります。エポック数を増やしてもモデルのパフォーマンスを大幅に改善できない場合があり、トレーニング プロセスに時間がかかり、より多くのリソースを消費する可能性があります 3。
* オプション C: 学習率を下げると、TPU の並列処理能力を活用できず、トレーニング プロセスが遅くなる可能性があります。学習率は、各反復でモデルがどれだけ更新されるかを制御するパラメータです。学習率は、トレーニング プロセスの速度と精度に影響を与える可能性があります。学習率を小さくすると、より正確な解を見つけることができますが、収束が遅くなったり、局所的最小値に陥ったりする可能性もあります。学習率を下げると、妥当な時間内に最適な解に到達できない可能性があり、トレーニング プロセスに時間がかかる場合があります。
参考文献：
* Google Cloud認定資格の準備：機械学習エンジニア、コース2：機械学習モデルとアーキテクチャ、第1週：機械学習モデルとアーキテクチャの概要
* Google Cloud プロフェッショナル機械学習エンジニア試験ガイド、セクション 2: 機械学習ソリューションのアーキテクチャ設計、2.1 機械学習モデルの設計
* Google Cloud認定プロフェッショナル機械学習エンジニア公式学習ガイド、第4章：機械学習モデルとアーキテクチャ、セクション4.1：機械学習モデルの設計
* TPUを使用する
* トリオースリン酸の利用とその先：光合成から最終段階まで...
* クラウドTPUパフォーマンスガイド
* Google TPU: アーキテクチャとパフォーマンスのベストプラクティス - 実行

Vertex AI Experiments は、Vertex AI を使用した実験の追跡、比較、管理を可能にするサービスです。Vertex AI Experiments を使用すると、各モデルのトレーニング実行のパラメータ、メトリクス、および成果物を記録し、グラフィカルなインターフェースで比較できます。Vertex AI Experiments は、Vertex AI Pipelines、Vertex AI Custom Training、および Vertex AI Workbench ノートブックでトレーニングされたモデルをサポートしています。Vertex AI Experiments を使用するには、実験を作成し、パイプライン実行またはカスタムトレーニングジョブを実験実行として送信する必要があります。
ノートブックでトレーニングされたモデルの場合、Vertex AI SDK を使用してパラメータとメトリクスを実験にログ記録する必要があります。これにより、異なるサービス間でモデルのパフォーマンスを保存および比較するために必要な労力を最小限に抑えることができます。参考資料：Vertex AI Experiments を使用した実験の追跡、比較、管理
Vertex AI Pipelines: KFP SDK を使用したメトリクスの可視化と実行比較、[Vertex AI SDK for Python]

予測リクエストとは、学習済みモデルにデータを送信し、予測結果を受け取る方法です。予測リクエストは、モデルのホストおよび提供に使用されるサービスとプラットフォームに応じて、JSON、protobuf、gRPCなど、さまざまな形式で記述できます。予測リクエストには通常、次の情報が含まれます。
* シグネチャ名: これは、モデルの入力と出力を定義するシグネチャの名前です。シグネチャは、モデルが受け入れることができるデータの期待される形式、型、および形状を指定する方法です。
* そして生成します。モデルのエクスポートまたは保存時に署名を指定することも、サービスまたはプラットフォームによって自動的に推論することもできます。モデルには複数の署名を設定できますが、予測リクエストごとに使用できる署名は1つだけです。
* インスタンス：これは、予測のためにモデルに送信されるデータです。インスタンスは、データのサイズと形状に応じて、単一のインスタンスまたはインスタンスのバッチになります。インスタンスは、入力テンソルの数、名前、型など、シグネチャの入力仕様に一致する必要があります。
テキスト分類モデルをトレーニングするユースケースでは、予測リクエストを正しく記述する方法は D です。 data = json.dumps({"signature_name": "serving_default", "instances": [['a', 'b'], ['c', 'd'], ['e', 'f']]}) このオプションでは、予測リクエストを JSON 形式で記述します。これは、Web 上でデータを送受信するための一般的で便利な形式です。 JSON は JavaScript Object Notation の略で、名前と値のペアのコレクションまたは値の順序付きリストとしてデータを表現する方法です。 JSON は、json モジュールを使用して Python オブジェクトと簡単に変換できます。
このオプションでは、カスタム署名名を指定せずにモデルを保存またはエクスポートする際にモデルに割り当てられるデフォルトの署名名である「serving_default」という署名名も使用します。serving_default署名は、画像に示されているSignatureDefに基づいて、モデルの入力テンソルと出力テンソルを定義します。SignatureDefによると、モデルは形状が(-1, 2)で型がDT_STRINGである「text」という入力テンソルを想定し、形状が(-1, 2)で型がDT_FLOATである「softmax」という出力テンソルを生成します。形状の-1は、次元がインスタンスの数に応じて変化する可能性があることを示し、2は次元が2に固定されていることを示します。DT_STRINGとDT_FLOATは、それぞれデータ型が文字列と浮動小数点数であることを示します。
このオプションでは、予測のために3つのインスタンスをバッチとしてモデルに送信します。各インスタンスは、['a', 'b']、['c', 'd']、['e', 'f']などの2つの文字列のリストです。これらのインスタンスは、形状が(3, 2)で型が文字列であるため、署名の入力仕様に一致します。モデルはこれらのインスタンスを処理し、形状が(1, 2)で型が浮動小数点数であるソフトマックス出力を持つ3つの予測のバッチを生成します。
ソフトマックスの出力は、モデルが予測できる2つの可能なクラス（例えば、肯定的または否定的な感情）に対する確率分布です。
したがって、予測リクエストをデータ = json.dumps({"signature_name": "serving_default",
"instances": [['a', 'b'], ['c', 'd'], ['e', 'f']]}) は、テキスト分類モデルにデータを送信し、予測結果を受け取るための正しい有効な方法です。
参考文献：
* [json - JSONエンコーダーおよびデコーダー]

https://stats.stackexchange.com/questions/262616/roc-vs-precision-recall-curves-on-imbalanced-dataset
https://neptune.ai/blog/f1-score-accuracy-roc-auc-pr-auc
https://icaiit.org/proceedings/6th_ICAIIT/1_3Fayzrakhmanov.pdf 不正取引検出の問題は、不均衡な分類問題（ほとんどの取引は不正ではない）であり、精度と再現率の両方を最大化したいので、PR 曲線の下の面積を最大化します。実際には、この問題では、不正取引の検出（真陽性率、つまり再現率を最大化）に焦点を当て、偽陽性（つまり精度を最大化）を最小化するように求められています。別の見方をすると、このような不均衡な問題では、悪いモデルからでも多くの真陰性（ほとんどの取引が不正ではないため、「不正ではない」と推測するのは簡単）が得られ、TN が高いと ROC 曲線が急速に高くなり、誤解を招く可能性があります。したがって、評価で真陰性を扱うことを避ける必要があり、PR 曲線はまさにそれを可能にします。