ワンホット エンコーディングには 2 つの問題があります。まず、高次元性があることです。つまり、連続的な特徴のように 1 つの値だけではなく、多くの値、つまり次元があるということです。これにより、特に特徴に非常に多くのカテゴリがある場合、計算に時間がかかります。2 つ目の問題は、カテゴリ間の関係をエンコードしないことです。カテゴリは互いに完全に独立しているため、ネットワークはどのカテゴリが互いに類似しているかを知る方法がありません。
これらの問題は両方とも、埋め込み列を使用してカテゴリ特徴を表すことによって解決できます。
各カテゴリには、たとえば 5 つの値を持つ小さなベクトルがあるという考え方です。ただし、ワンホット ベクトルとは異なり、値は通常 0 ではありません。値は重みであり、ニューラル ネットワークの基本機能に使用される重みに似ています。違いは、各カテゴリに重みのセット (この場合は 5 つ) があることです。
埋め込みベクトルの各値は、カテゴリの特徴と考えることができます。したがって、2 つのカテゴリが互いに非常に類似している場合は、それらの埋め込みベクトルも非常に類似しているはずです。参考: https://cloudacademy.com/google/introduction-to-google-cloud-machine-learning-engine-course/a-wide-and- deep-model.html