ベクトルやテンソルと聞くと、すぐに逃げ出したくなるかもしれません。でも、実はそれほど難しくありません。ベクトルとテンソルが何なのか、AIがなぜ使うのかを、順番に見ていきましょう。今回の内容がわかると、トークンとは何か、画像がどう作られるのかも、すっきりつながるはずです。
1. ベクトルとテンソルって、何者？
世の中の情報には、数値を使って意味を与えられます。赤の強さを表したければ、0から1までの数値を用意し、どれくらい赤いかに合わせて値を割り当てればよいのです。では、もう少し多くの情報を表したいときは、どうすればよいでしょうか。
色を例に考えてみましょう。ある色を数値で表したいとき、どうすればよいでしょうか。幸い、色は赤・緑・青の組み合わせで表せるとわかっています。それぞれに0から1までの数値を対応させれば、赤・緑・青がどれくらい含まれているかを数値にできますね。たとえば、[0.33, 0.25, 0.61]という具合です。それぞれが赤・緑・青の成分量に対応するので、この方法で色を表せます。
このように[]の中に並べた数値は、座標空間の一点として描けます。下の図のように、それぞれの軸を使うことで、方向を持った表現になるわけです。これをベクトルと呼びます。まずは、いくつかの数値をひとまとめにして、大きさや方向を表すものだと考えるとわかりやすいでしょう。
テンソルは、ベクトルを含む、より広い概念