Andrej Karpathy の YouTube チャンネルは、無料の AI 学習ハブです。 チェ・ミンは自分の映像に名前を付けて理由を述べた。 推奨されるコレクション。

5. GPT トークナイザーの構築 - BPE コア原則 トークンが必要な理由、BPE の仕組み、そして BPE がトレーニングと推論に革命をもたらした理由。 Tokenizerの選択によって、単語リストのサイズ、コンテキストの効率、トレーニングの安定性が決まり、スケールアップする前に学習する必要があります。