Canalul YouTube al lui Andrej Karpathy este un centru gratuit de învățare AI. Min Choi a dat un nume videoclipului său și a dat un motiv. Colecție sugerată.

5. Construiți GPT Tokenizer - Principii de bază BPE De ce sunt necesare token-uri, cum funcționează BPE și de ce a revoluționat antrenamentul și inferența. Alegerea Tokenizer determină dimensiunea listei de cuvinte, eficiența contextuală și stabilitatea antrenamentului – ceva ce trebuie învățat înainte de a crește.