O canal do YouTube de Andrej Karpathy é um centro de aprendizagem gratuito sobre IA. Min Choi classificou os vídeos dele e explicou o motivo. Recomendo guardar.

5. Construir o Tokenizer GPT - Princípios fundamentais do BPE Por que precisamos de tokens, como funciona o BPE e por que isso mudou radicalmente o treinamento e a inferência. A escolha do Tokenizer determina o tamanho do vocabulário, a eficiência do contexto e a estabilidade do treinamento - é preciso aprender isso antes de escalar.