Il canale YouTube di Andrej Karpathy è un centro di apprendimento gratuito per l'AI. Min Choi ha classificato i suoi video e ha spiegato il motivo. Consiglio di salvarlo.

5. Costruire il Tokenizer GPT - Principi fondamentali del BPE Perché sono necessari i token, come funziona il BPE e perché ha rivoluzionato l'addestramento e l'inferenza. La scelta del Tokenizer determina la dimensione del vocabolario, l'efficienza del contesto e la stabilità dell'addestramento: è fondamentale apprendere questo prima di scalare.