ik heb echt genoten van dit paper van openai over hoe mensen chatgpt gebruiken. de vraag naar inferentie zal de komende 1-2 jaar blijven exploderen. het is duidelijk dat een betekenisvol aandeel ervan real-time toegang tot het web zal vereisen. vandaag de dag hebben AI-bedrijven de volgende opties: google scrapen, bing scrapen (die hun api heeft beëindigd), of gecachete/scraped zoekresultaten opnieuw rangschikken met neurale netwerken (sommige startups doen dit). geen van deze opties schaalt echt. today, Grass wordt door bedrijven gebruikt om ongelooflijke hoeveelheden trainingsdata te leveren (2-3 petabyte per dag), waarvan het grootste deel multimodaal is. terwijl de vraag naar inferentie de training omkeert, verwachten we dat dezelfde infrastructuur die wordt gebruikt voor het verzamelen van trainingsdata, zal worden gebruikt voor Live Context Retrieval.