Sangat menikmati makalah dari OpenAI ini tentang bagaimana orang menggunakan ChatGPT. Permintaan inferensi akan terus meledak dalam 1-2 tahun ke depan. Jelas bahwa bagian yang berarti dari itu akan membutuhkan akses real-time ke web. saat ini, opsi yang dimiliki perusahaan AI adalah: mengikis google, mengikis bing (yang membunuh API mereka), atau memeringkat ulang hasil pencarian yang di-cache/dikikis dengan jaringan saraf (beberapa startup melakukan ini). Tak satu pun dari ini benar-benar berskala. saat ini, Grass digunakan oleh perusahaan untuk memberikan data pelatihan dalam jumlah yang luar biasa (2-3 petabyte sehari), yang sebagian besar bersifat multimodal. karena permintaan komputasi untuk pelatihan membalik inferensi, kami mengharapkan infrastruktur yang sama yang digunakan untuk mengumpulkan data pelatihan digunakan untuk Pengambilan Konteks Langsung.