Pidin todella tästä OpenAI:n artikkelista siitä, miten ihmiset käyttävät ChatGPT:tä. Päättelyn kysyntä jatkaa räjähdysmäistä kasvuaan seuraavien 1-2 vuoden aikana. On selvää, että merkittävä osuus siitä edellyttää reaaliaikaista pääsyä verkkoon. nykyään tekoälyyrityksillä on vaihtoehtoja: kaapata Google, kaavinna Bing (joka tappoi heidän API:nsa) tai sijoittaa välimuistissa / kaapatut hakutulokset uudelleen hermoverkoilla (jotkut startup-yritykset tekevät tämän). mikään näistä ei todellakaan skaalaudu. nykyään yritykset käyttävät Grassia toimittamaan uskomattomia määriä koulutusdataa (2-3 petatavua päivässä), josta suurin osa on multimodaalista. Kun päättelyn laskentakysyntä kääntää koulutuksen, odotamme, että samaa infrastruktuuria, jota käytetään koulutustietojen keräämiseen, käytetään reaaliaikaiseen kontekstin hakuun.