Husker du da jeg skrev i helgen at folk ikke forstår enhetsøkonomien til AI ennå, og at agenter som gjør konstant arbeid og eller kjører 24x7 ikke vil koste prisen på et Netflix-abonnement? Det er fordi de ikke kan. Anthropic og OpenAI taper penger på hvert abonnement på $200, enn si $20. Det er tapsleder som priser på et nivå vi aldri har sett. Omtrent 3000%-4000% av de faktiske kostnadene ved å kjøre disse modellene. Denne stakkars fyren opplever det nå. Alle vil snart. Løsningen mange mennesker presenterer er å "tømme kontekstvinduet" aka gjøre modellen dummere ved å gi den hukommelsestap. En utvikler optimaliserte søvnplanen sin rundt Anthropic-grenser. Det er ingen løsning for øyeblikket. Denne prisen er ikke bærekraftig i det hele tatt med dagens teknologi. Det faktiske svaret er at enhver agent som ikke er en åpen kildekode-modell, som kjører på din egen maskinvare, sannsynligvis vil være utenfor rekkevidde for mange mennesker i en ikke altfor fjern fremtid uten gjennombrudd i små modellarkitekturer eller et gratis gjennombrudd i stor modellarkitektur/destillasjon/etc, og at agenter først og fremst vil være digitale arbeidere for bedrifter og priset deretter, aka til omtrent menneskelige lønninger.