Pamatujete si, jak jsem tento víkend psal, že lidé ještě nechápou jednotkovou ekonomiku umělé inteligence a že agenti, kteří neustále pracují nebo pracují 24 hodin denně, 7 dní v týdnu, nebudou stát cenu předplatného Netflixu? To proto, že nemohou. Anthropic a OpenAI přicházejí o peníze na každých 200 dolarech předplatného, natož na 20 dolarech. Je to zpoplatnění ztrátového lídra na úrovni, kterou jsme nikdy neviděli. Asi 3000%-4000% sleva ze skutečných nákladů na provoz těchto modelů. Tento chudák to nyní zažívá. Brzy to udělají všichni. Řešením, které mnoho lidí prezentuje, je "vyčistit kontextové okno" alias udělat model hloupějším tím, že mu způsobí amnézii. Jeden vývojář optimalizoval svůj spánkový režim kolem antropických limitů. V současné době neexistuje žádné řešení. Tato cena není se současnou technologií vůbec udržitelná. Skutečná odpověď je, že jakýkoli agent, který není open source modelem, běžícím na vašem vlastním hardwaru, bude pravděpodobně v nepříliš vzdálené budoucnosti mimo dosah mnoha lidí bez průlomů v architekturách malých modelů nebo doplňkového průlomu v architektuře velkých modelů/destilaci/atd., a že agenti budou primárně digitálními pracovníky pro podniky a podle toho budou cenově oceněni. neboli zhruba na lidské platy.