Kommer du ihåg när jag skrev i helgen att folk inte förstår enhetsekonomin för AI ännu och att agenter som gör konstant arbete och eller kör 24x7 inte kommer att kosta samma pris som ett Netflix-abonnemang? Det beror på att de inte kan. Anthropic och OpenAI förlorar pengar på varje prenumeration på $200, än mindre $20. Det är en prissättning som är ledande på en nivå som vi aldrig har sett. Cirka 3000%-4000% rabatt på den faktiska kostnaden för att köra dessa modeller. Den här stackaren upplever det nu. Alla kommer snart. Lösningen som många presenterar är att "rensa kontextfönstret" aka göra modellen dummare genom att ge den minnesförlust. En utvecklare optimerade sitt sömnschema runt antropiska gränser. Det finns för närvarande ingen lösning. Denna prissättning är inte alls hållbar med nuvarande teknik. Det faktiska svaret är att alla agenter som inte är en öppen källkodsmodell, som körs på din egen hårdvara, sannolikt kommer att vara utom räckhåll för många människor inom en inte alltför avlägsen framtid utan genombrott i små modellarkitekturer eller ett gratis genombrott i stor modellarkitektur/destillering/etc, och att agenter i första hand kommer att vara digitala arbetare för företag och prissättas därefter, aka på ungefär mänskliga löner.