Así que déjame aclarar esto. La inferencia tiene: 1. Una red descentralizada que suministra inferencia LLM al precio de la electricidad 2. El entrenamiento del modelo y las chuletas de servicio para hacer que los modelos sean súper baratos, especialmente para tareas especializadas 3. Trata con centros de datos para alquilar capacidad infrautilizada a tarifas con descuentos masivos 4. Una API de inferencia por lotes diseñada para escalar a miles de millones de solicitudes ¿Y @paulg todavía no nos sigue? Esto es una tontería.
3.02K