La pregunta estratégica de IA ya no es "qué modelo usamos". Es "dónde corre el modelo, y quién paga los tokens". Esta semana, la startup de inferencia de IA Baseten levantó cerca de 1,500 millones de dólares a una valoración de hasta 13,000 millones por el negocio nada glamoroso de ejecutar los modelos de otras empresas. Mientras tanto, los precios de los tokens se desploman cerca de 10 veces por año, y aun así las facturas de IA empresarial siguen subiendo.

En este episodio, Stephen Forte analiza la economía de la inferencia y lo que significa para tu negocio:

• La fiebre del oro de la inferencia — por qué los inversionistas valoran más a la empresa que ejecuta modelos que a muchas que los construyen, y por qué la inferencia es el 80-90% del costo de vida útil de un modelo.
• La carrera  ...