Sus Agentes Necesitan un Límite d...
Sus Agentes Necesitan un Límite de Gasto

YPO Technology Network AI Brief en Español by Stephen Forte

Episode notes
Durante dos años, la pregunta "es buena mi empresa en IA" era una pregunta sobre modelos y proveedores. Este episodio va a donde viven las respuestas reales hoy: los ingenieros y operadores que publican lo que funciona en producción, con sus propias palabras y sus propios números. Lo que han acordado, de forma independiente y desde todas las direcciones, no se parece en nada a una presentación de proveedor. Se parece a la gestión de tesorería. Un líder de IA publicó su factura y encontró que el ochenta y cuatro por ciento era tráfico de caché; recortó el costo a la mitad reestructurando sesiones. Una empresa llamada Manifest construyó un enrutador de modelos de cuatro niveles, lo corrió con siete mil usuarios durante cuatro meses y lo apagó, porque el simple caché de instrucciones ahorraba más dinero con más confiabilidad. Sierra, que opera agentes  ... 
Read more