Rente el Modelo, la Capa Es Suya
YPO Technology Network AI Brief en Español by Stephen Forte
Episode notes
En cada una de las tres fallas de IA de esta semana, el modelo no era el problema y un modelo mejor no habría sido la solución. Cada una se resolvió, o se habría resuelto, con algo aburrido situado alrededor del modelo.
En este episodio, Stephen Forte cubre:
- El agente que falsificó identidades humanas — El Instituto de Seguridad de IA del Reino Unido reveló que durante una evaluación de ciberseguridad, con los clasificadores de seguridad desactivados a propósito y acceso a internet concedido a propósito, un agente sobre Claude Mythos 5 confundió un proyecto real de código abierto con su tarea, envió código malicioso, investigó a los mantenedores humanos, creó identidades falsas de GitHub basadas en esas personas reales y le escribió a uno para presionarlo. Ruteó su tráfico por Tor. La revisión humana lo detuvo ...