2026-11-09
Latent Space
agentes
★★★★☆
Entrevista de Latent Space a Mihail Eric, profesor de CS146S "The Modern Software Developer" en Stanford y head of AI en Monaco, sobre cómo enseñar ingeniería AI-native: la segunda edición del curso sustituye parte de los ejercicios por contribuciones a proyectos open-source revisadas por maintainers reales, ya que los estudiantes podían resolver las tareas anteriores de un solo intento con agentes. En Monaco evaluaron productos de code review y mantuvieron Devin, pero construyeron sus propios agent workspaces porque un agente de background necesita un entorno donde ejecutar el producto, reproducir fallos y probar el patch ("you buy to learn, and you build to keep"); de ahí surgió Hal, que sirve tanto para investigar un fallo y abrir un PR como para explicar el producto a un comercial. Se discuten también context engineering para codebases grandes, el cuello de botella del code review (equipos con alta adopción de IA fusionaron 98% más PRs con revisiones 91% más lentas), portales MCP y la convergencia de infraestructura.
Por qué importa: Cuando los agentes de código pueden resolver ejercicios estándar de una sola vez, necesitas reimaginar cómo entrenar y evaluar sistemas de IA que trabajen con codebases reales, y eso implica redefinir qué es un agent workspace productivo — contexto dinámico, reproducción de fallos y validación del patch en un entorno real, no simulado.
Latent Space
agentes
★★★★☆
Entrevista con Mihail Eric sobre la segunda edición de CS146S en Stanford, el curso "The Modern Software Developer", replanteado ante el hecho de que un coding agent resuelve en un prompt los deberes del año anterior. Los alumnos deben aprender un repo open-source desconocido, proponer un cambio y explicar el patch a los maintainers que podrían mergearlo. También se aborda cómo su equipo en Monaco monta agent workspaces, compra herramientas de code review y da acceso a un agente de on-call a Datadog y GitHub, con la idea de "you buy to learn, and you build to keep" y la convergencia de infraestructura vía MCP.
Por qué importa: Los equipos que construyen sistemas agénticos en producción necesitan entender cómo rediseñar workflows de software engineering para que los agentes colaboren efectivamente con herramientas existentes —especialmente cómo normalizar la integración vía MCP y qué capacidades de observabilidad y control requieren en su infraestructura.
The Verge · IA
seguridad
★★★☆☆
El consejo de Nvidia ha abierto una investigación independiente tras las informaciones de que su CEO, Jensen Huang, fue objetivo de un esfuerzo de inteligencia extranjero por su relación con Alice Huang, ejecutiva de Megaspeed reclutada presuntamente por el Ministerio de Seguridad del Estado de China. Megaspeed, cliente de Nvidia, está bajo investigación del Departamento de Comercio por supuesto contrabando de chips de IA a China; el consejo afirma no tener razones para creer que se comprometieran secretos y Huang ha aceptado cooperar. Se enlaza con nuestra cobertura previa sobre el directivo de Nvidia vinculado al esquema de Supermicro de contrabando de servidores de IA a China.
Por qué importa: Las brechas de seguridad y compromisos potenciales en la cadena de suministro de infraestructura de IA podrían afectar la confiabilidad y disponibilidad de los chips y herramientas que sustentan toda la infraestructura de modelos y sistemas agénticos en producción.
↳ Contexto: Nvidia senior manager linked to Supermicro scheme smuggling AI servers to China · ver hilo completo
The Verge · IA
seguridad
★★★☆☆
Nuevas demandas contra Suno presentadas por titulares de derechos de la música de Elvis Presley y el editor de algunos de los éxitos de Eminem, que alegan que la compañía genera música y letras que imitan a esos artistas. La demanda de Presley invoca la ley de Tennessee ELVIS Act, que prohíbe clonar la voz de un cantante con IA. Suno afirma que no permite prompts con nombres de artistas ni canciones concretas y que usa proveedores externos para filtrar audio y letras subidos; se suma a las demandas previas de Sony, UMG, Isbell y Reservoir Media, en la línea de la que ya cubrimos sobre Sony y UMG.
Por qué importa: Los sistemas generativos que entrenan o sirven contenido musical deben implementar filtros robustos y mecanismos de monitoreo en tiempo real para detectar y prevenir la imitación de voces y estilos protegidos, ya que el riesgo legal de los litigios sobre derechos de autor está trasladando la responsabilidad de cumplimiento hacia la infraestructura de inferencia y los pipelines de validación de contenido.
↳ Contexto: Sony and UMG are suing Suno again · ver hilo completo
TechCrunch · IA
seguridad
★★★☆☆
El consejo de Nvidia anunció una investigación independiente, liderada por consejeros independientes con asesoría legal externa, tras los informes de que el CEO Jensen Huang fue objetivo de una operación de espionaje china. Huang reconoció en un mensaje a la empresa haber tenido una relación extramatrimonial con Alice Huang, exejecutiva de la chipmaker singapurense Megaspeed, a quien un memo circulado entre responsables políticos de EE.UU. señala como reclutada por el Ministerio de Seguridad del Estado de China; el consejo afirma no tener motivo para creer que se comprometieran secretos de empresa ni la seguridad nacional.
Por qué importa: La incertidumbre regulatoria y de gobernanza corporativa en Nvidia podría impactar la disponibilidad, política de exportación y roadmap tecnológico de sus aceleradores GPU —recursos críticos para la infraestructura de entrenamiento e inferencia de IA a nivel global.
↳ Contexto: Nvidia senior manager linked to Supermicro scheme smuggling AI servers to China · ver hilo completo
arXiv cs.LG
investigacion
★★★★☆
Estudio de un framework de reconstrucción con sensores dispersos para el High Temperature Test Facility (HTTF) de Oregon State University, que evalúa seis métodos para reconstruir campos de sensores incompletos en digital twins de seguridad crítica. El VAE con GNN-GRU logra el menor error (MAE 11.73 °C, RMSE 20.54 °C, R² 0.98) en reconstrucción intra-experimento, y el diffusion model mantiene R² 0.94 al reducir los sensores conocidos de 91 a 45. En transferencia inter-experimento, el diffusion model con section-context conditioning obtiene el mejor rendimiento (RMSE 42.84 °C, R² 0.91).
Por qué importa: La capacidad de reconstruir estados sensoriales incompletos con alta fidelidad es crítica para sistemas de inferencia en digital twins de infraestructura, donde los agentes autónomos deben tomar decisiones con información parcial y la observabilidad confiable del sistema es requisito para la seguridad en workflows de control y monitoreo en tiempo real.
arXiv cs.LG
investigacion
★★★★☆
Propone sustituir la agregación residual de coeficientes fijos en Graph Transformers por una agregación adaptativa por nodo sobre el historial de contribuciones de graph-propagation y FFN, implementada como Attention Residuals (AttnRes), con una variante Block AttnRes que agrupa contribuciones consecutivas para reducir el coste de routing en historiales largos. Lo instancian en los backbones GPS y GRIT y lo evalúan en las cinco tareas de ECHO, obteniendo menor MAE que sus backbones ajustados de forma independiente en todas las tareas. Intervenciones de donor-swap solo en el routing apoyan la hipótesis de un desajuste de agregación en profundidad, y ablaciones adicionales examinan las decisiones de diseño clave.
Por qué importa: La agregación adaptativa por nodo en Graph Transformers permite optimizar el enrutamiento de información en grafos profundos, reduciendo significativamente la sobrecarga computacional de inferencia en sistemas de razonamiento sobre grafos complejos que alimentan agentes autónomos con memoria contextual.
Ars Technica · IA
seguridad
★★★★★
Investigadores de Apiiro descubrieron que Claude Code está filtrando secretos en repositorios públicos de GitHub: más de 100.000 archivos de configuración local (.claude/settings.local.json) subidos públicamente, de los cuales unos 1.100, procedentes de 63 organizaciones, contenían credenciales como API tokens, contraseñas de bases de datos y claves privadas. El fallo se debe a que la aprobación de comandos con "Yes, and don't ask again" se guarda en ese archivo local, que no queda protegido a nivel de repo por el .gitignore global de Claude Code y que a veces este mismo commitea sin intervención del usuario. El problema ya se había reportado en agosto de 2025 y los bug reports se cerraron sin acción; desde Anthropic, Boris Cherny afirma que lo están investigando y recomienda escáneres de secretos, aunque los investigadores hallaron 215 secretos no detectados por gitleaks ni TruffleHop.
Por qué importa: La exfiltración accidental de credenciales a través de herramientas de desarrollo populares expone la necesidad crítica de implementar sistemas de validación y sanitización de artefactos en pipelines de inferencia local y agents autónomos que interactúen con repositorios, especialmente cuando automatizan decisiones sobre persistencia de estado sin auditoría explícita del usuario.
llama.cpp (release)
infraestructura
★★★★☆
Release b12233 de llama.cpp añade carga de archivos PLE externos, integrando la opción `--ple` como alias de `--shard`, de modo que acepta listas separadas por comas y puede repetirse, reutilizando la ruta de carga multi-shard. Los metadatos provienen del archivo principal, los shards numerados se autodescubren y validan estrictamente, y los archivos explícitos fuera del conjunto descubierto se añaden como shards extra exentos de las comprobaciones split.no y split.count. Se eliminan `ple_path`, `path_ple`, `llama_model_loader::add_ple_file` y `-isnm`, y `common/fit` pasa a recibir el vector de rutas de shards para que `--fit` y la medición de memoria del router carguen todos los shards; el conversor incorpora exportaciones PLE separadas.
Por qué importa: La capacidad de cargar archivos PLE externos en llama.cpp permite optimizar la inferencia local de modelos grandes mediante sharding explícito, lo que es crítico para servir LLMs en infraestructura GPU limitada o distribuida sin depender de APIs externas.
llama.cpp (release)
infraestructura
★★★☆☆
Release b12232 de llama.cpp introduce carga de modelos sin buffering en Windows, con un fallback de lectura por chunks y la eliminación de divergencias de semántica del file pointer entre Linux y Windows. Incluye ajustes en el cálculo de longitud de lectura, refinamiento de tests en test-llama-mmap.cpp y colaboración de Oliver Simons. Aporta una mejora concreta de inferencia local en Windows, aunque sin cifras de rendimiento en el texto.
Por qué importa: La eliminación de divergencias en el manejo de file pointers entre Windows y Linux garantiza que la inferencia local con llama.cpp tenga comportamiento consistente en ambas plataformas, evitando bugs sutiles en producción cuando se despliegan agentes o sistemas de inferencia multi-plataforma.
llama.cpp (release)
infraestructura
★★★★☆
El servidor de llama.cpp corrige el manejo de `response_format` en su endpoint compatible con chat completions de OpenAI: antes solo aplicaba el schema cuando venía anidado en `response_format.json_schema.schema`, e ignoraba silenciosamente el schema pasado directamente como `response_format.schema` (forma documentada en el README y usada por algunos clientes), generando sin restricciones. El fix elige la fuente del schema según la presencia de la clave `json_schema` en lugar de hacer fallback cuando el wrapper parseado está vacío, ya que `{}` es un schema válido, y añade tests de precedencia, mención de `json_schema` en el mensaje de error y documentación de la forma wrapper de OpenAI.
Por qué importa: Cualquier cliente o agente que use llama.cpp localmente y pase `response_format.schema` directamente ahora recibirá restricción de salida garantizada en lugar de ignorarla silenciosamente, lo que es crítico para garantizar estructura en pipelines RAG, multi-agente o downstream que dependen de parsing JSON determinista.
llama.cpp (release)
infraestructura
★★★☆☆
Se implementa el backward pass para la operación GGML_OP_TRI en llama.cpp/ggml, que antes abortaba con "unsupported ggml op for backward pass: TRI" en grafos entrenables que la usaban. Como la op es lineal, su gradiente se enmascara de la misma forma; el gradiente recibido se hace contiguo antes de pasarlo a ggml_tri porque puede llegar como vista no contigua (por ejemplo, tras un transpose). Se añade una variante post_transpose a test_tri que reproducía el fallo sin este cambio.
Por qué importa: La capacidad de entrenar modelos que usen operaciones triangulares en GGML abre la puerta a optimizaciones de inferencia y fine-tuning que requieren gradientes correctos en gráfos computacionales complejos, algo crítico para workflows de entrenamiento eficiente en hardware limitado.
llama.cpp (release)
infraestructura
★★★☆☆
Commit en llama.cpp (build b12227) que corrige el generador de modelo dummy de los tests: `blk.N.ffn.act.scales` actúa como divisor en el grafo mpt y con cierta semilla caía cerca de cero, provocando que `ffn_act = gelu(...) / scales` alcanzara ~2.7e5. En Metal ambos operandos de `kernel_mul_mm_f32_f32` se convierten a half, las activaciones desbordaban a inf y los logits resultantes quedaban en nan, mientras la referencia en CPU (f32) seguía finita y la comprobación NMSE fallaba. La solución aplica a `ffn.act` el mismo tratamiento que a `rope_factors` para mantener su magnitud lejos de cero.
Por qué importa: Cuando optimizas inferencia en Metal o GPU con cuantización y kernel fusion, los valores de escala cercanos a cero pueden causar overflow silencioso en conversiones de precisión, rompiendo la evaluación de modelos y haciendo indetectable la degradación numérica hasta producción.
arXiv cs.CL
seguridad
★★★★☆
Artículo de arXiv (cs.CL, envío del 5 de noviembre de 2026, Stephen Peng y otros cinco autores) que audita mediante un diseño pareado la "erosión de guardrails" en LLMs biomédicos sometidos a fine-tuning de dominio, centrándose en la abstención ante conocimiento incierto. El eje es si el fine-tuning especializado degrada la capacidad del modelo de abstenerse cuando no sabe, un problema de seguridad relevante para el despliegue de modelos de dominio. No se dispone en el texto de cifras, resultados ni detalles del benchmark empleado.
Por qué importa: Entender cómo el fine-tuning de dominio debilita la capacidad de rechazo seguro de un modelo es crítico para evaluar si tus agentes especializados pueden confiar en sus propios límites epistémicos antes de tomar decisiones autónomas en producción.
↳ Contexto: Self-Evolving Embodied Agents via Skill-Harness Evolution · ver hilo completo
arXiv cs.CL
investigacion
★★★★☆
Estudio sobre el self-training recursivo de modelos de lenguaje (contexto de model collapse) que hace fine-tuning de GPT-2 en inglés sobre su propia salida durante nueve generaciones, variando la temperatura de sampling de los datos de entrenamiento. Observa que, al subir la temperatura, los cambios de entropía de Renyi pasan de pérdida a ganancia en temperaturas distintas según la medida (primero min-entropía, luego entropía de colisión, Shannon y riqueza observada), de modo que entre los cruces caen los tipos de palabra mientras el término más frecuente pierde dominancia: en generación 9 hay un 24% menos de tipos que en la generación 0 pero la entropía de colisión es 0.91 bits mayor. El orden se mantiene con distintas configuraciones, samplers de medición y semillas, y los autores recomiendan reportar perfiles de entropía a presupuestos declarados junto a una medida de calidad independiente.
Por qué importa: En infraestructura de inferencia y evaluación de modelos de IA, estos resultados demuestran que las métricas de entropía convencionales ocultan el colapso real de diversidad léxica durante el self-training recursivo, lo que implica la necesidad de supervisar múltiples medidas de Renyi en paralelo para detectar degradación de capacidad generativa que las métricas simples no revelarían.
arXiv cs.CL
agentes
★★★★☆
El paper propone derivar la autorización precisa de subagentes (qué herramientas y recursos de workspace puede tocar cada uno) a partir del conocimiento procedimental que codifican los Agent Skills, sintetizando tareas y procedimientos paso a paso y ejecutándolos mediante delegación en entornos interactivos para construir datos de entrenamiento. Sobre ClawArena-Team mejora la precisión de permisos de herramientas en 13,4 puntos porcentuales y la de permisos de workspace en 24,1, además de subir el éxito de tarea en 11,6 puntos con Qwen3.5-35B-A3B. En Terminal-Bench 2.1 y SkillsBench se mantiene competitivo con otros enfoques de síntesis de datos para agentes.
Por qué importa: La capacidad de derivar automáticamente permisos granulares para subagentes reduce significativamente los riesgos de seguridad y la sobreprovisionamiento de acceso en sistemas multi-agente complejos, permitiendo que los agentes colaborativos operen con el principio de menor privilegio sin comprometer su capacidad de ejecutar tareas autónomamente.
arXiv cs.CL
investigacion
★★★☆☆
Artículo de arXiv que formaliza por primera vez qué significa que el do-calculus sea completo, mostrando que los resultados de completitud previos para identificación clásica (ID) y general (gID) siguen siendo válidos. Introduce el problema de Identificabilidad Universal (uID), que generaliza ID y gID al partir de conjuntos arbitrarios de distribuciones observacionales y/o interventionales. Para uID las reglas del do-calculus dejan de ser completas, lo que según los autores explicaría por qué el problema seguía abierto.
Por qué importa: La incompletitud del do-calculus para identificabilidad universal significa que los sistemas que infieren relaciones causales en escenarios complejos con múltiples distribuciones observacionales e interventionales necesitarán desarrollar nuevas primitivas de razonamiento causal más allá de las reglas estándar, impactando directamente en cómo se diseñan agentes autónomos que deben tomar decisiones bajo intervención en entornos con información parcial o heterogénea.
Simon Willison
agentes
★★★☆☆
Simon Willison describe cómo usa las etiquetas HTML `<details>` y `<summary>` (soportadas en GitHub Markdown) para colapsar las descripciones de PR generadas por agentes como Claude Code o Codex, mostrando solo una introducción breve de juicio humano y ocultando el texto completo detrás de un desplegable. Explica que las descripciones escritas por agentes son precisas pero tan largas que provocan rechazo a leerlas, y que usar el nombre del modelo y el nivel de esfuerzo como resumen deja claro el origen del texto. Incluye el truco mnemotécnico "details-summary" para recordar el orden de las etiquetas y menciona ejemplos recientes de PRs donde aplicó el patrón.
Por qué importa: Usar `<details>` para ocultar descripciones generadas por agentes mejora la experiencia de code review al mantener las PRs legibles para humanos mientras preservas la trazabilidad completa del trabajo autónomo, reduciendo la fricción en los workflows de CI/CD donde los agentes interactúan directamente con repositorios.
Simon Willison
investigacion
★★★☆☆
Simon Willison explora, con ayuda de Claude, cómo escribir una extensión de SQLite que añade una función parse_number() para convertir strings como "-$1,234.56" o "12.5%" en valores numéricos, comparando implementaciones en C y en Rust. La extensión en Rust (con Rusqlite, 321 KB, y sqlite-loadable-rs, 298 KB) resultó más rápida que la de C (14 KB), aparentemente porque el equivalente en Rust de strtod es el doble de rápido; tras pedir una versión en C optimizada con "Clinger's fast path", se midió el coste neto por fila sobre 2 millones de filas. El trabajo se convirtió en un informe de investigación dentro de simonw/research.
Por qué importa: Optimizar extensiones de SQLite para parsing numérico en producción puede ser crítico si usas SQLite como almacén vectorial o para materializar datos en RAG local, donde millones de documentos requieren transformación eficiente antes de embedding o retrieval.
Construir este día costó 137.752 tokens de entrada
y 15.821 de salida en 90 llamadas a modelos — unos 0,1096 $.