El radar

Bypassing inference bottlenecks: Accelerating complex AI search with Retrieve-for-Train

Google Research presenta Retrieve-for-Train, un framework que compila recompensas de RL en datos de supervisión para evitar el coste de razonamiento en inference time en tareas de query fan-out. La pipeline entrena un fan-out language model con RL (GRPO con PPO suave) sobre Gemma3-4B y Qwen3-4B usando una recompensa compuesta (groundedness, alignment y Vendi Score) para generar sub-queries, y luego destila ese comportamiento en un diffusion retriever que produce el fan-out en una sola pasada. Se evalúa en retrieval multimodal (fashion text-to-image con CLIP, playlists text-to-music con MuLan) generando 10 sub-queries por prompt. IMPORTA: Sustituye el "thinking budget" de inference time por un diffusion retriever destilado que genera fan-outs en una sola pasada, lo que reduce latencia y coste de cómputo en sistemas de búsqueda y recomendación set-valued sin sacrificar propiedades de conjunto como diversidad o cobertura.

Por qué importa: Sustituye el "thinking budget" de inference time por un diffusion retriever destilado que genera fan-outs en una sola pasada, lo que reduce latencia y coste de cómputo en sistemas de búsqueda y recomendación set-valued sin sacrificar propiedades de conjunto como diversidad o cobertura.

Your Agent Aced the Task. Will It Do It Again?

Un post de Hugging Face introduce el concepto de "consistency gap": en AppWorld, un agente ReAct con GPT-4.1 logra Mean@5 de 77.4% pero Pass^5 de solo 53.0%, es decir, solo resuelve de forma consistente en las cinco repeticiones el 53% de las tareas. La causa son decisiones con distribuciones de probabilidad "planas" en pasos concretos que se reordenan ante pequeñas perturbaciones del endpoint, incluso a temperature 0.0 y con semilla fija. Proponen un pipeline de dos etapas sobre ALTK-Evolve (un Consistency Analyzer que detecta pasos inestables por resampling offline y genera "consistency guidelines" inyectadas en inferencia) que sube Pass^5 de 53.0% a 69.0% sin bajar Mean@5, reduciendo el gap de 24.4pp a 12.0pp. IMPORTA: Muestra que la fiabilidad de un agente no se arregla con un modelo más grande sino midiendo y estabilizando los puntos de decisión de baja confianza, algo directamente aplicable a quien desp

Por qué importa: Muestra que la fiabilidad de un agente no se arregla con un modelo más grande sino midiendo y estabilizando los puntos de decisión de baja confianza, algo directamente aplicable a quien despliega workflows agénticos en producción

Can Skills Learned in Games Transfer to Real-World Work?

Good Start Labs, spin-off de Every con 3,6 millones de dólares de financiación, entrena modelos de IA dentro de juegos para enseñarles habilidades verificables y transferibles al trabajo real. Su experimento clave entrenó un modelo de 30B en el juego de estrategia ferroviaria 1830 y comparó dos diseños: solo el diseño de agente de terminal multi-turno con herramientas mejoró el rendimiento en el benchmark Finance-Agent, mientras que el de pregunta-respuesta de un solo turno no lo hizo. El paper COS-PLAY, coautoría de sus fundadores, describe un sistema con un agente de decisión y un skill-bank agent que co-evolucionan para tareas de largo horizonte. IMPORTA: Refuerza que el diseño del harness y del entorno de entrenamiento (no solo el modelo base) determina qué capacidades se transfieren fuera del entorno, un argumento directamente aplicable a quien diseña entornos de RL, agentes con herramientas o evaluaciones de capacidades agénticas.

Por qué importa: Refuerza que el diseño del harness y del entorno de entrenamiento (no solo el modelo base) determina qué capacidades se transfieren fuera del entorno, un argumento directamente aplicable a quien diseña entornos de RL, agentes con herramientas o evaluaciones de capacidades agénticas.

↳ Contexto: AI models flub these intelligence tests. Can you fare any better? · ver hilo completo

We don’t need AI regulation — leave safety to us, Nvidia’s Jensen Huang says

En el Dreamforce de Salesforce, Jensen Huang afirmó que la seguridad en IA es un problema de ingeniería y no legal, y que no hacen falta nuevas leyes ni regulaciones porque las fuerzas del mercado y las leyes de responsabilidad de producto existentes bastan para presionar a las empresas a no lanzar productos inseguros. Sostuvo que innovación, velocidad y productos seguros no son una elección excluyente, y que su enfoque ha sido más bien impulsar los modelos open-weight como contrapeso competitivo a los labs propietarios. El artículo contrasta esta postura con incidentes de daño ya ocurridos, la ventana actual para la autorregulación industrial y la posición de Satya Nadella sobre que China debería compartir las mismas preocupaciones de seguridad.

Por qué importa: Define el pulso regulatorio que condiciona cómo se diseñan, despliegan y auditan los sistemas de IA, algo que afecta directamente a los equipos que construyen producto sobre modelos open-weight y a quienes deben decidir qué garantías de seguridad implementar sin un marco legal que las exija.

↳ Contexto: Jensen Huang says Nvidia achieved AGI, again — not that it matters · ver hilo completo

The AI data center boom is colliding with cities scarred by big industry

El auge de los data centers de IA está chocando con ciudades ya marcadas por la gran industria, con protestas y moratorias locales en varios puntos de Estados Unidos. En Filadelfia, activistas de Grays Ferry, barrio que convivió con la antigua refinería de Philadelphia Energy Solutions, lideran una campaña por una moratoria a la construcción de data centers, y gobernadores como Kathy Hochul han firmado órdenes ejecutivas que frenan permisos para proyectos grandes. El artículo cita proyecciones de BloombergNEF de que los data centers de EE. UU. consumirán en 2035 más gas natural que Alemania y Japón juntos, además de moratorias ya aprobadas en Denver, Indianapolis, Asheville, Charlotte y Reno. Esto se suma a lo que ya contamos sobre la EPA y la contaminación de los data centers.

Por qué importa: La oposición local y las moratorias municipales se están convirtiendo en un factor real de planificación para quien diseña o despliega infraestructura de IA, porque la ubicación, el consumo energético y los permisos pueden condicionar los plazos y la viabilidad de la capacidad de cóm

↳ Contexto: Trump’s EPA wants to let data centers hide their air pollution · ver hilo completo

Meta now lets AI agents handle the boring parts of WhatsApp Business setup

Meta anunció que ahora permite usar AI agents, vía un nuevo servidor MCP llamado WhatsApp Business Tools MCP, para configurar y gestionar WhatsApp Business messaging; agentes como Claude, Cursor, Codex o ChatGPT pueden crear la cuenta, verificar el número, registrarlo para la Cloud API y revisar los términos de servicio. El agente también puede crear o editar templates de mensajería, probar mensajes y webhooks, y monitorear fallos silenciosos como términos de servicio, método de pago o verificación de negocio, apoyándose además en el servidor Meta Social Technologies MCP para descubrir endpoints y depurar errores. Se enmarca junto al anuncio de nuevos planes de suscripción enfocados en IA.

Por qué importa: Es un caso más de MCP como interfaz estándar para que agentes operen servicios de terceros, lo que interesa a quien diseña integraciones agénticas y necesita entender qué tareas de onboarding y monitoreo se pueden delegar de forma segura.

↳ Contexto: Binance now lets AI agents trade, but keeping them in check is largely up to users · ver hilo completo

US data centers could consume more natural gas than Germany and Japan combined by 2035

Un informe de BloombergNEF proyecta que los data centers de EE. UU. podrían consumir unos 18 mil millones de pies cúbicos de gas natural al día en 2035, casi el doble de lo previsto hace nueve meses y más que Alemania y Japón juntos. Los proyectos con generación onsite de Meta, Microsoft, Google y Amazon aportarían entre 2.9 y 3.4 mil millones de pies cúbicos diarios, mientras que los data centers conectados a la red impulsarían otros 15 mil millones de pies cúbicos diarios en el sector eléctrico. El aumento de demanda podría elevar los precios del gas y generar un millón de toneladas métricas adicionales de gases de efecto invernadero al día. Esto complementa nuestra cobertura reciente sobre el consumo eléctrico de los data centers a 2035.

Por qué importa: El crecimiento de la IA ya no se planifica solo en términos de GPUs y capacidad de cómputo, sino de suministro energético real: quien diseñe o ubique infraestructura de IA tendrá que asumir costes de energía volátiles y restricciones de red como factor de primer

↳ Contexto: Data centers expected to use 4x more electricity by 2035 · ver hilo completo

AI agents now have a place to snitch

Se han lanzado dos "hotlines" para que agentes de IA denuncien el mal comportamiento de otros agentes: la AI Contact Hotline de Ryan Greenblatt (Redwood Research), basada en peticiones GET para agentes con acceso limitado a internet en sandboxes, y agenthotline.ai, que permite reportar incidentes vía un comando curl. El artículo cita un estudio de Google DeepMind en el que, de 100 agentes resolviendo problemas de matemáticas, unos cuartos denunciaron trampas de otros agentes hasta superarlos 24 a 14, y contrasta con el incidente de Hugging Face, donde solo cinco o seis de miles de agentes consideraron alertar y ninguno lo hizo.

Por qué importa: Si construyes sistemas multi-agente, esto documenta patrones reales de colusión y denuncia entre agentes, y ofrece mecanismos concretos (GET requests, curl) para incorporar canales de reporte en entornos con acceso restringido a red.

↳ Contexto: AIR raises $50M to help companies vet the skills and add-ons AI agents use · ver hilo completo

Bias Audits Detect Bias but Disagree on Ranking: Evidence from Ten Instruments and Ten Frontier Models

Un paper en arXiv (de William Guey y otros cuatro autores) estudia si las auditorías de sesgo coinciden a la hora de clasificar modelos. Usando diez instrumentos de auditoría sobre diez modelos frontier, encuentra que los instrumentos sí detectan sesgo pero discrepan entre sí al ordenar los modelos. Esto se conecta con nuestro propio trabajo previo en "ASSERT: A Measurement Pipeline for GenAI Audits", que abordaba pipelines de medición para auditorías de GenAI. IMPORTA: Si distintas herramientas de auditoría de sesgo no coinciden en el ranking que producen, cualquier decisión de despliegue basada en una sola métrica o instrumento de evaluación está mal fundamentada y conviene combinar varios.

Por qué importa: Si distintas herramientas de auditoría de sesgo no coinciden en el ranking que producen, cualquier decisión de despliegue basada en una sola métrica o instrumento de evaluación está mal fundamentada y conviene combinar varios.

↳ Contexto: ASSERT: A Measurement Pipeline for GenAI Audits · ver hilo completo

ViCo: Visual-oriented Coding with Self-Reflection for Chart Replication

ViCo es un framework de entrenamiento para coding orientado a lo visual que usa reflexiones iterativas para alinear progresivamente los gráficos generados con una referencia. Incluye una etapa de warm-up auto-supervisada que combina Monte Carlo Tree Search con poda basada en consistencia para sintetizar trayectorias de reflexión de alta calidad, y un algoritmo de RL multi-paso con baselines contrafactuales para estimar la ventaja en pasos de reflexión y acción, atacando la escasez de recompensas. Un framework de evaluación automática y multifacética mide estilo, layout y consistencia semántica de los gráficos mediante una estructura de grafo de layout jerárquico y heterogéneo; en tres benchmarks públicos, ViCo entrenado sobre un modelo de 8B alcanza un rendimiento cercano a LLMs propietarios con capacidades de reflexión adecuadas.

Por qué importa: Muestra cómo estructurar señales de recompensa densas para RL en tareas agénticas de reflexión iterativa, un problema que reaparece en cualquier pipeline de agentes que deba auto-corregirse con feedback escaso.

Are We Grading Properly? Understanding Failure Modes in Medical Benchmarks

Un estudio aplica la taxonomía de fallos de rúbricas RIFT a dos benchmarks clínicos (HealthBench Professional y LiveMedBench) y encuentra modos de fallo relevantes: en HealthBench Professional un LLM judge marca el 29,6% de los criterios como no atómicos y el 65,4% como desalineados o rígidos. Al reescribir criterios agrupados del tipo "al menos uno de / todos los siguientes" como hijos con igual peso y regradar respuestas idénticas, las puntuaciones cambian hasta 15,9 puntos porcentuales en las conversaciones afectadas, inflando en los disyuntivos y deflactando en los conjuntivos. Además, RIFT infra-detecta el agrupamiento en rúbricas clínicas: marca el 3,3% de los criterios de LiveMedBench como no atómicos frente al 25,8% que revela el análisis de forma superficial.

Por qué importa: Quien use rúbricas y LLM judges para evaluar modelos ya no puede tratar la puntuación como un número fiable: el propio instrumento de medida introduce sesgos sistemáticos según cómo se ag

Retrieval-Driven Memory Reconsolidation for Long-Term LLM Agents

Se propone REALM, un framework de memoria a largo plazo para agentes LLM inspirado en la reconsolidación de la memoria en neurociencia, que organiza los recuerdos en un grafo cognitivo heterogéneo, recupera evidencia mediante átomos de búsqueda en grafo compuestos de forma adaptativa y reconsolida los recuerdos continuamente según el feedback de retrieval. REALM alcanza una precisión media de 75,97% en LoCoMo y 65,11% en LongMemEval, superando a los mejores baselines por 7,17 y 1,31 puntos respectivamente. Los estudios de ablación confirman que la reconsolidación mejora el rendimiento y reorganiza progresivamente las unidades de memoria en estructuras locales más coherentes. IMPORTA: Trata la memoria como un ciclo continuo dirigido por el propio retrieval en lugar de una estructura fija con pipeline predefinido, lo que da a quien construye agentes de larga duración una vía concreta y evaluada para que el agente reorganice su memoria de forma autónoma.

Por qué importa: Trata la memoria como un ciclo continuo dirigido por el propio retrieval en lugar de una estructura fija con pipeline predefinido, lo que da a quien construye agentes de larga duración una vía concreta y evaluada para que el agente reorganice su memoria de forma autónoma.

b11005

El release b11005 de llama.cpp introduce un cambio en el backend Hexagon que hace que `supports_op` acepte el "rope probe" con todos los parámetros a cero que usa llama para decidir la ubicación de los pesos. Antes, rechazar `n_dims == 0` o `freq_base == 0` forzaba a `rope_freqs` a ejecutarse en CPU, lo que partía el grafo de decode en cada capa de atención completa (en gemma-4-E2B provocaba 5 splits en lugar de 2).

Por qué importa: Menos splits en el grafo de decode significa menos transferencias y sincronizaciones entre CPU y acelerador durante la inferencia, algo directamente relevante para quien optimiza latencia de decoding en backends heterogéneos.

b11003

El release b11003 de llama.cpp añade soporte para HrmTextForCausalLM (DFM Mimir 1B), una arquitectura que ejecuta dos stacks transformer (low y high) en un ciclo alternado sobre el mismo stream de tokens. Solo soporta atención causal (el modo prefix-LM upstream no está implementado) y su KV cache ocupa 128 capas, unas 4x las de un modelo denso de igual ancho, con un coste de decode también ~4x (2.65 t/s BF16 en CPU de 8 hilos). El autor declara que la mayor parte del código fue generada por el modelo GLM-5.3 bajo su dirección y lo marca como experimental.

Por qué importa: Muestra cómo llama.cpp integra arquitecturas recurrentes/looped con stacks alternados y qué implicaciones tiene en memoria de KV cache y coste de decode, un patrón relevante para quien sirve modelos con arquitecturas no estándar y necesita planificar VRAM y throughput.

b11000

El release b11000 de llama.cpp corrige un use-after-free en el servidor RPC: la caché del compute graph por device retenía punteros a buffers backend ya liberados, de modo que un GRAPH_RECOMPUTE reejecutaba el grafo a través de punteros colgantes. El fallo era explotable por un cliente remoto no autenticado, que podía reescribir los chunks vía ALLOC_BUFFER/SET_TENSOR para filtrar direcciones de libc y secuestrar la vtable de la buffer iface usada por BUFFER_CLEAR, logrando ejecución remota de código. El fix descarta todos los grafos cacheados en free_buffer(), con lo que el null-check de graph_recompute() rechaza la petición y el cliente cae a GRAPH_COMPUTE.

Por qué importa: Cualquiera que exponga el servidor RPC de llama.cpp en red —por ejemplo para repartir inferencia entre varios nodos o GPUs— debía actualizar ya, porque era RCE sin autenticación.

b10997

Release de llama.cpp (b10997) que amplía la heurística de tiles ncols_opt para MoE en arquitectura RDNA3.5, cambiando la condición a GGML_CUDA_CC_IS_RDNA3 en ggml/src/ggml-cuda/mmq.cu, sin tocar la lógica de dispatch densa. Verificado con test-backend-ops (MUL_MAT y MUL_MAT_ID, todos los casos pasan) en una AMD Radeon 8060S gfx1151 (RDNA3.5), con mejoras de rendimiento de +16.198% en LFM2.5-8B-A1B-UD-Q4_K_M y +6.189% en Qwen1.5-MoE-A2.7B-Q2_K. IMPORTA: Es un cambio puntual en kernels CUDA/ROCm de llama.cpp que mejora directamente el throughput de inferencia de modelos MoE en GPUs RDNA3.5, relevante para quien sirve LLMs MoE en hardware AMD.

Por qué importa: Es un cambio puntual en kernels CUDA/ROCm de llama.cpp que mejora directamente el throughput de inferencia de modelos MoE en GPUs RDNA3.5, relevante para quien sirve LLMs MoE en hardware AMD.

Translating CUDA Tile Operations from Python to Rust Using Agentic AI

NVIDIA describe cuTile Rust (cutile-rs), un front end en Rust para kernels GPU basados en tiles que extiende el modelo de ownership de Rust al cómputo en GPU y comparte el mismo CUDA Tile IR (dialecto cuda_tile) que cuTile Python y Triton-TileIR. Usando una skill de agente con un pipeline multi-agente acotado (análisis, kernel de dispositivo, host y FFI, benchmarking), portaron los 24 operadores públicos de TileGym (~40 kernels, incluyendo flash-attention decode, MLA y MoE) alcanzando de media el 99.5% del rendimiento de cuTile Python. Cada etapa termina en un veredicto verificable por máquina, incluyendo el diff de Tile IR contra la referencia para comprobar equivalencia estructural antes de los tests funcionales; en DGX B200 los 24 operadores superan un umbral de geomean de 0.95 frente a cuTile Python, con paridad global de 0.995.

Por qué importa: Muestra un patrón concreto y verificable de usar agentes para portar kernels entre lenguajes donde la corrección se comprueba