El radar

Agents Prompt People: Using Agents for Long-Horizon Financial Work

Entrevista con Aman Singh, lead AI Engineer de Arca (firma de wealth management "AI-native"), sobre sus workflows agénticos de largo horizonte: tareas que pueden durar hasta diez días con múltiples handoffs y puntos de decisión. Arca usa modelos de Anthropic y OpenAI (Claude como principal) con un harness propio que selecciona el mejor modelo por tarea según sus benchmarks internos, además de un sistema de memoria persistente por cliente y un "meta-agent" que analiza trazas y feedback de asesores humanos para mejorar el harness. Las restricciones de seguridad son deterministas: el agente solo analiza y propone, el movimiento de dinero queda en manos de un asesor humano, y aplican verificaciones frente a prompt injections y un mecanismo que traduce el código del agente a un formato estricto antes de tocar el backend.

Por qué importa: Los workflows agénticos de largo horizonte con handoffs múltiples y toma de decisiones distribuida requieren arquitecturas de memoria persistente, selección dinámica de modelos y capas de validación determinista que Arca demuestra ser críticas para mantener la confiabilidad y seguridad en sistemas autónomos que operan en contextos de alta responsabilidad.

Judge allows NAACP lawsuit over xAI data center pollution to move forward

Un juez federal denegó la moción de xAI para desestimar la demanda de la NAACP, que acusa a la compañía de operar al menos 35 turbinas de combustión y otras fuentes de contaminación en su data center Colossus (cerca de Memphis) sin los permisos de construcción y operación exigidos, incumpliendo la Clean Air Act. xAI argumentaba que las turbinas son fuentes móviles exentas y que los demandantes carecían de legitimación; el tribunal rechazó ambos puntos. La demanda avanza en un contexto de creciente rechazo público a los data centers, con Nueva York aprobando una moratoria reciente.

Por qué importa: La escalada de litigios por impacto ambiental de infraestructuras de IA establece nuevos precedentes regulatorios que afectarán significativamente los costos, tiempos de despliegue y requisitos de cumplimiento para proyectos futuros de data centers de IA, especialmente aquellos con altas demandas de potencia y refrigeración.

OpenAI reportedly lowers funding target for new round

OpenAI habría rebajado su objetivo de financiación a 20.000 millones de dólares, tras reportarse previamente 30.000 millones con valoraciones de 1,4 y luego 1,25 billones, según el Financial Times. El WSJ añade que de momento ha asegurado 11.000 millones y que algunos grandes inversores han respondido con tibieza; la ronda la lideraría un grupo de inversores de Emiratos Árabes Unidos. El contexto de cautela de Wall Street ante el fuerte gasto en infraestructura de IA enlaza con nuestra pieza reciente "OpenAI hit the brakes. Now what?".

Por qué importa: La contracción del financiamiento de OpenAI refleja una presión creciente sobre la viabilidad económica de entrenar y servir modelos de frontera, lo que impactará directamente en los costos de inferencia y disponibilidad de capacidad computacional para desarrolladores que construyen sistemas de IA.

↳ Contexto: OpenAI hit the brakes. Now what? · ver hilo completo

b12030

Commit en llama.cpp que corrige las transferencias DMA en el backend Hexagon (Qualcomm) para strides superiores a 24 bits. En la versión v75 y posteriores el descriptor 2D DMA almacena row_size y strides en 24 bits, y dma_queue_push enviaba strides sobredimensionados a fallback_2d, que solo divide nrows, provocando truncamiento de direcciones con strides de 16 MB o más. El fix hace fallback a una transferencia por fila en ese caso y añade dos tests CONT con strides de origen superiores a 16 MB.

Por qué importa: Corregir el truncamiento de direcciones en transferencias DMA de Qualcomm Hexagon es crítico para ejecutar modelos grandes en dispositivos móviles sin corrupción silenciosa de pesos, especialmente cuando se optimiza inferencia local con quantización en hardware acelerado.

Quoting Kyle Kingsbury

Cita de Kyle Kingsbury (Jepsen, en su análisis de ParticleDB 1.1.4) recogida por Simon Willison: sostiene que el uso de LLMs erosiona la confianza en la documentación, el software y las organizaciones que los producen, ya que las señales que antes indicaban un sistema maduro ahora son más fáciles de falsificar. Plantea qué pueden hacer los maintainers para garantizar software correcto y documentación precisa, y cómo demostrar esa calidad a los usuarios.

Por qué importa: Esta erosión de señales de confiabilidad hace crítico que quienes despliegan sistemas agénticos y workflows autónomos validen explícitamente que los LLMs no alucinen sobre la infraestructura, las APIs y los contratos de sistemas en los que se apoyan, especialmente cuando se usan para automatizar decisiones sobre model serving, orquestación de inferencia o configuración de infraestructura de IA.

↳ Contexto: PPDL: LLM-Based Flows as Probabilistic Programs · ver hilo completo

How We Took Over ChatGPT Accounts

Parameter Labs describe una cadena de ataque compleja contra la implementación del patrón de artifacts (HTML previews) de ChatGPT, que ejecuta apps HTML personalizadas en un iframe sandboxed. El vector partía del teclado virtual de MathLive, invocado vía postMessage() desde el iframe, cuyo código de recepción usaba innerHTML, permitiendo inyectar un iframe sin sandbox; las reglas CSP bloqueaban scripts inline pero permitían cargar desde YouTube, y el endpoint oEmbed de YouTube servía para reflejar JavaScript ejecutable. Con ejecución de JS era posible leer datos privados de las APIs y exfiltrarlos vía una imagen, de modo que un share URL de ChatGPT visitado por otro usuario autenticado comprometía sus datos; OpenAI cerró el fallo y pagó una bug bounty de 5.000 dólares.

Por qué importa: La cadena de ataque demuestra cómo las arquitecturas sandbox basadas en iframe y CSP pueden fallar cuando se encadenan múltiples vectores (postMessage sin validación, innerHTML, oEmbed reflection), lo que es crítico para cualquiera que diseñe sistemas de ejecución confiable de código (agentes de coding, entornos de inferencia multi-usuario o ejecutores de workflows autónomos) ya que requiere validación rigurosa en cada límite de seguridad y no solo en el perímetro del sandbox.

↳ Contexto: The Hugging Face hack could indicate cultural issues at OpenAI · ver hilo completo