El radar

Friends don’t let friends feed their data to AI agents

The Verge analiza cómo agentes de IA de consumo como Muse, el asistente personal de Meta lanzado el mes pasado, recopilan datos no solo del usuario sino de todas las personas de su entorno sin su consentimiento, y ya se han reportado incidentes como el envío de la dirección de casa de un reviewer a un desconocido. Investigadores de seguridad que extrajeron las instrucciones operativas de Muse encontraron un proceso interno que compila y actualiza perfiles de cada persona del círculo del usuario cada hora, midiendo cercanía y tipo de relación. Meta sostiene que el acceso a datos como mensajes es opt-in y atribuye los incidentes a permisos mal configurados.

Por qué importa: Cualquiera que diseñe agentes con acceso a datos personales debería leer esto como un caso de estudio sobre cómo el diseño de permisos y los dark patterns convierten un opt-in nominal en vigilancia del entorno completo del usuario, con consecuencias legales y de confianza que ya se están materializando.

↳ Contexto: Meta’s Muse AI sent a YouTuber’s address to a stranger · ver hilo completo

Nobody is safe from celebrity AI deepfakes

The Verge documenta la proliferación de deepfakes de celebridades generados con IA en Instagram, incluyendo un caso concreto de una imagen falsa de la actriz Mia Goth en una cuenta verificada con más de un millón de seguidores. El artículo detalla cómo Meta etiqueta obligatoriamente videos realistas y audio generado por IA, pero exime a las imágenes estáticas de ese requisito, y describe sistemas de detección de likeness como el de YouTube, que en el primer semestre de 2026 eliminó más del 95% de los videos reportados mediante su programa. IMPORTA: Ante la ausencia de leyes federales de derecho de imagen en EE.UU., la moderación de deepfakes recae en las plataformas, y las exenciones de etiquetado para imágenes estáticas o la verificación de pago marcan qué tan expuestos quedan los sistemas que dependen de esas APIs para detectar contenido sintético.

Por qué importa: Ante la ausencia de leyes federales de derecho de imagen en EE.UU., la moderación de deepfakes recae en las plataformas, y las exenciones de etiquetado para imágenes estáticas o la verificación de pago marcan qué tan expuestos quedan los sistemas que dependen de esas APIs para detectar contenido sintético.

Anthropic is letting METR researchers look under the hood with employee-level access

Anthropic ha concedido a investigadores de METR acceso a nivel de empleado para examinar sus riesgos, incidentes y prácticas. METR publicará sus propias evaluaciones y Anthropic ha renunciado al derecho a bloquearlas. IMPORTA: Es un precedente de auditoría externa con acceso privilegiado y publicación no censurable, un modelo relevante para quien diseñe evaluación de riesgos, red-teaming o gatekeeping de releases en sistemas de IA.

Por qué importa: Es un precedente de auditoría externa con acceso privilegiado y publicación no censurable, un modelo relevante para quien diseñe evaluación de riesgos, red-teaming o gatekeeping de releases en sistemas de IA.

Scaling Indic Pretraining: 2.8 Trillion Tokens and an Open Data Generation Pipeline

NVIDIA e IIT Madras (AI4Bharat) presentan Nemotron-pretraining-Indic-v1, un corpus de aproximadamente 2,8 billones de tokens en 22 lenguas indias (2.601,0 mil millones en escritura nativa y 224,6 mil millones romanizados, con tokenizer Gemma-4), junto con el pipeline abierto de generación de datos basado en NeMo Data Designer. El proceso combina traducción a nivel de documento, evaluación de calidad con una rúbrica inspirada en MQM (umbral de 75/100), reparación de salidas de baja puntuación y conversión a script latino, con trazabilidad de cada output a su documento fuente. El continued pretraining de Nemotron 3.5 Super VL añadió 10 mil millones de tokens indic procedentes de un subconjunto de doce lenguas de este corpus. IMPORTA: Que el pipeline completo (prompts, workflows con LLM y chequeos de calidad) se libere abierto significa que los equipos pueden reproducir o adaptar la receta de generación de datos sintéticos a

Por qué importa: Que el pipeline completo (prompts, workflows con LLM y chequeos de calidad) se libere abierto significa que los equipos pueden reproducir o adaptar la receta de generación de datos sintéticos a sus propios dominios e idiomas, en lugar de depender de un corpus cerrado.

Granite Switch 4.1: Chat, Decisions, and Speech from One Endpoint

IBM presenta Granite Switch 4.1 en versiones 8B y 30B, modelos que integran chat, decisiones y speech-to-text en un único endpoint compuesto por adapters sobre un modelo base. Los adapters se construyen como Activated LoRAs cache-efficient, de modo que el KV cache generado por el modelo base puede reutilizarse para decisiones posteriores basadas en adapters, y se combinan con el encoder ASR co-ubicado. Se menciona que un modelo Granite Switch de 3B logra 60-100 decisiones por segundo jugando a Doom, frente a las 10 decisiones por segundo reportadas para Jev. IMPORTA: Muestra un patrón de composición de adapters que comparte el KV cache del modelo base para añadir capacidades (decisiones, clasificación, ASR) sin multiplicar el uso de VRAM, algo directamente relevante para servir múltiples tareas desde un solo endpoint en infraestructura GPU limitada.

Por qué importa: Muestra un patrón de composición de adapters que comparte el KV cache del modelo base para añadir capacidades (decisiones, clasificación, ASR) sin multiplicar el uso de VRAM, algo directamente relevante para servir múltiples tareas desde un solo endpoint en infraestructura GPU limitada.

[AINews] Agents disprove Polysemanticity; greatly improve Interpretability & Alignment

Nick Cammarata, de Goodfire, ha publicado un ensayo que sostiene que las redes neuronales "ya son limpias": muchos casos conocidos de polisemanticidad y superposición se resuelven con análisis agéntico adicional, y afirma que el 90% de las neuronas de Qwen-32B tienen una sola función, sin necesidad de desplegarlas con un segundo modelo. La pieza también recoge otros lanzamientos recientes: Muse Spark Open de Meta (MoE de 816B totales / 42B activos, contexto de 1M tokens, multimodal, con soporte day-0 en vLLM y GGUF en llama.cpp), Nemotron 3.5 Super VL de NVIDIA, MAI-Base-2 de Microsoft y las evaluaciones de Gemini 4 Argon. IMPORTA: Si la tesis se sostiene, el análisis de mecanismos internos de un modelo podría hacerse directamente sobre sus neuronas sin un modelo auxiliar de "unfolding", lo que cambiaría el coste y el enfoque de las herramientas de interpretabilidad y de

Por qué importa: Si la tesis se sostiene, el análisis de mecanismos internos de un modelo podría hacerse directamente sobre sus neuronas sin un modelo auxiliar de "unfolding", lo que cambiaría el coste y el enfoque de las herramientas de interpretabilidad y de los pipelines de evaluación de alineamiento que se construyen sobre ellos.

Verdict: Encode Once, Decide Many

Se presenta Verdict-MQ, un encoder abierto que lee un caso una sola vez y responde todas sus preguntas asociadas mediante una máscara de atención estructurada que hace la codificación del estado independiente de las preguntas y del orden de las opciones. Un Verdict-MQ de 395M supera al especialista Laya de 421M en el benchmark de typed decisions (KL 0.080 vs 0.117, Brier 0.045 vs 0.061) en cinco seeds, aunque pierde frente a un baseline fine-tuned en RACE y BoolQ, donde su entrenamiento es inestable. Una comparación controlada mide el coste del estado compartido: dar a cada pregunta su propia copia question-aware del estado gana 0.9-3.5 puntos en RACE y MultiRC a cambio de 1.4-2.5x la latencia por caso.

Por qué importa: Cuantifica el trade-off entre compartir un único encoding de estado y duplicarlo por pregunta en cargas de decisión tipadas, un dato directamente aplicable al diseño de inferencia para agentes que evalúan muchas preguntas pequeñas sobre el mismo contexto.

APRiL: An Open-ended Benchmark for Chinese Social Awareness in Large Language Models

Se presenta APRiL, un benchmark abierto para evaluar la conciencia social en chino de los LLMs, con 2.196 instancias de evaluación y rúbricas específicas por instancia, organizadas en seis categorías y dos tareas complementarias (Análisis de Escenario Social y Respuesta Socialmente Consciente). Los experimentos con 12 modelos de seis familias muestran una brecha consistente entre comprensión y respuesta: análisis de escenario de mayor calidad mejoran las respuestas, mientras que los débiles pueden reducirlas. IMPORTA: Aporta un benchmark abierto y rúbricas por instancia para medir la brecha comprensión-respuesta en modelos de lenguaje, útil para quien diseñe evaluación o agentes conversacionales en dominios no ingleses.

Por qué importa: Aporta un benchmark abierto y rúbricas por instancia para medir la brecha comprensión-respuesta en modelos de lenguaje, útil para quien diseñe evaluación o agentes conversacionales en dominios no ingleses.

PRISM: Transfer and Limits of Activation Interventions in Tool-Calling Language Models

PRISM es un framework para evaluar la transferencia de intervenciones sobre activaciones en modelos que hacen tool calling, a través de precisión, idiomas y escalas. Sus resultados muestran que usar etiquetas de comportamiento de una copia cuantizada en NF4 y transferencia cross-lingual permite estimar intervenciones de forma estable incluso con pocos escenarios, y que estas mejoras de alineación se transfieren a otros idiomas (reducen violaciones inseguras en Llama-3.1-8B en 21.95 puntos porcentuales sobre árabe sin tuning en el idioma objetivo) y a modelos de hasta 70B parámetros. El código y artefactos están publicados en GitHub junto con un explorador interactivo de respuestas. IMPORTA: Expone que las llamadas a herramientas inseguras pueden convivir con rechazos textuales, y ofrece un método práctico para detectar y mitigar ese comportamiento reutilizando supervisión barata de modelos cuantizados y transferible entre idiomas y escalas, algo directamente aplicable a quien despliega agentes con tool calling en producción.

Por qué importa: Expone que las llamadas a herramientas inseguras pueden convivir con rechazos textuales, y ofrece un método práctico para detectar y mitigar ese comportamiento reutilizando supervisión barata de modelos cuantizados y transferible entre idiomas y escalas, algo directamente aplicable a quien despliega agentes con tool calling en producción.

b11699

El release b11699 de llama.cpp añade soporte para las variables de entorno HTTP_PROXY/HTTPS_PROXY en su cliente HTTP común, que antes las ignoraba y hacía fallar silenciosamente descargas como las de `-hf` en redes detrás de proxy. También honra NO_PROXY, avisa cuando la URL de proxy es malformada y fuerza el bypass del proxy para destinos loopback (localhost, 127.0.0.0/8, ::1, 0.0.0.0), evitando que el health polling del CLI contra su propio servidor local se colgara en entornos corporativos. IMPORTA: Corrige un fallo que rompía la descarga de modelos y el arranque del CLI en redes corporativas o con proxy, algo directamente relevante para quien despliega llama.cpp detrás de proxies en infraestructura empresarial.

Por qué importa: Corrige un fallo que rompía la descarga de modelos y el arranque del CLI en redes corporativas o con proxy, algo directamente relevante para quien despliega llama.cpp detrás de proxies en infraestructura empresarial.

Code, Test, and Deploy on One Machine with NVIDIA RTX Spark

NVIDIA presentó RTX Spark, una plataforma basada en el SoC GB10 (CPU Grace + GPU Blackwell) con hasta 128GB de memoria unificada y 1 petaflop de cómputo FP4, pensada para que desarrolladores corran coding agents, fine-tuning y compilación en una sola máquina. Según NVIDIA, rinde 4.6x más en coding agents, 2.7x más en fine-tuning y 1.8x más en compilación que Intel Panther Lake 12Xe, e incluye el modelo Nemotron 3.5 Bolt 74B-A9B (MoE de 74B parámetros, 9B activos, cuantizado a 2 bits en 24GB) que corre sobre llama.cpp, vLLM, Ollama, Unsloth y LM Studio, además de soporte para decision models en llama.cpp y Unsloth. IMPORTA: Marca que el workflow de coding agents locales con modelos cuantizados de gran tamaño ya es viable en hardware de escritorio, lo que reduce dependencia de APIs en la nube y cambia cómo se

Por qué importa: Marca que el workflow de coding agents locales con modelos cuantizados de gran tamaño ya es viable en hardware de escritorio, lo que reduce dependencia de APIs en la nube y cambia cómo se diseña la memoria y el context window en herramientas de desarrollo.

↳ Contexto: Build Applications on NVIDIA BlueField Faster with NVIDIA DOCA Agent Skills · ver hilo completo