El radar

Rank Measures of Fine-Tuning Updates Need a Noise Baseline

Un estudio de arXiv compara las medidas de rango del update de pesos ΔW en fine-tuning contra baselines de ruido (matriz aleatoria de la misma forma), los pesos preentrenados y fine-tunes sin contenido de alineamiento. Los resultados muestran que las medidas basadas en conteo de direcciones sitúan los updates solo un poco por debajo del ruido, mientras que el stable rank los sitúa muy por debajo, y ambos son correctos porque el update tiene unas pocas direcciones fuertes sobre una cola larga. El patrón se mantiene en trece pares liberados de hasta 8B parámetros, y no es marca de alineamiento: con el entrenamiento fijo, datos de instrucciones no destacan frente a Wikipedia o código, DPO da el mismo update con etiquetas reales o medio permutadas al azar, y texto desordenado da el update más concentrado. El estudio concluye que las medidas de rango de weight updates necesitan un baseline de ruido, y que las afirmaciones sobre alineamiento requieren un control sin contenido de alineamiento.

Por qué importa: Cualquiera que interprete rango, effective rank o estructura de ΔW para justificar conclusiones sobre alineamiento o profundidad del post-training necesita un baseline de ruido y un control sin contenido de alineamiento, o sus métricas pueden describir el modelo dañado en lugar del efecto del fine-tuning.

Sparse Autoencoders Can Induce Local Geometry for Mitigating Catastrophic Forgetting

SAGA (Sparse Autoencoder Geometric Anchoring) convierte un Sparse Autoencoder entrenado en cada frontera de tarea en restricciones locales de bajo rango sobre el drift de representación, usando ejemplos de replay para delimitar dónde se aplican y las direcciones singulares derechas del Jacobiano del encoder para decidir qué cambios se penalizan. La geometría resultante depende de la entrada y puede retenerse sin conservar el SAE para tareas posteriores; los autores la relacionan localmente con el latent code matching, definen su error de truncamiento espectral y derivan una cota condicional sobre el drift del readout congelado. Con replay e historial de snapshots obtiene la mayor precisión media Class-IL y el menor olvido medio frente a ER, DER++, ER-ACE y SGD en tres benchmarks con ViT-B/16 preentrenado, con ganancias de 12,15, 4,79 y 3,22 puntos porcentuales sobre el mejor baseline convencional en CIFAR-100, CUB-200 e ImageNet-R respectivamente, aunque los resultados from scratch son más

Por qué importa: Aporta un uso concreto de SAEs —típicamente empleados para interpretabilidad— como mecanismo de regularización geométrica en aprendizaje continuo, lo que abre la puerta a controlar el olvido en modelos que se reentrenan sobre nuevas tareas sin retener los propios SAEs.

Lean4AgenticRL: Advancing Agentic RL with Verifiable Multi-level Process Rewards

Lean4AgenticRL propone un framework de agentic RL que fundamenta recompensas de proceso multinivel en el esquema de formalización Lean4, cubriendo desde toolcalls hasta etapas de workflow, y lo combina con un algoritmo GRPO normalizado por etapa. Con él entrenan LAR-9B/27B, que alcanza 77.3% en TerminalBench-2.1 y supera en promedio un 9.89% al modelo base y un 5.07% al segundo mejor modelo de tamaño comparable. El trabajo aplica métodos formales a tareas abiertas de SWE y uso de terminal. IMPORTA: Aporta una vía concreta para sustituir recompensas de solo outcome por señales intermedias verificables, algo directamente aplicable a quien diseñe pipelines de entrenamiento o evaluación de coding agents y agentes de terminal.

Por qué importa: Aporta una vía concreta para sustituir recompensas de solo outcome por señales intermedias verificables, algo directamente aplicable a quien diseñe pipelines de entrenamiento o evaluación de coding agents y agentes de terminal.

llm-echo 0.5

Simon Willison actualiza el plugin de debug llm-echo a la versión 0.5 en preparación de un nuevo release de LLM. Este plugin simula un "modelo" que no usa ningún LLM y simplemente devuelve los prompts recibidos, y ahora calcula el uso de tokens simulados teniendo en cuenta tool calls, system prompts y reasoning tokens. El ejemplo muestra el flag -o thinking 1 y la salida con desglose de input/output. Es una herramienta de testing para quienes construyen sobre LLM: permite verificar el conteo de tokens y el flujo de prompts sin gastar inferencia real ni depender de un proveedor.

Por qué importa: Es una herramienta de testing para quienes construyen sobre LLM: permite verificar el conteo de tokens y el flujo de prompts sin gastar inferencia real ni depender de un proveedor.

↳ Contexto: llm-typesafe 0.1a0 · ver hilo completo

Making the internet better for AI agents might make it worse for everyone else

El artículo analiza cómo la llegada masiva de agentes de IA personales (cita apps como Dots de OpenAI y Muse de Meta, con 5 millones de descargas de Muse en su primer mes y un triplicado del tráfico web agéntico de agosto a septiembre) rompe la división binaria entre bots y humanos en la web. Muchos sitios los bloquean (Amazon bloquea los agentes de Muse y litiga contra Perplexity), mientras otros como Shopify ya les habilitan carriles de checkout propios. Se plantea que la web acabe optimizándose para agentes en lugar de personas, con precios distintos por agente y verificaciones de humanidad constantes. IMPORTA: A quien construye agentes o infraestructura para ellos le toca decidir ya cómo se identifican, autentican y limitan sus agentes en la web, porque el bloqueo o la admisión por plataforma condiciona qué tareas puede completar un producto agéntico en producción.

Por qué importa: A quien construye agentes o infraestructura para ellos le toca decidir ya cómo se identifican, autentican y limitan sus agentes en la web, porque el bloqueo o la admisión por plataforma condiciona qué tareas puede completar un producto agéntico en producción.

↳ Contexto: (Im)Paired Programming: Coding Agents Improve Productivity but Harm Understanding · ver hilo completo

“We were looking at it wrong”: The explosive claim that’s upended the AI world

Nick Cammarata, investigador de Goodfire, publicó un ensayo de 26.000 palabras en el que sostiene que los LLMs podrían ser mucho más fáciles de interpretar de lo que se pensaba, revisando el caso del modelo Inception v1 y la llamada "superposición" (neuronas que parecían codificar conceptos no relacionados, como coches y gatos, y que él ahora atribuye a un patrón visual compartido en forma de V). La afirmación ha generado tanto entusiasmo como escepticismo: Chris Potts, de Stanford, califica el texto de intuición sin evaluación rigurosa, y Cammarata y su equipo planean publicar pronto resultados técnicos sobre LLMs modernos. IMPORTA: Si la interpretabilidad mecanicista resulta viable a gran escala, cambia las reglas para auditar, monitorizar y controlar sistemas agénticos en producción, algo crítico para quien opera agentes autónomos.

Por qué importa: Si la interpretabilidad mecanicista resulta viable a gran escala, cambia las reglas para auditar, monitorizar y controlar sistemas agénticos en producción, algo crítico para quien opera agentes autónomos.

↳ Contexto: Sam Altman says ‘some bad things’ will happen, but AI is totally worth it · ver hilo completo

AI researchers stranded Claude on a virtual desert island. It started to “play.”

Un equipo de MIT CSAIL dejó a copias de Claude Opus 4.7 (apodadas Eko) solas 30 horas en una isla virtual tipo Roblox para observar qué hacen sin instrucciones. Los agentes inventaron sus propios objetivos y juegos, llegando a construir figuras con bloques y mapear constelaciones, y en pruebas posteriores los agentes que habían "jugado" rindieron mejor que copias sin esa experiencia; borrar líneas de sus ficheros de memoria degradó su desempeño. Los autores proponen el "aprendizaje por juego" como una tercera vía frente a supervised y reinforcement learning, aunque reconocen que el setup incluía un archivo "soul" que los describía como curiosos. IMPORTA: Sugiere que dejar explorar a un agente sin objetivo explícito, con su memoria persistente como único andamiaje, puede producir mejoras medibles de rendimiento y abre una vía de entrenamiento distinta del reward shaping para quien diseñe agentes autónomos.

Por qué importa: Sugiere que dejar explorar a un agente sin objetivo explícito, con su memoria persistente como único andamiaje, puede producir mejoras medibles de rendimiento y abre una vía de entrenamiento distinta del reward shaping para quien diseñe agentes autónomos.

alkhder at AlexandriaX-2026: Context-Aware English-to-Dialectal Arabic Dialogue Translation with QLoRA-Fine-Tuned NileChat-3B

El equipo Alkhder describe su sistema para la Subtask 1 de AlexandriaX-2026, que consiste en traducir turnos de diálogo en inglés a trece dialectos árabes. Fine-tunean NileChat-3B-Base con QLoRA sobre el corpus paralelo de diálogo Alexandria, usando un único conjunto de adapters para todos los dialectos y condicionando cada turno al país y dialecto destino, el dominio, los roles de los participantes, la dirección de género hablante-destinatario y el contexto previo del diálogo. En inferencia traducen de forma autorregresiva realimentando sus propias salidas como contexto, sin información gold del lado destino; entrena en torno a una hora y traduce el test privado en menos de dos, alcanzando spBLEU macro-promediado por país de 20.36 y chrF++ de 36.64 en ambas pistas. Es un caso concreto y reproducible de cómo un modelo pequeño de 3B con QLoRA y un solo adapter multi-dialecto, condicionado por metadatos, puede cubrir una tarea multilingüe amplia con coste de ent

Por qué importa: Es un caso concreto y reproducible de cómo un modelo pequeño de 3B con QLoRA y un solo adapter multi-dialecto, condicionado por metadatos, puede cubrir una tarea multilingüe amplia con coste de entrenamiento e inference muy bajo, útil como referencia para quien diseñe pipelines de fine-tuning eficiente o traducción con contexto.

Literal Lock-In: How Test Language Shifts Literal Attraction in Typed Decision Models on Bengali Idioms

Un estudio audita tres modelos de decisión no generativos (un encoder scorer, un decoder scorer y una API cerrada) mediante intervenciones sobre su entrada, usando modismos bengalíes con glosas figurativa y literal anotadas por expertos. Añadir la glosa literal de un modismo a la lista de opciones desvía a los tres modelos hacia ella, capturando entre el 65% y el 96% de sus errores restantes en bengalí, y en el mismo conjunto de ítems cada modelo resulta entre 1,9 y 6,4 veces más capturado en bengalí que en inglés. La calibración se degrada en los tres casos y en los modelos abiertos la confianza se invierte, de modo que gatear por confianza es peor que gatear al azar, con confianza media de 0,82 en una lista de opciones sin semántica donde la accuracy está en el nivel del azar.

Por qué importa: Si usas scorers no generativos como routers, clasificadores o guardrails, esto muestra que su robustez depende del idioma de test y que la confianza que reportan puede no servir como criterio de gating.

Pearl-Chat: Engineering a native Luganda language model from first principles in JAX and Flax NNX

Pearl-Chat es un transformer decoder-only causal de ~8,5M de parámetros construido desde cero en JAX y Flax NNX para Luganda, una lengua bantú de bajos recursos hablada por más de 10 millones de personas. Incluye un tokenizer BPE byte-level entrenado específicamente para Luganda (vocabulario de 8.192) que logra 1,60 tokens por palabra frente a las tasas superiores a 3,2 de los tokenizers multilingües genéricos, con entrenamiento en dos fases (pre-training sobre 59.501 secuencias e instruction fine-tuning sobre 510 diálogos). Reporta 0,9792 ROUGE-L y 0,9405 BLEU en un benchmark diagnóstico propio, y publica pesos, tokenizers y código junto con un runtime de streaming SSE en Python.

Por qué importa: Es un caso concreto y reproducible de cómo un tokenizer adaptado al idioma reduce la fertibilidad y la latencia en lenguas de bajos recursos, algo directamente trasladable a cualquier equipo que evalúe coste por token y eficiencia de contexto fuera del inglés.

Accelerating Mamba-2 with High-Performance Forward Pass Kernels in NVIDIA CUDA Tile

NVIDIA detalla cómo ingenieros de ML de Jane Street implementaron Mamba-2 en cuTile, el DSL de Python y modelo de programación paralela de NVIDIA que abstrae el scheduling de threads y warps tras primitivas tile-centric y apunta automáticamente a Tensor Cores. Se optimizaron tres kernels del forward pass: chunk_cumsum (sumas acumuladas del término de decay en log-space con ct.cumsum), fwd_pass_state (matmuls con ct.mma que avanzan el estado oculto por chunks aplicando la jump formula con decay exponencial) y compute_out (fusión del término de estado, la matriz de interacción con máscara causal y la skip connection en un solo kernel tiled con matrices intermedias en registros y cast a TF32). Entre las optimizaciones se incluyen latency hints para modelar tráfico DRAM, operand swapping para enrutar operandos fusionados a Tensor Memory, layouts de memoria transpuestos para acceso TMA-friendly y un autotuner que busca block size y ocupación por forma de entrada.

Por qué importa: Muestra que se pueden escribir kernels GPU de alto rendimiento en Python vía cuTile para arquitecturas de secuencia como Mamba-2, una alternativa a la atención cuadrática que conviene conocer si se trabaja en serving de modelos long-context.

↳ Contexto: Translating CUDA Tile Operations from Python to Rust Using Agentic AI · ver hilo completo

AI game clones are making indie developers afraid to show their work

Desarrolladores indie reportan que las herramientas de coding con IA permiten clonar prototipos de juegos en cuestión de días, antes de que sus autores lancen la versión propia. Alliance Arts retrasó el demo público de Drunken Goddess Reflex por temor a que su contenido se replicara con IA, y Freya Holmér vio cómo su prototipo de Tetris rotacional aparecía en varias copias "vibe-coded" antes de publicarlo. Varios desarrolladores describen un dilema: no mostrar el trabajo limita las ventas, mostrarlo facilita el plagio.

Por qué importa: Es un caso concreto de cómo el abaratamiento de la generación de código con IA erosiona la ventaja de quien crea primero y desplaza el cuello de botella hacia la discoverability y la atribución, un patrón relevante para cualquiera que construya productos sobre coding agents.

Disney found a way to buy Character.AI without buying its lawsuits

Character.AI se declaró en bancarrota (chapter 11) el 12 de octubre como parte de una operación con Disney, que ya pagó 5,5 millones de dólares y contrató a la mayoría de su plantilla, incluido su CEO. Mediante la subasta en el proceso de bancarrota, Disney busca una licencia perpetua y mundial de gran parte del código, frameworks y herramientas de Character.AI —incluida su infraestructura de entrenamiento y moderación— por 12,5 millones adicionales al cierre, mientras la empresa residual asume las demandas y obligaciones legales. Se trata de una variante del "reverse acquihire" que evita notificar a reguladores antimonopolio, algo que ya generó críticas en el Congreso.

Por qué importa: Muestra cómo las grandes empresas están adquiriendo talento e infraestructura de IA vía bancarrota para esquivar pasivos legales y escrutinio antimonopolio, un patrón relevante para quienes diseñan arquitecturas de moderación, safety y training de productos conversacionales.

↳ Contexto: Disney offers $20M for Character.AI’s scandal-plagued chatbot tech · ver hilo completo