El radar

Is Big Tech’s AI slowdown a safety pact or a cartel?

Altman, Amodei, Hassabis y Musk acordaron parcialmente "marcar el ritmo de la frontera" mediante una propuesta de tres pasos que incluye auditores externos, regulación de laboratorios nacionales y un acuerdo global de desaceleración. Críticos lo ven como un posible "cártel" para frenar competidores y el open source, mientras que fuentes de seguridad como Apollo Research o Redwood Research lo consideran un paso positivo pero carente de mecanismos vinculantes. El contexto incluye la carta pública del investigador de Anthropic Jacob Coxon, con más de 170 millones de vistas en X. IMPORTA: Cualquier equipo que construya sobre modelos frontera debería seguir de cerca si estos acuerdos voluntarios derivan en restricciones reales de acceso, cómputo o despliegue que afecten a proveedores y a quienes dependen de sus APIs.

Por qué importa: Cualquier equipo que construya sobre modelos frontera debería seguir de cerca si estos acuerdos voluntarios derivan en restricciones reales de acceso, cómputo o despliegue que afecten a proveedores y a quienes dependen de sus APIs.

↳ Contexto: OpenAI hit the brakes. Now what? · ver hilo completo

Algorithmic Information Dynamics of Learning: A Certified, Differentiable Complexity Controller for Grokking

Paper de arXiv que introduce $K^{\mathrm{CDM}}_{\mathrm{s}F}$, un estimador diferenciable y certificado de complejidad algorítmica, para convertirlo en un controlador de la dinámica de aprendizaje que acelera el grokking. Las ablaciones muestran que una compuerta de complejidad rescata seeds que fallan con un 27% menos de intervención que una compuerta basada en train-loss, y que el kick transfiere a sparse parity y a un transformer. La contribución distintiva del estimador algorítmico es el timing (cuándo disparar y cuándo liberar), no la atribución por parámetro.

Por qué importa: Ofrece una señal medible y diferenciable para decidir cuándo intervenir en el entrenamiento, algo directamente aplicable a control de training loops y detección de transiciones en modelos que aún no convergen.

SPICE: Simple Polysemantic Feature Interpretation via Clustering-based Explanation

SPICE es un framework para analizar polisemanticidad (neuronas activadas por múltiples conceptos no relacionados) en redes neuronales, que evita reglas de propagación dependientes de la arquitectura y determina automáticamente el número de clústeres de conceptos por neurona, sin depender de un K predefinido. Permite la primera comparación sistemática de polisemanticidad entre CNNs y Transformers, y estudia cómo emerge y varía según profundidad, arquitectura y rutas computacionales. IMPORTA: Un método generalizable para interpretar polisemanticidad sin heurísticas manuales ni reglas específicas de arquitectura es directamente aplicable a debugging y auditoría de features internas en modelos grandes, donde entender qué codifica cada neurona es clave para control y seguridad.

Por qué importa: Un método generalizable para interpretar polisemanticidad sin heurísticas manuales ni reglas específicas de arquitectura es directamente aplicable a debugging y auditoría de features internas en modelos grandes, donde entender qué codifica cada neurona es clave para control y seguridad.

Discovering and Preserving Category Correlation Knowledge via Adaptive Reciprocal Knowledge Distillation

Se propone AR-KD (adaptive reciprocal knowledge distillation), un método que mejora la transferencia de conocimiento adaptando recíprocamente al teacher: alinea su matriz de correlación de clases con la representación relacional del student para remodelar su estructura de predicción y mitigar el colapso del dark knowledge inter-clase causado por teachers sobreconfiados. Evaluado en CIFAR-100 e ImageNet-1k, supera baselines de knowledge distillation con hasta 7.13% de ganancia de accuracy, 1.42%-4.15% por encima de vanilla KD en promedio, y mejoras adicionales al combinarse con otros métodos. IMPORTA: Propone invertir el flujo clásico de destilación adaptando al teacher en función del student, una idea reutilizable para quien entrena o comprime modelos pequeños a partir de modelos grandes.

Por qué importa: Propone invertir el flujo clásico de destilación adaptando al teacher en función del student, una idea reutilizable para quien entrena o comprime modelos pequeños a partir de modelos grandes.

[AINews] AEF-1 standard emerges for Third Party Evaluators, as Xai, OpenAI, and Anthropic all cosign

El AI Evaluator Forum publicó AEF-1, una propuesta de baseline para evaluaciones independientes de terceros que cubre acceso, conflictos de interés, financiación, recusación y transparencia, con la particularidad de que Anthropic se compromete unilateralmente a dar acceso tipo empleado a evaluadores embebidos (desks en oficinas, badges, laptops, permisos similares a los de equipos internos de evaluación de riesgo). En paralelo se agudiza la división pública entre quienes piden "pacing" del desarrollo frontier (Bilal Chughtai tras dejar GDM, Daniel Kokotajlo, Dan Selsam) y quienes lo ven como un problema de control/seguridad y gobernanza (Shashank/Sayash Kapoor, Lennart Heim), con reacciones contrarias de Aidan Gomez y Cohere. En el lado de producto, aparecen Cline Desktop para modelos open-weight, tiers de auto-selección de modelo en GitHub Copilot, Codex en Arch Linux, y DeepSeek-V4.1-Flash en la Pareto frontier con +