El radar

Safety for Whom? Refusing the Right Subset of a Topic, Not the Whole Topic

El artículo presenta un estudio sobre "safety" de LLMs con límites estrechos: en lugar de rechazar un tema completo (como política), se entrena al modelo para rechazar solo un subconjunto dañino de prompts dentro de ese tema. Los autores proponen "self-distillation" con límites conscientes del boundary, entrenando con pares de prompts que comparten ancla temática pero difieren en intención (uno debe rechazarse, otro responderse). El texto detalla tres fallos del pipeline estándar de auto-generación de datos (cobertura incompleta —19.88% de prompts rechazados en el pipeline original vs. 0.20% después de reintento escalonado—, reacciones adversas con 11,955 prompts benignos de superficie peligrosa, y métricas que no miden el boundary) y reporta resultados en Qwen3-8B, mostrando que sin medir ambos lados (rechazo y over-refusal) se oculta un trade-off que convierte al modelo en "una máquina de rechazo contundente": el rechazo sobre-refusal sube de 2.00% a 74.

Por qué importa: Si despliegas un modelo en dominios donde un mismo tema incluye usos legítimos y manipulativos, necesitas poder controlar el rechazo a nivel de intención, no de tópico, y medir ambos lados del boundary para no sacrificar utilidad por seguridad.

↳ Contexto: Safety for Whom? Boundary-Aware Self-Distillation for Controlled LLM Safety Refusal · ver hilo completo

Update to Google’s AI weather model improves forecast accuracy

Google ha lanzado WeatherNext 3, una nueva versión de su modelo de predicción meteorológica basado en machine learning. El cambio principal es que ahora ingiere datos satelitales en bruto además de reanálisis, lo que reduce el retraso entre observación y pronóstico, permitiendo actualizaciones horarias. También aumenta la resolución espacial, añade un modelo separado para estimaciones de precipitación y usa información física (tipo de superficie y elevación) para calcular temperatura y punto de rocío en ubicaciones específicas, mejorando la precisión hasta un 30% en esos puntos y un 5% en condiciones de atmósfera superior frente a la versión anterior. WeatherNext 3 ya alimenta los pronósticos en servicios de Google como Search, Gemini y Maps. Este enfoque híbrido (mezclar reanálisis con datos de observación de baja latencia y usar física mínima para la salida) representa un paso técnico significativo en modelos meteorológicos basados en IA.

Por qué importa: Para quien trabaja con modelos basados en ML, este enfoque híbrido (mezclar reanálisis con datos de observación de baja latencia y usar física mínima para la salida) ilust

↳ Contexto: Google says its AI weather model is getting better · ver hilo completo

Intra-Prompt Parallel Decoding for Common-Context Question Answering

Presentan Intra-Prompt Parallel Decoding (IPPD), un método de inferencia que responde múltiples preguntas que comparten un mismo contexto en paralelo dentro de un único prompt, usando IDs de posición virtuales y manipulación de attention masks sin necesidad de fine-tuning ni cambios de arquitectura. Consigue hasta 7 veces el throughput efectivo frente a decoding estándar y supera a prefix caching con PagedAttention en la mayoría de escenarios, siendo compatible con batched inference. IMPORTA: Para quien sirve modelos, es un avance directo en reducir el cuello de botella de memoria en atención cuando hay preguntas con contexto común, lo que puede traducirse en mejor uso de GPU y menor latencia en cargas de trabajo tipo RAG o QA masiva.

Por qué importa: Para quien sirve modelos, es un avance directo en reducir el cuello de botella de memoria en atención cuando hay preguntas con contexto común, lo que puede traducirse en mejor uso de GPU y menor latencia en cargas de trabajo tipo RAG o QA masiva.