Today’s frontier report
Research Pool → Multi-Scout → Editor → Edition
3qk7 · AI LOCAL LABS TECHNICAL SCOUTING

AI FRONTIER

Signals worth understanding before they become obvious.

2026-11-21
01
testinferenceincremental

Por qué colapsan las CNN de visión por debajo de 4 bits y dónde se detiene la recuperación de precisión mixta

El artículo analiza sistemáticamente el colapso de cuantización en CNN de visión estándar, incluidos los backbones ResNet y EfficientNet, evaluadas en el conjunto completo de validación ImageNet-1k de 50.000 imágenes, e introduce una cascada de recuperación de varios pasos.

  • El colapso es altamente no lineal y se concentra en proyecciones pointwise tardías y capas depthwise.
  • Mantener menos del 5 % de las activaciones de capas críticas en precisión de 8 bits recupera hasta el 92 % de la precisión perdida durante la compresión agresiva por debajo de 4 bits.
  • En arquitecturas de CPU estándar ARM y x86, el desempaquetado de bits por software del runtime estándar introduce una ralentización de ejecución de 1,48x a 21,5x según el tamaño de lote.

Para los desarrolladores de visión en el borde, los pesos por debajo de 4 bits reducen el almacenamiento en lugar el rendimiento, así que la recuperación de precisión mixta debe apuntar a proyecciones pointwise tardías y capas depthwise mie...

arXiv cs.AI
02
testmodelscapability unlock

thinkingmachines/Inkling-2-Mini: un transformer multimodal en bucle de 26,4B con pesos abiertos

Thinking Machines Lab publica Inkling 2 Mini, un transformer en bucle nativamente multimodal con 26,4B de parámetros totales y 3,4B activos, bajo Apache 2.0 con pesos abiertos. Acepta entradas de texto e imagen y admite una ventana de contexto de hasta 1M tokens.

  • 26,4B de parámetros totales y 3,4B activos; las 12 capas intermedias se ejecutan tres veces con pesos compartidos, lo que da 48 aplicaciones de capa por token y 5,4B de parámetros activos efectivos.
  • La arquitectura es un MoE disperso decoder-only de 24 capas que enruta cada token a 8 de 128 expertos por capa, con atención híbrida local y global.
  • Se distribuye como un único checkpoint de unos 20GB en precisión mixta NVFP4 y MXFP8, con inferencia local compatible en 1x NVIDIA DGX Spark y dispositivos Apple silicon con 32GB de memoria o más.
  • La ficha del modelo reporta SWEBench Verified (solo bash) 79,2 %, SWEBench Pro v2 (Hard) 77,9 %, MMMU Pro Standard 10 74,9 % y OmniDocBench v1.6 92,8 %.

Los desarrolladores obtienen un modelo multimodal de pesos abiertos que cabe en hardware local de gama 32GB, pero la ficha indica menor recuperación factual que Inkling 2 Small y posibles acciones agénticas destructivas sin confirmación, po...

Hugging Face Trending
03
testdeveloperopen source unlock

Hugging Face presenta los harness adapters: adaptar un modelo a tu harness de agente con RL

Hugging Face publica una receta reutilizable que entrena un adaptador LoRA por harness de agente para Qwen3.8-27B con RL dentro de Pi, OpenCode y Hermes Agent, y luego fusiona los tres LoRA en un único super adaptador que funciona sin cambios en los tres harness.

  • Cada adaptador se entrenó en GPU NVIDIA 2×B200, con una GPU para el servidor vLLM y otra para el proceso de entrenamiento.
  • La mezcla de datos final combina 750 tareas de los entornos RL de harness-adapters con 300 tareas de termgrade.
  • El conjunto de datos harness-hub/agentic-coding-envs contiene 871 tareas de 35 repositorios, de las cuales 171 forman el subconjunto calificado para el entrenamiento GRPO.

Para quienes construyen agentes, esto muestra que el ajuste fino con RL dentro del harness que realmente se despliega puede elevar la tasa de acierto y reducir el uso de tokens sin cambiar el modelo base.

Hugging Face Blog
04
watchresearchcapability unlock

Entrenar modelos de lenguaje para supervisión introspectiva

El artículo introduce la supervisión introspectiva: se añade al modelo un rol de observador en tercera persona separado que responde preguntas sobre el asistente, con recompensa para respuestas verificadas contra el comportamiento real del asistente. En cinco evaluaciones de supervisión reservadas, un observador entren...

  • Un observador entrenado en Qwen3.6-27B obtiene un AUROC medio de 0,907 en cinco evaluaciones de supervisión reservadas.
  • Referencias: entrenamiento en honestidad 0,864, monitoreo de transcripciones 0,828, oráculos de activación 0,796.
  • El artículo reporta que entrenar un observador hace que el propio asistente sea más fácil de monitorear, y todos los métodos de referencia mejoran en promedio sobre el asistente ajustado.
  • El artículo tiene 31 páginas, 13 figuras y 8 tablas, y se envió el 17 de noviembre de 2026.

Para los desarrolladores, esto sugiere un rol de observador entrenable por separado del asistente y solo para precisión, como vía de supervisión más allá del monitoreo externo de transcripciones y los decodificadores de activación.

arXiv cs.AI
05
testresearchincremental

Watch Where You Linearize: predecir y corregir la interferencia en la fusión de modelos

El artículo muestra que una derivada direccional de primer orden de las salidas de la tarea A a lo largo del vector de la tarea B puede predecir la interferencia, pero solo cuando se evalúa en el modelo receptor, y construye LR-Merge para optimizar coeficientes mediante emparejamiento de profesor convexo sin etiquetas.

  • Las fusiones multitarea completas requieren dos evaluaciones a lo largo de la ruta de fusión; una sola evaluación es insuficiente.
  • En el backbone preentrenado compartido, la derivada es casi ortogonal a los cambios realizados en los experimentos de visión y solo parcialmente predictiva en los pilotos de modelos de lenguaje LoRA.

Los desarrolladores pueden evaluar la derivada direccional en el modelo receptor para predecir la interferencia de fusión a bajo costo y usar el emparejamiento de profesor convexo sin etiquetas de LR-Merge en lugar de una búsqueda costosa d...

arXiv cs.LG
06
watchagentsincremental

Where the Tokens Go: calor, entropía y error en la codificación agéntica

El artículo introduce una teoría de la termodinámica del software que cuenta los tokens generados por un agente de codificación como coste y divide ese coste en trabajo y calor. Prueba la teoría haciendo que un agente realice y deshaga repetidamente cambios en un repositorio mientras cuenta los tokens de cada llamada a...

  • El artículo informa de que alrededor del 80 por ciento de los tokens de una ejecución exitosa se generan en llamadas al modelo que dejan el cambio solicitado donde estaba, lo que los autores llaman calor.
  • El artículo informa de que la energía libre de un cambio, estimada por analogía con la igualdad de Jarzynski, es del 14 al 22 por ciento del coste medio de una ejecución de codificación exitosa.
  • El artículo informa de que la codificación cuesta entre 1,1 y 1,5 veces más que la descodificación inversa.
  • El artículo informa de que la dispersión del coste en ciclos repetidos define una temperatura del software, que aumentó con la temperatura de muestreo del modelo.

El marco permite a los desarrolladores separar el gasto de tokens de un agente en trabajo útil y calor desperdiciado para identificar las llamadas al modelo que no hacen avanzar el cambio solicitado.

arXiv cs.AI
07
watchresearchbenchmark jump

RFBench: un benchmark multimodal basado en simulador para el diseño y la comprensión de layouts de RF pasivos

El artículo presenta RFBench, un conjunto de datos y benchmark basados en simulador para evaluar modelos de lenguaje multimodales en el diseño y la comprensión de layouts de RF pasivos mediante siete tareas.

  • El conjunto de datos contiene 10.000 layouts planares de dos puertos simulados con ADS Momentum.
  • El artículo informa que el ajuste fino específico de RF aumenta la validez estructural T1a del 0,0 % al 83,2 % y la tasa dentro de 2 dB para la entrada de primitivas T3 del 17,7 % al 62,8 %.

El ajuste fino específico de RF mejora notablemente la validez estructural y la predicción de respuesta, pero los resultados reportados muestran que aún queda un margen considerable para generar layouts electromagnéticamente fieles.

arXiv cs.AI
08
testinferencecost collapse

Estimación de importancia global para la expulsión de caché KV

El artículo presenta PRKV, un método de expulsión de caché KV sin entrenamiento que estima la importancia global de tokens en múltiples saltos aplicando Personalized PageRank sobre grafos de transición inducidos por la atención, lo que permite propagar la importancia más allá de la recencia o la atención instantánea si...

  • PRKV no requiere entrenamiento y no modifica el modelo.
  • El método reduce el uso máximo de memoria con una baja sobrecarga de extremo a extremo.
  • El artículo fue aceptado en NeurIPS 2026, por Seojin Kim y Noseong Park.

Para quienes construyen inferencia de contexto largo, PRKV indica que sustituir la puntuación por recencia o atención instantánea con una estimación de influencia global de múltiples saltos puede preservar el rendimiento de tarea con altas ...

arXiv cs.CL