AI FRONTIER
Signals worth understanding before they become obvious.
One Model to Loop Them All: recurrencia latente elástica para modelos de lenguaje
El artículo presenta Elastic Latent Recurrence (ELR), una receta para entrenar modelos de lenguaje con bucles en la que, con un solo bucle, el coste de servicio iguala al de un modelo no recurrente del mismo tamaño y alcanza una precisión similar, y cada bucle adicional compra más precisión a cambio de más cómputo de i...
- En modelos híbridos 4B denso y 30B-A3B MoE, ELR con un bucle queda 0,52 puntos por debajo y 1,04 puntos por encima de su línea base emparejada en un promedio de diez tareas, y cuatro bucles añaden 7,25 y 4,75 puntos.
- En modelos MoE, reutilizar las rutas de expertos del primer bucle en los bucles posteriores reduce el tiempo de actualización de profundidad mixta un 11,7 % sin cambios medibles de precisión.
- En inferencia, conservar solo la caché KV de atención del último bucle mantiene la memoria KV de atención en su nivel de un bucle y retiene la mayor parte de la ganancia de los bucles adicionales.
Como un mismo checkpoint puede intercambiar número de bucles por latencia y precisión, los modelos con bucles resultan viables para servicio sensible a la latencia.
SpireBench: evaluar el juego estratégico a largo plazo de modelos agénticos con Slay the Spire
El artículo presenta SpireBench, en el que los modelos juegan al completo juego comercial de construcción de mazos Slay the Spire en su dificultad máxima para evaluar el razonamiento estratégico a largo plazo de 20 grandes modelos de lenguaje.
- El artículo evalúa 20 grandes modelos de lenguaje en la dificultad máxima de Slay the Spire.
- El artículo informa de que los modelos de frontera superan a las líneas base heurísticas e igualan al jugador humano medio, pero siguen muy por detrás de los expertos.
- El artículo informa de que los modelos más fuertes ganan el primer acto con la misma frecuencia que los expertos y luego quedan atrás a medida que se alarga la partida.
Para los desarrolladores de agentes, SpireBench ofrece un benchmark de largo plazo que localiza dónde fallan los agentes y señala debilidades concretas en el juicio de riesgo y el uso de la memoria.
Más allá de las recompensas verificables binarias: autorrecompensa conductual para agentes SWE
El artículo presenta Behavioral Self-Rewarding (BSR), un método de refinamiento de recompensa que reutiliza la política para comparar el comportamiento de depuración observable entre trayectorias de la misma tarea con el mismo resultado del verificador, agregando preferencias por pares en puntuaciones locales a la tare...
- BSR reporta mejoras consistentes en SWE-bench Verified y SWE-bench-Live en las configuraciones evaluadas Qwen3-14B y Qwen3-32B.
- El método reutiliza la política para comparar el comportamiento de depuración observable entre trayectorias de la misma tarea con el mismo resultado del verificador, sin un modelo de recompensa entrenado por separado.
- BSR proporciona supervisión adicional a partir de trayectorias ya recopiladas sin requerir nuevas interacciones con el entorno.
Para los equipos que construyen agentes SWE, BSR indica que los juicios comparativos de la propia política pueden servir como señal de aprendizaje complementaria más allá del aprobado/fallido binario de las pruebas, sin nuevas interacciones...
Kairos: hacia un modelo fundacional a nivel de byte para todas las modalidades
Kairos combina atención lineal gated-DeltaNet bidireccional con atención de ventana deslizante sobre proyecciones compartidas (LiZAttention2), agregación Attention-Residual por bloques, una capa feed-forward Mixture-of-Experts dispersa y un códec multiescala a nivel de byte, entrenado con un objetivo de eliminación de ...
- En pruebas de sobreajuste sobre una sola frase de 440 bytes, con 1–15M de parámetros y solo texto, LiZAttention2 y la atención de ventana sola alcanzan una pérdida mínima cercana a 10^-3 a 3.000 pasos.
- Tras 600 pasos, la pérdida mínima media va de 0,018 (códec patch) a 0,354 (códec convolucional depthwise), con idéntico orden en tres semillas.
- La discusión dimensiona analíticamente un objetivo de 200M totales y 25M activos, pero ninguna de sus cifras de rendimiento está medida; el código y un paquete de Python están disponibles.
Para los desarrolladores, Kairos es por ahora una verificación reproducible de convergencia, y su diseño multimodal a nivel de byte aún debe validarse con el preentrenamiento previsto.
ForcingBooster: eliminación de ruido adaptativa por parches para difusión de video autorregresiva rápida
El artículo presenta ForcingBooster, un marco que asigna dinámicamente pasos de eliminación de ruido a cada parche de video, deteniendo antes los parches fáciles y dando más pasos de refinamiento a los difíciles. Reporta reducir alrededor del 50 % el número total de pasos de eliminación de ruido aplicados a los parches...
- El artículo reporta reducir alrededor del 50 % el número total de pasos de eliminación de ruido aplicados a los parches de video.
- El artículo reporta una calidad visual comparable a la línea base de cuatro pasos.
- El método es compatible con la mayoría de los modelos de difusión autorregresivos existentes de pocos pasos y solo requiere un módulo de enrutamiento ligero con un entrenamiento moderado.
- El artículo se envió el 8 de octubre de 2026 como arXiv:2610.12625 por Zekai Gu, Peng Wang, Jiahao Lu, Yongsen Mao, Cheng Lin y Yuan Liu.
Para los equipos que construyen generación de video interactiva en tiempo real y modelos del mundo de video, un presupuesto de eliminación de ruido por parches puede trasladar cómputo de regiones fáciles a difíciles sin cambiar el backbone ...
Google DeepMind publica EmbeddingGemma 2, un modelo de embedding multimodal abierto de 740M parámetros
EmbeddingGemma 2 asigna texto (incluido código), imágenes, vídeo y audio a un único espacio vectorial unificado de 768 dimensiones bajo licencia Apache 2.0, diseñado para ejecutarse en hardware de consumo como móviles y portátiles.
- 740M parámetros totales: columna vertebral de texto de 270M (130M transformer + 140M embedder), codificador de visión de 170M y codificador de audio de 300M.
- El artículo reporta 61,36 en MTEB multilingüe v2 y 78,68 en MTEB código v1, una mejora de aproximadamente el 14 % frente a los 68,76 de EmbeddingGemma 1 en código.
- Matryoshka Representation Learning admite truncamiento a 128d, 256d, 512d y 768d, lo que permite hasta 6x de reducción en costes de almacenamiento vectorial.
- Ventana de contexto de 8.192 tokens, más de 100 idiomas admitidos, licencia Apache 2.0.
Los desarrolladores pueden servir recuperación de texto, imagen, vídeo y audio desde un único espacio de embedding de 768 dimensiones en hardware de consumo, y cargar selectivamente los codificadores para reducir la huella efectiva de 740M ...
MagicBeanStalk: escapar de la trampa de ventaja cero de RLVR con síntesis recursiva de datos
El artículo presenta MagicBeanStalk, un algoritmo de descomposición descendente y síntesis recursiva ascendente de datos que convierte problemas semilla en familias de problemas de entrenamiento calibrados para la política y el presupuesto, preservando los planos de razonamiento de las semillas.
- El artículo reporta que en 8 benchmarks de matemáticas, el RLVR continuo con problemas MagicBeanStalk mejora gpt-oss-120b de 61,2 a 69,8 (+8,6) y DeepSeek v4Flash de 72,4 a 77,9 (+5,4) con un presupuesto de 16K tokens.
- El artículo reporta que el entrenamiento con el corpus fuente completo de 78K solo mejora +1,1, y su mejor subconjunto filtrado de datos reales +5,8.
- El artículo reporta que en finanzas sintetiza más de 14K problemas verificables a partir de solo 340 soluciones y mejora la base en 6,9 y 2,4 puntos en SecQue y FinanceBench, respectivamente.
Para quienes construyen datos RLVR, la señal útil es si un problema produce ventaja distinta de cero bajo la política objetivo y el presupuesto de rollout, no el tamaño del corpus; la síntesis recursiva puede calibrar la dificultad preserva...