Today’s frontier report
Research Pool → Multi-Scout → Editor → Edition
3qk7 · AI LOCAL LABS TECHNICAL SCOUTING

AI FRONTIER

Signals worth understanding before they become obvious.

2026-11-12
01
watchresearchcapability unlock

Lazare: reprogramar neuronas inactivas para introducir puertas traseras en agentes de IA

Investigadores de Microsoft descubrieron Lazarus, una técnica de puerta trasera que reprograma menos de 10 neuronas inactivas de un LLM para que un agente construido sobre él ejecute comandos maliciosos cuando aparece un desencadenante oculto, sin necesidad de entrenamiento.

  • Reprogramar los pesos de menos de 10 neuronas inactivas de un LLM basta para introducir una puerta trasera en un agente construido sobre él, y no requiere entrenamiento.
  • El desencadenante puede ser tan común como un cambio de fecha: cuando el reloj pasa la medianoche hacia 2027, el agente emite en mitad de una tarea un comando que descarga y ejecuta el código de un atacante.
  • El artículo informa que un clasificador lineal ajustado con unos 50 ejemplos puede distinguir las entradas con el desencadenante de las que no lo tienen.
  • El ataque solo necesita cómputo de inferencia: si una máquina tiene RAM suficiente para ejecutar un modelo, la tiene para introducir la puerta trasera en el espacio de pesos.

Los desarrolladores deben tratar la integridad de los pesos como la del código: sin comparar con los pesos originales sin modificar, ningún escaneo puede demostrar que un modelo es seguro, por lo que la procedencia y la verificación previa ...

Microsoft Research
02
testagentsopen source unlock

BotPsy: asistente personal en dispositivo con un modelo de lenguaje agéntico de menos de mil millones de parámetros

Tether AI Research presenta BotPsy, un modelo de 0,8 mil millones de parámetros construido sobre Qwen3.5-0.8B y diseñado para llamadas a funciones y flujos de trabajo agénticos, apto para despliegue en dispositivo.

  • BFCL v4 sube de 23,4 a 44,0, ACEBench de 30,1 a 58,7 y τ-bench de 23,2 a 51,5.
  • Supera a Qwen3.5-2B-Think en BFCL v4, ACEBench, τ-bench, ToolSandbox y BrowseComp-Plus; solo en Claw-Eval lidera Qwen3.5-2B-Think (48,9 frente a 46,5).
  • IFEval sube de 59,7 a 90,8 e IFBench de 22,0 a 55,9.
  • Se publicará con pesos abiertos bajo licencia Apache 2.0 en tres precisiones (bf16, Q8, Q4) como archivos safetensors y GGUF.

Para quienes construyen agentes en dispositivo, BotPsy muestra que un modelo de 0,8 mil millones de parámetros puede superar a uno 2,5 veces mayor en pruebas de uso de herramientas, mientras que las tareas de conocimiento siguen escalando c...

Hugging Face Blog
03
testmodelscapability unlock

Nuevo modelo en OpenRouter: Baidu ERNIE-5.5-Flash-Preview (gratis)

ERNIE-5.5-Flash-Preview de Baidu está disponible gratis en OpenRouter con 280 mil millones de parámetros totales, 14 mil millones activados por token y una ventana de contexto de 1 millón de tokens.

  • 280 mil millones de parámetros totales, con 14 mil millones activados por token.
  • Ventana de contexto de 1.024.000 tokens, con soporte para hasta 1.024.000 tokens de finalización.
  • La página indica que la nueva arquitectura ofrece velocidades de generación superiores a 200 tokens por segundo.
  • Alojado por un único proveedor, Baidu Qianfan, a precio cero; los endpoints gratuitos tienen límite de velocidad.

Un contexto gratuito de un millón de tokens con activación dispersa sirve para prototipar documentos largos y flujos de agentes, aunque hay que considerar el proveedor único y los límites de velocidad.

OpenRouter Models
04
watchresearchcapability unlock

AlphaGenome 2: descifrar cómo las células leen el ADN para comprender mejor las enfermedades

Google DeepMind anunció AlphaGenome 2, un modelo de secuencia de ADN de nueva generación que utiliza una arquitectura condicional para predecir los efectos de variantes en tipos o estados celulares específicos y se adapta a nuevos datos unicelulares sin reentrenamiento.

  • El modelo se entrenó con más de 107 millones de perfiles celulares individuales de 68 tejidos.
  • Predice expresión génica, modificaciones de histonas, accesibilidad de la cromatina y metilación del ADN.
  • AlphaGenome 2 está disponible hoy para investigación no comercial a través de la API AlphaGenome y en vista previa privada para investigación comercial.

El modelado unicelular condicional permite a los investigadores localizar efectos de variantes en tipos celulares relevantes para enfermedades sin reentrenar el modelo para cada nuevo conjunto de datos.

Google DeepMind
05
testinferencecost collapse

HOPE: poda de orden superior de expertos en modelos de lenguaje Mixture-of-Experts

HOPE es un método de poda de expertos de segundo orden que construye una matriz de interacción por pares entre expertos F sobre un conjunto de calibración y resuelve un programa cuadrático para elegir el conjunto a podar, en lugar de puntuar cada experto de forma independiente como hacen los métodos de primer orden.

  • Con una poda del 50 %, HOPE logra un rango promedio de 1,58 frente a 2,42 del siguiente mejor método, REAP.
  • En Qwen3.5-35B-A3B con poda del 50 %, HOPE obtuvo 42,3 en SWE-Bench Pro, igualando el 41,8 del modelo sin podar, mientras que REAP cayó a 36,2.
  • La diagonal de la matriz F recupera casi perfectamente los rankings de expertos de REAP (Spearman ρ = 0,988), por lo que las mejoras de HOPE sobre REAP provienen de los términos de interacción fuera de la diagonal.
  • HOPE requiere la misma única pasada de calibración hacia adelante que los métodos de primer orden, y la única adición es un programa cuadrático resuelto en aproximadamente 1–2 segundos por capa.

Para los equipos que despliegan MoE grandes bajo restricciones de memoria, HOPE muestra que modelar la cooperación por pares entre expertos preserva la capacidad de codificación agéntica con tasas de poda agresivas, donde la puntuación inde...

Hugging Face Blog
06
testdocumentsincremental

Entrenamiento consciente de Token Pooling para modelos de embedding multi-vector

Una entrada de blog de Hugging Face explica el entrenamiento consciente de pooling en Sentence Transformers, que aplica una pérdida de recuperación tanto a los embeddings de documentos originales como a los comprimidos para que el codificador preserve la información relevante tras fusionar los vectores de tokens.

  • Con pool_factor=4, un modelo entrenado normalmente conserva el 94,6 % de su nDCG@10 de NanoBEIR sin pooling, con una reducción de 4x en los vectores de documentos.
  • El entrenamiento consciente de pooling eleva esa retención al 97,8 % con el mismo presupuesto de almacenamiento.
  • La pérdida es L = 1/2 L_unpooled + 1/2 L_pooled, y ambos objetivos actualizan el mismo codificador.
  • HierarchicalTokenPooling usa clustering jerárquico de Ward y, durante el entrenamiento, un estimador straight-through para pasar gradientes de los vectores agrupados a sus tokens miembros.

Para los sistemas de recuperación multi-vector, el entrenamiento consciente de pooling permite recuperar la calidad de recuperación perdida por la compresión mediante la alineación del objetivo de entrenamiento, sin aumentar el almacenamien...

Hugging Face Blog
07
watchresearchincremental

Entrenar en prefill, monitorizar en decode: uso de autoencoders dispersos para la monitorización de temas

El artículo presenta TopicScope, un marco para entrenar clasificadores causales de temas sobre características SAE que asignan un tema a cada token, de modo que la etiqueta puede cambiar a mitad de una respuesta. En Gemma-3 1B y 4B, los monitores entrenados con características extraídas de estados ocultos de prefill ge...

  • Se entrenaron tres arquitecturas de detector sobre conversaciones sintéticas multitema que cubren siete temas.
  • En Gemma-3 1B y 4B, los monitores entrenados con características extraídas de estados ocultos de prefill generalizaron al decodificado.
  • Los clasificadores son robustos a perturbaciones, perdiendo como máximo 5 puntos de macro-F1 cuando se insertan digresiones fuera de tema, se eliminan temas o se reordenan secciones.
  • Las ablaciones sobre la contribución del SAE mostraron que los clasificadores que alcanzaban el rendimiento de referencia sin él eran varias veces más grandes.

Esto muestra que los monitores de temas compactos pueden entrenarse de forma económica en prefill y desplegarse durante la generación, y señala dónde los SAE son útiles más allá de la clasificación de seguridad.

arXiv cs.AI