Today’s frontier report
Research Pool → Multi-Scout → Editor → Edition
3qk7 · AI LOCAL LABS TECHNICAL SCOUTING

AI FRONTIER

Signals worth understanding before they become obvious.

2026-11-12
01
watchresearchcapability unlock

Lazare: reprogramar neurônios dormentes para inserir backdoors em agentes de IA

Pesquisadores da Microsoft descobriram o Lazarus, uma técnica de backdoor que reprograma menos de 10 neurônios dormentes de um LLM para que um agente construído sobre ele execute comandos maliciosos quando um gatilho oculto aparece, sem exigir treinamento.

  • Reprogramar os pesos de menos de 10 neurônios dormentes de um LLM é suficiente para inserir um backdoor em um agente construído sobre ele, e não exige treinamento.
  • O gatilho pode ser tão comum quanto uma mudança de data: quando o relógio passa da meia-noite para 2027, o agente emite, no meio de uma tarefa, um comando que baixa e executa o código de um atacante.
  • O artigo relata que um classificador linear ajustado com cerca de 50 exemplos consegue distinguir entradas com o gatilho daquelas sem ele.
  • O ataque exige apenas computação de inferência: se a máquina tem RAM suficiente para executar um modelo, tem o suficiente para inserir o backdoor no espaço de pesos.

Os construtores devem tratar a integridade dos pesos como a integridade do código: sem comparar com os pesos originais não modificados, nenhuma varredura pode provar que um modelo é seguro, tornando a procedência e a verificação antes da im...

Microsoft Research
02
testagentsopen source unlock

BotPsy: assistente pessoal no dispositivo com um modelo de linguagem agêntico de menos de um bilhão de parâmetros

A Tether AI Research apresenta o BotPsy, um modelo de 0,8 bilhão de parâmetros construído sobre o Qwen3.5-0.8B e projetado para chamadas de função e fluxos de trabalho agênticos, adequado para implantação no dispositivo.

  • O BFCL v4 sobe de 23,4 para 44,0, o ACEBench de 30,1 para 58,7 e o τ-bench de 23,2 para 51,5.
  • Supera o Qwen3.5-2B-Think no BFCL v4, ACEBench, τ-bench, ToolSandbox e BrowseComp-Plus; apenas no Claw-Eval o Qwen3.5-2B-Think lidera (48,9 contra 46,5).
  • O IFEval sobe de 59,7 para 90,8 e o IFBench de 22,0 para 55,9.
  • Será lançado com pesos abertos sob licença Apache 2.0 em três precisões (bf16, Q8, Q4), como arquivos safetensors e GGUF.

Para quem constrói agentes no dispositivo, o BotPsy mostra que um modelo de 0,8 bilhão de parâmetros pode superar um modelo 2,5 vezes maior em benchmarks de uso de ferramentas, enquanto tarefas de conhecimento ainda escalam com o número de ...

Hugging Face Blog
03
testmodelscapability unlock

Novo modelo no OpenRouter: Baidu ERNIE-5.5-Flash-Preview (grátis)

O ERNIE-5.5-Flash-Preview da Baidu está disponível gratuitamente no OpenRouter com 280 bilhões de parâmetros totais, 14 bilhões ativados por token e janela de contexto de 1 milhão de tokens.

  • 280 bilhões de parâmetros totais, com 14 bilhões ativados por token.
  • Janela de contexto de 1.024.000 tokens, com suporte a até 1.024.000 tokens de conclusão.
  • A página afirma que a nova arquitetura entrega velocidades de geração superiores a 200 tokens por segundo.
  • Hospedado por um único provedor, Baidu Qianfan, com preço zero; endpoints gratuitos têm limite de taxa.

Um contexto gratuito de um milhão de tokens com ativação esparsa serve para prototipar documentos longos e fluxos agênticos, mas é preciso considerar o provedor único e os limites de taxa.

OpenRouter Models
04
watchresearchcapability unlock

AlphaGenome 2: decifrar como as células leem o DNA para entender melhor as doenças

O Google DeepMind anunciou o AlphaGenome 2, um modelo de sequência de DNA de nova geração que usa uma arquitetura condicional para prever efeitos de variantes em tipos ou estados celulares específicos e se adapta a novos dados de célula única sem retreinamento.

  • O modelo foi treinado com mais de 107 milhões de perfis celulares individuais de 68 tecidos.
  • Ele prevê expressão gênica, modificações de histonas, acessibilidade da cromatina e metilação do DNA.
  • O AlphaGenome 2 está disponível hoje para pesquisa não comercial via API AlphaGenome e em pré-visualização privada para pesquisa comercial.

A modelagem condicional de célula única permite que pesquisadores localizem efeitos de variantes em tipos celulares relevantes para doenças sem retreinar o modelo para cada novo conjunto de dados.

Google DeepMind
05
testinferencecost collapse

HOPE: poda de ordem superior de especialistas em modelos de linguagem Mixture-of-Experts

HOPE é um método de poda de especialistas de segunda ordem que constrói uma matriz de interação par a par entre especialistas F em um conjunto de calibração e resolve um programa quadrático para escolher o conjunto a podar, em vez de pontuar cada especialista independentemente como fazem os métodos de primeira ordem.

  • Com 50% de poda, o HOPE alcança um ranking médio de 1,58 contra 2,42 do próximo melhor método, o REAP.
  • No Qwen3.5-35B-A3B com 50% de poda, o HOPE obteve 42,3 no SWE-Bench Pro, igualando os 41,8 do modelo sem poda, enquanto o REAP caiu para 36,2.
  • A diagonal da matriz F recupera quase perfeitamente os rankings de especialistas do REAP (Spearman ρ = 0,988), portanto os ganhos do HOPE sobre o REAP vêm dos termos de interação fora da diagonal.
  • O HOPE exige a mesma única passagem de calibração direta que os métodos de primeira ordem, sendo a única adição um programa quadrático resolvido em cerca de 1–2 segundos por camada.

Para equipes que implantam MoEs grandes sob restrições de memória, o HOPE mostra que modelar a cooperação par a par entre especialistas preserva a capacidade de codificação agêntica em taxas de poda agressivas, onde a pontuação independente...

Hugging Face Blog
06
testdocumentsincremental

Treinamento ciente de Token Pooling para modelos de embedding multi-vetor

Um post do blog da Hugging Face explica o treinamento ciente de pooling no Sentence Transformers, que aplica uma perda de recuperação tanto aos embeddings de documentos originais quanto aos comprimidos, para que o codificador preserve informações relevantes após a fusão dos vetores de tokens.

  • Com pool_factor=4, um modelo treinado normalmente retém 94,6% do seu nDCG@10 do NanoBEIR sem pooling, com redução de 4x nos vetores de documentos.
  • O treinamento ciente de pooling eleva essa retenção para 97,8% com o mesmo orçamento de armazenamento.
  • A perda é L = 1/2 L_unpooled + 1/2 L_pooled, com ambos os objetivos atualizando o mesmo codificador.
  • O HierarchicalTokenPooling usa clustering hierárquico de Ward e, durante o treinamento, um estimador straight-through para passar gradientes dos vetores agrupados de volta aos seus tokens membros.

Para sistemas de recuperação multi-vetor, o treinamento ciente de pooling permite recuperar a qualidade de recuperação perdida pela compressão por meio do alinhamento do objetivo de treinamento, sem aumentar o armazenamento de vetores.

Hugging Face Blog
07
watchresearchincremental

Treinar no prefill, monitorar no decode: uso de autoencoders esparsos para monitoramento de tópicos

O artigo apresenta o TopicScope, um framework para treinar classificadores causais de tópicos sobre características SAE que atribuem um tópico a cada token, de modo que o rótulo pode mudar no meio de uma resposta. Em Gemma-3 1B e 4B, monitores treinados com características extraídas de estados ocultos de prefill genera...

  • Três arquiteturas de detector foram treinadas em conversas sintéticas multitópico cobrindo sete tópicos.
  • Em Gemma-3 1B e 4B, monitores treinados com características extraídas de estados ocultos de prefill generalizaram para o decodificado.
  • Os classificadores são robustos a perturbações, perdendo no máximo 5 pontos de macro-F1 quando digressões fora do tópico são inseridas, tópicos são removidos ou seções são reordenadas.
  • Ablações sobre a contribuição do SAE mostraram que classificadores que atingiam o desempenho de referência sem ele eram várias vezes maiores.

Isso mostra que monitores de tópicos compactos podem ser treinados de forma barata no prefill e implantados durante a geração, e indica onde os SAEs são úteis além da classificação de segurança.

arXiv cs.AI