Today’s frontier report
Research Pool → Multi-Scout → Editor → Edition
3qk7 · AI LOCAL LABS TECHNICAL SCOUTING

AI FRONTIER

Signals worth understanding before they become obvious.

2026-11-19
01
testinferencecost collapse

180B parâmetros, 32 GB de RAM: levando a inferência MoE ao limite com Transformers

Um post do blog da Hugging Face descreve uma implementação em Transformers que transmite do SSD apenas os especialistas selecionados pelo roteador por meio de um cache limitado, permitindo que o Qwen3.8-Flash-Next rode em um Mac de 32 GB a cerca de 14 tok/s e fique aproximadamente 6% atrás do Strata na decodificação cu...

  • O Qwen3.8-Flash-Next tem 48 camadas de 512 especialistas (10 ativos), 121 GB de especialistas em FP8, além de uma tabela de embeddings n-gram de 51 GB.
  • Especialistas quantizados em 3 bits ocupam 49 GB em disco com 12 GiB em cache no dispositivo, e camadas densas em 8 bits cerca de 5,4 GB (+0,2% de perplexidade em relação ao BF16).
  • Após o carregamento usa cerca de 18 GiB, e um prompt de 6K atinge pico de 25,4 GiB.
  • Resultados finais: decodificação de 200 tokens 13,9 tok/s contra Strata 14,8, prefill de prompt de 4K 228 tok/s contra 220, decodificação após documento de 6K 12,4 tok/s contra 13,7.

Para os construtores de IA, isso mostra que transmitir apenas os especialistas roteados por um pool de slots limitado sobre o qual o grouped_mm roda como está pode se aproximar de um motor dedicado em memória de consumo, sendo o gargalo os ...

Hugging Face Blog
02
testagentscapability unlock

DeltaHarness: harnesses auto-evolutivos para execução de ferramentas adaptada a recursos

O artigo apresenta o DeltaHarness, um método de busca de política guiado por execução que adapta harnesses de agentes a partir de medições a frio; seu loop QHI usa a resposta observada para atualizar o despacho em tempo de execução, revisar planos físicos e selecionar experimentos para propostas posteriores, com um pai...

  • Com despacho fixo, uma política de materialização revisada reduz a latência de entrega completa em 30,0% em uma tarefa de edição de vídeo, em três pares novos.
  • Em tarefas reservadas, as políticas evoluídas reduzem a latência em 8,2% em relação ao melhor plano fixo em uma semente e em 4,6% em relação à proposta inicial em outra.
  • O artigo relata que a mesma descrição de tarefa e recursos pode ocultar condições de execução que invertem a ordem de latência de planos de execução válidos.

Para quem constrói agentes que usam ferramentas, isso sugere que o próprio harness pode ser otimizado por busca de política baseada na latência medida no ambiente alvo, em vez de depender de planos estáticos.

arXiv cs.LG
03
watchresearchnew architecture

Modelos de linguagem podem reescrever seus próprios pesos

Um artigo do arXiv relata que um modelo de 27B, munido de seus pesos, respostas avaliadas e da capacidade de executar a si mesmo, diagnostica suas falhas e edita seus próprios pesos sem gradientes nem treinamento, ganhando 6,6 pontos em 490 problemas não vistos.

  • O artigo relata que a edição tornou o modelo 6,6 pontos mais preciso em 490 problemas que ele nunca viu, em um teste fixado de antemão.
  • O artigo relata que, nas primeiras oito sessões desse tipo, cada edição substituía a anterior e a precisão apenas aumentava.
  • O artigo relata que, entre quatro tamanhos, o modelo de 2B não fez edição, os de 4B e 9B se quebraram e apenas o de 27B funcionou; exige um modelo aberto e horas em uma única GPU.

Para os construtores, isso sugere que a autoaperfeiçoamento no nível dos pesos pode se tornar uma via de melhoria pós-implantação sem infraestrutura de treinamento, embora a eficácia relatada até agora valha apenas na escala de 27B.

arXiv cs.AI
04
testcreativecapability unlock

Genie 4 já está disponível

O Google DeepMind está lançando uma nova experiência do Project Genie para assinantes elegíveis do Google AI Ultra, com acesso inédito ao Genie 4, que permite editar ambientes em tempo real com linguagem natural e áudio nativo.

  • O Genie 4 permite inserir um prompt no meio da sessão para mudar o clima, adicionar um personagem ou redirecionar a ação em tempo real.
  • O Genie 4 combina os visuais com áudio nativo em tempo real que se adapta conforme a cena se desenrola, de paisagens sonoras ambientes a diálogos de personagens.
  • O Genie 3 amplia as sessões para até 3 minutos por geração, ante 60 segundos, e permite encadear vários mundos.
  • O Genie 3 adiciona ancoragem por imagens panorâmicas de 360 graus e eventos no mundo acionados por prompt em tempo real.

Para os desenvolvedores, os modelos de mundo estão migrando da geração única para ambientes interativos controláveis por prompt, com áudio e compartilháveis, enquanto latência de câmera, interações físicas complexas e permanência de cena em...

Google DeepMind
05
testmodelsopen source unlock

Rumble-2-Flash: um modelo de fala aberto de 0,5B para mais de 40 idiomas

A Reson8 tornou o Rumble-2-Flash open source sob a licença Apache 2.0, um modelo de reconhecimento de fala de 0,5B parâmetros para mais de 40 idiomas que usa a arquitetura Qwen3-ASR com suporte nativo em Transformers e vLLM.

  • Modelo de 0,5B parâmetros lançado sob a licença Apache 2.0
  • Na trilha multilíngue do Open ASR Leaderboard, atinge uma taxa de erro média de 6,96% em chinês, alemão, francês, italiano, espanhol, português, hindi, holandês e inglês
  • Na trilha de inglês do Open ASR Leaderboard, atinge um WER médio de 6,6%
  • No benchmark de call center da AppTek (302 horas de chamadas de helpline, 14 sotaques de inglês), alcança 7,86% de WER, em paridade com o Nemotron 3.5 Transcribe (30B) da NVIDIA com 7,78%

Os desenvolvedores podem implantar um modelo ASR de 0,5B sob Apache 2.0 com precisão multilíngue e de call center relatada em paridade com um modelo de 30B, com suporte nativo a Transformers e vLLM.

Hugging Face Blog
06
watchresearchincremental

Auditores têm dificuldade para detectar sabotagem em transcrições ponta a ponta de pesquisa em segurança de IA

O artigo realiza um jogo de time vermelho/time azul no qual um pesquisador humano executa experimentos de segurança de IA do zero como sabotador substituto, enquanto auditores tentam determinar quais experimentos foram sabotados e como, com acesso à transcrição completa da pesquisa e à possibilidade de executar experim...

  • Auditores humanos que distinguiram pesquisa sabotada de pesquisa benigna obtiveram AUROC de 0,59, sem diferença significativa em relação ao acaso.
  • Auditores humanos identificaram completamente a sabotagem específica em apenas 17% dos casos.
  • Quando o sabotador escolhia quais experimentos eram atacados, em vez de ser obrigado a sabotar cada questão dada, a identificação da sabotagem caiu ainda mais.

Para equipes que automatizam P&D em IA, auditar posteriormente uma transcrição completa de pesquisa é insuficiente para detectar sabotagem de agentes de nível especialista, exigindo desenhos de auditoria que verifiquem ativamente os experim...

arXiv cs.AI
07
testdevelopercapability unlock

Dentro do sandbox do Codex

Veja como o Codex executa comandos na sua máquina enquanto aplica os limites de sistema de arquivos e de rede que você controla no macOS, Linux e Windows.

  • O Codex executa comandos na sua máquina.
  • O Codex aplica limites de sistema de arquivos e de rede que você controla.
  • O sandbox abrange macOS, Linux e Windows.

Os desenvolvedores podem executar comandos do Codex em três principais plataformas de desktop enquanto restringem o acesso ao sistema de arquivos e à rede aos limites que eles próprios definem.

OpenAI News