AI FRONTIER
Signals worth understanding before they become obvious.
Apresentamos o AlphaProof Code: um avanço na verificação profunda de software complexo
Pesquisadores do Google DeepMind usaram o AlphaProof Code, um framework agêntico, para verificar formalmente propriedades de segurança essenciais do código real do protocolo Signal, com agentes gerando mais de seis milhões de linhas de Lean.
- O AlphaProof Code é um framework agêntico multi-LLM no qual especialistas humanos decidem com a IA o que provar e um grupo de agentes de IA realiza as provas.
- Os agentes geraram mais de seis milhões de linhas de Lean para provar propriedades de segurança da implementação do protocolo criptográfico do Signal.
- A revisão humana cobriu apenas um por cento da base de código, com o Lean verificando automaticamente o restante.
- O processo de verificação levou quatro semanas, uma tarefa que historicamente leva anos para equipes de especialistas.
Para os construtores de IA, isso mostra que a prova multiagente combinada à verificação automática do Lean pode estender a verificação formal do nível de projeto ao código compilado real, concentrando a revisão humana em uma fração mínima d...
Apresentação do benchmark Multimodal Knowledge Agent
O Google apresenta o benchmark Multimodal Knowledge Agent para medir o desempenho de modelos em tarefas específicas.
- O benchmark se chama Multimodal Knowledge Agent benchmark.
- A fonte é blog.google.
- O resumo do artigo afirma que propõe ou usa uma nova avaliação de benchmark para medir o desempenho de modelos em tarefas específicas.
Desenvolvedores de IA podem usar esse benchmark para avaliar agentes de conhecimento multimodais em tarefas específicas.
OpenRouter adiciona Baidu ERNIE-Light-DT-1.0
O ERNIE-Light-DT-1.0 é baseado em modelos GLM de código aberto e incorpora resultados de pesquisa do grande modelo Lightning do Baidu Search, usando Baidu Sparse Attention (BSA) e compressão de histórico orientada por feedback para reduzir o armazenamento do cache KV e o custo computacional.
- A janela de contexto é de 1.024.000 tokens, com até 131.072 tokens de conclusão.
- O preço é de US$ 1,13 por 1 milhão de tokens de entrada e US$ 3,94 por 1 milhão de saída, com leitura de cache a US$ 0,113 por 1 milhão de tokens.
- É hospedado por um único provedor, o Baidu Qianfan, com throughput de 83 tok/s, latência de 1,05 s e 100,00% de uptime em 3 dias.
- Suporta chamadas de função via tools e tool_choice, e saídas estruturadas via esquema JSON em response_format.
Para quem opera contextos de um milhão de tokens, BSA e a compressão de histórico são os mecanismos a testar em cargas reais de documentos e sessões longas, onde o custo do cache KV domina.
Novo modelo do OpenRouter: Thinking Machines Inkling 2 Small (gratuito)
Inkling 2 Small é um modelo de raciocínio multimodal de mistura de especialistas da Thinking Machines Lab, com 17B de parâmetros ativos de 594B no total, e o primeiro modelo da segunda geração Inkling. Foi treinado com aprendizado por reforço em tarefas de programação de longo horizonte em diversos agent harnesses, ace...
- 17B de parâmetros ativos de 594B no total.
- Janela de contexto de 1.048.576 tokens, com até 131.072 tokens de conclusão.
- Aceita entrada de texto e imagens e retorna texto; sem suporte a áudio.
- O endpoint gratuito só está disponível para uso com agent harnesses, e prompts e saídas são registrados e usados para melhorar os modelos da Thinking Machines Lab.
Desenvolvedores têm uma forma sem custo de testar um modelo de programação agêntica com contexto de 1M, mas os termos de registro do endpoint gratuito significam que dados confidenciais ou pessoais não devem ser enviados a ele.
RL-ATTACK: um ataque adversário de caixa preta generalizado em modelos de linguagem via aprendizado por reforço
O artigo propõe um framework de aprendizado por reforço de caixa preta treinável que aprende com o modelo alvo para gerar transformações adversárias sob medida, em vez de adivinhar transformações a partir de conhecimento externo. Ele relata menor acurácia pós-ataque, maior eficiência de consultas e melhor preservação s...
- Em inferência de linguagem natural, o artigo relata levar a acurácia pós-ataque a 2% em 20 consultas.
- Contra modelos de linguagem generativos, o atacante treinado alcança consistentemente menor acurácia pós-ataque que o atacante não treinado.
- Comparado a uma linha de base forte baseada em otimização, o artigo relata vitórias em 4 de 6 configurações.
- O artigo testa múltiplos designs de recompensa e configurações de treinamento e não encontra nenhum design ou configuração consistentemente dominante.
Para os construtores de IA, isso indica que atacantes de caixa preta podem ser treinados a partir dos sinais do próprio modelo alvo para expor vulnerabilidades com menos consultas na avaliação de segurança.
Obsidian Security lança mecanismo de políticas em tempo de execução para controlar ações de agentes de IA
A Obsidian Security lançou um mecanismo de políticas em tempo de execução para controlar ações de agentes de IA. O lançamento foi reportado pela Unite.AI.
- A Obsidian Security lançou um mecanismo de políticas em tempo de execução para controlar ações de agentes de IA.
- O lançamento foi reportado pela Unite.AI.
Para quem constrói agentes de IA, a aplicação de políticas em tempo de execução significa que as ações do agente podem ser restringidas no momento da execução, em vez de depender apenas de configuração estática antes da implantação.