AI FRONTIER
Signals worth understanding before they become obvious.
FairStress: uma avaliação mais profunda de justiça na tomada de decisão de LLMs
A Ai2 apresenta o FairStress, um benchmark com 300 cenários de decisão entre dois candidatos em 29 domínios que testa se os modelos mudam de decisão de forma assimétrica sob prefixos adversariais; combinar variações de identidade e prefixo o expande para mais de 13 milhões de casos de teste.
- O FairStress contém 300 cenários realistas de decisão entre dois candidatos em 29 domínios, incluindo contratação, saúde, crédito, educação, moradia e justiça criminal.
- Combinar identidade demográfica e variações de prefixo adversarial expande os 300 cenários para mais de 13 milhões de casos de teste.
- O FairStress-Core é um subconjunto de 50 mil itens selecionado por teoria de resposta ao item para tornar a avaliação mais rápida e menos custosa computacionalmente.
- O artigo relata uma lacuna média ao abandonar respostas corretas em 15 modelos de 6,9 pontos percentuais com identidade implícita e 9,3 pontos com rótulos explícitos.
Desenvolvedores devem estender a avaliação de justiça além da escolha final para a estabilidade da decisão, pois a pontuação de opções fixas pode deixar passar a sobrecorreção em decisões geradas.
ALTK-Evolve: memória aprendida lidera o ranking do τ²-bench em tarefas de atendimento ao cliente sem um modelo de fronteira
O ALTK-Evolve da IBM Research extrai diretrizes comportamentais das próprias tentativas de tarefa do agente e as anexa ao prompt do sistema, melhorando agentes de atendimento ao cliente sem atualizar os pesos do modelo. Um agente ReAct com GPT-4.1 alcança 67,5% de Pass^4 no τ²-bench retail, acima de todas as entradas r...
- Retail: o Pass^4 base era 57,5%; a configuração lossless (292 diretrizes) elevou-o a 67,5% (+10,0 pontos), e a precisão média subiu de 78,1% para 82,5% (+4,4).
- Airline: o Pass^4 base era 35,0%; a configuração sup3 (14 diretrizes) elevou-o a 45,0% (+10,0), e a precisão média lossless subiu de 57,5% para 65,0% (+7,5).
- Ranking retail: Pass^4 = 67,5%, à frente do RAFT-30B-A3B (61,4%), um modelo ajustado com dados retail sintéticos do τ²-bench, por 6,1 pontos.
- Ranking airline: o agente com gpt-5.5 alcança 82,0% de Pass^4, superando todas as entradas de fronteira (66–72%); a configuração sup3 com gpt-4.1 alcança 44%, na 8ª posição.
A memória aprendida em nível de prompt pode elevar um agente com modelo padrão ao nível de fronteira sem ajuste de pesos, com o custo recaindo principalmente em tokens de entrada cacheáveis.
Ant Ling abre a série de voz Ming-3.0: cinco modelos cobrindo síntese, reconhecimento e compreensão
A Ant Ling abriu a série de voz Ming-3.0, composta por cinco modelos que cobrem síntese de voz, reconhecimento de voz e compreensão de voz.
- A publicação é da Ant Ling.
- A série de voz Ming-3.0 é composta por cinco modelos.
- A cobertura abrange síntese, reconhecimento e compreensão de voz.
Para desenvolvedores, obter em um único lançamento cinco modelos de voz abertos cobrindo síntese, reconhecimento e compreensão reduz o custo de combinar modelos de fontes diferentes em um pipeline de voz.
Chaves de API vazadas em LLMs: como agentes de IA expõem segredos
Um resumo de artigo aborda chaves de API vazadas em LLMs, enquadrado em questões de capacidade, avaliação ou alinhamento de grandes modelos de linguagem e voltado a leitores que acompanham métodos e resultados experimentais.
- A fonte é o blog GitGuardian, com o título “Leaked API Keys in LLMs: How AI Agents Expose Secrets”.
- O resumo afirma que o trabalho aborda questões de capacidade, avaliação ou alinhamento de grandes modelos de linguagem.
- O resumo afirma que o trabalho é adequado a leitores interessados em métodos e resultados experimentais.
Quem constrói agentes LLM deve tratar chaves de API como segredos que podem ser expostos e projetar defesas partindo dessa premissa.
NVIDIA Cosmos3-H-Dreams: dando vida à cirurgia clínica por meio de simulação generativa
A NVIDIA lança o Cosmos3-H-Dreams, um simulador cirúrgico generativo em tempo real baseado no Cosmos3-H-Embodied-Nano de 16 bilhões de parâmetros e treinado com vídeo de colecistectomia clínica e cinemática robótica, executando de forma interativa em uma única GPU NVIDIA RTX PRO 6000.
- Baseia-se no Cosmos3-H-Embodied-Nano, um modelo de 16 bilhões de parâmetros pré-treinado no Open-H-Embodiment.
- O treinamento usa vídeo de 832 x 480 com ações alinhadas a 10 Hz e 28 dimensões de ação.
- O modelo professor é primeiro adaptado em 24 quadros futuros e depois estendido para 72 quadros, 2,4 e 7,2 segundos a 10 Hz.
- São publicados checkpoints de remoção de ruído de quatro e dois passos; o modelo de dois passos é treinado separadamente, não é o modelo de quatro passos executado com menos passos de amostragem.
Os desenvolvedores podem adaptar este modelo de mundo cirúrgico em tempo real aos seus próprios vídeos e dados de controlador usando a receita fornecida de ajuste fino do professor e destilação Self-Forcing.
AnyLanguageModel 1.0: um ano de modelos locais em plataformas Apple
O AnyLanguageModel 1.0 é lançado como substituto direto do framework Foundation Models da Apple, permitindo que o mesmo código de sessão use o modelo do sistema, modelos de pesos abertos via llama.cpp, MLX e Core ML, e vários provedores hospedados.
- Trocar import FoundationModels por import AnyLanguageModel faz o mesmo código de sessão rodar com o modelo do sistema, llama.cpp, MLX, Core ML e provedores hospedados.
- Chamada de ferramentas e geração guiada agora funcionam com todos os provedores, incluindo tipos @Generable aninhados e arrays deles.
- Os provedores hospedados incluem as APIs Chat Completions e Responses da OpenAI, Open Responses, a API Messages da Anthropic, a API Gemini do Google, Ollama, Private Cloud Compute e Hugging Face Inference Providers.
- Os modelos citados no artigo incluem Gemma 4 E2B (GGUF, cerca de 3,4 GB em Q4_0), LFM2.5 2.6B (GGUF, cerca de 1,7 GB em Q4_K_M), Qwen3.8 27B (MLX, cerca de 16 GB em 4 bits) e GLM-5.3 (cerca de 1,5 TB em BF16).
Para desenvolvedores em plataformas Apple, trocar uma linha de import faz a inferência local e a hospedada compartilharem o mesmo código de sessão, reduzindo o trabalho de integração por provedor.
OpenMOSS-Team lança MOSS-Image-SFT, modelo texto-imagem de 5,1B sob Apache-2.0
MOSS-Image-SFT é um modelo texto-imagem ajustado com supervisão da família MOSS-Image da OpenMOSS, derivado do MOSS-Image-Base com a mesma arquitetura e pipeline de inferência, com suporte a prompts em linguagem natural, sequências de tags e layouts JSON para controlar a colocação de texto e a disposição de objetos.
- O modelo tem 5B parâmetros, e seus pesos e o código de inferência incluído são publicados sob a Licença Apache, versão 2.0.
- O cartão do modelo afirma que o SFT produz agrupamento de texto mais claro e um layout de quadro branco mais organizado do que o MOSS-Image-Base.
- A execução exige Python 3.10 ou superior, uma GPU NVIDIA com suporte a CUDA e uma build do PyTorch 2.9 ou superior.
- As configurações padrão de amostragem são Flow-matching Euler, 50 passos, CFG 3, Shift 5, com salto da camada de índice 22 no ramo negativo.
Para desenvolvedores, um modelo texto-imagem de 5B sob Apache-2.0 com controle por layout JSON pode entrar diretamente em pipelines criativos que exigem posicionamento preciso de texto e objetos.