Today’s frontier report
Research Pool → Multi-Scout → Editor → Edition
3qk7 · AI LOCAL LABS TECHNICAL SCOUTING

AI FRONTIER

Signals worth understanding before they become obvious.

2026-11-11
01
testagentscapability unlock

AlphaProof Code 공개: 복잡한 소프트웨어를 심층 검증하는 돌파구

Google DeepMind 연구진은 에이전트 프레임워크 AlphaProof Code로 Signal 프로토콜의 실제 코드에 대한 핵심 보안 속성을 형식 검증했으며, 에이전트가 600만 줄이 넘는 Lean 증명을 생성했다.

  • AlphaProof Code는 여러 LLM을 결합한 에이전트 프레임워크로, 인간 전문가와 AI가 증명 대상을 정하고 AI 에이전트들이 증명을 수행한다.
  • 에이전트는 Signal 암호화 프로토콜 구현의 보안성을 증명하기 위해 600만 줄이 넘는 Lean 코드를 생성했다.
  • 인간 검토 대상은 코드베이스의 1퍼센트에 불과했고 나머지는 Lean이 자동으로 검사했다.
  • 검증 과정은 4주 만에 완료되었으며, 역사적으로 전문가 팀이 수년 걸리던 작업이었다.

AI 빌더에게 이는 다중 에이전트와 Lean 자동 검사를 결합해 형식 검증을 설계 단계에서 실제 컴파일된 코드로 확장하고 인간 검토를 극소수의 핵심 부분에 집중할 수 있음을 보여준다.

Google DeepMind
02
testresearchbenchmark jump

Multimodal Knowledge Agent 벤치마크 공개

Google가 Multimodal Knowledge Agent 벤치마크를 공개해 특정 작업에서 모델 성능을 측정한다.

  • 벤치마크 이름은 Multimodal Knowledge Agent benchmark이다.
  • 출처는 blog.google이다.
  • 논문 초록은 특정 작업에서 모델 성능을 측정하는 새로운 벤치마크 평가를 제안하거나 사용한다고 밝힌다.

AI 빌더는 이 벤치마크로 멀티모달 지식 에이전트의 특정 작업 성능을 평가할 수 있다.

blog.google
03
watchinferenceincremental

OpenRouter에 Baidu ERNIE-Light-DT-1.0 공개

ERNIE-Light-DT-1.0은 오픈소스 GLM 모델을 기반으로 Baidu Search의 Lightning 대형 모델 연구 성과를 반영했으며, Baidu가 개발한 희소 어텐션 메커니즘 Baidu Sparse Attention(BSA)을 적용한다. 피드백 기반 히스토리 압축으로 KV 캐시와 연산 비용을 줄인다.

  • 컨텍스트 윈도는 1,024,000 토큰이며 최대 131,072개의 완성 토큰을 지원한다.
  • 가격은 입력 $1.13, 출력 $3.94(100만 토큰당)이며 캐시 읽기는 $0.113(100만 토큰당)이다.
  • Baidu Qianfan 단일 제공자가 호스팅하며 처리량 83 tok/s, 지연 1.05 s, 3일 가동률 100.00%를 기록한다.
  • tools와 tool_choice를 통한 함수 호출, response_format의 JSON schema를 통한 구조화 출력을 지원한다.

100만 토큰급 컨텍스트가 필요한 빌더에게는 BSA와 히스토리 압축이 KV 캐시 비용을 실제로 얼마나 낮추는지가 도입 판단의 핵심 지표가 된다.

OpenRouter Models
04
testmodelscapability unlock

OpenRouter 신규 모델: Thinking Machines Inkling 2 Small (무료)

Thinking Machines Lab의 Inkling 2 Small은 전체 594B 파라미터 중 17B가 활성화되는 멀티모달 전문가 혼합(MoE) 추론 모델로, 2세대 Inkling의 첫 모델입니다. 여러 agent harness에 걸친 장기 코딩 작업에서 강화학습으로 훈련되었으며, 텍스트와 이미지 입력, 도구 호출, 가변 추론 강도를 지원하고 컨텍스트 창은 1M 토큰입니다.

  • 전체 파라미터 594B, 활성 파라미터 17B.
  • 컨텍스트 창 1,048,576 토큰, 최대 131,072개 완성 토큰 지원.
  • 텍스트와 이미지를 입력으로 받고 텍스트를 출력하며 오디오는 지원하지 않음.
  • 무료 엔드포인트는 agentic harness 용도로만 제공되며, 프롬프트와 출력은 기록되어 Thinking Machines Lab의 모델 개선에 사용됨.

빌더에게는 1M 컨텍스트 agentic 코딩 모델을 무료로 시험할 기회이지만, 무료 엔드포인트의 로깅 약관상 기밀 정보나 개인 데이터를 보내면 안 됩니다.

OpenRouter Models
05
testresearchcapability unlock

RL-ATTACK: 강화학습을 통한 언어 모델 대상 일반화된 블랙박스 적대적 공격

이 논문은 외부 지식으로 변환을 추측하는 대신 대상 모델로부터 학습해 맞춤형 적대적 변환을 생성하는 학습 가능한 블랙박스 강화학습 프레임워크를 제안한다. 자연어 추론과 생성형 QA 작업에서 더 낮은 공격 후 정확도, 더 높은 질의 효율, 더 나은 의미 보존을 보고한다.

  • 자연어 추론에서 20회 질의 이내에 공격 후 정확도를 2%까지 낮춘다고 보고한다.
  • 생성형 언어 모델에 대해 학습된 공격자는 학습되지 않은 공격자보다 일관되게 더 낮은 공격 후 정확도를 달성했다.
  • 강력한 최적화 기반 베이스라인과 비교해 6개 설정 중 4개에서 승리했다고 보고한다.
  • 여러 보상 설계와 학습 설정을 실험했으나 일관되게 우세한 설계나 설정은 없었다.

AI 빌더에게 이는 대상 모델 자체의 신호로 블랙박스 공격자를 학습시켜 더 적은 질의로 취약점을 평가할 수 있음을 시사한다.

arXiv cs.CL
06
watchagentsnew architecture

Obsidian Security, AI 에이전트 작업을 제어하는 런타임 정책 엔진 출시

Obsidian Security가 AI 에이전트 작업을 제어하는 런타임 정책 엔진을 출시했다. 이 소식은 Unite.AI가 보도했다.

  • Obsidian Security가 AI 에이전트 작업을 제어하는 런타임 정책 엔진을 출시했다.
  • 이 소식은 Unite.AI가 보도했다.

AI 에이전트를 구축하는 개발자에게 런타임 정책 적용은 배포 전 정적 구성에만 의존하지 않고 실행 시점에 에이전트 작업을 제한할 수 있음을 의미한다.

Unite.AI