AI FRONTIER
Signals worth understanding before they become obvious.
OpenRouter 신규 모델: Particle AI의 Particle-1
Particle-1은 DeepSeek V4.1 Flash를 후속 학습한 Particle AI의 토큰 효율적 에이전트 코딩 모델로, 터미널 워크플로, 코드베이스 변경, 데이터 엔지니어링 작업에 적합하며 추론 및 도구 호출 토큰을 크게 줄이면서도 베이스 모델에 가까운 정확도를 유지하도록 훈련되었습니다.
- 가격은 100만 토큰당 입력 $0.25, 출력 $1.00, 캐시 읽기 $0.03입니다.
- 컨텍스트 창은 1,048,576 토큰이며 최대 131,072개의 완성 토큰을 지원합니다.
- tools와 tool_choice를 통한 함수 호출을 지원하고 response_format의 JSON schema를 통한 구조화 출력도 지원합니다.
- 입력은 텍스트와 이미지, 출력은 텍스트입니다. 출시일은 2026년 10월 28일입니다.
코딩 에이전트를 만드는 팀에게 Particle-1은 낮은 토큰 단가와 1M 컨텍스트를 갖춘 테스트 가능한 선택지이지만, 베이스 모델에 근접한 정확도라는 주장은 직접 검증해야 합니다.
Polymathic AI와 프린스턴 연구진, LLM 디코딩을 6.14배 빠르게 하는 플로우 맵 드래프터 FlashMap 공개
Polymathic AI와 프린스턴 연구진이 대규모 언어 모델 디코딩을 위한 플로우 맵 드래프터 FlashMap을 공개했으며, 논문 초록은 디코딩이 6.14배 빨라진다고 보고한다.
- 논문 초록은 FlashMap이 LLM 디코딩을 6.14배 빠르게 한다고 보고한다.
- FlashMap은 플로우 맵 드래프터로 설명된다.
- 이 연구는 Polymathic AI와 프린스턴 연구진이 수행했다.
추론 스택을 구축하는 팀에게 드래프트 기반 디코딩 가속은 자체 모델에서 검증할 가치가 있으며, 보고된 6.14배가 자사 워크로드에서 재현되는지 확인해야 한다.
NVIDIA Nemotron 3.5 Transcribe와 Granary v2: 프롬프트로 제어·적응하는 지능형 다국어 전사
NVIDIA가 오픈 웨이트 모델 Nemotron 3.5 Transcribe를 공개해 전사, 화자 분리, 번역, 오디오 질의응답을 하나의 체크포인트로 통합했으며, Granary v2 데이터 파이프라인과 NeMo Speech 파인튜닝 레시피도 함께 공개했다.
- 40개 언어 전사, 31개 언어의 영어 양방향 번역, 13개 언어 화자 귀속을 지원하며 최대 1시간 녹음과 최대 8명 화자를 처리한다.
- Hugging Face Open ASR Leaderboard 영어 부문에서 평균 WER 5.33%로 오픈 웨이트 모델 중 1위를 기록했다.
- Artificial Analysis에서 약 4B 활성 파라미터(총 30B의 하이브리드 Mamba–Transformer MoE)로 2.8% AA-WER를 달성해 24B 모델과 공동 1위에 올랐다.
- Granary v2 공개 매니페스트는 48개 언어, 16개 코퍼스, 463,062시간을 포함해 v1의 25개 언어에서 확대됐다.
개발자는 자연어 프롬프트로 출력 형식을 제어하고 Granary v2와 NeMo Speech 레시피로 도메인 어휘에 적응시켜 다국어 범위와 전문 분야 정확도를 함께 확보할 수 있다.
GLM-5.3 Workers AI 모델의 요청 간 KV 캐시 노출과 SGLang을 통한 수정
Cloudflare 블로그는 GLM-5.3 Workers AI 모델에서 요청 간 KV 캐시 노출 문제가 발생했으며 SGLang으로 수정했다고 보고한다.
- 출처는 Cloudflare Blog이다.
- 문제는 GLM-5.3 Workers AI 모델의 요청 간 KV 캐시 노출이다.
- 수정에는 SGLang을 사용했다.
Workers AI에서 GLM-5.3을 운영하는 개발자는 KV 캐시 격리를 점검하고 SGLang 수정 적용을 검토해야 한다.
OmniBrain-0: 구현 지능을 위한 통합 에이전트 모델
샤오미 구현 지능 팀은 조작과 내비게이션을 공유 고수준 의사결정 모델로 조정하는 경량 통합 구현 에이전트 OmniBrain-0을 제안한다. 이 모델은 과제 이해, 계획, 진행 추적, 피드백 기반 복구를 통합하며, 구현 사전학습, 도메인 특화 에이전트 증류, 다중 교사 온폴리시 증류(MOPD)를 결합한 점진적 학습 프레임워크를 사용한다.
- 논문은 LIBERO-Pro, LIBERO-Plus, RoboCasa365, RoboTwin 2.0, R2R-CE Val-Unseen 및 여러 실제 조작 과제에서 OmniBrain-0을 평가했다고 보고한다.
- 논문은 OmniBrain-0이 폐쇄형 교사 모델보다 추론 및 실행 오버헤드가 상당히 낮다고 밝힌다.
- 학습 프레임워크는 구현 사전학습, 도메인 특화 에이전트 증류, 다중 교사 온폴리시 증류(MOPD)를 결합한다.
- Rubric-Guided Recursive Self-Improvement(RSI)에서 Meta-Agent는 실행 증거를 개선된 루브릭, 단계별 알림, 검증된 궤적으로 변환한다.
구현 에이전트를 만드는 팀에게 이 연구는 여러 교사 모델의 상호작용 경험을 하나의 소형 의사결정 모델로 증류해 추론 비용을 낮추면서 교차 도메인 성능을 유지할 수 있음을 시사한다.
MiniMax-M3.1-Flash 공개: 총 428B 파라미터 네이티브 멀티모달 MoE, 1M 토큰 컨텍스트 지원
MiniMax가 M3 기반의 네이티브 멀티모달 Mixture-of-Experts 모델 MiniMax-M3.1-Flash를 공개했다. 총 파라미터 약 428B, 토큰당 23B 활성화이며 텍스트·이미지·비디오를 입력받아 텍스트를 출력하고 컨텍스트 창은 최대 1M 토큰이다. M3 대비 전 모델에 희소 어텐션을 적용하고 양자화 인식 학습을 도입했으며 기존 EAGLE 계열 MTP를 DSpark 추론 디코딩으로 대체했다.
- 모델 카드에 따르면 총 파라미터 약 428B, 토큰당 23B 활성화이며 MiniMax Sparse Attention(MSA)을 모델 전반에 적용했다.
- 모델 카드는 BankerToolBench 76.2, DeepSWE v1.1 73.7%, OSWorld V2 61.7, Agents' Last Exam 29.6, CyberGym 82.2를 보고한다.
- 세 가지 주요 변경: 처음 세 개의 전체 어텐션 레이어를 희소 어텐션으로 교체, 라우팅된 MoE 전문가와 어텐션 경로에 양자화 인식 학습 적용, DSpark 추론 디코딩과 드래프트 헤드 동봉.
- 라이선스는 minimax-community이며 SGLang, vLLM, TokenSpeed 배포를 권장하고 Transformers 등 통합은 진행 중이다.
1M 컨텍스트와 희소 어텐션, 양자화 인식 학습의 조합은 장문 컨텍스트 에이전트 워크로드의 메모리와 추론 비용을 낮출 수 있지만, 총 428B 파라미터라 멀티 GPU 배포가 필요하고 벤치마크는 모델 카드 자체 보고 수치다.
LOTUS: 저계수 다중선형 분해 기반 LLM 환각 탐지
논문은 LLM 은닉 상태에서 간결한 표현을 추출하고 레이블 데이터 의존도를 줄이는 다중선형 저계수 분해 프레임워크 LOTUS(Low-rank Order-statistic TUcker-based Subspace learning)를 제안하며, 이를 경량 환각 분류기 학습에 사용한다.
- 가변 길이 토큰 표현을 최대 활성화, 활성화 분포, 층 간 변화를 포착하는 상보적 통계 기술자로 요약한다.
- 저계수 다중선형 분해로 LLM 은닉 상태의 구조를 포착하는 간결한 표현을 추출해 경량 환각 분류기 학습에 사용한다.
- 여러 LLM과 질의응답 벤치마크에서 최근 최첨단 기준선보다 향상된 환각 탐지 성능을 보고한다.
- 논문은 26페이지, 그림 3개이며 코드 링크를 제공한다.
구축자에게 이 연구는 선택된 활성화나 풀링 압축 대신 층, 특징 모드, 토큰에 걸친 은닉 상태 구조에서 신호를 추출해 더 적은 레이블 데이터로 경량 탐지기를 학습할 수 있음을 시사한다.