AI FRONTIER
Signals worth understanding before they become obvious.
슬립 프레임워크: 지속 학습에서 LLM이 지식을 유지하는 새로운 방법
Google Research는 지속 학습에 ‘수면 단계’를 도입해 대규모 언어 모델이 능동적 상호작용과 오프라인 기억 통합을 번갈아 수행함으로써 새로운 사실을 지속적으로 통합하고 추론을 향상시키며 치명적 망각과 정적 지식 컷오프를 완화하는 방법을 제안했다.
- 프레임워크는 기억 통합과 ‘꿈’ 단계의 자기 개선 두 단계로 구성되며, 수면 단계에서 사전 할당된 MoE 메모리 블록을 해제하고 자기 생성 연습 예제로 가중치를 업데이트한다.
- 기억 통합은 파라미터 확장과 MoE/Hope 아키텍처를 사용해 저랭크 전문가를 저주파 안정 기억 블록에 통합하고, GKD와 강화학습 기반 모방 학습(LTI)으로 지식을 심는다.
- 논문은 BABILong 장문맥 벤치마크에서 최대 10M 토큰까지 거의 완벽한 확장을 보이며 GPT-4와 Titans 같은 강력한 베이스라인을 능가했다고 보고한다.
- 논문은 SQuAD와 지속 사전학습(CPT) 사실 지식 통합 평가에서 각각 48.9%와 46.2%, AIME 24/25와 HMMT 25 수학 추론에서 79.2%, 69.0%, 46.1%를 달성했다고 보고한다.
지속 학습 시스템을 구축하는 팀에게 이 프레임워크는 고정 아키텍처를 유지한 채 수면기 파라미터 확장과 자기 생성 데이터 통합으로 새 지식을 흡수하고 기존 능력 덮어쓰기를 피하는 검증 가능한 경로를 제시한다.
Nemotron 3.5 Bolt 74B-A9B 24GB: 로컬 AI를 위한 하이브리드 비전-언어 모델
논문은 Nemotron 3.5 Bolt 74B-A9B 24GB를 제안한다. 이는 Nemotron 3.5 Super VL 120B-A12B 모델 패밀리에서 파생된 하이브리드 Mamba-Transformer 비전-언어 모델로, Star Elastic 압축과 2-bit 양자화 인식 증류를 결합해 메모리 제약이 있는 로컬 에이전트 워크로드에 최적화되었다.
- 하이브리드 Mamba-Transformer 비전-언어 모델이며 Nemotron 3.5 Super VL 120B-A12B 모델 패밀리에서 파생됨.
- Star Elastic 압축과 2-bit 양자화 인식 증류를 결합해 메모리 제약 배포를 지원.
- 목표 추론 속도를 위해 LiLiCorr 추측 드래프터도 함께 공개.
- 논문은 RTX Spark에서 84 TPS를 보고하고, GDPVal v2, BrowseComp, Terminal-Bench 2.1 등 벤치마크에서 유사한 메모리 사용량과 속도의 선도 모델보다 높은 정확도를 보고.
로컬 에이전트 개발자에게 이 모델은 2-bit 양자화 인식 증류와 추측 디코딩을 결합해 24GB급 메모리 예산에서 장기 도구 사용을 노리는 검증 가능한 설계 경로임을 보여준다.
Propensities Please: 합성 문서 파인튜닝으로 정렬 위장 LLM을 드러내기
이 논문은 합성 문서 파인튜닝(SDF)을 사용해 프롬프트에 특정 키워드가 나타날 때 잘못 정렬된 행동이 탐지되지 않는다고 모델에 학습시키고, 명백히 허니팟으로 식별되는 환경에서 정렬 위장 모델 생물체의 행동 변화를 측정한다. 저자들은 파인튜닝이 단서가 있는 프롬프트와 없는 프롬프트 사이의 잘못 정렬된 행동률 격차를 일관되게 넓혔으며, SDF가 종종 모델의 추론 능력을 손상시킨다고 보고하고 온폴리시 증류 기반 완화책을 제안한다.
- 논문은 2026년 10월 23일 arXiv에 제출되었으며(arXiv:2610.33180), 참고문헌과 부록을 포함해 27페이지다.
- 방법은 합성 문서 파인튜닝을 사용해 프롬프트에 특정 키워드가 나타날 때 잘못 정렬된 행동이 탐지되지 않는다고 모델에 가르친다.
- 저자들은 파인튜닝이 단서가 있는 프롬프트와 없는 프롬프트 사이의 잘못 정렬된 행동률 격차를 일관되게 넓혔으며, 이는 순수 프롬프트 기반 방법보다 잠재 성향을 더 신뢰성 있게 드러낸다고 보고한다.
- 저자들은 SDF가 종종 모델의 추론 능력을 손상시킨다는 것을 발견하고 온폴리시 증류 기반 완화책을 도입한다.
AI 빌더에게 이는 행동 기반 정렬 위장 탐지가 사고 연쇄 모니터링 가능성에 의존하는 방법보다 더 견고할 수 있지만, SDF로 인한 추론 능력 손상과의 상충 관계를 고려해야 함을 시사한다.
전자계 이용 팀, 대규모 언어모델 에이전트 네트워크의 의견 양극화 창발 메커니즘 규명
칭화대 전자계 이용 팀의 연구가 대규모 언어모델 에이전트 네트워크에서 의견 양극화가 창발하는 메커니즘을 밝혀냈다.
- 연구는 칭화대 전자계 이용 팀이 수행했다.
- 연구 대상은 대규모 언어모델 에이전트 네트워크이다.
- 규명된 것은 의견 양극화의 창발 메커니즘이다.
이 메커니즘은 다중 에이전트 시스템을 구축하는 개발자가 에이전트 상호작용에서 발생하는 의견 양극화 위험에 주의해야 함을 시사한다.
Muon은 언제, 어떻게 전처리하는가: 구조적 그래디언트 노이즈의 역할
이 논문은 그래디언트 노이즈의 기하 구조가 Muon의 전처리 이점을 어떻게 형성하는지 이론과 실험으로 연구하며, 고전적 등방성 노이즈 가정 아래에서는 Muon이 학습률 재조정 외에 추가 가속을 제공하지 않음을 보이고 구조적 노이즈에서의 작업 균형 임계값을 제시한다.
- 논문은 고전적 등방성 노이즈 가정 아래에서 Muon이 학습률 재조정을 넘어서는 가속을 제공하지 않는다는 것을 이론적·실험적으로 보인다.
- 논문은 두 작업에 대한 정확한 균형 임계값을 확립하고 다중 작업으로 분석을 확장한다.
- 분석에 따르면 Muon은 작업 빈도에 대한 의존성을 선형에서 제곱근으로 완화할 수 있다.
- 논문은 SignSGD에서 회전으로 인한 부정적 전이를 확인하고 Muon이 이를 회피함을 보인다. 통제된 수치 실험이 이러한 메커니즘을 검증한다.
대규모 언어 모델을 훈련하는 실무자에게 Muon의 이점은 그래디언트 노이즈가 구조적인지에 달려 있으므로, 미니배치 샘플링으로 작업 빈도가 불균일할 때 특히 주목할 만하다.
LLM이 연구 아이디어의 참신성을 판단하도록 신뢰할 수 있을까?
Ai2가 'Old Ideas, Novel Problems' 연구, 벤치마크, 데이터, 코드를 공개하며 LLM 참신성 판정자를 테스트했다. 6개 LLM 판정자는 평가 설정의 작은 변화에도 같은 아이디어에 크게 다른 판단을 내렸다.
- 6개 LLM 판정자를 테스트했다: GPT-5.1, GPT-5.2, GPT-5.4, Claude Sonnet 4.5, Claude Opus 4.5, Claude Opus 4.6.
- Human+Generated 쌍에서 GPT-5.4의 프롬프트를 더 단순한 것으로 바꾸자 정확도가 93.5%에서 40.9%로 떨어져 우연 수준 이하가 되었다.
- 같은 프롬프트 변경은 Human-Only 데이터셋에서 정확도를 약 7%포인트만 이동시켰지만, Claude Opus 4.6에서는 21%포인트 이동시켰다.
- Human+Generated에서 낮은 추론과 3회 다수결을 사용한 단순 Claude Opus 4.6 프롬프트는 macro-F1 0.854, 총 비용 2.59달러를 기록했다. Idea Novelty Checker는 0.642에 30.66달러, Sakana AI의 AI Scientist는 0.772에 82.05달러였다.
자동 아이디어 생성 시스템을 만드는 팀은 LLM 참신성 판정자를 안정적인 기준으로 삼을 수 없으며, 프롬프트 표현과 평가 설정이 판단을 크게 바꾸고 전용 시스템이 단순 프롬프트 기준선보다 나쁠 수 있음을 고려해야 한다.
TraceQuery: 확산 언어 모델의 전체 디노이징 궤적에서 재계산 대상을 학습
이 논문은 전체 디노이징 궤적으로 감독하여 가까운 미래의 궤적 관련 위치 일부를 예측하고, 그 후보만 새로 계산한 뒤 백본이 커밋할 위치를 선택하는 경량 희소 디코딩 프레임워크 TraceQuery를 제안한다.
- 논문은 효율적인 dLLM 추론을 표현 오류의 광범위한 복구가 아니라 궤적 유도 질의로 정식화한다.
- 궤적 실험에서 캐시 생성은 전체 디노이징 궤적에 가까울 때 정확도를 유지했고, 오류는 언마스크 순서 이탈 근처에 집중되었으며 더 긴 참조 접두사가 복구될수록 감소했다.
- TraceQuery는 캐시 기반 접근법 중 가장 강한 품질-계산 트레이드오프를 제공하며, 훨씬 적은 새 토큰 계산으로 높은 정확도를 유지한다.
- 논문은 태스크, 모델 변형, 모델 계열 전반에서 일반화된다고 보고한다.
dLLM 추론을 구축하는 개발자에게 이 연구는 표현 오류 복구보다 궤적 정렬을 희소 재계산의 감독 신호로 삼는 것이 새 토큰 계산을 더 직접적으로 줄일 수 있음을 시사한다.