AI FRONTIER
Signals worth understanding before they become obvious.
SLM 어휘를 전문화해 실제 애플리케이션 추론 비용을 77% 줄이는 방법
Dharma-AI의 VocabX는 베이스 모델, 데이터, 학습 레시피를 바꾸지 않고 토큰 빈도가 아닌 토큰당 비용을 기준으로 어휘를 재구성해 포르투갈어 에세이 채점기에서 추론 비용을 77.0% 절감했다고 보고했다.
- 채점기는 Qwen3-4B 기반이며 출력 레이어가 약 152,000행에서 약 65,000행으로 줄었다.
- 동일한 베이스 모델, 데이터, 레시피, 시드로 7개 버전을 학습했고 차이는 토크나이저뿐이다. RTX 5090과 vLLM에서 동일한 500개 요청을 실행했다.
- 모델 응답은 평균 350토큰에서 101토큰으로 줄었고 비용은 77.0% 감소했으며 bench 점수는 0.703에서 0.810으로 상승했다.
- 논문은 5개 공개 도메인과 3개 모델 패밀리의 15개 조합 모두에서 VocabX가 최강 참조 방법보다 1.2~9.3포인트 더 압축했다고 밝혔다.
단일 도메인 소형 모델에서 토크나이저는 학습 전에 고정되는 비용 레버이며, 생성 측 비용 기준으로 어휘를 재구성하면 모델 교체 없이 서빙 비용을 크게 낮출 수 있다.
Transformer는 경쟁하는 두 정렬 알고리즘을 학습하지만 길이 일반화는 하나만 한다
논문은 정렬 작업에서 거의 0에 가까운 손실로 학습된 2층 Transformer가 초기화에 따라 기계적으로 구별되는 두 가지 해 클래스 중 하나로 수렴한다고 보고한다. 한 클래스는 두 번째 어텐션 층을 사용하지 않고 길이 일반화에 실패하며, 다른 클래스는 두 어텐션 층을 모두 사용해 고정 길이 시퀀스만 학습했음에도 완벽하게 길이 일반화한다.
- 논문은 가중치 초기화를 신중히 선택하면 모델이 두 해 중 하나를 학습하도록 유도할 수 있다고 보고한다.
- 논문은 학습 길이에서는 드물지만 더 긴 시퀀스 길이에서는 점점 더 흔해지는 입력 유형을 이 길이 일반화 차이의 원인으로 식별한다.
- 논문은 두 번째 해 클래스의 층별 전문화가 이런 드문 시퀀스를 더 정확히 처리하게 해준다고 밝힌다.
- 시퀀스 최솟값 찾기 관련 작업에서 논문은 유사한 두 해 유형 현상을 발견했지만 일반화 패턴은 반대로, 다른 형태의 층별 전문화 때문에 2층 해가 단일 어텐션 해보다 길이 일반화를 더 나쁘게 한다.
시퀀스 모델을 만드는 개발자에게 초기화는 길이 일반화 가능한 알고리즘 학습 여부를 좌우할 수 있으므로, 초기화와 층별 전문화를 길이 일반화의 설계 변수로 다루어야 한다.
NVIDIA Kumo Relational, 관계형 데이터에서 지도 학습 능가하며 학습 불필요
NVIDIA가 기업 데이터베이스에서 직접 예측하는 사전 학습된 관계형 파운데이션 모델 Kumo Relational을 공개했다. 예측 쿼리를 주면 최대 10,000개의 과거 사례를 컨텍스트로 수집해 단일 순전파로 이탈, 수요, 사기 등의 결과를 예측한다. 작업별 학습, 피처 엔지니어링, 테이블 평탄화가 필요 없다.
- RelBench V1 분류 작업에서 Kumo Relational은 전문가가 설계한 피처를 사용하는 그래디언트 부스팅 트리보다 평균 약 4 AUROC 포인트 높은 성능을 보였다.
- SAP SALT 기업 벤치마크에서 AutoGluon 앙상블을 평균 역순위(MRR) 기준 8% 앞섰고, 미세 조정 시 격차가 16%로 확대됐다.
- 논문은 RelArena-α 리더보드에서 Kumo Relational이 약 17초, Elo 1,842를 기록한 반면 최고 점수인 rt-plurel은 약 7,300초, Elo 1,878로 약 430배 느리다고 보고했다.
- 학습 데이터의 0.2%만 컨텍스트로 사용하거나 외래 키 링크를 최대 75% 제거해도 성능이 유지된다.
기업 예측을 구축하는 팀에게 Kumo Relational은 XGBoost 피처 파이프라인을 대체할 수 있는 학습 불필요 옵션이지만, 학습 세트가 매우 큰 작업에서는 작업별 지도 모델이 여전히 우세할 수 있다.
스칼라 리더보드를 넘어서: 다목적 LLM 아레나에서 파레토 프런티어 식별을 위한 적응적 샘플링
이 논문은 아레나 스타일 평가에서 파레토 프런티어에 있는 모델을 효율적으로 식별하기 위한 고정 신뢰도 적응적 샘플링 알고리즘인 Vector-Borda Empirical-Gap Elimination(VB-EGE)을 제안한다. 각 비교는 선택된 성능 차원에 대해 한 쌍의 모델을 평가한다.
- 논문은 다목적 Bradley-Terry 모델 아래에서 VB-EGE가 높은 확률로 올바른 파레토 프런티어를 반환함을 보이고, 샘플 복잡도의 인스턴스 의존 상한을 도출한다.
- 논문은 또한 최악의 경우 하한을 확립하여 VB-EGE가 로그 인자까지 미니맥스 최적임을 보인다.
- Arena, SearchArena, VisionArena의 세 가지 실제 아레나 데이터셋에 대한 시뮬레이션과 실험이 VB-EGE의 실증적 효과를 보여준다.
- 논문은 참고문헌과 부록을 포함해 51페이지이며, 2026년 10월 20일에 제출되었다.
비용이 많이 드는 인간 피드백에 의존하는 LLM 평가에서 VB-EGE는 고정 신뢰도 아래 비교 횟수를 줄이면서 다목적 트레이드오프 프런티어를 식별하는 샘플링 전략을 제공한다.
MIT^3: 테스트 시점 학습을 통한 장영상 이해의 기억 내재화
논문은 각 장영상을 압축된 영상별 적응 파라미터에 기록하여 영상 없이 텍스트만으로 질의응답을 가능하게 하는 영상별 적응 프레임워크 MIT^3를 제안한다. 인과 추적이 적응 위치를 선택하고, 시각 기억 증류가 텍스트 전용 기억이 해당 영상 클립이 유발한 표현 변화를 재현하도록 학습한다.
- 논문은 LVBench, LongVideoBench, Video-MME에서 데이터 효율적인 영상 없는 질의응답을 달성했다고 보고한다.
- 논문에 따르면 사용하는 합성 샘플 수는 기존 파라미터화 영상 기억 방법보다 크게 적다.
- 방법은 압축된 다중 스케일 감독 아래 인과 추적으로 각 모델 층의 영상 기반 답변에 대한 인과적 기억 효용을 측정한다.
- 시각 기억 증류는 텍스트 전용 기억이 관련 영상 클립으로 인한 표현 변화를 재현하도록 훈련한다.
장영상 QA를 구축하는 개발자에게 이 연구는 합성 텍스트를 늘리는 것만이 아니라 지식이 기록되는 위치와 시각 증거의 증류 방식이 내재화 효과를 함께 좌우함을 보여준다.
비검증 영역 강화학습을 위한 전문가 안내 루브릭 기반 밀집 보상 신호
이 논문은 소규모의 고정된 전문가 판단을 밀집 보상으로 변환하고 검색 기반 지표와 결합해 GRPO 호환 하이브리드 훈련 신호를 구성하는 방법을 제안한다. 대상은 금융 서비스와 같은 비검증 검색 작업이다.
- 논문은 희소 보상 기준선과 비교해 Recall@3가 최대 6%, MRR@3가 6.7% 향상되었다고 보고한다.
- 논문은 GRPO에서 그룹 내 모든 샘플 출력이 같은 결과를 받으면 희소 보상이 유용한 학습 신호를 만들지 못해 최적화가 정체된다고 밝힌다.
- 이 방법은 소규모의 고정된 SME 판단을 밀집 보상으로 변환하고 검색 지표와 결합해 하이브리드 훈련 신호를 구성한다.
- 논문은 2026년 10월 17일 제출되었고 11페이지, 그림 4개로 구성되며 RL4LLM-Agents workshop ICAIF ACM에 해당한다.
비검증 영역 에이전트를 구축하는 팀에게 이 결과는 소수의 전문가 루브릭으로 밀집 보상을 만들면 GRPO의 희소 보상 하 최적화 정체를 완화할 수 있음을 보여준다.
대규모 언어 모델과 다목적 강화학습을 통한 Pareto 최적 RTL 코드 생성
이 논문은 단일 회로의 품질이 아니라 여러 번의 생성으로 얻은 전체 회로 집합의 PPA 목표 공간에서의 품질과 다양성을 최적화하는 LLM 기반 회로 생성 학습 방법을 제안한다. 제안 방법은 생성 기반 학습 파이프라인과 Hypervolume Contribution(HVC) 기반 보상 함수로 구성된다.
- 논문은 RTLLM v2 벤치마크에서 PPA 최적화가 없는 베이스라인 대비 상대 Hypervolume이 +13.3 퍼센트 포인트 향상되었다고 보고한다.
- 논문은 단일 목적 강화학습 방법 대비 상대 Hypervolume이 +14.4 퍼센트 포인트 향상되었다고 보고한다.
- 논문은 회로 다양성에서도 우위를 보인다고 밝힌다.
- 논문은 COLM 2026에 채택되었으며 2026년 10월 16일에 제출되었다.
AI 빌더에게 PPA 트레이드오프를 집합 수준의 Pareto 커버리지 문제로 다루면 설계 제약이 바뀔 때 사후 선택 가능한 다양한 RTL 후보를 얻을 수 있다.