AI FRONTIER
Signals worth understanding before they become obvious.
Mô hình mới trên OpenRouter: Particle-1 của Particle AI
Particle-1 là mô hình lập trình dạng tác tử tiết kiệm token của Particle AI, được huấn luyện hậu kỳ trên DeepSeek V4.1 Flash, phục vụ quy trình terminal, thay đổi cơ sở mã và tác vụ kỹ thuật dữ liệu, với lượng token suy luận và gọi công cụ ít hơn đáng kể mà độ chính xác gần với mô hình nền tảng.
- Giá $0,25 cho mỗi 1 triệu token đầu vào và $1,00 cho mỗi 1 triệu token đầu ra, đọc bộ nhớ đệm $0,03 cho mỗi 1 triệu.
- Cửa sổ ngữ cảnh 1.048.576 token và hỗ trợ tối đa 131.072 token hoàn thành.
- Chấp nhận tools và tool_choice cho gọi hàm và hỗ trợ đầu ra có cấu trúc qua JSON schema trong response_format.
- Nhận văn bản và hình ảnh làm đầu vào và trả về văn bản; ngày phát hành 28 tháng 10 năm 2026.
Với các nhóm xây dựng tác tử lập trình, Particle-1 mang lại mức giá mỗi token thấp và ngữ cảnh 1M đáng để thử, nhưng tuyên bố độ chính xác gần mô hình nền tảng cần được kiểm chứng độc lập.
Polymathic AI và các nhà nghiên cứu Princeton công bố FlashMap, drafter flow map giúp giải mã LLM nhanh hơn 6,14 lần
Polymathic AI và các nhà nghiên cứu Princeton đã công bố FlashMap, một drafter flow map cho việc giải mã mô hình ngôn ngữ lớn, và phần tóm tắt bài báo báo cáo tốc độ giải mã nhanh hơn 6,14 lần.
- Phần tóm tắt bài báo báo cáo FlashMap đạt tốc độ giải mã LLM nhanh hơn 6,14 lần.
- FlashMap được mô tả là một drafter flow map.
- Công trình đến từ Polymathic AI và các nhà nghiên cứu Princeton.
Với các nhóm xây dựng stack suy luận, tăng tốc giải mã dựa trên drafter đáng để thử trên mô hình của chính họ nhằm xem con số 6,14 lần được báo cáo có tái lập được trên khối lượng công việc của họ hay không.
NVIDIA Nemotron 3.5 Transcribe và Granary v2: Phiên âm đa ngôn ngữ có thể nhắc lệnh và tùy biến
NVIDIA phát hành Nemotron 3.5 Transcribe, mô hình trọng số mở hợp nhất phiên âm, gán người nói, dịch thuật và hỏi đáp âm thanh trong một checkpoint, cùng pipeline dữ liệu Granary v2 và các công thức tinh chỉnh NeMo Speech.
- Mô hình phiên âm 40 ngôn ngữ, dịch 31 ngôn ngữ sang hoặc từ tiếng Anh và gán người nói trong 13 ngôn ngữ, xử lý bản ghi dài tới một giờ và tối đa tám người nói.
- Mô hình đứng đầu trong số các mô hình trọng số mở trên Hugging Face Open ASR Leaderboard cho tiếng Anh với WER trung bình 5,33%.
- Trên Artificial Analysis, mô hình đồng hạng nhất trong số các mô hình trọng số mở với AA-WER 2,8% và khoảng 4B tham số hoạt động, so với 24B ở mô hình đồng hạng.
- Manifest công khai của Granary v2 bao gồm 463.062 giờ trên 48 ngôn ngữ và 16 kho ngữ liệu nguồn, tăng từ 25 ngôn ngữ ở Granary v1.
Nhà phát triển có thể điều khiển định dạng đầu ra bằng lệnh nhắc ngôn ngữ tự nhiên, rồi tùy biến từ vựng chuyên ngành qua Granary v2 và công thức NeMo Speech, kết hợp phạm vi đa ngôn ngữ rộng với độ chính xác chuyên biệt trên mô hình trọng ...
Lộ cache KV giữa các yêu cầu trong mô hình GLM-5.3 Workers AI và biện pháp khắc phục của chúng tôi với SGLang
Blog Cloudflare báo cáo tình trạng lộ cache KV giữa các yêu cầu trong mô hình GLM-5.3 Workers AI và mô tả biện pháp khắc phục bằng SGLang.
- Nguồn là Blog Cloudflare.
- Vấn đề là lộ cache KV giữa các yêu cầu trong mô hình GLM-5.3 Workers AI.
- Biện pháp khắc phục sử dụng SGLang.
Các nhà phát triển chạy GLM-5.3 trên Workers AI nên kiểm tra cách ly cache KV và cân nhắc biện pháp khắc phục bằng SGLang.
OmniBrain-0: Mô hình tác nhân hợp nhất cho trí tuệ hiện thân
Nhóm Xiaomi Embodied Intelligence giới thiệu OmniBrain-0, một tác nhân hiện thân hợp nhất nhẹ, điều phối thao tác và điều hướng thông qua một mô hình quyết định cấp cao dùng chung, tích hợp hiểu nhiệm vụ, lập kế hoạch, theo dõi tiến độ và phục hồi dựa trên phản hồi. Khung huấn luyện tiến bộ của nó kết hợp tiền huấn luy...
- Bài báo báo cáo đánh giá OmniBrain-0 trên LIBERO-Pro, LIBERO-Plus, RoboCasa365, RoboTwin 2.0 và R2R-CE Val-Unseen, cùng nhiều nhiệm vụ thao tác trong thế giới thực.
- Bài báo nêu rằng OmniBrain-0 có chi phí suy luận và thực thi thấp hơn đáng kể so với giáo viên mã nguồn đóng của nó.
- Khung huấn luyện kết hợp tiền huấn luyện hiện thân, chưng cất tác nhân chuyên biệt theo miền và chưng cất on-policy đa giáo viên (MOPD).
- Rubric-Guided Recursive Self-Improvement (RSI) dùng một Meta-Agent để biến bằng chứng thực thi thành rubric tinh chỉnh, nhắc nhở theo từng bước và quỹ đạo đã kiểm chứng.
Với các nhóm xây dựng tác nhân hiện thân, công trình này cho thấy có thể chưng cất kinh nghiệm tương tác của nhiều giáo viên vào một mô hình quyết định nhỏ gọn để giảm chi phí suy luận mà vẫn giữ hiệu năng liên miền.
MiniMax-M3.1-Flash ra mắt: MoE đa phương thức gốc 428B tham số với ngữ cảnh 1M token
MiniMax đã phát hành MiniMax-M3.1-Flash, một mô hình mixture-of-experts đa phương thức gốc dựa trên M3 với khoảng 428B tham số tổng và 23B được kích hoạt mỗi token, nhận đầu vào văn bản, hình ảnh và video rồi xuất ra văn bản với cửa sổ ngữ cảnh lên tới 1M token. So với M3, mô hình áp dụng sparse attention trên toàn bộ ...
- Thẻ mô hình ghi khoảng 428B tham số tổng, 23B được kích hoạt mỗi token và MiniMax Sparse Attention (MSA) trên toàn bộ mô hình.
- Thẻ mô hình báo cáo 76,2 trên BankerToolBench, 73,7% trên DeepSWE v1.1, 61,7 trên OSWorld V2, 29,6 trên Agents' Last Exam và 82,2 trên CyberGym.
- Giấy phép là minimax-community, và SGLang, vLLM hoặc TokenSpeed được khuyến nghị để phục vụ mô hình, trong khi các tích hợp như Transformers vẫn đang được triển khai.
Với nhà phát triển, ngữ cảnh 1M token kết hợp sparse attention và huấn luyện nhận biết lượng tử hóa có thể giảm bộ nhớ và chi phí suy luận cho khối lượng công việc agent ngữ cảnh dài, nhưng 428B tham số tổng vẫn đòi hỏi triển khai đa GPU và...
LOTUS: Phát hiện ảo giác của LLM bằng phân rã đa tuyến tính hạng thấp
Bài báo đề xuất LOTUS (Low-rank Order-statistic TUcker-based Subspace learning), một khung phân rã đa tuyến tính hạng thấp trích xuất biểu diễn cô đọng từ trạng thái ẩn của LLM đồng thời giảm phụ thuộc vào dữ liệu gán nhãn, sau đó huấn luyện một bộ phân loại ảo giác nhẹ.
- Biểu diễn token có độ dài thay đổi trước tiên được tóm tắt bằng các mô tả thống kê bổ trợ nắm bắt kích hoạt đỉnh, phân bố kích hoạt và thay đổi giữa các lớp.
- Phân rã đa tuyến tính hạng thấp trích xuất biểu diễn cô đọng của cấu trúc trạng thái ẩn để huấn luyện bộ phân loại ảo giác nhẹ.
- Bài báo báo cáo phát hiện ảo giác tốt hơn các baseline hiện đại gần đây trên nhiều LLM và bộ đánh giá hỏi đáp.
- Bài báo dài 26 trang với 3 hình và cung cấp liên kết mã nguồn.
Với nhà xây dựng, cách tiếp cận gợi ý trích xuất tín hiệu từ cấu trúc trạng thái ẩn xuyên lớp, chế độ đặc trưng và token thay vì kích hoạt được chọn hay nén bằng pooling, cho phép huấn luyện bộ phát hiện nhẹ với ít dữ liệu gán nhãn hơn.