AI FRONTIER
Signals worth understanding before they become obvious.
LowRAM: Khóa hạng thấp và giá trị được phân bổ cho nén bộ đệm KV có thể kết hợp tại thời điểm kiểm thử
Bài báo giới thiệu LowRAM, một pipeline nén bộ đệm KV bất đối xứng phân bổ bộ đệm giá trị bằng bộ dự đoán nhẹ theo từng đầu được khớp tại thời điểm kiểm thử và kết hợp với nén khóa hạng thấp xuyên tầng. Bài báo báo cáo thông lượng giải mã đỉnh cao hơn tới 5x ở mức nén 4x, và nén 26,9x ở 94,5% hiệu năng cơ sở trên ngữ c...
- Phân bổ bộ đệm giá trị khớp một bộ dự đoán nhẹ theo từng đầu và chỉ lưu phần dư cho các token được tái tạo kém nhất, mà theo bài báo cho mức nén giá trị 4x gần như không mất mát.
- Bộ dự đoán có thể được khởi tạo bằng meta-learning để giảm đáng kể chi phí prefill, hoặc được khớp từ đầu trong các thiết lập cho phép chi phí một lần, như suy luận multi-query.
- LowRAM chỉ tái tạo một tập con các cặp KV được chọn ở mỗi bước giải mã, và bài báo báo cáo thông lượng giải mã đỉnh cao hơn tới 5x ở mức nén 4x.
- Khi kết hợp với lượng tử hóa và loại bỏ, bài báo báo cáo nén 26,9x ở 94,5% hiệu năng cơ sở trên ngữ cảnh dài.
Coi khóa và giá trị là khác biệt về cấu trúc cho phép nhà phát triển xếp chồng nén khóa hạng thấp, phân bổ giá trị, lượng tử hóa và loại bỏ để nén bộ đệm KV tích cực hơn trong phục vụ ngữ cảnh dài.
FlexFloor: Hậu huấn luyện học tăng cường tiết kiệm tài nguyên nhờ song song hóa chuyên gia đàn hồi
Bài báo giới thiệu FlexFloor, một hệ thống đồng thời điều chỉnh lịch trình phản hồi và nhóm worker đang hoạt động trong quá trình sinh phản hồi đồng bộ, giải phóng worker sớm hơn trong khi vẫn giữ tính toán chuyên gia mà các phản hồi đang chạy cần.
- Bài báo báo cáo rằng ở các mô hình mixture-of-experts, khoảng một phần ba thời gian worker bị chiếm trong baseline xảy ra sau khi sinh phản hồi cục bộ kết thúc.
- Bài báo báo cáo rằng so với baseline verl, FlexFloor sinh nhiều hơn khoảng 65,40% token phản hồi trên mỗi đơn vị thời gian tính toán bị chiếm.
- Bài báo báo cáo thông lượng sinh phản hồi tăng 52,74%, với rất ít biến động quan sát được ở rollout reward.
- Bài báo dài 19 trang gồm tài liệu tham khảo và phụ lục, có 5 hình, được gửi ngày 4 tháng 11 năm 2026.
Với các nhóm xây dựng pipeline hậu huấn luyện học tăng cường trên mô hình MoE, FlexFloor cho thấy chính sách lập lịch và giải phóng worker có thể tăng sản lượng rollout trên mỗi đơn vị tính toán mà không thay đổi đáng kể phần thưởng.
ToyBlocks: một thế giới có kiểm soát cho việc học và đánh giá robot
Ai2 giới thiệu ToyBlocks, FoundationWorld đầu tiên: một khung mô phỏng mở xoay quanh một cánh tay robot và các khối trên mặt bàn, tự động sinh nhiệm vụ và bản trình diễn cùng các chỉ số vượt ra ngoài tỷ lệ thành công.
- ToyBlocks sinh và thực thi hàng trăm kế hoạch song song trên một GPU duy nhất, đạt hiệu năng tối đa gấp 24 lần thời gian thực.
- Việc huấn luyện kỹ năng diễn ra trong Isaac Lab, dùng học tăng cường và lập kế hoạch chuyển động để học các kỹ năng không cầm nắm như đẩy và lật.
- Bộ lập kế hoạch nhiệm vụ và chuyển động (TAMP) tự động chọn và sắp xếp trình tự các kỹ năng để tạo bộ dữ liệu trình diễn có nhãn.
- Các chỉ số đánh giá gồm tốc độ thực thi, lực tác động lên vật thể và tiến độ nhiệm vụ được đo bằng cùng thông số kỹ thuật mà mô-đun lập kế hoạch sử dụng.
Với các nhóm học robot, ToyBlocks cung cấp một bệ thử có thể tái lập để nghiên cứu có hệ thống các hỗn hợp dữ liệu, khả năng tổng quát hóa không gian và việc thất bại đến từ lập kế hoạch cấp cao hay thực thi cấp thấp.
OpenAI giới thiệu BioBasicsBench nhằm đo lường cách các tác nhân AI xử lý khoa học phòng thí nghiệm ướt hằng ngày
OpenAI giới thiệu BioBasicsBench, một bộ đánh giá gồm 100 tác vụ đo lường mức độ các tác nhân AI diễn giải dữ liệu thực nghiệm thô và xử lý khoa học phòng thí nghiệm ướt hằng ngày.
- Bộ đánh giá có tên BioBasicsBench và do OpenAI giới thiệu.
- Bộ đánh giá gồm 100 tác vụ.
- Theo OpenAI, bộ đánh giá đo mức độ các tác nhân AI diễn giải dữ liệu thực nghiệm thô.
- Theo OpenAI, bộ đánh giá đo mức độ các tác nhân AI xử lý khoa học phòng thí nghiệm ướt hằng ngày.
Đối với các nhóm xây dựng tác nhân khoa học, BioBasicsBench cung cấp mục tiêu đánh giá gồm 100 tác vụ tập trung vào diễn giải dữ liệu thô và công việc phòng thí nghiệm ướt hằng ngày thay vì chỉ các tác vụ tài liệu.
TRAP: ủy quyền thời gian chạy phản hồi theo độ tin cậy cho AI tác tử, được đặc trưng thực nghiệm
Bài báo đặc trưng thực nghiệm Trust Responsive Authorization Policy (TRAP), ánh xạ Authorization Readiness Score (ARS) — tổ hợp có trọng số của độ tin cậy thời gian chạy, độ ổn định vận hành và rủi ro ngữ cảnh — sang các mức ủy quyền rời rạc bằng một quy tắc bất đối xứng: leo thang yêu cầu các quan sát liên tiếp vượt m...
- Trên một tập khớp gồm 100 vết Monte Carlo, TRAP được so sánh với các chính sách tĩnh, chỉ-tin-cậy, chỉ-rủi-ro và đối xứng.
- Khi suy giảm đột ngột, TRAP hạn chế ngay từ lúc khởi phát và leo thang lại sớm hơn sau khi phục hồi so với chính sách đối xứng.
- Trong các quét một yếu tố, thời gian phục hồi tăng theo biên leo thang và độ dài chạy, thay đổi theo trọng số điểm, và không đổi theo ngưỡng hạn chế.
Lợi thế hạn chế của TRAP phụ thuộc vào việc suy giảm là đột ngột, nên nhà phát triển cần kiểm tra xem chế độ lỗi của triển khai mình có phù hợp không trước khi áp dụng.
Qwen/Qwen3.8-27B: Ra mắt Mô hình Ngôn ngữ Thị giác Đa phương thức
Qwen/Qwen3.8-27B là mô hình ngôn ngữ thị giác đa phương thức mang lại những cải tiến đáng kể trong lập trình, công việc chuyên môn, nghiên cứu và các tác vụ tác nhân dài hạn, hỗ trợ hiểu hình ảnh và video một cách tự nhiên.
- Likes: 19268
- Downloads: 7845288
- Parameters: 27.8B
- Qwen/Qwen3.8-27B 是多模态视觉语言模型，适合图像理解、视觉问答和文档解析
Mô hình này cung cấp những cải tiến toàn diện trong xử lý đa phương thức và tác vụ phức tạp, phù hợp với các nhà xây dựng yêu cầu suy luận nâng cao và khả năng hiểu thị giác.
Gaussians Can Subtract: trường hòa tan nơ-ron cho kết xuất cảnh lai
Bài báo giới thiệu Gaussolve, một khung kết xuất lai Mesh-Gaussian theo hướng “trừ rồi lấp lại”: một Neural Dissolve Field nhẹ chọn lọc hòa tan nội dung lưới không nhất quán giữa các góc nhìn, sau đó các Gaussian dư lấp đầy những vùng được lộ ra.
- Neural Dissolve Field được tham số hóa bằng các Gaussian hàm điều hòa cầu vô hướng và học nơi nào, từ hướng nhìn nào cần hòa tan nội dung lưới.
- Quy tắc hợp nhất độ truyền liên tục dần lộ ra các Gaussian dư phía sau lưới đã hòa tan, giữ lại gradient tái dựng của chúng và tránh gián đoạn khả kiến cứng.
- Bài báo báo cáo độ trung thực thị giác cao hơn với ít nguyên thủy Gaussian hơn và kết xuất nhanh hơn trên cảnh có cấu trúc và bán cấu trúc.
- Bài báo được nhận tại WACV 2027, dài 16 trang gồm tài liệu bổ sung, với 11 hình và 8 bảng.
Với người xây dựng cảnh lai Mesh-Gaussian, coi xung đột lưới-Gaussian là bất nhất quán đa góc nhìn và hòa tan lưới theo hướng nhìn có thể cải thiện độ trung thực và tốc độ kết xuất mà không thêm nguyên thủy Gaussian.