AI FRONTIER
Signals worth understanding before they become obvious.
Điện toán đa dụng dựa trên bằng chứng với Magnetar
Microsoft Research giới thiệu Magnetar, một máy ảo không tri thức (zkVM) đa dụng chứng minh việc thực thi các chương trình RISC-V viết bằng Rust, Go hoặc C, với bảo mật chỉ dựa trên các hàm băm tiêu chuẩn.
- Magnetar chứng minh 7,2 đến 8,7 triệu lệnh bộ xử lý mỗi giây trên một máy tính xách tay.
- Magnetar được tối ưu hóa chứng minh 9,5 đến 12,8 triệu chu kỳ mỗi giây, tăng mỗi mức tăng tốc được báo cáo lên khoảng 1,3 lần, và các bằng chứng của nó xác minh trong khoảng 12 mili giây.
- Bảo mật của nó chỉ phụ thuộc vào một hàm băm tiêu chuẩn như SHA-256 hoặc SHA-3, không cần đường cong elliptic, lưới, hàm băm chuyên dụng, thiết lập tin cậy hay phỏng đoán mã sửa lỗi chưa được chứng minh.
Đối với các nhà xây dựng AI, Magnetar khiến các chương trình đã biên dịch thông thường có thể chứng minh mà không cần chuyên môn mật mã và loại bỏ một cuộc di chuyển hậu lượng tử khỏi lộ trình.
Mô hình lớn "Shusheng-S2" của Shanghai AI Lab tham gia quy trình nghiên cứu toán học tiên tiến: hỗ trợ chứng minh giả thuyết Ghys ba chiều và vượt qua kiểm chứng hình thức
Mô hình lớn "Shusheng-S2" của Shanghai AI Lab đã tham gia một quy trình nghiên cứu toán học tiên tiến, hỗ trợ chứng minh giả thuyết Ghys ba chiều, và chứng minh này đã vượt qua kiểm chứng hình thức.
- Mô hình lớn "Shusheng-S2" của Shanghai AI Lab đã tham gia một quy trình nghiên cứu toán học tiên tiến.
- Mô hình đã hỗ trợ chứng minh giả thuyết Ghys ba chiều.
- Chứng minh liên quan đã vượt qua kiểm chứng hình thức.
Điều này cho thấy một mô hình lớn có thể tham gia chứng minh toán học tiên tiến và tạo ra kết quả có thể kiểm chứng hình thức, mang lại ví dụ quy trình có thể kiểm chứng cho nghiên cứu toán học có AI hỗ trợ.
OpenRouter bổ sung NVIDIA Nemotron 3.5 Super VL, mô hình MoE đa phương thức
NVIDIA Nemotron 3.5 Super VL là mô hình MoE đa phương thức mở với 12B tham số hoạt động trên tổng 120B, dùng kiến trúc lai Mamba-Transformer cùng dự đoán đa token và ngữ cảnh 1M token.
- Tổng 120B tham số với 12B tham số hoạt động, trên kiến trúc lai Mamba-Transformer có dự đoán đa token.
- Cửa sổ ngữ cảnh 1.048.576 token, hỗ trợ tối đa 262.144 token hoàn thành.
- Nhận đầu vào văn bản, hình ảnh, tài liệu, ảnh chụp màn hình GUI và video, trả về văn bản; suy luận bật mặc định và có thể tắt hoặc giới hạn bằng ngân sách token.
- Giá $0,10 mỗi 1M token đầu vào và $0,40 mỗi 1M token đầu ra, đọc bộ nhớ đệm $0,08/M, do Crusoe, Together, DeepInfra và CoreWeave cung cấp.
Với các nhóm xây dựng tác nhân chạy dài, 12B tham số hoạt động cùng ngữ cảnh 1M token và đầu vào thị giác cho phép xử lý hiểu tài liệu, tương tác GUI và hiểu video trong một mô hình.
Joint Subspace Sparse Attention cho giải mã ngữ cảnh dài hiệu quả
JSSA học một không gian con query-key chia sẻ số chiều thấp để cải thiện chất lượng xếp hạng của lựa chọn thưa ở cấp token, và giới thiệu kernel indexed-attention cấp token không gather hỗ trợ lựa chọn riêng cho từng KV-head theo bố cục KV-cache GQA tiêu chuẩn.
- Bài báo báo cáo rằng trên GPU NVIDIA B200, JSSA đạt thông lượng giải mã gấp tối đa 6,43 lần full-KV attention ở ngữ cảnh 128K.
- Bài báo nêu rằng JSSA vẫn gần với độ chính xác full-KV trên các mô hình GQA tiêu chuẩn, attention lai sliding-window/global và Multi-head Latent Attention (MLA).
- Bài báo báo cáo JSSA đạt độ chính xác suy luận tương đương DSA gốc của mô hình mà không cần huấn luyện mô hình và đạt 96–99% thông lượng giải mã của nó ngay cả trên các mô hình lớn quy mô 700B.
- Bài báo lưu ý rằng việc tinh chỉnh trực tiếp mục tiêu chính xác không mang lại cải thiện đo lường được trong các thiết lập đã thử nghiệm.
Với những người xây dựng suy luận ngữ cảnh dài, JSSA quan trọng vì nó kết hợp lựa chọn thưa cấp token với kernel không gather, giúp giảm trực tiếp chi phí giải mã trên các bố cục KV-cache GQA và MLA hiện có.
WorldMemBench: Chuẩn đánh giá toàn diện cho trí nhớ của mô hình thế giới video
Bài báo giới thiệu WorldMemBench, một chuẩn đánh giá nhằm đánh giá một cách hệ thống trí nhớ thế giới trong các mô hình thế giới video trên 260 ca kiểm thử, bao gồm trí nhớ tĩnh (danh tính và ngoại hình con người, ngoại hình và hình học vật thể, nội dung và hình học môi trường) và trí nhớ động (tiến triển sự kiện và du...
- Chuẩn đánh giá gồm 260 ca kiểm thử đánh giá trí nhớ tĩnh và động.
- Nó dùng các lần rời camera có kiểm soát và quỹ đạo thăm lại nhiều lần, so sánh nội dung tĩnh với tham chiếu ban đầu cố định và sự kiện động với chuyển trạng thái kỳ vọng.
- Đánh giá chín mô hình đại diện cho thấy khả năng giữ tĩnh mạnh không đồng nghĩa với tiến hóa trạng thái động đáng tin cậy.
- Việc thăm lại lặp lại cho thấy trí nhớ suy giảm sau lần quay lại đầu tiên, và các nghiên cứu với con người ủng hộ sự khớp giữa đánh giá tự động và phán đoán của con người.
Với các nhóm xây dựng mô hình thế giới video, chuẩn đánh giá này tách trí nhớ thành các trục tĩnh và động có thể đo lường, đồng thời cho thấy khả năng giữ tĩnh không thay thế được việc duy trì trạng thái qua nhiều lần thăm lại.
Mô hình tương tự, tỷ lệ hỏng: Nơi tiên đề Luce thất bại trong Chatbot Arena
Bài báo lập luận rằng mô hình Bradley-Terry của Chatbot Arena cho mỗi mô hình một điểm số duy nhất và do đó giả định tiên đề lựa chọn Luce; trên 1,8 triệu phiếu Arena, phiếu giữa các phiên bản của cùng một mô hình mang tính quyết định hơn so với dự đoán của Bradley-Terry.
- Trên 1,8 triệu phiếu Arena, phiếu giữa các phiên bản của cùng một mô hình quyết định gấp 1,37 lần so với dự đoán của Bradley-Terry.
- Giữa các kích cỡ trong cùng một thế hệ, hệ số là 1,26, và giữa các mô hình của cùng một phòng thí nghiệm là 1,12.
- Một hiệu chỉnh với bốn đến sáu tham số dự đoán phiếu held-out tốt hơn Bradley-Terry và tốt hơn các mô hình có hàng trăm tham số, chủ yếu nhờ mô hình hóa các trận hòa.
- Với giám khảo mô hình ngôn ngữ và menu ba câu trả lời, một bản gần sao chép lấy phiếu chủ yếu từ bản song sinh khi các lựa chọn được gộp theo prompt, với dịch chuyển log-odds +0,10 và khoảng tin cậy 95% từ 0,05 đến 0,16.
Với người xây dựng, điều này nghĩa là tỷ lệ thắng theo cặp kiểu Arena giữa các mô hình gần sao chép có thể bị phóng đại một cách hệ thống, nên bảng xếp hạng điểm đơn của các mô hình tương tự cần được đọc thận trọng.
fishaudio/drama-3: mô hình text-to-speech MoE 35B tham số với 16 người nói và streaming
Fish Audio đã phát hành Drama 3, mô hình text-to-speech thế hệ mới dành cho cảnh nhiều nhân vật và nội dung dài, hỗ trợ tạo nhiều người nói, nhân bản giọng nói và điều khiển bằng ngôn ngữ tự nhiên. Mô hình dùng backbone văn bản MoE 35B tham số với 3B kích hoạt mỗi token cùng bộ giải mã âm thanh Codebook-MTP.
- 35B tham số với 3B kích hoạt mỗi token, trên backbone văn bản MoE dùng attention lai đầy đủ và tuyến tính.
- Thẻ người nói <|speaker:0|> đến <|speaker:15|> cho phép một văn bản mang tối đa 16 nhân vật.
- Bộ giải mã âm thanh Codebook-MTP giải mã 10 codebook theo quan hệ nhân quả trên toàn bộ chuỗi.
- Các expert MoE dùng FP8, phần trọng số còn lại dùng bf16; trang mô hình ghi 36B tham số và kiểu tensor BF16, F8_E4M3.
Với nhà phát triển cần âm thanh dài nhiều nhân vật, Drama 3 gộp 16 thẻ người nói, chia đoạn streaming và triển khai SGLang-Omni, nhưng giấy phép thiên về nghiên cứu và yêu cầu phần cứng MoE FP8 quyết định phạm vi dùng trong sản xuất.