AI FRONTIER
Signals worth understanding before they become obvious.
JiTTests của Meta: các bài kiểm thử do LLM tạo được thiết kế để thất bại trước khi mã rủi ro được hợp nhất
JiTTests của Meta sử dụng mô hình ngôn ngữ lớn để tạo các bài kiểm thử được thiết kế để thất bại trước khi mã rủi ro được hợp nhất. Tóm tắt bài báo đề cập năng lực, đánh giá hoặc căn chỉnh của mô hình ngôn ngữ lớn.
- Tóm tắt bài báo giới thiệu JiTTests của Meta và tập trung vào năng lực, đánh giá hoặc căn chỉnh của mô hình ngôn ngữ lớn.
- Công trình này phù hợp với độc giả quan tâm đến phương pháp và kết quả thực nghiệm.
Với nhà xây dựng AI, JiTTests gợi ý dùng các bài kiểm thử thất bại do LLM tạo làm tín hiệu cổng trước khi mã rủi ro được hợp nhất.
Anthropic cho biết Claude Mythos Preview rút ngắn thời gian làm quen AMD MI355X từ tối đa 12 tháng xuống khoảng ba ngày
Theo Tom's Hardware, Anthropic cho biết Claude Mythos Preview đã rút ngắn thời gian làm quen AMD MI355X từ tối đa 12 tháng xuống khoảng ba ngày.
- Anthropic cho biết thời gian làm quen AMD MI355X giảm từ tối đa 12 tháng xuống khoảng ba ngày.
- Tuyên bố này được Tom's Hardware đưa tin.
Đối với các nhà xây dựng AI, mức giảm được báo cáo cho thấy công việc chuyển cổng có sự hỗ trợ của mô hình có thể cắt giảm mạnh chi phí thời gian để đưa accelerator mới vào vận hành.
sensenova phát hành SenseNova-Loop-9B, mô hình vòng lặp với 56 lần thực thi lớp ở khoảng 9B tham số
SenseNova-Loop-9B dùng kiến trúc vòng lặp chia sẻ trọng số và mHC hai luồng để mở rộng 32 lớp decoder vật lý thành 56 lần thực thi lớp mỗi lượt forward, nhận văn bản và hình ảnh với ngữ cảnh tối đa 512K.
- Khoảng 9B tham số tổng và khoảng 14,6B tham số tương đương suy luận; 32 lớp decoder riêng biệt, với dải vòng lặp [4, 28) được thực thi hai lần, tạo 56 lần thực thi lớp mỗi lượt forward.
- Bản phát hành báo cáo AutomationBench tăng từ 14,33 ở Preview lên 36,67, Terminal-Bench 2.1 từ 40,45 lên 59,55 và GAIA từ 37,86 lên 69,90.
- So với Qwen3.8-27B, báo cáo 36,67 so với 36,67 trên AutomationBench, 65,31 so với 65,01 trên AIDABench và 41,36 so với 44,60 trên NL2Repo.
- Với trọng số 4-bit, trọng số mô hình chiếm khoảng 4,9 GB; suy luận ngữ cảnh 256K cần khoảng 15 GiB bộ nhớ GPU với KV cache 8-bit và khoảng 12 GiB với KV cache 4-bit.
Với nhà phát triển, điều này cho thấy tái sử dụng trọng số theo vòng lặp có thể tăng độ sâu tính toán trong ngân sách khoảng 9B tham số, nhưng các điểm yếu được thừa nhận về tuân thủ chỉ dẫn phức tạp và tác vụ agent dài hạn vẫn là đánh đổi ...
Mô hình mới trên OpenRouter: Tencent Hy4 flash
Hy4 flash là biến thể tiết kiệm chi phí của Hy4 từ Tencent, được phục vụ với khoảng một phần tư số tham số của mô hình chủ lực để giảm độ trễ và chi phí, nhắm đến hỗ trợ mã, pipeline tác nhân, hiểu tài liệu và biểu đồ, cùng tự động hóa thường quy khối lượng lớn, với giới hạn ngữ cảnh và đầu ra giống Hy4.
- Giá $0,035 mỗi 1 triệu token đầu vào và $0,1405 mỗi 1 triệu token đầu ra, với đọc bộ nhớ đệm $0,0015 mỗi 1 triệu token, tất cả giảm 50%.
- Cửa sổ ngữ cảnh 1.048.576 token và hỗ trợ tối đa 65.536 token hoàn thành.
- Được một nhà cung cấp duy nhất là Tencent Cloud lưu trữ, với độ trễ P50 2,94 giây, thông lượng 69 tok/s và độ khả dụng 99,79% trong 3 ngày.
- Vals AI báo cáo 74,8% trên Vibe Code Bench v1.1 và 15,2% trên Terminal-Bench 4.0.
Với nhà phát triển, Hy4 flash kết hợp ngữ cảnh 1M và gọi công cụ với khoảng một phần tư tham số của mô hình chủ lực ở mức giảm 50%, phù hợp cho pipeline tác nhân và mã khối lượng lớn, trong khi mức 15,2% trên Terminal-Bench 4.0 cho thấy tác...
unsloth phát hành lượng tử hóa GGUF Qwen3.8-27B với Dynamic 3.1
unsloth đã công bố các bản lượng tử hóa GGUF của Qwen3.8-27B trên Hugging Face dùng Unsloth Dynamic 3.1, theo thẻ mô hình đạt độ chính xác trung bình cao hơn 5-10% so với các bản lượng tử tiên tiến khác. Mô hình gốc là mô hình dense vision-language 27B với ngữ cảnh gốc 262.144 token.
- Thẻ mô hình ghi 27B tham số, chiều ẩn 5120, 64 lớp và chiều đầu ra LM 248.320 (đã đệm).
- Độ dài ngữ cảnh gốc là 262.144 token và có thể mở rộng tới 1.000.000 token bằng cách chia tỷ lệ RoPE như YaRN.
- Các tệp lượng tử hóa trải từ 1-bit đến 16-bit: UD-IQ1_S 6,19 GB, UD-Q4_K_XL 17,7 GB và BF16 54,7 GB.
- Thẻ mô hình báo cáo Dynamic v3.1 GGUF đạt độ chính xác trung bình cao hơn 5-10% so với các bản lượng tử tiên tiến khác trên Terminal Bench, DeepSWE, LiveCodeBench và hơn thế.
Với người xây dựng triển khai mô hình vision-language 27B tại chỗ, dải tệp từ 1-bit đến 8-bit và ngữ cảnh gốc 262K biến đánh đổi giữa ngân sách VRAM và tác vụ dài hạn thành lựa chọn đo lường được.
Nghiên cứu bảo mật phát hiện 1.467 máy chủ kết nối tác nhân AI với dữ liệu nhạy cảm
Một tóm tắt nghiên cứu bảo mật báo cáo việc phát hiện 1.467 máy chủ kết nối tác nhân AI với dữ liệu nhạy cảm.
- Tóm tắt nghiên cứu bảo mật báo cáo 1.467 máy chủ kết nối tác nhân AI với dữ liệu nhạy cảm.
Nhà phát triển nên coi máy chủ tác nhân AI bị lộ là rủi ro truy cập dữ liệu nhạy cảm, không chỉ là vấn đề năng lực mô hình.