Today’s frontier report
Research Pool → Multi-Scout → Editor → Edition
3qk7 · AI LOCAL LABS TECHNICAL SCOUTING

AI FRONTIER

Signals worth understanding before they become obvious.

2026-11-05
01
testmodelscapability unlock

OpenRouter bổ sung Tencent Hy4: ngữ cảnh 1M và hiểu hình ảnh lần đầu

Bản phát hành chính thức Hy4 của Tencent được báo cáo mang lại cải tiến toàn diện và đáng kể so với Hy4 Preview, với mức tăng đặc biệt mạnh ở năng lực tác nhân và các tác vụ năng suất thực tế dài hạn, đồng thời lần đầu giới thiệu khả năng hiểu hình ảnh.

  • Cửa sổ ngữ cảnh là 1.048.576 token và hỗ trợ tối đa 65.536 token hoàn thành.
  • Giá là $0,417 mỗi 1 triệu token đầu vào và $1,251 mỗi 1 triệu token đầu ra, với Cache Read là $0,021 mỗi 1 triệu token, tất cả đều được niêm yết giảm 50%.
  • Mô hình nhận văn bản và hình ảnh làm đầu vào và trả về văn bản, đồng thời hỗ trợ gọi hàm qua tools và tool_choice cùng đầu ra có cấu trúc qua JSON schema trong response_format.
  • Phát hành ngày 4 tháng 11 năm 2026, được lưu trữ bởi một nhà cung cấp duy nhất là Tencent Cloud, với OpenRouter chuyển tiếp mọi yêu cầu trực tiếp.

Với nhà phát triển, sự kết hợp giữa ngữ cảnh 1M, gọi công cụ và đầu vào hình ảnh lần đầu phù hợp với các tác nhân sản xuất vừa đọc hình ảnh vừa thực thi tác vụ nhiều bước kéo dài.

OpenRouter Models
02
testmodelsopen source unlock

moonshotai/Kimi-K3.1-Pro: mô hình tác tử đa phương thức mở với 2,8 T tham số

Kimi K3.1 Pro là mô hình tác tử đa phương thức gốc, trọng số mở, được huấn luyện hậu kỳ từ Kimi K3 bằng học tăng cường kết hợp quy mô lớn, với cửa sổ ngữ cảnh một triệu token.

  • Tổng tham số 2,8 T, tham số kích hoạt 104 B, 93 lớp, kiến trúc Mixture-of-Experts chọn 16 chuyên gia mỗi token.
  • Độ dài ngữ cảnh 1048576 và bộ mã hóa thị giác MoonViT-V2 với 401 M tham số.
  • Lượng tử hóa dùng trọng số MXFP4 và kích hoạt MXFP8, kèm huấn luyện nhận biết lượng tử hóa.
  • Thẻ mô hình báo cáo 65,7 trên Terminal-Bench 4.0, 51,7 trên SWE Marathon v1.1 và 70,0 trên HLE-Full w/ tools.

Với nhà phát triển, mô hình này kết hợp ngữ cảnh một triệu token và đầu vào đa phương thức gốc với trọng số mở cùng các đường triển khai vLLM, SGLang và TokenSpeed, phù hợp cho tác tử ngữ cảnh dài và phân tích tài liệu.

Hugging Face Trending
03
testdocumentscapability unlock

Dharma Field Extractor: Mọi tài liệu đầu vào, trường có cấu trúc đầu ra dạng JSON

Dharma-AI đã phát hành Dharma Field Extractor, một mô hình 2 tỷ tham số trích xuất các trường được yêu cầu từ mọi loại tài liệu và trả về JSON có cấu trúc, ở cả chế độ mở và chế độ định hướng theo lược đồ.

  • Mô hình cơ sở là DharmaOCR-LITE v1.1, một checkpoint 2 tỷ tham số, trên đó một bộ điều hợp LoRA được huấn luyện với 43.384 ví dụ huấn luyện bao gồm cả hai chế độ yêu cầu.
  • Benchmark bao gồm 546 tài liệu trong ba kịch bản yêu cầu, tổng cộng 1.638 trường hợp, được chấm theo F1 cấp trường nhân với độ tương đồng Levenshtein trên các giá trị khớp và tỷ lệ đầu ra JSON hợp lệ.
  • Mô hình đạt 0,834, cao hơn mọi cấu hình frontier được thử nghiệm, từ Claude Opus 5 ở 0,816 đến GPT-5.6 Luna ở 0,741.
  • Chi phí thấp hơn khoảng 6 lần (GPT-5.6 Luna) đến khoảng 147 lần (GPT-5.6 Sol) so với API frontier; chi phí tự vận hành là thời gian GPU trên một L40S với 2,24 USD mỗi giờ.

Đối với trích xuất trường cấp tài liệu, một mô hình chuyên biệt 2 tỷ tham số tự vận hành có thể vượt qua API frontier với chi phí thấp hơn trên cùng một benchmark.

Hugging Face Blog
04
watchresearchcapability unlock

Circuit Oracle: Tự động hóa phân tích đồ thị quy kết qua truy vấn ngôn ngữ tự nhiên

Circuit Oracle là một LLM sẵn có được trang bị harness đa tác nhân và các kỹ năng chuyên biệt theo tác vụ, trả lời các câu hỏi ngôn ngữ tự nhiên về một mô hình mục tiêu bằng cách đọc đồ thị quy kết thông qua các lệnh gọi công cụ. Bài báo đánh giá nó trên ba tác vụ đại diện liên quan đến an toàn với kết quả trái chiều.

  • Trên phát hiện đặc trưng giả, Circuit Oracle đạt độ chính xác 78,2 ± 2,4%, vượt các baseline xếp hạng đặc trưng một lớp.
  • Trên khai thác bí mật, các bộ tự giải thích đã huấn luyện như Activation Oracles vẫn là baseline mạnh hơn.
  • Trên triệt tiêu từ chối với 50 prompt, can thiệp duy nhất được cam kết của nó hơi thấp hơn baseline diff-in-means, và chỉ vượt baseline khi được phép chọn tốt nhất trong năm lần thử.
  • Kết quả ổn định qua năm lần chạy và qua các lựa chọn mô hình cho các tác nhân.

Phân tích đồ thị quy kết có thể được tự động hóa một phần bằng tác nhân ngôn ngữ tự nhiên, nhưng kết quả được báo cáo vẫn kém các baseline chuyên dụng ở khai thác bí mật và triệt tiêu từ chối, nên nhà phát triển nên coi đây là công cụ hỗ tr...

arXiv cs.CL
05
testagentscapability unlock

MEMENTO: Học quản lý ngữ cảnh cho các tác nhân xử lý ngữ cảnh dài

Bài báo giới thiệu MEMENTO, một tác nhân ngữ cảnh dài xây dựng trên Qwen3-8B, được huấn luyện quản lý ngữ cảnh thông qua nén: trước tiên khởi tạo bằng fine-tuning trên các quỹ đạo tổng hợp được chú thích bằng ghi chú tạo hồi tố, sau đó tăng cường bằng RL với phần thưởng kết hợp độ chính xác câu trả lời, heuristic chất ...

  • Bài báo báo cáo rằng trên hỏi đáp cấp độ sách ở bốn benchmark, với sách lên tới 2,5 triệu token, MEMENTO nâng độ chính xác của Qwen3-8B từ 36,9% lên 67,8% mà không bao giờ giữ quá 20K token trong ngữ cảnh.
  • Bài báo báo cáo rằng trong cùng harness, MEMENTO vượt qua tác nhân GPT-5.5 (13,1%) và ngữ cảnh sách đầy đủ (56,7%) với chi phí dưới 1/50.
  • Bài báo báo cáo rằng MEMENTO gần bằng tác nhân GLM-5.3 lớn hơn khoảng 100 lần (69,3%) với chi phí 1/9, và kém ngữ cảnh đầy đủ của GLM-5.3 6,4 điểm với chi phí 1/26.
  • Bài báo nêu rằng các mô hình tác nhân sẵn có, gồm GPT-5.5 và GLM-5.3, thường viết ghi chú không hiệu quả, và chỉ RL hiếm khi khám phá hành vi ghi chú hữu ích.

Với người xây dựng tác nhân ngữ cảnh dài, kết quả cho thấy huấn luyện một chính sách nén tường minh trong cửa sổ cố định 20K token có thể tiệm cận độ chính xác hỏi đáp cấp độ sách với chi phí thấp hơn nhiều so với mô hình lớn hơn hẳn hoặc c...

arXiv cs.CL
06
watchresearchnew architecture

GAVAGAI: Căn chỉnh quy chiếu cho mô hình thị giác-ngôn ngữ quy mô trẻ sơ sinh bằng vận tải tối ưu cân bằng

Bài báo thêm một biến quy chiếu vào mục tiêu tạo chú thích theo token kế tiếp bằng cách coi mỗi cảnh là một bài toán gán nhỏ giữa các từ nội dung nghe được và các vùng nhìn thấy, giải bằng vận tải tối ưu entropy dưới một cột NOTHING và một ràng buộc dung lượng. Trên kho video trẻ sơ sinh SAYCam, thêm mất mát căn chỉnh ...

  • Bước căn chỉnh tốn khoảng tám vòng lặp Sinkhorn, nhỏ so với bộ mã hóa thị giác.
  • Phiên bản một tham số của mô hình tái tạo độ chính xác học tập xuyên tình huống của người lớn qua ba điều kiện mơ hồ với RMSE 0,024.
  • Trên kho video trẻ sơ sinh SAYCam, thêm mất mát căn chỉnh vào mô hình tạo chú thích token kế tiếp nâng độ chính xác từ-sang-hình từ 32,4% lên 48,7% và IoU định vị từ 0,18 lên 0,38.

Với các mô hình thị giác-ngôn ngữ huấn luyện dưới tỷ lệ không quy chiếu cao, một biến gán từ-vùng tường minh cung cấp áp lực neo nghĩa mà chỉ mục tiêu tạo chú thích không có, dù bài báo báo cáo rằng nó không vượt qua mô hình tương phản huấn...

arXiv cs.CL
07
watchresearchbenchmark jump

Được nhân hóa nhưng vẫn đúng? Kiểm toán sự thật và phát hiện trong công cụ nhân hóa văn bản AI

Bài báo dùng trình kiểm tra dựa trên quy tắc để kiểm toán liệu công cụ nhân hóa AI có giữ nguyên số, ngày tháng, tên người và tổ chức, cùng đoạn trích dẫn hay không, và kiểm tra liệu mô hình quyết định đa dụng Jev có tách bản gốc của người khỏi bản viết lại được nhân hóa.

  • Trong chu kỳ tháng 10 năm 2026, cả 11 công cụ thương mại đã thay đổi hoặc bỏ ít nhất một đơn vị kiểm tra được trong 35-65% tài liệu có chứa đơn vị đó.
  • Chỉ tính số và tên, 10 trong 11 công cụ vẫn thay đổi ít nhất một đơn vị trong 20% tài liệu trở lên.
  • Một công cụ nhân hóa mở 12B giữ ít nhất 97% số và tên trong văn bản dày đặc sự thật của cơ quan liên bang Hoa Kỳ, nhưng viết lại 67-78% đoạn trích dẫn.
  • Jev tách bản gốc của người khỏi bản viết lại được nhân hóa với AUROC 0,864 (0,827-0,902), cao hơn Binoculars, Fast-DetectGPT và RADAR 0,18-0,22, nhưng gọi 24% bản gốc của người là AI ở ngưỡng 0,5.

Người xây dựng pipeline nhân hóa hoặc phát hiện nên đo riêng tỷ lệ giữ lại các đơn vị sự thật kiểm tra được, vì việc né tránh bộ phát hiện và bảo toàn sự thật không liên quan rõ ràng.

arXiv cs.CL
08
watchdeveloperincremental

Transformers giới thiệu Model Integration Contracts

Hugging Face đề xuất Model Integration Contracts (MIC), thu nhỏ checkpoint thật thành fixture nhỏ và chạy đường dẫn sử dụng trên CPU để so sánh với baseline do con người duyệt, phát hiện hồi quy ngay ở giai đoạn PR.

  • Fixture UMT5 dùng 66 MB trọng số, trong khi checkpoint nguồn là 1.227 MB.
  • Hồi quy UMT5 tồn tại từ khi được đưa vào ngày 30 tháng 7 năm 2026 đến khi được sửa ngày 28 tháng 9, với log-probability lệch baseline 1,22 và training loss khoảng 0,20.
  • Llama 4 Scout thu gọn từ 108,6 tỷ tham số xuống 44,7 triệu, với vision stack từ 34 xuống 2 layer và language stack từ 48 xuống 4.
  • Trong nghiên cứu khởi tạo trọng số, fixture Whisper ngẫu nhiên phát hiện 18 trong 24 lỗi được tiêm, còn fixture overfit phát hiện cả 24.

Builder có thể dùng MIC như kiểm tra PR rẻ trên CPU, nhưng cần lưu ý rằng tính đến ngày 1 tháng 11 năm 2026, job MIC chỉ báo lỗi mà không chặn PR.

Hugging Face Blog