Today’s frontier report
Research Pool → Multi-Scout → Editor → Edition
3qk7 · AI LOCAL LABS TECHNICAL SCOUTING

AI FRONTIER

Signals worth understanding before they become obvious.

2026-11-11
01
testagentscapability unlock

Giới thiệu AlphaProof Code: bước đột phá trong xác minh sâu phần mềm phức tạp

Các nhà nghiên cứu Google DeepMind đã dùng AlphaProof Code, một khung tác tử, để xác minh hình thức các thuộc tính bảo mật then chốt của mã thực tế trong giao thức Signal, với các tác tử tạo ra hơn sáu triệu dòng Lean.

  • AlphaProof Code là một khung tác tử đa LLM, trong đó chuyên gia con người cùng AI quyết định cần chứng minh điều gì và một nhóm tác tử AI thực hiện chứng minh.
  • Các tác tử đã tạo ra hơn sáu triệu dòng Lean để chứng minh các thuộc tính bảo mật của phần triển khai giao thức mật mã Signal.
  • Việc con người rà soát chỉ chiếm một phần trăm cơ sở mã, phần còn lại do Lean tự động kiểm tra.
  • Quá trình xác minh chỉ mất bốn tuần, một công việc mà trước đây các nhóm chuyên gia phải mất nhiều năm.

Với những người xây dựng AI, điều này cho thấy chứng minh đa tác tử kết hợp kiểm tra tự động của Lean có thể mở rộng xác minh hình thức từ mức thiết kế xuống mã đã biên dịch thực tế, đồng thời tập trung rà soát của con người vào một phần rấ...

Google DeepMind
02
testresearchbenchmark jump

Ra mắt benchmark Multimodal Knowledge Agent

Google ra mắt benchmark Multimodal Knowledge Agent để đo hiệu suất của mô hình trên các tác vụ cụ thể.

  • Benchmark có tên là Multimodal Knowledge Agent benchmark.
  • Nguồn là blog.google.
  • Tóm tắt bài báo nêu rằng công trình đề xuất hoặc sử dụng đánh giá benchmark mới để đo hiệu suất mô hình trên các tác vụ cụ thể.

Nhà phát triển AI có thể dùng benchmark này để đánh giá các tác nhân tri thức đa phương thức trên các tác vụ cụ thể.

blog.google
03
watchinferenceincremental

OpenRouter bổ sung Baidu ERNIE-Light-DT-1.0

ERNIE-Light-DT-1.0 dựa trên các mô hình GLM mã nguồn mở và tích hợp kết quả nghiên cứu từ mô hình lớn Lightning của Baidu Search, dùng Baidu Sparse Attention (BSA) cùng nén lịch sử theo phản hồi để giảm dung lượng cache KV và chi phí tính toán.

  • Cửa sổ ngữ cảnh là 1.024.000 token, hỗ trợ tối đa 131.072 token hoàn thành.
  • Giá là 1,13 USD cho mỗi 1 triệu token đầu vào và 3,94 USD cho mỗi 1 triệu token đầu ra, đọc cache là 0,113 USD cho mỗi 1 triệu token.
  • Được một nhà cung cấp duy nhất là Baidu Qianfan lưu trữ, với thông lượng 83 tok/s, độ trễ 1,05 s và thời gian hoạt động 100,00% trong 3 ngày.
  • Hỗ trợ gọi hàm qua tools và tool_choice, cùng đầu ra có cấu trúc qua JSON schema trong response_format.

Với những ai khai thác ngữ cảnh cỡ một triệu token, BSA và nén lịch sử là cơ chế cần đo trên khối lượng tài liệu và phiên dài thực tế, nơi chi phí cache KV chiếm ưu thế.

OpenRouter Models
04
testmodelscapability unlock

Mô hình mới trên OpenRouter: Thinking Machines Inkling 2 Small (miễn phí)

Inkling 2 Small là mô hình suy luận đa phương thức mixture-of-experts của Thinking Machines Lab với 17B tham số hoạt động trên tổng 594B, và là mô hình đầu tiên thuộc thế hệ Inkling thứ hai. Mô hình được huấn luyện bằng học tăng cường trên các tác vụ lập trình dài hạn trong nhiều agent harness, nhận đầu vào văn bản và ...

  • 17B tham số hoạt động trên tổng 594B.
  • Cửa sổ ngữ cảnh 1.048.576 token, hỗ trợ tối đa 131.072 token hoàn thành.
  • Nhận đầu vào văn bản và hình ảnh, trả về văn bản; không hỗ trợ âm thanh.
  • Endpoint miễn phí chỉ dùng được với agentic harness, và prompt cùng đầu ra được ghi log rồi dùng để cải thiện các mô hình của Thinking Machines Lab.

Nhà phát triển có cách miễn phí để thử một mô hình lập trình agentic với ngữ cảnh 1M, nhưng điều khoản ghi log của endpoint miễn phí nghĩa là không nên gửi dữ liệu mật hoặc cá nhân tới đó.

OpenRouter Models
05
testresearchcapability unlock

RL-ATTACK: Tấn công đối kháng hộp đen tổng quát nhắm vào mô hình ngôn ngữ bằng học tăng cường

Bài báo đề xuất một khung học tăng cường hộp đen có thể huấn luyện, học từ mô hình mục tiêu để tạo các biến đổi đối kháng phù hợp thay vì đoán biến đổi từ kiến thức bên ngoài. Bài báo báo cáo độ chính xác sau tấn công thấp hơn, hiệu quả truy vấn cao hơn và bảo toàn ngữ nghĩa tốt hơn trên suy luận ngôn ngữ tự nhiên và c...

  • Trên suy luận ngôn ngữ tự nhiên, bài báo báo cáo đưa độ chính xác sau tấn công xuống 2% trong 20 truy vấn.
  • Đối với mô hình ngôn ngữ sinh tạo, kẻ tấn công đã huấn luyện liên tục đạt độ chính xác sau tấn công thấp hơn kẻ tấn công chưa huấn luyện.
  • So với một baseline mạnh dựa trên tối ưu hóa, bài báo báo cáo thắng ở 4 trong 6 cấu hình.
  • Bài báo thử nghiệm nhiều thiết kế phần thưởng và cấu hình huấn luyện và nhận thấy không có thiết kế hay cấu hình nào luôn vượt trội.

Với các nhà xây dựng AI, điều này cho thấy kẻ tấn công hộp đen có thể được huấn luyện từ chính tín hiệu của mô hình mục tiêu để phơi bày lỗ hổng với ít truy vấn hơn trong đánh giá an toàn.

arXiv cs.CL
06
watchagentsnew architecture

Obsidian Security ra mắt công cụ chính sách thời gian chạy để kiểm soát hành động của tác nhân AI

Obsidian Security đã ra mắt công cụ chính sách thời gian chạy để kiểm soát hành động của tác nhân AI. Việc ra mắt này được Unite.AI đưa tin.

  • Obsidian Security đã ra mắt công cụ chính sách thời gian chạy để kiểm soát hành động của tác nhân AI.
  • Việc ra mắt này được Unite.AI đưa tin.

Đối với những người xây dựng tác nhân AI, việc thực thi chính sách trong thời gian chạy nghĩa là hành động của tác nhân có thể bị hạn chế ngay tại thời điểm thực thi thay vì chỉ dựa vào cấu hình tĩnh trước khi triển khai.

Unite.AI