AI FRONTIER
Signals worth understanding before they become obvious.
FairStress: Đánh giá sâu hơn về tính công bằng trong ra quyết định của LLM
Ai2 giới thiệu FairStress, một bộ đánh giá gồm 300 tình huống quyết định giữa hai ứng viên trên 29 lĩnh vực, kiểm tra liệu mô hình có thay đổi quyết định một cách bất đối xứng dưới các tiền tố đối kháng hay không; kết hợp các biến thể về danh tính và tiền tố mở rộng nó thành hơn 13 triệu trường hợp kiểm thử.
- FairStress chứa 300 tình huống quyết định thực tế giữa hai ứng viên trên 29 lĩnh vực, gồm tuyển dụng, y tế, cho vay, giáo dục, nhà ở và tư pháp hình sự.
- Kết hợp danh tính nhân khẩu học và các biến thể tiền tố đối kháng mở rộng 300 tình huống thành hơn 13 triệu trường hợp kiểm thử.
- FairStress-Core là tập con 50 nghìn mục được chọn bằng lý thuyết đáp ứng câu hỏi nhằm giúp đánh giá nhanh hơn và ít tốn kém tính toán hơn.
- Bài báo báo cáo mức chênh lệch trung bình khi từ bỏ câu trả lời đúng trên 15 mô hình là 6,9 điểm phần trăm với danh tính ngầm định và 9,3 điểm với nhãn rõ ràng.
Nhà phát triển nên mở rộng đánh giá công bằng ra ngoài lựa chọn cuối cùng sang tính ổn định của quyết định, vì chấm điểm theo lựa chọn cố định có thể bỏ sót việc sửa quá mức trong các quyết định được sinh ra.
ALTK-Evolve: bộ nhớ học được đứng đầu bảng xếp hạng τ²-bench ở tác vụ chăm sóc khách hàng mà không cần mô hình tiên tiến
ALTK-Evolve của IBM Research trích xuất hướng dẫn hành vi từ chính các lần thử tác vụ của tác nhân và thêm vào prompt hệ thống, cải thiện tác nhân chăm sóc khách hàng mà không cập nhật trọng số mô hình. Một tác nhân ReAct dùng GPT-4.1 đạt 67,5% Pass^4 trên τ²-bench retail, cao hơn mọi mục retail.
- Retail: Pass^4 cơ sở là 57,5%; cấu hình lossless (292 hướng dẫn) nâng lên 67,5% (+10,0 điểm), và độ chính xác trung bình tăng từ 78,1% lên 82,5% (+4,4).
- Airline: Pass^4 cơ sở là 35,0%; cấu hình sup3 (14 hướng dẫn) nâng lên 45,0% (+10,0), và độ chính xác trung bình lossless tăng từ 57,5% lên 65,0% (+7,5).
- Bảng xếp hạng retail: Pass^4 = 67,5%, vượt RAFT-30B-A3B (61,4%), một mô hình được tinh chỉnh trên dữ liệu retail τ²-bench tổng hợp, 6,1 điểm.
- Bảng xếp hạng airline: tác nhân dùng gpt-5.5 đạt 82,0% Pass^4, vượt mọi mục tiên tiến (66–72%); cấu hình sup3 với gpt-4.1 đạt 44%, xếp thứ 8.
Bộ nhớ học được ở cấp prompt có thể nâng tác nhân dùng mô hình phổ thông lên tầm tiên tiến mà không cần tinh chỉnh trọng số, với chi phí chủ yếu nằm ở token đầu vào có thể lưu đệm.
Ant Ling mở mã nguồn loạt giọng nói Ming-3.0: năm mô hình bao phủ tổng hợp, nhận dạng và hiểu
Ant Ling đã mở mã nguồn loạt giọng nói Ming-3.0, gồm năm mô hình bao phủ tổng hợp giọng nói, nhận dạng giọng nói và hiểu giọng nói.
- Bản phát hành đến từ Ant Ling.
- Loạt giọng nói Ming-3.0 gồm năm mô hình.
- Phạm vi bao gồm tổng hợp, nhận dạng và hiểu giọng nói.
Với nhà phát triển, có được năm mô hình giọng nói mở bao phủ tổng hợp, nhận dạng và hiểu trong một bản phát hành giúp giảm chi phí ghép các mô hình từ nhiều nguồn khác nhau trong pipeline giọng nói.
Khóa API bị rò rỉ trong LLM: Cách các tác nhân AI để lộ bí mật
Một tóm tắt bài báo đề cập đến khóa API bị rò rỉ trong LLM, được đặt trong các câu hỏi về năng lực, đánh giá hoặc căn chỉnh của mô hình ngôn ngữ lớn và hướng đến độc giả theo dõi phương pháp cùng kết quả thực nghiệm.
- Nguồn là GitGuardian Blog, với tiêu đề “Leaked API Keys in LLMs: How AI Agents Expose Secrets”.
- Tóm tắt nêu rằng công trình đề cập đến các câu hỏi về năng lực, đánh giá hoặc căn chỉnh của mô hình ngôn ngữ lớn.
- Tóm tắt nêu rằng công trình phù hợp với độc giả quan tâm đến phương pháp và kết quả thực nghiệm.
Người xây dựng tác nhân LLM nên coi khóa API là bí mật có thể bị lộ và thiết kế biện pháp phòng vệ dựa trên giả định đó.
NVIDIA Cosmos3-H-Dreams: Đưa phẫu thuật lâm sàng vào cuộc sống bằng mô phỏng tạo sinh
NVIDIA phát hành Cosmos3-H-Dreams, trình mô phỏng phẫu thuật tạo sinh thời gian thực dựa trên Cosmos3-H-Embodied-Nano 16 tỷ tham số và được huấn luyện trên video cắt túi mật lâm sàng cùng động học robot, chạy tương tác trên một GPU NVIDIA RTX PRO 6000 duy nhất.
- Dựa trên Cosmos3-H-Embodied-Nano, mô hình 16 tỷ tham số được tiền huấn luyện trên Open-H-Embodiment.
- Huấn luyện dùng video 832 x 480 với hành động căn chỉnh ở 10 Hz và 28 chiều hành động.
- Mô hình giáo viên trước tiên được thích nghi trên 24 khung hình tương lai, sau đó mở rộng lên 72 khung hình, tức 2,4 và 7,2 giây ở 10 Hz.
- Phát hành checkpoint khử nhiễu bốn bước và hai bước; mô hình hai bước được huấn luyện riêng, không phải mô hình bốn bước chạy với ít bước lấy mẫu hơn.
Nhà phát triển có thể thích nghi mô hình thế giới phẫu thuật thời gian thực này với video và dữ liệu bộ điều khiển của riêng họ bằng công thức tinh chỉnh giáo viên và chưng cất Self-Forcing được cung cấp.
AnyLanguageModel 1.0: Một năm mô hình cục bộ trên nền tảng Apple
AnyLanguageModel 1.0 ra mắt như bản thay thế trực tiếp cho framework Foundation Models của Apple, cho phép cùng một mã phiên dùng mô hình hệ thống, mô hình trọng số mở qua llama.cpp, MLX và Core ML, cùng nhiều nhà cung cấp dịch vụ lưu trữ.
- Đổi import FoundationModels thành import AnyLanguageModel giúp cùng một mã phiên chạy với mô hình hệ thống, llama.cpp, MLX, Core ML và các nhà cung cấp lưu trữ.
- Gọi công cụ và sinh có hướng dẫn nay hoạt động với mọi nhà cung cấp, bao gồm các kiểu @Generable lồng nhau và mảng của chúng.
- Các nhà cung cấp lưu trữ gồm API Chat Completions và Responses của OpenAI, Open Responses, Messages API của Anthropic, Gemini API của Google, Ollama, Private Cloud Compute và Hugging Face Inference Providers.
- Các mô hình được bài viết nhắc đến gồm Gemma 4 E2B (GGUF, khoảng 3,4 GB ở Q4_0), LFM2.5 2.6B (GGUF, khoảng 1,7 GB ở Q4_K_M), Qwen3.8 27B (MLX, khoảng 16 GB ở 4 bit) và GLM-5.3 (khoảng 1,5 TB ở BF16).
Với nhà phát triển nền tảng Apple, đổi một dòng import giúp suy luận cục bộ và lưu trữ dùng chung một luồng mã phiên, giảm công tích hợp cho từng nhà cung cấp.
OpenMOSS-Team phát hành MOSS-Image-SFT, mô hình text-to-image 5,1B theo giấy phép Apache-2.0
MOSS-Image-SFT là mô hình text-to-image được tinh chỉnh có giám sát trong họ MOSS-Image của OpenMOSS, kế thừa từ MOSS-Image-Base với cùng kiến trúc và pipeline suy luận, hỗ trợ prompt ngôn ngữ tự nhiên, chuỗi tag và layout JSON để điều khiển vị trí chữ và cách sắp xếp vật thể.
- Mô hình có 5B tham số, và trọng số cùng mã suy luận đi kèm được phát hành theo Giấy phép Apache, phiên bản 2.0.
- Thẻ mô hình nêu rằng SFT tạo ra nhóm chữ rõ ràng hơn và bố cục bảng trắng gọn gàng hơn so với MOSS-Image-Base.
- Để chạy cần Python 3.10 trở lên, GPU NVIDIA hỗ trợ CUDA và bản dựng PyTorch 2.9 trở lên.
- Cài đặt lấy mẫu mặc định là Flow-matching Euler, 50 bước, CFG 3, Shift 5, với nhánh âm bỏ qua layer chỉ số 22.
Với nhà phát triển, mô hình text-to-image 5B theo Apache-2.0 kèm điều khiển layout JSON có thể đưa thẳng vào pipeline sáng tạo cần đặt chữ và vật thể chính xác.