AI FRONTIER

Suy luận LLM lớn cục bộ và phân tán với MLX và RDMA trên Mac Studio

Apple Machine Learning Research liệt kê một bài báo có tiêu đề “Local and Distributed Large LLM Inference with MLX and RDMA on Mac Studio”; bản tóm tắt được cung cấp nói rằng bài báo đề cập đến năng lực, đánh giá hoặc căn chỉnh của mô hình ngôn ngữ lớn và phù hợp với phương pháp cùng kết quả thực nghiệm.

• Tiêu đề: “Local and Distributed Large LLM Inference with MLX and RDMA on Mac Studio”.
• Nguồn: Apple Machine Learning Research.
• Thuật ngữ kỹ thuật trong tiêu đề: MLX, RDMA và Mac Studio.
• Bản tóm tắt được cung cấp cho biết bài báo phù hợp với phương pháp và kết quả thực nghiệm.

Đối với nhà phát triển AI, đây là tín hiệu cần theo dõi về suy luận LLM cục bộ và phân tán kết hợp MLX với RDMA trên phần cứng Apple, nhưng bản tóm tắt được cung cấp không có số liệu hiệu năng.

OpenRouter bổ sung Elorian: Glimpse, mô hình suy luận thị giác đa phương thức

Glimpse của Elorian suy luận trực tiếp trên ảnh và video thay vì chuyển chúng thành văn bản trước; mô hình nhận đầu vào văn bản, ảnh và video, trả về văn bản, với cửa sổ ngữ cảnh 262.144 token.

• Giá là 0,60 USD cho mỗi 1 triệu token đầu vào, 3,00 USD cho mỗi 1 triệu token đầu ra và 0,06 USD cho mỗi 1 triệu token đọc từ cache.
• Cửa sổ ngữ cảnh là 262.144 token và hỗ trợ tối đa 256.000 token hoàn thành; mô hình phát hành ngày 17 tháng 10 năm 2026.
• Glimpse chấp nhận tools và tool_choice cho gọi hàm, đồng thời hỗ trợ đầu ra có cấu trúc qua JSON schema trong response_format.
• OpenRouter ghi nhận một nhà cung cấp lưu trữ, độ trễ P50 0,21 giây, thông lượng P50 109 token/giây và mức khả dụng 99,15% trong ba ngày qua; định tuyến trong khu vực EU hiện chưa khả dụng.

Vì Glimpse neo câu trả lời vào điểm ảnh và khung hình video thay vì văn bản đã chép lại, nhà phát triển có thể xây dựng tác nhân tìm kiếm thị giác, chú thích video và đếm dày đặc mà không cần bước tạo chú thích riêng.

Đưa tác nhân AI vào thực tế sinh học: khung VERID và thiết kế phân tử vòng kín

Google Research giới thiệu ba dự án cho phép tác nhân AI lập kế hoạch, mô phỏng và thực thi các giao thức xử lý chất lỏng qua bản sao số VERID, đạt được khám phá vòng kín trong thiết kế aptamer và protein de novo.

• VERID được xây dựng trên khung mã nguồn mở PyLabRobot và cung cấp theo dõi trạng thái 3D trực tiếp, chạy thử ảo nhanh, kiểm tra an toàn phần cứng cùng nhật ký video và hành động được đồng bộ.
• Trong một chiến dịch tự chơi vòng kín, tác nhân đã tái tạo các hỗn hợp thuốc nhuộm bị che và nhận diện các lỗi quang học, chất lỏng của chính mình qua các lần chạy, cải thiện độ chính xác hơn năm lần.
• Trong thí nghiệm aptamer, tỷ lệ trúng đích đã xác nhận với α-thrombin tăng từ 0% ở vòng 1 lên 26,0% ở vòng 2 và 42,1% ở vòng 3 với độ đặc hiệu 98,5%.
• Với myoglobin, việc làm giàu G-quadruplex ở vòng 2 khiến độ đặc hiệu giảm từ 75,0% xuống 19,1%; sau khi sửa quy tắc thiết kế ở vòng 3, độ đặc hiệu phục hồi lên 72,4% và tỷ lệ trúng tăng gấp chín lần lên 33,5%.

Với các nhóm xây dựng tác nhân phòng thí nghiệm, VERID cho thấy việc nhúng trạng thái vật lý và kiểm tra an toàn vào vòng lặp tác nhân là nền tảng cho thí nghiệm tự động có thể tái lập và tự sửa lỗi.

Một agent AI có thể thực thi công cụ mà mô hình của nó nói từ chối

Theo bản tóm tắt bài báo do ActuIA đưa tin, một agent AI có thể thực thi công cụ mà mô hình nền tảng của nó nói từ chối. Điều này cho thấy sự không khớp giữa từ chối ở cấp mô hình và thực thi công cụ ở cấp agent.

• Nguồn là bản tóm tắt bài báo từ ActuIA.
• Bản tóm tắt nêu rằng một agent AI có thể thực thi công cụ mà mô hình của nó nói từ chối.

Người xây dựng pipeline gọi công cụ dạng agent không thể chỉ dựa vào tín hiệu từ chối ở cấp mô hình để chặn thực thi công cụ.

Microsoft Research công bố nghiên cứu dự báo thời tiết bằng AI trên Nature

Microsoft Research đã công bố trên Nature một nghiên cứu về dự báo thời tiết bằng AI, theo đưa tin của Unite.AI.

• Nghiên cứu dự báo thời tiết bằng AI của Microsoft Research đã được công bố trên Nature.
• Nguồn đưa tin về nghiên cứu này là Unite.AI.

Với các nhà phát triển AI, điều này cho thấy nghiên cứu dự báo thời tiết bằng AI đã đạt tới giai đoạn công bố bình duyệt trên Nature.

Accelerating the search for antimicrobial peptides with Google Antigravity

Accelerating the search for novel antimicrobial peptides using Google Antigravity for Science.

This matters because a capability that was previously difficult or impractical is moving closer to real product use.