Today’s frontier report
Research Pool → Multi-Scout → Editor → Edition
3qk7 · AI LOCAL LABS TECHNICAL SCOUTING

AI FRONTIER

Signals worth understanding before they become obvious.

2026-11-12
01
watchresearchcapability unlock

Lazare: Memprogram Ulang Neuron Dorman untuk Menanam Backdoor pada Agen AI

Peneliti Microsoft menemukan Lazarus, teknik backdoor yang memprogram ulang kurang dari 10 neuron dorman pada sebuah LLM sehingga agen yang dibangun di atasnya menjalankan perintah berbahaya saat pemicu tersembunyi muncul, tanpa perlu pelatihan.

  • Memprogram ulang bobot kurang dari 10 neuron dorman pada sebuah LLM cukup untuk menanam backdoor pada agen yang dibangun di atasnya, dan tidak memerlukan pelatihan.
  • Pemicunya bisa seumum perubahan tanggal: begitu jam melewati tengah malam menuju 2027, agen di tengah tugas biasa mengeluarkan perintah yang mengunduh dan menjalankan kode penyerang.
  • Makalah tersebut melaporkan bahwa pengklasifikasi linear yang dilatih pada sekitar 50 contoh dapat membedakan input dengan pemicu dari yang tanpa pemicu.
  • Serangan ini hanya membutuhkan komputasi inferensi: jika mesin memiliki RAM cukup untuk menjalankan model, itu cukup untuk menanam backdoor di ruang bobot.

Pengembang harus memperlakukan integritas bobot seperti integritas kode: tanpa membandingkan dengan bobot asli yang belum dimodifikasi, tidak ada pemindaian yang dapat membuktikan model aman, sehingga provenance dan verifikasi sebelum pener...

Microsoft Research
02
testagentsopen source unlock

BotPsy: Asisten Pribadi On-Device dengan Model Bahasa Agentik di Bawah Satu Miliar Parameter

Tether AI Research memperkenalkan BotPsy, model 0,8B parameter yang dibangun di atas Qwen3.5-0.8B dan dirancang untuk pemanggilan fungsi serta alur kerja agentik, cocok untuk penerapan on-device.

  • BFCL v4 naik dari 23,4 ke 44,0, ACEBench dari 30,1 ke 58,7, dan τ-bench dari 23,2 ke 51,5.
  • Model ini mengungguli Qwen3.5-2B-Think pada BFCL v4, ACEBench, τ-bench, ToolSandbox, dan BrowseComp-Plus; hanya pada Claw-Eval Qwen3.5-2B-Think memimpin (48,9 vs 46,5).
  • IFEval naik dari 59,7 ke 90,8 dan IFBench dari 22,0 ke 55,9.
  • Model akan dirilis dengan bobot terbuka di bawah lisensi Apache 2.0 dalam tiga presisi (bf16, Q8, Q4) sebagai file safetensors dan GGUF.

Bagi pengembang agen on-device, BotPsy menunjukkan model 0,8B dapat mengungguli model 2,5 kali lebih besar pada benchmark penggunaan alat, sementara tugas pengetahuan tetap bergantung pada jumlah parameter.

Hugging Face Blog
03
testmodelscapability unlock

Model baru OpenRouter: Baidu ERNIE-5.5-Flash-Preview (gratis)

ERNIE-5.5-Flash-Preview dari Baidu tersedia gratis di OpenRouter dengan 280 miliar parameter total, 14 miliar diaktifkan per token, dan jendela konteks 1 juta token.

  • 280 miliar parameter total, dengan 14 miliar diaktifkan per token.
  • Jendela konteks 1.024.000 token, mendukung hingga 1.024.000 token penyelesaian.
  • Halaman menyatakan arsitektur baru ini memberikan kecepatan generasi lebih dari 200 token per detik.
  • Di-hosting oleh satu penyedia, Baidu Qianfan, dengan harga nol; endpoint gratis dibatasi laju.

Konteks gratis sejuta token dengan aktivasi jarang cocok untuk prototipe dokumen panjang dan alur kerja agen, tetapi pengembang harus memperhitungkan penyedia tunggal dan batas laju.

OpenRouter Models
04
watchresearchcapability unlock

AlphaGenome 2: Menguraikan cara sel membaca DNA untuk lebih memahami penyakit

Google DeepMind mengumumkan AlphaGenome 2, model sekuens DNA generasi berikutnya yang menggunakan arsitektur kondisional untuk memprediksi efek varian pada tipe atau keadaan sel tertentu dan beradaptasi dengan data sel tunggal baru tanpa pelatihan ulang.

  • Pada dataset TenK10K, AlphaGenome 2 mengidentifikasi hampir dua kali lebih banyak varian kausal (30% vs. 16%) dan efek gen terarah (43% vs. 23%) dibandingkan AlphaGenome asli yang disetel halus pada data sel tunggal.
  • Model ini dilatih pada lebih dari 107 juta profil sel individu di 68 jaringan.
  • Model ini memprediksi ekspresi gen, modifikasi histon, aksesibilitas kromatin, dan metilasi DNA.
  • AlphaGenome 2 tersedia hari ini untuk penelitian non-komersial melalui AlphaGenome API dan dalam pratinjau privat untuk penelitian komersial.

Pemodelan sel tunggal kondisional memungkinkan peneliti menemukan efek varian pada tipe sel yang relevan dengan penyakit tanpa melatih ulang model untuk setiap dataset baru.

Google DeepMind
05
testinferencecost collapse

HOPE: Pemangkasan Orde Tinggi untuk Pakar pada Model Bahasa Mixture-of-Experts

HOPE adalah metode pemangkasan pakar orde kedua yang membangun matriks interaksi berpasangan antar pakar F pada set kalibrasi dan menyelesaikan program kuadratik untuk memilih prune-set, alih-alih menilai setiap pakar secara independen seperti metode orde pertama.

  • Pada pemangkasan 50%, HOPE mencapai peringkat rata-rata 1,58 dibandingkan 2,42 untuk metode terbaik berikutnya, REAP.
  • Pada Qwen3.5-35B-A3B dengan pemangkasan 50%, HOPE memperoleh 42,3 pada SWE-Bench Pro, menyamai 41,8 dari model tanpa pemangkasan, sementara REAP turun ke 36,2.
  • Diagonal matriks F memulihkan peringkat pakar REAP hampir sempurna (Spearman ρ = 0,988), sehingga keunggulan HOPE atas REAP berasal dari suku interaksi di luar diagonal.
  • HOPE memerlukan satu kali forward pass kalibrasi yang sama seperti metode orde pertama, dengan satu-satunya tambahan adalah program kuadratik yang diselesaikan dalam sekitar 1–2 detik per lapisan.

Bagi tim yang menyebarkan MoE besar di bawah keterbatasan memori, HOPE menunjukkan bahwa memodelkan kerja sama berpasangan antar pakar mempertahankan kemampuan coding agentik pada tingkat pemangkasan agresif, di mana penilaian pakar indepen...

Hugging Face Blog
06
testdocumentsincremental

Pelatihan Sadar Token Pooling untuk Model Embedding Multi-Vektor

Posting blog Hugging Face menjelaskan pelatihan sadar pooling di Sentence Transformers, yang menerapkan loss retrieval pada embedding dokumen asli dan terkompresi agar encoder mempertahankan informasi penting setelah vektor token digabungkan.

  • Dengan pool_factor=4, model yang dilatih biasa mempertahankan 94,6% dari NanoBEIR nDCG@10 tanpa pooling, dengan pengurangan 4x pada vektor dokumen.
  • Pelatihan sadar pooling menaikkan retensi itu menjadi 97,8% pada anggaran penyimpanan yang sama.
  • Loss-nya adalah L = 1/2 L_unpooled + 1/2 L_pooled, dengan kedua tujuan memperbarui encoder yang sama.
  • HierarchicalTokenPooling menggunakan pengelompokan hierarkis Ward dan, saat pelatihan, straight-through estimator untuk meneruskan gradien dari vektor terpool ke token anggotanya.

Bagi sistem retrieval multi-vektor, pelatihan sadar pooling memungkinkan pemulihan kualitas retrieval yang hilang akibat kompresi melalui penyelarasan tujuan pelatihan, tanpa menambah penyimpanan vektor.

Hugging Face Blog
07
watchresearchincremental

Latih pada prefill, pantau pada decode: Menggunakan sparse autoencoder untuk pemantauan topik

Makalah ini memperkenalkan TopicScope, kerangka untuk melatih pengklasifikasi topik kausal pada fitur SAE yang memberikan topik pada setiap token sehingga label dapat berubah di tengah respons. Pada Gemma-3 1B dan 4B, monitor yang dilatih pada fitur yang diekstrak dari hidden state prefill mampu menggeneralisasi ke dec...

  • Tiga arsitektur detektor dilatih pada percakapan sintetis multi-topik yang mencakup tujuh topik.
  • Pada Gemma-3 1B dan 4B, monitor yang dilatih pada fitur yang diekstrak dari hidden state prefill mampu menggeneralisasi ke decoding.
  • Pengklasifikasi tahan terhadap perturbasi, kehilangan paling banyak 5 poin macro-F1 saat sisipan di luar topik dimasukkan, topik dihapus, atau bagian diurutkan ulang.
  • Ablasi terhadap kontribusi SAE menunjukkan bahwa pengklasifikasi yang mencapai performa baseline tanpanya berukuran beberapa kali lebih besar.

Ini menunjukkan monitor topik yang ringkas dapat dilatih dengan murah pada prefill dan diterapkan selama generasi, serta menunjukkan di mana SAE berguna di luar klasifikasi keamanan.

arXiv cs.AI