Kategori Liputan

AI & Otomasi

Perkembangan model AI, agen otonom, LLM, robotika, dan inovasi kecerdasan buatan dunia.

Infrastruktur rak komputasi akselerator AI dengan perutean interkoneksi serat optik berkecepatan tinggi
AI & Otomasi 7 menit baca

Arsitektur Mixture-of-Depths dan Dynamic Routing: Mengoptimalkan Alokasi FLOPs Komputasi LLM Tanpa Degradasi Akurasi

Riset komputasi mutakhir membuktikan bahwa model bahasa skala besar menghabiskan daya pemrosesan yang setara untuk token sepele maupun konsep logis kompleks. Melalui arsitektur Mixture-of-Depths (MoD) dan perutean dinamis, kapasitas komputasi dialokasikan secara selektif per token, memangkas latensi inferensi hingga 50 persen.

Kurniawan, S.S., M.Si. 15 jam lalu