OneStopVisaBali.com – NVIDIA telah memperkenalkan teknologi terbuka yang memungkinkan pembangunan agen AI yang selalu aktif dengan menggunakan sistem model spesialis. Model ini terdiri dari dua elemen utama: Nemotron 3.5 Lightning, sebuah model ringan yang dapat disesuaikan, dan NeMo Switchyard, sebuah pustaka routing sumber terbuka yang mengarahkan setiap langkah alur kerja agen ke model yang paling efisien.
Nemotron 3.5 Lightning adalah model campuran dengan 30 miliar parameter, yang memiliki 3 miliar parameter aktif. Dengan arsitektur hibrida Mamba-2, MoE, dan Attention, model ini mampu mempercepat waktu output hingga 4 kali lipat dibandingkan model seukuran serupa. Hal ini juga memungkinkan penyelesaian tugas PinchBench sebanyak 10.000 unit 30% lebih cepat dibandingkan model lain dengan akurasi yang sebanding.
Teknologi ini ditujukan untuk berbagai industri, termasuk keamanan siber, layanan hukum, rekayasa perangkat lunak, keuangan, dan kesehatan. Banyak perusahaan, seperti CrowdStrike dan Harvey, sudah mulai mengadaptasi teknologi ini untuk kebutuhan mereka. Nemotron 3.5 Lightning dapat digunakan pada perangkat dengan satu GPU modern, sehingga memberikan akses bagi pengembang individu dan startup tahap awal untuk menggunakan teknologi canggih ini.
Dari sisi implementasi, model ini telah dirilis di bawah lisensi OpenMDW-1.1, memungkinkan penggunanya untuk menerapkan dan menggunakan model tersebut secara komersial. Produksi model ini bertujuan untuk menyelesaikan masalah struktural dalam alur kerja oleh agen yang sering memerlukan panggilan alat dan verifikasi hasil, yang berarti penghematan biaya dan kecepatan dalam pelaksanaan fungsi.