Nvidia Bikin Teknologi "Pembatas" agar Agen AI Tidak Kebablasan

- Produsen kartu pemrosesan grafis (Graphics Processing Unit/GPU), Nvidia, mengumumkan tiga layanan baru Nvidia Inference Microservices (NIM) yang akan menjadi "pembatas" teknologi kecerdasan buatan (AI).
Pembatas ini dibuat agar agen AI, yaitu AI yang dapat menggantikan seseorang dalam melakukan tugas tertentu, tidak kebablasan.
Agen AI sendiri dapat mengumpulkan data, menganalisisnya hingga membuat keputusan untuk menjalankan tugas.
Namun, agen AI ini terkadang memberikan respons yang kurang sesuai atau menyebabkan masalah keamanan, khususnya ketika pengguna mencoba mengotak-atiknya.
Adapun NIM merupakan layanan yang dioptimalkan Nvidia untuk mempercepat penerapan model AI pada infrastruktur cloud atau data center. NIM merupakan bagian dari rangkaian software Nvidia NeMo Guardrails.
Baca juga: AS Perketat Ekspor Chip AI, Kuota GPU untuk Indonesia Cuma Sekian
Layanan ini juga berperan membantu perusahaan yang bermitra dengan Nvidia, dalam meningkatkan keamanan, tingkat presisi hingga skalabilitas aplikasi AI generatif.
Nah, untuk menjaga agen AI agar tidak kebablasan, Nvidia menambahkan tiga layanan baru NIM. Rinciannya sebagai berikut.
- Keamanan konten
Layanan ini akan melindungi AI agar tidak menghasilkan output yang bias atau berbahaya, dengan cara memastikan respons AI sesuai dengan standar etika yang berlaku.
- Pengendalian topik
NIM juga akan mengontrol topik agen AI agar tetap fokus pada topik yang sudah disepakati, demi menghindari penyimpanan atau konten yang tidak layak.
- Deteksi jailbreak
Layanan baru Nvdia juga menambahkan fitur deteksi upaya jailbreak, yaitu upaya untuk memodifikasi perangkat agar bisa "bebas" dari batasan yang ditetapkan produsen perangkat. Pada layanan NIM, Nvidia berupaya menjaga integritas AI pada skenario yang sudah ditetapkan.
Menurut Nvidia, layanan pembatas AI ini dilatih menggunakan Aegis Content Safety Dataset yang dimiliki dan dikurasi sendiri. Dataset ini mencakup lebih dari 35.000 sampel data yang sudah diberi anotasi oleh manusia, dan ditandai untuk keamanan AI.
Baca juga: Wanita Perancis Kena Tipu Brad Pitt AI, Rp 13 Miliar Melayang
"Dengan menerapkan beberapa model sebagai pembatas, pengembang dapat menutupi celah yang mungkin terjadi ketika hanya ada kebijakan dan perlindungan global yang umum, karena satu ukuran tidak bisa mengamankan dan mengontrol alur kerja agen AI yang kompleks, dengan benar," demikian keterangan Nvidia dikutip dari blog resminya.
Berkat layanan ini, pengembang nantinya dapat menyusun batasan untuk agen AI, tetapi tanpa menambah latensi. Walhasil, pengguna bisa tetap melakukan interaksi dengan agen AI tanpa waktu respons yang lama, dihimpun KompasTekno dari Hardware Zone, Senin (20/1/2025).
Terkini Lainnya
- 4 Tips Dapat Penghasilan Tambahan lewat Instagram
- Samsung Galaxy M56 Bawa Desain Kamera Baru, Bodi Tipis, dan Android 6 Generasi
- Moto Book 60 Resmi, Laptop Pertama Buatan Motorola
- Hands-on Samsung Galaxy A26 5G, HP Rp 3 Jutaan dengan Desain Elegan
- Huawei Luncurkan Ascend 920, Chip AI "Pelawan" Aturan Amerika
- Bill Gates Pamer Kode Pertama Microsoft, Ada 150 Halaman
- Apple Siapkan iPhone Lipat Pertama, Harganya Rp 39 Juta?
- Nvidia Rilis Zorah, Demo Game "GeForce RTX 50" yang Terlalu Nyata
- Celah Keamanan Internet yang Eksis 23 Tahun Akhirnya Ditutup
- 21 Robot Manusia Ikut Half Marathon, Finish dalam 2 Jam 40 Menit
- Terungkap, Alasan Bos Apple Pilih Rakit iPhone di China
- 50 Ucapan Selamat Hari Kartini 2025 yang Inspiratif buat Dibagikan ke Medsos
- 50 Link Twibbon Hari Kartini untuk Rayakan Emansipasi Wanita
- Menguji Performa Samsung Galaxy A36 Main Game Genshin Impact
- 2 Cara Menyimpan Foto di Google Drive dari HP dengan Mudah dan Cepat
- Pesawat Airbus A400M Pesanan Indonesia Masuk Perakitan Final, Dikirim Akhir 2025
- Kronologi Pemblokiran TikTok di AS hingga Dibuka Kembali dan Alasannya
- Blokir TikTok di AS Dibuka, Pengguna Gembira dan Sindir Trump
- Instagram Ubah Tampilan Grid dari Kotak Jadi Vertikal, Ini Alasannya
- Ini Penyebab TikTok Batal Diblokir di AS