Nvidia Bikin Teknologi "Pembatas" agar Agen AI Tidak Kebablasan

- Produsen kartu pemrosesan grafis (Graphics Processing Unit/GPU), Nvidia, mengumumkan tiga layanan baru Nvidia Inference Microservices (NIM) yang akan menjadi "pembatas" teknologi kecerdasan buatan (AI).
Pembatas ini dibuat agar agen AI, yaitu AI yang dapat menggantikan seseorang dalam melakukan tugas tertentu, tidak kebablasan.
Agen AI sendiri dapat mengumpulkan data, menganalisisnya hingga membuat keputusan untuk menjalankan tugas.
Namun, agen AI ini terkadang memberikan respons yang kurang sesuai atau menyebabkan masalah keamanan, khususnya ketika pengguna mencoba mengotak-atiknya.
Adapun NIM merupakan layanan yang dioptimalkan Nvidia untuk mempercepat penerapan model AI pada infrastruktur cloud atau data center. NIM merupakan bagian dari rangkaian software Nvidia NeMo Guardrails.
Baca juga: AS Perketat Ekspor Chip AI, Kuota GPU untuk Indonesia Cuma Sekian
Layanan ini juga berperan membantu perusahaan yang bermitra dengan Nvidia, dalam meningkatkan keamanan, tingkat presisi hingga skalabilitas aplikasi AI generatif.
Nah, untuk menjaga agen AI agar tidak kebablasan, Nvidia menambahkan tiga layanan baru NIM. Rinciannya sebagai berikut.
- Keamanan konten
Layanan ini akan melindungi AI agar tidak menghasilkan output yang bias atau berbahaya, dengan cara memastikan respons AI sesuai dengan standar etika yang berlaku.
- Pengendalian topik
NIM juga akan mengontrol topik agen AI agar tetap fokus pada topik yang sudah disepakati, demi menghindari penyimpanan atau konten yang tidak layak.
- Deteksi jailbreak
Layanan baru Nvdia juga menambahkan fitur deteksi upaya jailbreak, yaitu upaya untuk memodifikasi perangkat agar bisa "bebas" dari batasan yang ditetapkan produsen perangkat. Pada layanan NIM, Nvidia berupaya menjaga integritas AI pada skenario yang sudah ditetapkan.
Menurut Nvidia, layanan pembatas AI ini dilatih menggunakan Aegis Content Safety Dataset yang dimiliki dan dikurasi sendiri. Dataset ini mencakup lebih dari 35.000 sampel data yang sudah diberi anotasi oleh manusia, dan ditandai untuk keamanan AI.
Baca juga: Wanita Perancis Kena Tipu Brad Pitt AI, Rp 13 Miliar Melayang
"Dengan menerapkan beberapa model sebagai pembatas, pengembang dapat menutupi celah yang mungkin terjadi ketika hanya ada kebijakan dan perlindungan global yang umum, karena satu ukuran tidak bisa mengamankan dan mengontrol alur kerja agen AI yang kompleks, dengan benar," demikian keterangan Nvidia dikutip dari blog resminya.
Berkat layanan ini, pengembang nantinya dapat menyusun batasan untuk agen AI, tetapi tanpa menambah latensi. Walhasil, pengguna bisa tetap melakukan interaksi dengan agen AI tanpa waktu respons yang lama, dihimpun KompasTekno dari Hardware Zone, Senin (20/1/2025).
Terkini Lainnya
- 70 Link Download Twibbon Idul Fitri 1446 H Keren untuk Dibagikan ke Medsos
- 150 Ucapan Idul Fitri 2025 dan Gambar Selamat Lebaran 1446 H buat Dikirim ke Medsos
- 150 Twibbon Idul Fitri 2025 dan Poster Selamat Lebaran 1446 H, Simpel dan Keren
- Pendiri Studio Ghibli Pernah Kritik Keras soal AI
- 5 Game Seru untuk "Mabar" dengan Keluarga dan Saudara saat Lebaran
- 50 Link Download Poster Idul Fitri 2025 Keren untuk Merayakan Lebaran
- ZTE Nubia Neo 3 5G dan Neo 3 GT 5G Resmi Masuk Asia Tenggara, Ini Harganya
- SurpriseDeal Telkomsel Hadir Lagi, Kuota Internet 80 GB Cuma RP 100.000
- Fitur Baru Google Maps dan Search Bantu Rencanakan Liburan
- Apple Watch Berikutnya Bakal Punya Kamera AI?
- Link dan Cara Cek Curah Hujan Selama Mudik Lebaran 2025
- Keyboard Unik di Dunia Punya 1.020 Tombol, Tidak Pakai Simbol Huruf
- HP Gaming Realme 14 5G Meluncur dengan Snapdragon 6 Gen 4
- Beli Paket Telkomsel Roaming Malaysia Bonus Diskon Tiket Legoland
- Cara Membuat Poster Idul Fitri 2025 via ChatGPT dengan Mudah dan Praktis
- Pesawat Airbus A400M Pesanan Indonesia Masuk Perakitan Final, Dikirim Akhir 2025
- Kronologi Pemblokiran TikTok di AS hingga Dibuka Kembali dan Alasannya
- Blokir TikTok di AS Dibuka, Pengguna Gembira dan Sindir Trump
- Instagram Ubah Tampilan Grid dari Kotak Jadi Vertikal, Ini Alasannya
- Ini Penyebab TikTok Batal Diblokir di AS