Nvidia Bikin Teknologi "Pembatas" agar Agen AI Tidak Kebablasan

- Produsen kartu pemrosesan grafis (Graphics Processing Unit/GPU), Nvidia, mengumumkan tiga layanan baru Nvidia Inference Microservices (NIM) yang akan menjadi "pembatas" teknologi kecerdasan buatan (AI).
Pembatas ini dibuat agar agen AI, yaitu AI yang dapat menggantikan seseorang dalam melakukan tugas tertentu, tidak kebablasan.
Agen AI sendiri dapat mengumpulkan data, menganalisisnya hingga membuat keputusan untuk menjalankan tugas.
Namun, agen AI ini terkadang memberikan respons yang kurang sesuai atau menyebabkan masalah keamanan, khususnya ketika pengguna mencoba mengotak-atiknya.
Adapun NIM merupakan layanan yang dioptimalkan Nvidia untuk mempercepat penerapan model AI pada infrastruktur cloud atau data center. NIM merupakan bagian dari rangkaian software Nvidia NeMo Guardrails.
Baca juga: AS Perketat Ekspor Chip AI, Kuota GPU untuk Indonesia Cuma Sekian
Layanan ini juga berperan membantu perusahaan yang bermitra dengan Nvidia, dalam meningkatkan keamanan, tingkat presisi hingga skalabilitas aplikasi AI generatif.
Nah, untuk menjaga agen AI agar tidak kebablasan, Nvidia menambahkan tiga layanan baru NIM. Rinciannya sebagai berikut.
- Keamanan konten
Layanan ini akan melindungi AI agar tidak menghasilkan output yang bias atau berbahaya, dengan cara memastikan respons AI sesuai dengan standar etika yang berlaku.
- Pengendalian topik
NIM juga akan mengontrol topik agen AI agar tetap fokus pada topik yang sudah disepakati, demi menghindari penyimpanan atau konten yang tidak layak.
- Deteksi jailbreak
Layanan baru Nvdia juga menambahkan fitur deteksi upaya jailbreak, yaitu upaya untuk memodifikasi perangkat agar bisa "bebas" dari batasan yang ditetapkan produsen perangkat. Pada layanan NIM, Nvidia berupaya menjaga integritas AI pada skenario yang sudah ditetapkan.
Menurut Nvidia, layanan pembatas AI ini dilatih menggunakan Aegis Content Safety Dataset yang dimiliki dan dikurasi sendiri. Dataset ini mencakup lebih dari 35.000 sampel data yang sudah diberi anotasi oleh manusia, dan ditandai untuk keamanan AI.
Baca juga: Wanita Perancis Kena Tipu Brad Pitt AI, Rp 13 Miliar Melayang
"Dengan menerapkan beberapa model sebagai pembatas, pengembang dapat menutupi celah yang mungkin terjadi ketika hanya ada kebijakan dan perlindungan global yang umum, karena satu ukuran tidak bisa mengamankan dan mengontrol alur kerja agen AI yang kompleks, dengan benar," demikian keterangan Nvidia dikutip dari blog resminya.
Berkat layanan ini, pengembang nantinya dapat menyusun batasan untuk agen AI, tetapi tanpa menambah latensi. Walhasil, pengguna bisa tetap melakukan interaksi dengan agen AI tanpa waktu respons yang lama, dihimpun KompasTekno dari Hardware Zone, Senin (20/1/2025).
Terkini Lainnya
- Menjajal Sharp Aquos R9 Pro, HP Berkamera Leica dengan Tombol Khusus
- Game Strategi "Sid Meier's Civilization VII" Resmi Dirilis, Ini Harganya
- Daftar Harga YouTube Music Premium di Indonesia, Mulai Rp 27.500
- Titik Terang Nasib iPhone 16 di Indonesia
- Apakah WhatsApp yang Terenkripsi End-to-End Bisa Disadap? Ini Penjelasannya
- AI Adobe Firefly Meluncur, Bisa Bikin Video HD Gratis
- Motorola Comeback! Ini Ponsel yang Akan Rilis di Indonesia Pekan Depan
- ByteDance Luncurkan Goku AI, Model AI Open-Source Pesaing DeepSeek
- 2 Cara Melihat Password WiFi di Laptop Windows 10 dengan Mudah dan Praktis
- Tak Perlu iPhone, HP Android Kini Bisa Dipakai Nonton Apple TV+
- Vendor Ponsel Meizu Siap "Comeback" ke Indonesia, Inikah HP yang Dirilis?
- "Hilang" Sewindu, Merek HP Motorola Kini Kembali ke Indonesia
- Cara Daftar Akun SatuSehat buat Cek Kesehatan Gratis saat Ulang Tahun
- Resmi, Olimpiade E-sports Perdana Digelar 2027 di Riyadh
- Samsung Galaxy F06 5G Resmi, Kembaran Galaxy A06 tapi Beda Chipset dan Kamera
- Pesawat Airbus A400M Pesanan Indonesia Masuk Perakitan Final, Dikirim Akhir 2025
- Kronologi Pemblokiran TikTok di AS hingga Dibuka Kembali dan Alasannya
- Blokir TikTok di AS Dibuka, Pengguna Gembira dan Sindir Trump
- Instagram Ubah Tampilan Grid dari Kotak Jadi Vertikal, Ini Alasannya
- Ini Penyebab TikTok Batal Diblokir di AS