Halusinasi AI dan Pentingnya Regulasi

HALUSINASI Artificial Intelligence (Al) adalah keadaan di mana platform AI membuat luaran fiktif, atau informasi palsu berdasarkan pola persepsi yang sebenarnya tidak ada atau tidak nyata.
Halusinasi terjadi ketika sistem komputer yang memiliki kemampuan mirip manusia seperti pemrosesan bahasa, menghasilkan informasi yang menyesatkan atau salah, namun menyajikannya sebagai faktual.
Fenomena ini sangat relevan dalam konteks hukum, di mana keakuratan dan keandalan informasi adalah hal terpenting (Kwan Yuen Iu 2023).
Peristiwa menghebohkan di Pengadilan Manhattan AS dalam artikel saya di “Kontroversi Artificial Intelligence dan Penegakan Hukum” adalah contohnya.
Fenomena halusinasi AI sebenarnya sudah ada sejak 1950-an. Istilah “halusinasi AI” pertama kali muncul tahun 2000 dalam Proceedings: Fourth IEEE International Conference on Automatic Face and Gesture Recognition (Maryia Fokina, When Machines Dream: A Dive in AI Hallucinations (2023).
Sementara itu, peneliti Google DeepMind memunculkan istilah “halusinasi AI” pada 2018. Penggunaan istilah ini semakin populer seiring diluncurkannya ChatGPT tahun 2022.
Menurut Maryia Fokina, kasus halusinasi terjadi juga pada 2017. Saat Microsoft memperkenalkan Chatbot AI Tay.
Namun, dengan cepat harus menutup platform tersebut, karena mulai menghasilkan tweet acak yang rasis dan ofensif. Hal itu terjadi kurang dari sehari setelah peluncuran.
Contoh lain terjadi pada 2021, ketika peneliti dari Universitas California menemukan bahwa sistem AI yang dilatih pada gambar berlabel 'panda', tetapi sistem melihatnya sebagai jerapah dan sepeda.
Maryia Fokina menyatakan, halusinasi AI menghasilkan respons yang tidak berdasarkan kenyataan. Halusinasi AI mengacu pada respons “percaya diri” yang tidak memiliki landasan dalam data pelatihannya.
Model lain dan citra medis
Dalam referensi berjudul "What Are AI Hallucinations (and What to Do About Them)" yang ditulis Lauren Strapagiel, menyebut beberapa model halusinasi AI yang mencengangkan, antara lain terkait mobil tanpa pengemudi (mobil otonom).
Mobil otonom menggunakan sistem pembelajaran mesin, untuk menilai kondisi di sekitarnya dan kemudian mengambil keputusan.
AI menentukan, misalnya, objek di jalur berikutnya adalah truk, atau ada tanda rambu berhenti. Namun jika terjadi perubahan rambu, AI mungkin tidak tahu harus berbuat apa.
Pada 2017, para peneliti menguji hal ini, dan mengubah tanda berhenti dengan grafiti yang ditempel.
Lauren menambahkan, ketika pola yang diubah menutupi seluruh rambu, mobil selalu membaca rambu tersebut sebagai rambu batas kecepatan.
Terkini Lainnya
- Menguji Performa Samsung Galaxy A36 Main Game Genshin Impact
- 2 Cara Menyimpan Foto di Google Drive dari HP dengan Mudah dan Cepat
- Kenapa Battery Health iPhone Turun? Ini Penyebab dan Cara Merawatnya
- Poco F7 Ultra: Spesifikasi dan Harga di Indonesia
- Jadwal MPL S15 Hari Ini 20 April, Onic Esports Vs Team Liquid
- HP Vivo V50 Lite 4G dan 5G Resmi di Indonesia, Ini Harga serta Spesifikasinya
- 50 Ucapan Selamat Hari Kartini 2025 yang Inspiratif buat Dibagikan ke Medsos
- 50 Link Twibbon Hari Kartini untuk Rayakan Emansipasi Wanita
- Spesifikasi dan Harga Poco F7 Pro di Indonesia
- Asus Rilis Monitor Khusus E-sports, Refresh Rate Sampai 610 Hz
- Instagram Rilis Fitur Blend, Bisa Buat Feed Reels Bareng Teman
- 100 Ucapan Selamat Paskah yang Bermakna dan Cocok Diunggah ke Media Sosial
- Hands-on Samsung Galaxy A26 5G, HP Rp 3 Jutaan dengan Desain Elegan
- Harga iPhone XS dan XS Max Second Terbaru April 2025, Mulai Rp 4 Jutaan
- Daftar HP yang Support E-SIM XL buat Migrasi Kartu SIM
- Tablet Huawei MatePad Pro 11 2024 Resmi, Punya Fitur Koneksi Satelit
- 30 Template CapCut untuk Bikin Konten "November Dump" di IG Reels dan TikTok
- Bocoran Wujud Asli Samsung Galaxy S24 Ultra, Layar dan Punggung Beda dari Sebelumnya
- Kabar Terbaru Jack Ma, Sekarang Jualan Makanan
- Indosat Caplok 300.000 Pelanggan MNC Play