cpu-data.info

IMD Perkenalkan "Jam" Keamanan AI, Software Pengukur Risiko AI

Ilustrasi AI
Lihat Foto

- Teknologi kecerdasan buatan/artificial intelligence (AI) menjadi tren saat ini.
Implementasinya masif digunakan di segala sektor. Di sisi lain, AI juga menyimpan risiko ancaman di masa depan.

Hal ini lah yang menjadi alasan Institute of Management Development (IMD) dan tim ahli dari TONOMUS Global Center for Digital and AI Transformation membuat software bernama Jam Keamanan AI (AI Safety Clock).

Jangan bayangkan "jam" ini berupa perangkat arloji atau jam dinding. "Jam" ini adalah tools berupa software untuk menganalisis risiko yang ditimbulkan AI di masa depan.

Jam ini akan menjadi indikator seberapa tinggi risiko perkembangan Artificial General Intelligence/AGI yang berpotensi menjadi tidak terkendali. AGI adalah konsep AI yang dianggap lebih tinggi dari "sekadar" AI.

Konsep ini menggambarkan sistem AI yang bisa beroperasi mandiri tanpa bantuan dan pengawasan manusia.

Baca juga: Bapak AI Peraih Nobel: Saya Bangga Murid Saya Memecat Sam Altman

Tujuannya, hasil produk AGI bisa menyelesaikan aneka tugas dengan tingkat kecerdasan yang setara dengan, atau bahkan melebihi manusia. Kemampuan ini pun menimbulkan kekhawatiran.

"Tujuan saya, saya ingin memperjelas bahwa bahaya AGI yang tak terkendali nyata dan ada," kata Michael Wade, Director Global Center for Digital Business Transformation IMD, sekaligus Director of the TONOMUS Global Center for Digital and AI Transformation, melansir dari Time.

Jam Keamanan AI ini didukung dashboard proprietary, yakni software manajemen informasi yang digunakan untuk mengumpulkan, melacak, menganalisis, dan memvisualisasikan data yang relevan.

Dashboard Proprietary memantau perkembangan teknologi dan regulasi dari lebih 1.000 situs web dan 3.470 sumber berita terkait AI untuk memberikan insight secara real-time dan bisa terus memantau kemajuan teknologi secara berkala.

Tools ini menunjukkan waktu "29 menit dari tengah malam" yang merupakan simbolik seberapa dekat manusia dengan titik kritis ancaman AGI.

Semakin tinggi tingkat risiko, maka akan semakin dekat pula dengan "tengah malam" atau titik kritis.

AI Safety Clock buatan IMD dan TONOMUS Global Center for Digital and AI Transformation merupakan software untuk menganalisis risiko AI di masa depan.IMD AI Safety Clock buatan IMD dan TONOMUS Global Center for Digital and AI Transformation merupakan software untuk menganalisis risiko AI di masa depan.

Jam ini dibagi menjadi empat bagian berdasarkan skala risiko. Mulai dari seperempat awal ke satu putaran penuh (searah jarum jam), dimulai dari risiko rendah, risiko moderat, risiko tinggi, dan risiko kritis.

“Perkembangan AGI saat ini kita sedang beralih dari fase risiko sedang ke risiko tinggi. Ketika perkembagan AGI menjadi kritis dan tidak terkendali, hal itu akan menjadi musibah bagi umat manusia. Risikonya serius, tetapi belum terlambat untuk bertindak,” jelas Wade, dalam keterangan resmi yang diterima KompasTekno.

Ketika AGI tidak bisa lagi dikontrol oleh manusia, beberapa hal yang dikhawatirkan seperti AI digunakan untuk memanipulasi atau mengganggu pasar keuangan, digunakan untuk mengganggu insfrastruktur penting, seperti energi, transportasi, komunikasi, dll.

Selain itu, AI juga dikhawatirkan akan digunakan untuk memanipulasi dan mengganggu sistem politik, jaringan sosial, dan ekosistem biologis dan lingkugan, bahkan ancaman langsung bagi nyawa manusia.

Terkini Lainnya

Tautan Sahabat