Apple Temukan Kelemahan Kecerdasan Buatan

- Tim peneliti dari perusahaan teknologi Apple mengeklaim telah menemukan kelemahan kecerdasan buatan (artificial intelligence/AI).
Penelitian yang dipimpin oleh insinyur riset pembelajaran mesin (machine learning/ML), Iman Mirzadeh, menemukan bahwa perubahan kecil terhadap susunan pertanyaan matematika yang diberikan kepada model bahasa besar (large language model/LLM), dapat menyebabkan perbedaan besar dalam kinerja model itu.
Akurasi jawaban LLM menurun sekitar 65 persen, sehingga LLM tersebut kurang bisa diandalkan dalam skenario yang membutuhkan logika yang konsisten.
Untuk diketahui, LLM adalah program atau model yang dapat mengenali dan menghasilkan teks, serta memproses bahasa. Hal ini membuatnya dapat berinteraksi dengan pengguna memakai bahasa yang natural.
Model bahasa besar dilatih menggunakan kumpulan data (dataset) yang sangat besar. Oleh karena itu, LLM disebut sebagai model bahasa yang large alias besar.
LLM ini mendukung program AI generatif (generative AI/AI yang bisa menghasilkan teks, video, audio), seperti ChatGPT dan Microsoft Copilot.
Baca juga: Ramalan Sam ChatGPT Altman soal Masa Depan AI
Pertanyaan soal buah kiwi
Studi tim peneliti dari Apple menguji berbagai model bahasa besar unggulan, seperti milik OpenAI dan Meta, untuk melihat bagaimana model tersebut dapat menangani tugas penalaran matematika.
Model bahasa besar tersebut dites menggunakan alat pengujian (benchmark) baru bernama GSM-Symbolic.
Dalam beberapa pengujian, peneliti mendemonstrasikan bahwa menambahkan informasi yang tidak penting ke pertanyaan matematika, justru bisa menghasilkan jawaban yang berbeda di berbagai model bahasa besar.
Padahal, detail ini seharusnya tidak berpengaruh terhadap hasil perhitungan matematika yang dilakukan LLM.
Sebagai contoh, peneliti memberikan pertanyaan matematika sederhana terkait berapa jumlah buah kiwi yang dikumpulkan seseorang dalam beberapa hari.
Ketika peneliti menambahkan keterangan, seperti ukuran buah kiwi itu, model LLM seperti OpenAI o1 dan Llama milik Meta jadi salah menghitung total jumlah buah kiwi.
Baik model LLM sumber terbuka (open-source) maupun LLM yang dilisensi (proprietary) sama-sama mengalami penurunan akurasi.
Baca juga: OpenAI Rilis o1, AI yang Bisa Bernalar Mirip Manusia
Kerapuhan dalam penalaran ini mendorong para peneliti, untuk menyimpulkan bahwa LLM yang diuji tidak menggunakan logika nyata untuk memecahkan masalah, tetapi sebaliknya mengandalkan pengenalan pola canggih yang dipelajari selama pelatihan.
Terkini Lainnya
- China Bikin Chip Komputer yang 1.000 Triliun Lebih Kencang dari Superkomputer Terkuat Saat Ini
- 5 HP Lipat di Indonesia, Harga Rp 20 Jutaan
- Cara Melihat Password WiFi di HP Android dengan Mudah dan Praktis
- HP Tahan Banting Oppo A5 Pro 4G dan 5G Resmi di Indonesia, Harga mulai Rp 3 Jutaan
- Sirkuit Balapan AI Semakin Tajam! Apakah Manus AI Segera Gantikan ManusIA? (Bagian I)
- Miliaran Perangkat IoT di Seluruh Dunia Terancam Celah Chip Bluetooth
- Spesifikasi PC untuk Main "Split Fiction", Game Multiplayer Mirip "It Takes Two"
- Spesifikasi Xiaomi 15 di Indonesia, Harga Mulai Rp 10 Jutaan
- Cara Tambahkan Musik di Status WhatsApp Mudah Tanpa Aplikasi Ketiga
- Kreator Konten Wajib Tahu, Ini Waktu Terbaik Posting di IG, TikTok, dkk
- Tabel Spesifikasi Xiaomi Pad 7 Pro di Indonesia, Harga 7 Jutaan
- 30 HP Terbaru untuk Menyambut Lebaran 2025, Harga Mulai Rp 1 Jutaan
- Microsoft Siapkan PC Gaming Handheld Xbox Tahun Ini
- Xiaomi Redmi Note 14S Rilis, Redmi Note 13 Pro yang Dipasangi Android 15
- 4 Trik Membuat Tulisan Arab untuk Dijadikan Stiker Ramadhan di WhatsApp
- Microsoft Perbarui Copilot Studio, Kini Bisa Lahirkan "Karyawan AI"
- Daftar 64 Chip Qualcomm yang Bikin HP Android Rentan Kena Hack
- Anak Magang di Induk Tiktok Sabotase AI, Ini Hukumannya
- Game "Age of Empires Mobile" Bisa Dimainkan Gratis di Android dan iOS, Ini Linknya
- Qualcomm Snapdragon 8 Elite Resmi, Chip 3 Nm Penerus Snapdragon 8 Gen 3