Latih AI ChatGPT 100 Hari Setara Konsumsi Energi 1.000 Rumah 5 Tahun

- Chatbot AI populer seperti ChatGPT dan Microsoft Copilot ditopang oleh model bahasa besar (large language model/LLM) bernama "GPT-4".
GPT-4 ini lebih cerdas dan canggih dibandingkan GPT-3.5 karena sudah memiliki 1,7 triliun parameter pembelajaran mesin, input multimodal (teks, gambar), pemahaman bahasa lebih baik, respons lebih ekspresif.
Di balik kecanggihannya, GPT-4 ini ternyata membutuhkan konsumsi listrik yang besar. Menurut laporan Towards Data Science, untuk melatih (training) model AI GPT-4 selama 90-100 hari, dibutuhkan listrik hingga sekitar 62.000 MWh. Ini setara dengan konsumsi energi dari 1.000 rumah tangga AS pada umumnya selama 5 hingga 6 tahun.
Pada bulan Januari, konsumsi listri per bulan ChatGPT dilaporkan kira-kira sebanyak 26.000 rumah tangga AS untuk inferensi (proses input dan output).
Baca juga: Chatbot AI ChatGPT Ditanamkan ke Otak lewat Sebuah Chip
Rincian konsumsi listri GPT-4

Mari kita lihat rincian hitung-hitungan estimasi konsumsi listrik yang dibutuhan untuk melatih GPT-4 berdasarkan laporan Towards Data Science.
Misal, kita asumsikan GPU dipasang di server Nvidia HGX yang masing-masing dapat menampung 8 GPU. Berarti, GPT-4 membutuhkan 25.000/8 = 3.125 server.
Salah satu cara untuk memperkirakan konsumsi listrik dari informasi ini adalah dengan mempertimbangkan daya desain termal (TDP) server Nvidia HGX.
TDP, yang dilambangkan dalam watt, menyatakan konsumsi daya perangkat keras di bawah beban teoritis maksimum. Konsumsi daya aktual mungkin berbeda.
Nvidia tidak mengungkapkan informasi ini, jadi mari kita gunakan TDP dari server Nvidia DGX yang serupa, yaitu 6,5 kW. Jadi, jika server Nvidia DGX berjalan dengan daya penuh selama 1 jam, server tersebut akan mengonsumsi 6,5 KWh, berdasarkan perhitungan TDP.
Seperti disebut sebelumnya, model AI GPT-4 disebut membutuhkan diperlukan waktu 90–100 hari untuk melatih GPT-4. Itu berarti 90 x 24 jam= 2.160 jam per server atau 100 x 24 jam = 2.400 jam per server.
Jika kita berasumsi server beroperasi dengan daya penuh secara konstan, kita dapat mengalikan jumlah jam dengan 6,5 KWh. Dari situ, kita memperoleh bahwa selama pelatihan, setiap server mungkin telah mengonsumsi listrik sebesar 14.040 KWh hingga 15.600 KWh.
Karena butuh 3.125 server, maka 3.125 x 14.040 KWh = 43.875.000 KWh atau 3.125 x 15.600 = 48.750.000 KWh.
Saat menghitung konsumsi energi perangkat keras komputer, biasanya konsumsi energi perangkat keras dikalikan dengan apa yang disebut efektivitas penggunaan daya (PUE) pusat data tempat perangkat keras tersebut beroperasi.
Baca juga: Gandeng Broadcom, OpenAI Dikabarkan Bikin Chip AI Sendiri
PUE adalah rasio yang menggambarkan seberapa efisien pusat data komputer menggunakan energi.
Terkini Lainnya
- Kenapa Tidak Bisa Menerima Kode OTP SMS? Begini Penyebabnya
- Apa Itu Italian Brainrot atau Meme Anomali yang Lagi Viral di TikTok?
- 4 Tips Dapat Penghasilan Tambahan lewat Instagram
- Samsung Galaxy M56 Bawa Desain Kamera Baru, Bodi Tipis, dan Android 6 Generasi
- Moto Book 60 Resmi, Laptop Pertama Buatan Motorola
- Hands-on Samsung Galaxy A26 5G, HP Rp 3 Jutaan dengan Desain Elegan
- Huawei Luncurkan Ascend 920, Chip AI "Pelawan" Aturan Amerika
- Bill Gates Pamer Kode Pertama Microsoft, Ada 150 Halaman
- Apple Siapkan iPhone Lipat Pertama, Harganya Rp 39 Juta?
- Nvidia Rilis Zorah, Demo Game "GeForce RTX 50" yang Terlalu Nyata
- Celah Keamanan Internet yang Eksis 23 Tahun Akhirnya Ditutup
- 21 Robot Manusia Ikut Half Marathon, Finish dalam 2 Jam 40 Menit
- Terungkap, Alasan Bos Apple Pilih Rakit iPhone di China
- 50 Ucapan Selamat Hari Kartini 2025 yang Inspiratif buat Dibagikan ke Medsos
- 50 Link Twibbon Hari Kartini untuk Rayakan Emansipasi Wanita
- Samsung Galaxy A15 5G jadi Smartphone Android Terlaris di Dunia Versi Counterpoint
- TV Samsung Keluaran 2024 Kini Dilengkapi Fitur AI
- Cara Hilangkan Iklan di Browser Google Chrome HP Android
- Oppo Ingin Hadirkan Smartphone AI untuk Semua Segmen Harga
- Google Rilis "School Time" untuk HP dan Tablet Android, Bisa Awasi Anak Main HP