cpu-data.info

- Divisi cloud Amazon, yaitu Amazon Web Services (AWS) mengumumkan dua chip kecerdasan buatan (artificial intelligence/AI) baru di acara tahunan "re:Invent" yang digelar di Las Vegas, California, AS pekan ini.

Kedua chip AI tersebut memiliki nama Trainium2 dan Graviton4, dan hadir sebagai suksesor dari Trainium1 dan Graviton3 yang diperkenalkan sekitar tahun lalu.

Sebagai penerus, chip AI Trainium2 dan Graviton4 hadir dengan berbagai peningkatan untuk mengakselerasi kinerja pembelajaran mesin (machine learning/ML), large language models (LLMs), dan berbagai pemrosesan AI lainnya.

Trainium2 merupakan chip AI performa tinggi yang dirancang untuk menunjang kinerja model AI dasar (foundation models/FMs) dan LLMs untuk menjalankan atau menghasilkan Generative AI.

Baca juga: Amazon Perkenalkan Q, Chatbot AI untuk Developer dan Pekerja TI

Generative AI sendiri adalah sebuah bidang AI yang bisa menghasilkan karya (gambar, musik, dll) baru berdasarkan sumber data yang dikumpulkan. 

AWS mengeklaim kecepatan pemrosesan untuk melatih FMs dan LLMs melalui chip AI ini empat kali lebih cepat dari Trainium1. Chip ini juga disebut bisa menjalankan FMs dan LLMs dengan parameter berjumlah triliunan, sehingga pemrosesan Generative AI juga akan lebih cepat dan akurat.

AWS mengatakan konsumen bisa menggunakan chip AI ini hingga ratusan unit dalam satu konfigurasi server Amazon Elastic Compute Cloud (EC2). Dengan konfigurasi seperti ini, AWS menyebut Trainium2 juga akan dua kali lipat lebih efisien dibanding Trainium1.

Guru3D Chip AI AWS Graviton4 (kiri) dan Trainium2 (kanan).

Beralih ke Graviton4, ini merupakan chip AI berarsitektur ARM yang dirancang untuk berbagai kinerja AI di level corporate, seperti database, analytics, web servers, batch processing, microservices, ad serving, dan lain sebagainya yang berjalan di platform Amazon EC2.

Artinya, chip AI ini bukan dirancang untuk memproses atau melatih AI, terutama untuk FMs atau LLMs seperti Trainium2, sebagaimana dirangkum KompasTekno dari Techspot, Kamis (30/11/2023).

Baca juga: Snapdragon 8 Gen 3 Resmi, Andalkan Kemampuan Generative AI

Lebih lanjut, chip AI ini diklaim memiliki jumlah inti 50 persen lebih banyak dan kapasitas memori 75 persen lebih besar dari Graviton3.

Berkat aneka peningkatan ini, Graviton4 diklaim dapat menghasilkan performa komputasi 30 persen lebih cepat dari Graviton3, namun tetap efisien.

Untuk ketersediaan, Amazon bakal mulai menjual chip AI Trainium2 sekitar tahun depan, sedangkan chip AI Graviton4 akan bisa dipakai perusahaan-perusahaan yang tertarik dalam beberapa bulan ke depan.

Amazon tidak menyebut berapa biaya yang harus dikeluarkan konsumen untuk membeli chip AI Trainium2 atau Graviton4.

Biasanya, harga tersebut akan dipaketkan dengan layanan AWS, lantaran kedua chip AI tersebut memang akan dipakai untuk menjalankan seluruh pemrosesan atau produk yang ada di bawah payung AWS.

Namun yang jelas, kehadiran dua chip AI baru dari Amazon ini akan memperketat persaingan perusahaan yang membuat chip AI, seperti Nvidia yang memiliki chip AI H100 dan H200, atau Microsoft yang memiliki chip AI Azure Maia 100 dan Azure Cobalt CPU.

Baca juga: Microsoft Umumkan 2 Chip AI Buatan Sendiri, Maia 100 dan Cobalt 100