Hardwareholic – Perkembangan kecerdasan buatan generatif atau GenAI kini tidak lagi hanya berbicara soal model terbesar atau teknologi paling canggih. Industri mulai bergerak ke arah yang lebih penting, yaitu bagaimana performa tersebut bisa diukur secara adil, realistis, dan relevan dengan kebutuhan nyata di lapangan.
Dalam konteks ini, benchmark seperti MLPerf menjadi sangat krusial. AMD melihat momen ini sebagai peluang untuk tidak hanya berpartisipasi, tetapi juga ikut membentuk arah baru dalam cara dunia mengukur performa AI generatif.
Melalui kolaborasi dengan komunitas MLPerf, AMD menekankan bahwa benchmark modern harus mencerminkan kondisi penggunaan sesungguhnya, bukan sekadar pengujian teknis yang ideal di atas kertas.
Perubahan ini sangat penting karena workload GenAI saat ini jauh lebih kompleks dibandingkan sebelumnya. Model tidak hanya besar, tetapi juga mampu memproses berbagai jenis data seperti teks, gambar, dan bahkan video dalam satu sistem terintegrasi.
Selain itu, kebutuhan terhadap AI juga berubah. Sistem sekarang dituntut untuk memberikan respons secara real time, mampu melayani banyak pengguna sekaligus, dan tetap efisien dalam penggunaan sumber daya.
Karena itu, MLPerf kini berkembang menjadi benchmark yang tidak hanya mengukur kecepatan, tetapi juga mempertimbangkan berbagai skenario penggunaan, mulai dari sistem kecil hingga cluster besar di data center.
AMD menunjukkan pencapaian yang cukup signifikan dalam pengujian terbaru MLPerf Inference 6.0. Salah satu yang paling mencolok adalah kemampuan sistem mereka menembus lebih dari satu juta token per detik.
Angka ini bukan hanya sekadar pencapaian teknis, tetapi menjadi indikator bahwa sistem AI tersebut sudah siap untuk digunakan dalam skala besar. Dalam pengujian tersebut, GPU AMD Instinct MI355X mampu menjalankan model besar seperti Llama 2 70B dalam konfigurasi multi node dengan performa yang stabil.
Yang menarik, performa ini tetap efisien saat sistem diperbesar. AMD berhasil menunjukkan efisiensi scaling yang mendekati linear, sehingga penambahan jumlah GPU benar benar memberikan peningkatan performa yang sebanding.
Dibandingkan dengan generasi sebelumnya, peningkatan yang ditawarkan juga cukup signifikan. AMD mencatat lonjakan performa hingga lebih dari tiga kali lipat, yang menunjukkan bahwa inovasi tidak hanya terjadi pada sisi hardware, tetapi juga pada optimasi keseluruhan sistem.
Dalam pengujian single node, performa AMD juga terlihat sangat kompetitif jika dibandingkan dengan solusi dari NVIDIA. Bahkan dalam beberapa skenario, terutama yang berkaitan dengan interaksi real time, performanya mampu memberikan hasil yang lebih baik.
Hal ini menjadi sinyal bahwa persaingan di industri AI semakin terbuka dan tidak lagi didominasi oleh satu pemain saja. AMD mulai menunjukkan posisinya sebagai alternatif yang kuat dan layak diperhitungkan.
