AMD EPYC Generasi Kelima Dukung Google Cloud TPU 8tx, Hadirkan Confidential Computing untuk Infrastruktur AI

Hardwareholic – AMD mengumumkan perluasan kolaborasi strategis dengan Google Cloud melalui penggunaan prosesor AMD EPYC™ generasi kelima sebagai infrastruktur host untuk Google Cloud TPU 8tx. Kolaborasi ini menghadirkan sistem Tensor Processing Unit (TPU) cloud pertama yang dilengkapi dengan kemampuan confidential computing berbasis perangkat keras.

Integrasi tersebut menggabungkan performa CPU AMD EPYC, teknologi keamanan AMD Infinity Guard, serta kompatibilitas ekosistem software x86 dengan kemampuan akselerasi AI dari TPU Google Cloud. Kombinasi ini dirancang untuk mendukung kebutuhan perusahaan dalam menjalankan berbagai beban kerja kecerdasan buatan (AI), mulai dari inferensi, fine-tuning model, hingga reinforcement learning.

Salah satu fokus utama dari pengembangan ini adalah menghadirkan perlindungan data saat sedang diproses atau data in use. Dengan arsitektur confidential computing Google Cloud pada TPU 8tx yang didukung oleh prosesor AMD EPYC generasi kelima, perusahaan dapat menjalankan beban kerja AI yang sensitif dalam skala besar tanpa mengorbankan keamanan dan privasi data.

Kolaborasi ini sekaligus memperkuat posisi prosesor AMD EPYC sebagai salah satu fondasi penting dalam pembangunan infrastruktur AI modern, khususnya pada sistem yang mengandalkan akselerator khusus.

AMD EPYC Jadi Fondasi Infrastruktur AI Google Cloud TPU 8tx

Dalam sebuah sistem AI yang menggunakan akselerator seperti GPU maupun ASIC khusus, prosesor CPU tetap memiliki peran penting. CPU bertanggung jawab untuk menyiapkan data, mengatur distribusi pekerjaan, mengoordinasikan proses komputasi, serta memastikan komunikasi antara sistem host dan akselerator berjalan optimal.

Pada Google Cloud TPU 8tx, prosesor AMD EPYC generasi kelima menjalankan fungsi tersebut sekaligus mendukung kebutuhan komunikasi ber-throughput tinggi dengan akselerator TPU.

Menurut Dan McNamara, Senior Vice President and General Manager, Compute and Enterprise AI AMD, perkembangan sistem AI membutuhkan fondasi CPU yang mampu memenuhi tuntutan performa akselerator yang semakin tinggi.

Ia menjelaskan bahwa AMD terus mengembangkan kemampuan prosesor EPYC dari generasi ke generasi, terutama dalam hal performa komputasi, bandwidth memori, dan kemampuan I/O. Pengembangan tersebut dilakukan melalui kolaborasi rekayasa dengan sejumlah penyedia layanan cloud terkemuka.

Melalui kerja sama dengan Google Cloud, kemampuan tersebut kini diterapkan pada TPU 8tx untuk membantu pelanggan meningkatkan skala penerapan AI dengan performa dan perlindungan yang sesuai dengan kebutuhan beban kerja perusahaan.

Confidential Computing, Melindungi Data AI Hingga Tingkat Hardware

Salah satu aspek menarik dari integrasi AMD EPYC dan Google Cloud TPU 8tx adalah penerapan confidential computing yang diperluas hingga ke akselerator AI.

Teknologi ini memanfaatkan kemampuan AMD Secure Encrypted Virtualization (SEV) pada prosesor EPYC generasi kelima. Bersama arsitektur keamanan TPU, teknologi tersebut membantu memperluas perlindungan confidential computing, tidak hanya pada CPU, tetapi juga pada akselerator yang terhubung.

Dalam implementasinya, sistem melakukan verifikasi identitas dan konfigurasi keamanan akselerator sebelum memberikan akses langsung ke memori yang dilindungi. Mekanisme ini dirancang untuk menjaga informasi sensitif, termasuk prompt pengguna, bobot model AI, dan data perantara, tetap terlindungi selama proses komputasi.

Data tersebut dilindungi melalui enkripsi, baik di memori CPU maupun saat ditransfer antara host dan akselerator. Isolasi berbasis hardware juga membantu menjaga keamanan data saat akselerator menjalankan tugas komputasi.

Pendekatan ini menjadi semakin relevan seiring meningkatnya penggunaan AI generatif, model penalaran (reasoning), dan agen AI di lingkungan perusahaan. Dalam skenario tersebut, perusahaan tidak hanya memproses data umum, tetapi juga informasi internal, dokumen bisnis, hingga kekayaan intelektual yang memerlukan tingkat perlindungan yang tinggi.

Mark Lohmeyer, Vice President and General Manager for AI and Computing Infrastructure di Google Cloud, mengatakan bahwa keamanan data menjadi salah satu kebutuhan utama ketika perusahaan mulai membawa agen AI ke lingkungan produksi.

Menurutnya, pelanggan membutuhkan jaminan bahwa data dan kekayaan intelektual mereka tetap privat, termasuk dari infrastruktur yang mendasari layanan tersebut.

Dengan menggabungkan prosesor AMD EPYC generasi kelima dan arsitektur TPU generasi kedelapan dalam Google Cloud AI Hypercomputer, kedua perusahaan menghadirkan confidential computing yang ditegakkan oleh hardware pada TPU cloud untuk pertama kalinya.

Selain perlindungan data pada tingkat silikon, integrasi ini juga dirancang untuk mempertahankan performa dan latensi rendah yang dibutuhkan oleh model AI penalaran modern.

AMD SEV Mendukung Ekosistem Confidential Computing Google Cloud

Dukungan AMD terhadap confidential computing di Google Cloud sebenarnya bukan hal baru. Teknologi AMD Secure Encrypted Virtualization telah digunakan sebagai bagian dari fondasi keamanan berbagai layanan cloud Google.

Beberapa layanan yang memanfaatkan teknologi tersebut meliputi:

• Confidential VMs, untuk menjalankan virtual machine dengan perlindungan data berbasis hardware.
• Confidential GKE, untuk mendukung keamanan beban kerja berbasis Kubernetes.
• Confidential Space, untuk melindungi data dan komputasi saat bekerja dengan pihak lain.
• Confidential Managed Service for Apache Spark, untuk mendukung pemrosesan data dengan perlindungan tambahan.
• Confidential Dataflow, untuk menjaga keamanan pemrosesan data dalam pipeline analitik.

Kehadiran TPU 8tx memperluas cakupan kolaborasi tersebut ke sektor akselerasi AI. Dengan demikian, perlindungan confidential computing dapat diterapkan pada lebih banyak lapisan infrastruktur, mulai dari komputasi berbasis CPU hingga akselerator AI.

AMD EPYC Mendukung Berbagai Arsitektur Akselerator AI

Seiring berkembangnya kebutuhan komputasi AI, perusahaan teknologi dan penyedia layanan cloud semakin banyak mengembangkan infrastruktur dengan arsitektur yang lebih spesifik. Penggunaan GPU bukan lagi satu-satunya pilihan karena sejumlah perusahaan juga mengembangkan ASIC dan akselerator khusus untuk kebutuhan AI.

Dalam kondisi tersebut, pemilihan CPU host menjadi faktor penting untuk memastikan seluruh sistem dapat bekerja secara efisien.

Prosesor host bertugas memasok data ke akselerator, mengatur jadwal pekerjaan, serta menghubungkan proses komputasi AI dengan aplikasi dan layanan lain dalam infrastruktur.

AMD menyebut prosesor EPYC telah menjadi pilihan CPU host bagi lebih dari 10 hyperscaler terkemuka dan laboratorium AI terkemuka. Penggunaannya mencakup berbagai sistem yang menggunakan GPU maupun akselerator AI berbasis ASIC.

Portofolio AMD EPYC juga mendukung sistem dengan GPU AMD Instinct™, GPU NVIDIA, serta berbagai silikon khusus lainnya. Cakupan tersebut memberikan fleksibilitas bagi pelanggan yang ingin membangun infrastruktur AI dengan pilihan akselerator yang berbeda tanpa harus meninggalkan ekosistem software x86 yang telah banyak digunakan di lingkungan enterprise.

Melanjutkan Kolaborasi AMD dan Google Cloud

Kerja sama AMD dan Google Cloud telah berlangsung selama beberapa generasi prosesor EPYC. Kolaborasi ini mencakup pengembangan dan dukungan untuk berbagai kebutuhan komputasi, mulai dari beban kerja serbaguna, komputasi intensif, penyimpanan, hingga sistem yang menggunakan akselerator.

Beberapa mesin virtual Google Cloud Compute Engine yang mendukung prosesor AMD EPYC meliputi C4D, N4D, H4D, Z4D, dan G4.

Kedua perusahaan juga telah bekerja sama dalam pengembangan teknologi keamanan tingkat enterprise. Salah satu bentuk kolaborasinya adalah peninjauan mendalam terhadap firmware prosesor keamanan AMD oleh para pakar keamanan Google.

Melalui integrasi AMD EPYC generasi kelima dan Google Cloud TPU 8tx, kolaborasi tersebut kini memasuki tahap baru dengan fokus pada kebutuhan infrastruktur AI yang lebih aman.

Langkah ini menunjukkan bahwa pengembangan infrastruktur AI tidak hanya berfokus pada peningkatan kemampuan komputasi dan kecepatan akselerator. Perlindungan data selama proses komputasi juga menjadi aspek penting, terutama ketika perusahaan mulai menggunakan AI untuk menangani informasi sensitif dan menjalankan agen AI dalam operasional bisnis sehari-hari.AMD mengumumkan perluasan kolaborasi strategis dengan Google Cloud melalui penggunaan prosesor AMD EPYC™ generasi kelima sebagai infrastruktur host untuk Google Cloud TPU 8tx. Kolaborasi ini menghadirkan sistem Tensor Processing Unit (TPU) cloud pertama yang dilengkapi dengan kemampuan confidential computing berbasis perangkat keras.

Integrasi tersebut menggabungkan performa CPU AMD EPYC, teknologi keamanan AMD Infinity Guard, serta kompatibilitas ekosistem software x86 dengan kemampuan akselerasi AI dari TPU Google Cloud. Kombinasi ini dirancang untuk mendukung kebutuhan perusahaan dalam menjalankan berbagai beban kerja kecerdasan buatan (AI), mulai dari inferensi, fine-tuning model, hingga reinforcement learning.

Salah satu fokus utama dari pengembangan ini adalah menghadirkan perlindungan data saat sedang diproses atau data in use. Dengan arsitektur confidential computing Google Cloud pada TPU 8tx yang didukung oleh prosesor AMD EPYC generasi kelima, perusahaan dapat menjalankan beban kerja AI yang sensitif dalam skala besar tanpa mengorbankan keamanan dan privasi data.

Kolaborasi ini sekaligus memperkuat posisi prosesor AMD EPYC sebagai salah satu fondasi penting dalam pembangunan infrastruktur AI modern, khususnya pada sistem yang mengandalkan akselerator khusus.

AMD EPYC Jadi Fondasi Infrastruktur AI Google Cloud TPU 8tx

Dalam sebuah sistem AI yang menggunakan akselerator seperti GPU maupun ASIC khusus, prosesor CPU tetap memiliki peran penting. CPU bertanggung jawab untuk menyiapkan data, mengatur distribusi pekerjaan, mengoordinasikan proses komputasi, serta memastikan komunikasi antara sistem host dan akselerator berjalan optimal.

Pada Google Cloud TPU 8tx, prosesor AMD EPYC generasi kelima menjalankan fungsi tersebut sekaligus mendukung kebutuhan komunikasi ber-throughput tinggi dengan akselerator TPU.

Menurut Dan McNamara, Senior Vice President and General Manager, Compute and Enterprise AI AMD, perkembangan sistem AI membutuhkan fondasi CPU yang mampu memenuhi tuntutan performa akselerator yang semakin tinggi.

Ia menjelaskan bahwa AMD terus mengembangkan kemampuan prosesor EPYC dari generasi ke generasi, terutama dalam hal performa komputasi, bandwidth memori, dan kemampuan I/O. Pengembangan tersebut dilakukan melalui kolaborasi rekayasa dengan sejumlah penyedia layanan cloud terkemuka.

Melalui kerja sama dengan Google Cloud, kemampuan tersebut kini diterapkan pada TPU 8tx untuk membantu pelanggan meningkatkan skala penerapan AI dengan performa dan perlindungan yang sesuai dengan kebutuhan beban kerja perusahaan.

Confidential Computing, Melindungi Data AI Hingga Tingkat Hardware

Salah satu aspek menarik dari integrasi AMD EPYC dan Google Cloud TPU 8tx adalah penerapan confidential computing yang diperluas hingga ke akselerator AI.

Teknologi ini memanfaatkan kemampuan AMD Secure Encrypted Virtualization (SEV) pada prosesor EPYC generasi kelima. Bersama arsitektur keamanan TPU, teknologi tersebut membantu memperluas perlindungan confidential computing, tidak hanya pada CPU, tetapi juga pada akselerator yang terhubung.

Dalam implementasinya, sistem melakukan verifikasi identitas dan konfigurasi keamanan akselerator sebelum memberikan akses langsung ke memori yang dilindungi. Mekanisme ini dirancang untuk menjaga informasi sensitif, termasuk prompt pengguna, bobot model AI, dan data perantara, tetap terlindungi selama proses komputasi.

Data tersebut dilindungi melalui enkripsi, baik di memori CPU maupun saat ditransfer antara host dan akselerator. Isolasi berbasis hardware juga membantu menjaga keamanan data saat akselerator menjalankan tugas komputasi.

Pendekatan ini menjadi semakin relevan seiring meningkatnya penggunaan AI generatif, model penalaran (reasoning), dan agen AI di lingkungan perusahaan. Dalam skenario tersebut, perusahaan tidak hanya memproses data umum, tetapi juga informasi internal, dokumen bisnis, hingga kekayaan intelektual yang memerlukan tingkat perlindungan yang tinggi.

Mark Lohmeyer, Vice President and General Manager for AI and Computing Infrastructure di Google Cloud, mengatakan bahwa keamanan data menjadi salah satu kebutuhan utama ketika perusahaan mulai membawa agen AI ke lingkungan produksi.

Menurutnya, pelanggan membutuhkan jaminan bahwa data dan kekayaan intelektual mereka tetap privat, termasuk dari infrastruktur yang mendasari layanan tersebut.

Dengan menggabungkan prosesor AMD EPYC generasi kelima dan arsitektur TPU generasi kedelapan dalam Google Cloud AI Hypercomputer, kedua perusahaan menghadirkan confidential computing yang ditegakkan oleh hardware pada TPU cloud untuk pertama kalinya.

Selain perlindungan data pada tingkat silikon, integrasi ini juga dirancang untuk mempertahankan performa dan latensi rendah yang dibutuhkan oleh model AI penalaran modern.

AMD SEV Mendukung Ekosistem Confidential Computing Google Cloud

Dukungan AMD terhadap confidential computing di Google Cloud sebenarnya bukan hal baru. Teknologi AMD Secure Encrypted Virtualization telah digunakan sebagai bagian dari fondasi keamanan berbagai layanan cloud Google.

Beberapa layanan yang memanfaatkan teknologi tersebut meliputi:

• Confidential VMs, untuk menjalankan virtual machine dengan perlindungan data berbasis hardware.
• Confidential GKE, untuk mendukung keamanan beban kerja berbasis Kubernetes.
• Confidential Space, untuk melindungi data dan komputasi saat bekerja dengan pihak lain.
• Confidential Managed Service for Apache Spark, untuk mendukung pemrosesan data dengan perlindungan tambahan.
• Confidential Dataflow, untuk menjaga keamanan pemrosesan data dalam pipeline analitik.

Kehadiran TPU 8tx memperluas cakupan kolaborasi tersebut ke sektor akselerasi AI. Dengan demikian, perlindungan confidential computing dapat diterapkan pada lebih banyak lapisan infrastruktur, mulai dari komputasi berbasis CPU hingga akselerator AI.

AMD EPYC Mendukung Berbagai Arsitektur Akselerator AI

Seiring berkembangnya kebutuhan komputasi AI, perusahaan teknologi dan penyedia layanan cloud semakin banyak mengembangkan infrastruktur dengan arsitektur yang lebih spesifik. Penggunaan GPU bukan lagi satu-satunya pilihan karena sejumlah perusahaan juga mengembangkan ASIC dan akselerator khusus untuk kebutuhan AI.

Dalam kondisi tersebut, pemilihan CPU host menjadi faktor penting untuk memastikan seluruh sistem dapat bekerja secara efisien.

Prosesor host bertugas memasok data ke akselerator, mengatur jadwal pekerjaan, serta menghubungkan proses komputasi AI dengan aplikasi dan layanan lain dalam infrastruktur.

AMD menyebut prosesor EPYC telah menjadi pilihan CPU host bagi lebih dari 10 hyperscaler terkemuka dan laboratorium AI terkemuka. Penggunaannya mencakup berbagai sistem yang menggunakan GPU maupun akselerator AI berbasis ASIC.

Portofolio AMD EPYC juga mendukung sistem dengan GPU AMD Instinct™, GPU NVIDIA, serta berbagai silikon khusus lainnya. Cakupan tersebut memberikan fleksibilitas bagi pelanggan yang ingin membangun infrastruktur AI dengan pilihan akselerator yang berbeda tanpa harus meninggalkan ekosistem software x86 yang telah banyak digunakan di lingkungan enterprise.

Melanjutkan Kolaborasi AMD dan Google Cloud

Kerja sama AMD dan Google Cloud telah berlangsung selama beberapa generasi prosesor EPYC. Kolaborasi ini mencakup pengembangan dan dukungan untuk berbagai kebutuhan komputasi, mulai dari beban kerja serbaguna, komputasi intensif, penyimpanan, hingga sistem yang menggunakan akselerator.

Beberapa mesin virtual Google Cloud Compute Engine yang mendukung prosesor AMD EPYC meliputi C4D, N4D, H4D, Z4D, dan G4.

Kedua perusahaan juga telah bekerja sama dalam pengembangan teknologi keamanan tingkat enterprise. Salah satu bentuk kolaborasinya adalah peninjauan mendalam terhadap firmware prosesor keamanan AMD oleh para pakar keamanan Google.

Melalui integrasi AMD EPYC generasi kelima dan Google Cloud TPU 8tx, kolaborasi tersebut kini memasuki tahap baru dengan fokus pada kebutuhan infrastruktur AI yang lebih aman.

Langkah ini menunjukkan bahwa pengembangan infrastruktur AI tidak hanya berfokus pada peningkatan kemampuan komputasi dan kecepatan akselerator. Perlindungan data selama proses komputasi juga menjadi aspek penting, terutama ketika perusahaan mulai menggunakan AI untuk menangani informasi sensitif dan menjalankan agen AI dalam operasional bisnis sehari-hari.