Baca berita dengan sedikit iklan, klik disini
TEMPO.CO, Jakarta - Google memperkenalkan Tensor Processing Unit (TPU) generasi ketujuh bernama Ironwood dalam acara Google Cloud Next 25 pada Rabu, 9 April 2025. Vice President/General Manager, ML, Systems and Cloud AI Google Amin Vahdat mengatakan TPU ini merupakan akselerator AI kustom yang paling berperforma dan yang pertama dirancang khusus untuk inferensi.
Baca berita dengan sedikit iklan, klik disini
“TPU ini dibuat khusus untuk mendukung pemikiran, model AI inferensial dalam skala besar,” ujar Amin melalui Blog Google, Rabu, 9 April 2025.
Baca berita dengan sedikit iklan, klik di sini
Baca berita dengan sedikit iklan, klik disini
TPU Ironwood merupakan bagian dari ekosistem Google Cloud, perubahan dari model AI responsif yang menyediakan informasi real-time yang menyediakan wawasan dan interpretasi secara proaktif. Google menyebut sebagai era inferensi, AI akan proaktif mengambil dan menghasilkan data untuk dikolaborasikan memberi wawasan dan jawaban, tidak hanya data saja.
Menurut Amin, TPU ini mendukung fase berikutnya dari AI generatif dan kebutuhan komputasi dan komunikasi. Skalabilitasnya mencapai 9.216 chip berpendingin cairan yang dihubungkan dengan jaringan Inter-Chip Interconnect (ICI) yang mencakup hampir 10 MW.
Sebelum Ironwood, Google memiliki TPU 1, v2, v3, v4, v5e, v5p, dan Trilium. Ironwood, kata Amin, dirancang untuk mengelola komputasi kompleks dan tuntutan komunikasi “model berpikir” dengan baik, yang mencakup Large Language Models (LLM), Mixture of Experts (MoEs), dan tugas penalaran tingkat lanjut.
“Kami merancang TPU Ironwood dengan jaringan ICI latensi rendah dan bandwidth tinggi untuk mendukung komunikasi terkoordinasi dan sinkron pada skala pod TPU penuh,” katanya.
Fitur utama TPU Ironwood ini di antaranya peningkatan kinerja dan efisiensi daya yang memungkinkan beban kerja AI juga lebih hemat biaya. Kapasitas High Bandwidth Memory menawarkan 192 GB per chip, dengan ukuran enam kali lebih besar dari Trilium.
Selain itu Bandwidth HBM meningkat hingga 7,2 TBps per chip yang kecepatannya 4,5 kali lebih besar dari Trilium. Kemudian pada bandwidth Inter-Chip Interconnect (ICI) juga meningkat menjadi 1,2 Tbps dua arah yang 1,5 kali lebih besari dari Trilium.
Chief Executive Officer Google and Alphabet Sundar Pichai mengatakan TPU Ironwood akan hadir tahun ini. Kinerja TPU disebut 3.600 kali lebih baik dari sebelumnya. “Ini adalah chip terkuat yang pernah kami buat dan akan memungkinkan model AI tingkat lanjut,” tuturnya.
Pilihan Editor: Kamera Keempat Vivo X200 Ultra Terungkap: Lensa Telefoto 200mm
Foto 
