Google Kenalkan TPU 8tx dan 8i Max untuk Komputasi AI Berbasis Agen

Google memperkenalkan dua sistem akselerator kecerdasan buatan terbaru, TPU 8tx dan TPU 8i Max, pada 9 November 2026. Keduanya menjadi bagian dari keluarga Tensor Processing Unit generasi kedelapan yang dirancang untuk memenuhi kebutuhan komputasi AI berbasis agen. TPU 8tx mengutamakan keamanan pemrosesan data sensitif, sedangkan TPU 8i Max berfokus pada peningkatan kapasitas komputasi dan bandwidth memori untuk konteks berukuran besar. Perkembangan TEKNOLOGI ini menunjukkan perubahan kebutuhan infrastruktur kecerdasan buatan, terutama ketika berbagai agen AI harus menjalankan tugas kompleks, memproses informasi panjang, dan bekerja secara bersamaan dalam lingkungan perusahaan.
Inovasi Akselerator Google Hadir untuk Mendukung Era AI Berbasis Agen
Perusahaan teknologi Google mengembangkan jajaran perangkat komputasi khusus AI melalui peluncuran konfigurasi baru generasi kedelapan. Kedua sistem tersebut dikembangkan menghadapi peningkatan kompleksitas aplikasi kecerdasan buatan. Dalam pengumuman 9 November 2026, Google menjelaskan bahwa kebutuhan komputasi AI terus berkembang. Pergeseran kebutuhan ini tidak hanya berkaitan dengan ukuran model. Dalam penggunaan modern, aplikasi cerdas harus menangani banyak langkah secara berurutan. Oleh sebab itu, perangkat keras harus disesuaikan dengan kebutuhan aplikasi.
Penambahan akselerator baru tersebut memperluas keluarga TPU generasi kedelapan. Pada pengumuman bulan April 2026, Google merancang TPU 8t untuk kebutuhan pelatihan AI intensif. Untuk kebutuhan inferensi, TPU 8i berfokus pada efisiensi inference. Melalui penambahan TPU 8tx, Google menyediakan sistem inferensi dengan perlindungan tingkat perangkat keras. Di sisi lain, sistem 8i Max, tujuannya meningkatkan kepadatan pemrosesan. Spesialisasi setiap sistem membantu organisasi memilih infrastruktur sesuai kebutuhan.
TPU 8tx Hadirkan Keamanan Data melalui Confidential Computing
Google menghadirkan konfigurasi 8tx untuk mendukung penggunaan AI pada lingkungan dengan persyaratan keamanan tinggi. Fitur yang menjadi perhatian adalah confidential computing, yaitu teknologi isolasi data pada saat pemrosesan berlangsung. Ketika aplikasi memproses informasi, informasi harus dapat dibaca oleh komponen pemrosesan. Kondisi tersebut memerlukan pengamanan terhadap akses tidak sah. Dengan konfigurasi keamanan baru, Google menghadirkan pengamanan terhadap informasi yang sedang diproses. Fasilitas confidential computing tersebut relevan bagi sektor dengan regulasi ketat.
Dalam rancangan sistemnya, TPU 8tx dibangun menggunakan fondasi chip TPU 8t. Konfigurasi perangkat ini menggunakan CPU host AMD EPYC generasi ke-5. Sebagai bagian dari peningkatan performa, Google mengadopsi teknologi interkoneksi Boardfly. Berdasarkan klaim perusahaan, konfigurasi ini menawarkan peningkatan respons dengan latensi hingga setengah dari TPU 8t. Perusahaan tersebut turut menjelaskan bahwa peningkatan tersebut dicapai dengan penalti performa yang hampir tidak ada. Walaupun angka tersebut menarik, hasil aktual dapat berbeda menurut karakter beban kerja.
Arsitektur Dua Chip TPU 8i Max Tingkatkan Kepadatan Pemrosesan
Tidak seperti konfigurasi yang berfokus pada keamanan, TPU 8i Max dikembangkan untuk kebutuhan konteks AI yang sangat panjang. Menurut keterangan perusahaan, tantangan tersebut muncul ketika akses informasi membatasi kemampuan pemrosesan. Apabila model kecerdasan buatan menangani dokumen panjang yang saling berhubungan, kebutuhan bandwidth memori meningkat. Sebagai solusi terhadap hambatan ini, Google menggabungkan dua chip TPU 8i dalam satu paket. Rancangan dua chip ini memungkinkan peningkatan sumber daya komputasi dan memori. Dengan demikian, sistem dapat menangani beban kerja yang lebih besar.
Menurut penjelasan perusahaan, TPU 8i Max memberikan sumber daya pemrosesan dua kali lebih besar daripada TPU 8i. Di samping memperbesar kapasitas pemrosesan, sistem menggandakan SRAM dan menghadirkan bandwidth HBM dua kali lipat. SRAM merupakan bagian memori yang membantu akses informasi secara efisien. Sementara HBM membantu memasok data kepada prosesor. Perpaduan tersebut ditujukan mengurangi hambatan selama pemrosesan. Keunggulan lainnya adalah kemampuan menempatkan lebih banyak silikon tanpa memperluas jejak rak.
Manfaat TPU Generasi Kedelapan untuk Pengembangan AI Berbasis Agen
Peningkatan penggunaan agen AI otonom mengubah cara infrastruktur komputasi digunakan. Tidak seperti aplikasi yang hanya menjawab satu pertanyaan, sistem agentic mampu menggunakan beberapa alat. Sebagai contoh, agen pemrograman mampu menganalisis kode dari banyak modul, kemudian menjalankan pengujian dan memperbaiki kesalahan. Rangkaian tugas tersebut mengandalkan sumber daya komputasi dan memori. Ketika beberapa agen bekerja bersamaan, pengelolaan sumber daya semakin penting. Oleh sebab itu, akselerator khusus dapat menjadi solusi yang relevan.
Untuk organisasi yang memanfaatkan AI, kebutuhan pemrosesan tidak selalu sama. Organisasi yang menangani informasi sensitif dapat membutuhkan pemrosesan yang terisolasi. Untuk kebutuhan perlindungan semacam ini, TPU 8tx menawarkan pendekatan yang sesuai. Di sisi penggunaan lain, analisis dokumen besar dan pengembangan perangkat lunak lebih berkaitan dengan kemampuan TPU 8i Max. Namun demikian, efisiensi sistem juga ditentukan oleh rancangan aplikasi. Melalui pemilihan konfigurasi yang sesuai, penggunaan akselerator dapat disesuaikan dengan prioritas.
Ekosistem Software Google Bantu Pengembang Mengoptimalkan Akselerator TPU
Selain memperkenalkan perangkat keras, Google memperkuat integrasi framework kecerdasan buatan. Salah satu langkah penting adalah TorchTPU, yaitu perangkat lunak yang mempermudah penggunaan model PyTorch di TPU. Melalui pengembangan ini, pengembang dapat menggunakan kode PyTorch tanpa penulisan ulang menyeluruh. Perusahaan tersebut turut memperluas kompatibilitas dengan perangkat lunak penyajian model AI populer. Di samping dukungan framework, Google menyediakan sistem pendamping berbasis AI untuk konfigurasi akselerator. Kemampuan tersebut dirancang membantu proses onboarding dan diagnosis hambatan.
Untuk mendukung penggunaan TPU dalam produksi, XLA Serving Engine yang menghubungkan pelatihan model dengan penyajian berlatensi rendah. Mesin penyajian tersebut menawarkan dukungan beberapa jenis akselerator. Pada pengoperasian sistem berskala besar, Google mengembangkan orkestrasi pekerjaan AI melalui Cloud Pathways. Teknologi orkestrasi tersebut membantu menangani pekerjaan agen yang berhenti sementara. Untuk fleksibilitas konfigurasi, GKE dynamic slicing mendukung pembagian dan penggabungan sumber daya TPU. Menurut hasil yang disampaikan perusahaan, pendekatan tersebut dapat mempercepat waktu mulai pekerjaan hingga lima kali dan mempercepat pemulihan gangguan hingga 4,5 kali. Manfaat dalam penggunaan nyata dapat bervariasi menurut kondisi infrastruktur.
Masa Depan Infrastruktur Kecerdasan Buatan melalui Akselerator Google
Perluasan akselerator generasi kedelapan memperlihatkan perkembangan perangkat keras kecerdasan buatan. Dengan konfigurasi TPU 8tx, Google menghadirkan confidential computing untuk informasi sensitif. Sementara TPU 8i Max, kemampuan yang ditonjolkan adalah kepadatan komputasi tinggi. Penggunaan dua chip menawarkan kapasitas lebih besar dibandingkan model dasarnya. Tidak hanya memperhatikan kemampuan chip, Google mengembangkan integrasi framework serta orkestrasi cloud. Meskipun inovasi perangkat keras terus meningkat, keamanan dan performa harus dinilai sesuai penerapan. Melalui perencanaan sistem secara menyeluruh, organisasi berpotensi memanfaatkan AI berbasis agen secara lebih efektif. Menurut pandangan Anda, apakah TPU 8i Max dapat membantu pengembangan agen dengan konteks panjang? Silakan bagikan pendapat Anda agar diskusi teknologi semakin bermanfaat.






