Mengenal Perbedaan TPU, NPU, dan GPU di Era Komputasi AI

Telset.id – Google memperkenalkan Tensor Processing Unit (TPU) sebagai chip AI khusus untuk data center, namun istilah ini kini juga muncul di smartphone Pixel 11 melalui chip Tensor G6. Kehadiran TPU di perangkat mobile sekaligus data center menimbulkan kebingungan di kalangan pengguna tentang perbedaan mendasar antara TPU, NPU, dan GPU.

TPU pertama kali digunakan secara internal oleh Google pada 2015. Chip ini dirancang sebagai akselerator AI proprietary untuk menangani perhitungan matematika kompleks yang diperlukan dalam beban kerja artificial intelligence dan machine learning (ML). Di sisi lain, kemunculan istilah TPU di Pixel 11 membuat banyak orang bertanya-tanya apakah TPU sama dengan NPU yang selama ini dikenal di perangkat konsumen.

Jawabannya membingungkan karena keduanya benar. Dalam seri smartphone Pixel 11, TPU pada dasarnya adalah cara Google menyebut NPU. Versi TPU ini menangani pemrosesan kamera dan gambar serta tugas AI lokal. Sementara itu, TPU data center jelas berbeda dari versi smartphone, NPU tradisional, dan GPU, meskipun ada beberapa kesamaan di antara ketiganya.

Apa Itu TPU dan Bagaimana Cara Kerjanya?

TPU adalah chip yang diciptakan Google untuk menangani tugas AI dan machine learning berbasis cloud di data center perusahaan. Dikenal sebagai akselerator AI, TPU dioptimalkan untuk melakukan jutaan perhitungan matematika secara real-time dalam model AI, sesuatu yang juga dilakukan oleh NPU dan GPU.

NPU merupakan chip yang dapat ditemukan di semua smartphone modern, Mac, dan PC. Chip ini melakukan semua pekerjaan berat untuk tugas generative dan agentic AI, mulai dari menghapus objek dari foto hingga menggunakan ChatGPT untuk menyusun itinerari perjalanan tiga hari. Untuk ponsel Pixel 11, TPU menggantikan NPU, dengan Google mengklaim “hingga 3,5 kali lebih cepat dalam pemrosesan AI sekaligus menggunakan energi hingga 3,5 kali lebih hemat.”

GPU sendiri sudah familiar di kalangan gamer dan profesional 3D. Sebelum era AI, GPU dibutuhkan untuk menjalankan game grafis berat seperti Crysis 3 pada pengaturan tertinggi dengan frame rate tinggi dan rendering mulus. Pasca-AI, GPU tetap menjalankan fungsi tersebut sekaligus menangani pelatihan AI dan penambangan kripto, sehingga harganya pun melambung tinggi.

Perbedaan utama antara TPU, NPU, dan GPU terletak pada use case dan skala penggunaannya. TPU digunakan untuk AI berbasis cloud di data center Google, sementara NPU, TPU on-device, dan GPU dapat ditemukan di smartphone dan laptop. TPU memiliki skala terbesar karena arsitektur khususnya dirancang untuk mempercepat komputasi masif yang digunakan dalam Large Language Models (LLM) dan tugas deep learning (DL) berskala besar.

TPU memanfaatkan tata letak hardware yang disebut systolic array, yang memungkinkan data berpindah dari satu unit ke unit berikutnya dalam grid 2D multiplier. Arsitektur ini membantu menghilangkan potensi bottleneck karena output perhitungan menjadi input untuk unit berikutnya tanpa harus menulis kembali ke memori. Ini berbeda dengan GPU yang harus mengelola data antara unit komputasi dan high-bandwidth memory.

Ketika melayani perusahaan AI besar seperti Anthropic dan Midjourney yang memproses miliaran permintaan AI setiap hari, mengandalkan solusi berbasis GPU bisa mahal dalam hal bottleneck, latensi, dan efisiensi daya. Karena TPU tidak bolak-balik membaca dan menulis memori, chip ini lebih cocok untuk melatih neural network berskala besar dan beban kerja masif lainnya.

Perbandingan TPU, NPU, dan GPU untuk Kebutuhan Berbeda

NPU dan TPU on-device yang hidup di smartphone, IoT, dan laptop berada di sisi dangkal kolam AI/ML. Keduanya dioptimalkan untuk tugas dengan daya rendah, sehingga cocok untuk efek kamera dan terjemahan real-time. TPU dapat menjalankan LLM, tetapi harus versi kecil dan terdefinisi dengan baik untuk penggunaan lokal.

Menjawab pertanyaan mana yang lebih baik, jawabannya relatif karena setiap akselerator AI unggul dalam use case spesifik. NPU dan TPU on-device lebih baik untuk menangani tugas AI mainstream yang lebih kecil. Konsumsi dayanya yang rendah berarti tidak terlalu membebani baterai smartphone, laptop, atau smartwatch. Namun, chip ini tetap memiliki kemampuan cukup untuk melakukan terjemahan real-time, mengaburkan latar belakang saat panggilan, atau membantu mengingat acara TV yang pernah ditonton di era 90-an.

TPU menjadi solusi hemat biaya dan energi yang membantu menjalankan pertunjukan AI/ML/DL secara global. Memproses jutaan perhitungan matematika sambil melatih model ML dan DL pada skala masif berarti TPU murni diperuntukkan bagi data center besar. Sementara itu, GPU dengan fleksibilitas bawaannya dapat menangani beban kerja AI skala kecil dan besar, sekaligus menjalankan game, mengedit video, dan menjalankan simulasi. Bagi pengguna yang ingin menjalankan LLM lokal, GPU yang bertenaga adalah pilihan yang tepat.

Perkembangan teknologi AI yang semakin masif membuat pemahaman tentang perbedaan chip ini menjadi penting. Setiap perangkat memiliki kebutuhan komputasi berbeda, dan memahami peran masing-masing chip membantu pengguna memilih perangkat yang sesuai dengan kebutuhan mereka.

Kehadiran TPU di Pixel 11 menandai langkah Google untuk mengintegrasikan kemampuan AI yang lebih besar di perangkat mobile. Dengan klaim peningkatan kecepatan pemrosesan AI hingga 3,5 kali lipat dan efisiensi energi yang sama, TPU on-device ini menjadi bukti bahwa persaingan industri teknologi semakin ketat di segmen AI mobile.

Bagi konsumen, memahami perbedaan TPU, NPU, dan GPU membantu dalam memilih perangkat yang tepat. Jika kebutuhan utama adalah tugas AI ringan sehari-hari seperti efek kamera dan asisten virtual, NPU atau TPU on-device sudah memadai. Namun, untuk kebutuhan komputasi berat seperti pengembangan model AI atau gaming, GPU tetap menjadi pilihan utama. Sementara TPU data center adalah infrastruktur yang menggerakkan layanan AI global yang kita gunakan setiap hari.

Dengan semakin banyaknya fitur AI yang hadir di perangkat konsumen, peran NPU dan TPU on-device akan semakin penting. Keduanya memungkinkan pemrosesan AI dilakukan secara lokal tanpa harus terhubung ke cloud, yang berarti respons lebih cepat dan privasi lebih terjaga.