Cloud TPU Pods Milik Google Cloud Platform Memecahkan Rekor

Google baru-baru ini mengumumkan bahwa mereka menetapkan tiga rekor kinerja dalam konsorsium benchmark MLPerf terbaru. Hasil MLPerf v0.6 sekarang tersedia di GitHub di mana Nvidia juga membawa pulang beberapa rekor baru. Jenis praktik benchmark ini bertindak sebagai informasi berharga bagi pakar AI yang ingin memahami fitur kinerja utama dalam sumber daya perangkat keras dan cloud.

Google Cloud Platform memutuskan untuk membandingkan Pods Google Cloud TPU (tensor processing unit) barunya yang memasuki versi beta publik beberapa bulan yang lalu. Meskipun Google telah menggunakan unit pemrosesan tensor (TPU) untuk beban kerja AI internal sejak 2015, versi terbaru (v3) ini memasuki beta publik beberapa bulan yang lalu.

Aman untuk mengatakan bahwa pod ini adalah monster. Dengan pod tunggal yang berisi 1.000 unit pemrosesan tensor, workhorse AI berpendingin cairan ini menghadirkan lebih dari 100 petaflops daya komputasi ke meja. Tidak mengherankan bahwa Google membawa pulang beberapa rekor benchmark , bahkan melawan pembangkit tenaga listrik TPU Nvidia, Nvidia DGX SuperPOD.

Gelombang baru teknologi unit tensor ini dengan cepat mengubah cara ilmuwan data mengukur dan memanfaatkan AI, terutama di tingkat penelitian. Dan, dengan Nvidia, Google, dan Intel menyiapkan pod untuk konsorsium benchmark, pasti ada beberapa tindakan pemecahan rekor. Cloud TPU Pods v3 Google mengungguli sistem lokal pada pemrosesan AI skala besar di tiga area utama.

Memahami Pod TPU dan GC TPU

Mari kita beristirahat sejenak dan membahas unit pemrosesan tensor dan mengapa unit itu penting untuk komputasi awan & AI skala besar pada tahun 2019. Ada benang merah yang menghubungkan Google Maps, Google Penelusuran, Google Cloud, dan semua hal Google-y lainnya bersama-sama, dan itulah tensor processing unit (TPU).

Ketika Google pertama kali mulai mengembangkan jaringan saraf yang kompleks, mereka mencoba banyak "hal" yang berbeda untuk melihat apa yang bekerja dengan baik dengan AI skala besar dan komputasi saraf. CPU dan mikroprosesor tidak siap untuk tugas itu, dan GPU memiliki serangkaian masalah spesifiknya sendiri. Jadi Google memutuskan untuk membangun solusi uniknya.

Bagaimana Cloud TPU Pods Milik Google Cloud Platform Memecahkan Rekor?

Sirkuit terintegrasi akselerator AI dikembangkan dengan memanfaatkan kerangka kerja AI TensorFlow Google dengan perpustakaan sumber terbuka yang digunakan Google untuk pembelajaran mesin. Kami tidak akan menyelam terlalu dalam ke dalam struktur. Tapi, ada posting bagus di Google yang merinci beberapa struktur TPU mereka, yang telah digunakan oleh Nvidia dan pesaing AI lainnya.

Yang penting untuk diingat adalah bahwa TPU mengungguli CPU sekitar 15-30x dan GPU sekitar 30-80x. Google Cloud TPU Pods memiliki lebih dari 1.000 TPU yang ditumpuk menjadi satu. Itu 100 petaflops daya komputasi. Google melayani mereka untuk bisnis yang ingin mengulangi ML lebih cepat, meningkatkan kemampuan jaringan saraf mereka, dan memanfaatkan komputasi AI dalam skala besar.

Apa Arti Semua Ini?

Jujur saja AI menjadi sumber daya yang mengerikan. Jumlah daya komputasi yang kami lalui di Bitvore luar biasa. Kita hanya bisa membayangkan apa yang harus diterapkan oleh beberapa organisasi multinasional yang memanfaatkan AI. Untungnya, operasi komputasi besar-besaran yang memungkinkan kita membuat jaringan saraf yang sangat kompleks dan program AI menjadi lebih murah dan lebih efisien.

Hal ini memungkinkan kami (dan Anda) untuk membangun dan memberikan produk yang lebih baik. Pikiran di Google dan Nvidia mendorong sebagian besar dari itu. Untuk beberapa konteks tentang seberapa cepat Pod TPU, dua tahun lalu, Nvidia membutuhkan waktu 8 jam untuk menyelesaikan model klasifikasi gambar ResNet-50. Google baru saja mengalahkannya dalam waktu kurang dari 80 detik.

TPU Pods (v3) Google tampak seperti opsi yang diinginkan bagi mereka yang menjalankan beban kerja ML/AI pada kluster GPU lokal. Kecepatan murni, harga murah , dan waktu ketersediaan gila komputasi awan ML modern sungguh menakjubkan. Teknologi TPU juga berada di tempat yang menarik. Itu murah dan mengungguli GPU dan CPU. Itu saja mengenai Cloud TPU Pods milik Google Cloud Platform memecahkan rekor.