Chip AI Huawei Ascend Berhasil Diproduksi Massal Halaman all

HUAWEI Ascend 310 adalah prosesor kecerdasan buatan (AI) yang hemat energi, fleksibel, dan dapat diprogram, yang dapat menghasilkan 16TOPS@INT8, 8TOPS@FP16 dalam konfigurasi tipikal, dan hanya mengonsumsi 8W. Ini mengadopsi arsitektur Huawei Da Vinci yang dikembangkan sendiri, mengintegrasikan unit komputasi yang kaya, meningkatkan kelengkapan dan efisiensi komputasi AI, dan kemudian memperluas penerapan chip. Proses bisnis AI penuh dipercepat, sangat meningkatkan kinerja seluruh sistem AI, dan secara efektif mengurangi biaya penerapan.

(FP16 merupakan teknik khusus yang digunakan GPU untuk meningkatkan kinerja.)

Baca: FP16, FP32 - what is it all about? or is it just Bitsize for Float-Values (Python)

https://datascience.stackexchange.com/questions/73107/fp16-fp32-what-is-it-all-about-or-is-it-just-bitsize-for-float-values-pytho

Sumber: hisilicon.com

HUAWEI Ascend 910 adalah prosesor AI paling bertenaga di industri. Berdasarkan teknologi 3D CUBE yang dikembangkan sendiri dari arsitektur Huawei DaVinci, prosesor ini mencapai performa AI dan efisiensi energi terbaik di industri. Aplikasi skenario. Dalam hal daya komputasi, Ascend 910 sepenuhnya memenuhi spesifikasi desain, dengan daya komputasi setengah presisi (FP16) sebesar 320 TFLOPS, daya komputasi presisi bilangan bulat (INT8) sebesar 640 TOPS, dan konsumsi daya sebesar 310W. Baca:

Train With Mixed Precision - NVIDIA Documentation Center

https://docs.nvidia.com/deeplearning/performance/mixed-precision-training/index.html

Sumber: ehuawei.com

Bagi satu perusahaan iptek berapa banyak investasi dalam penelitian ilmiahnya akan mewakili kemampuan teknologinya sampai batas tertentu. Huawei bersikeras menempatkan lebih dari 10% pendapatan penjualannya untuk penelitian dan pengembangan setiap tahun.

Pada tahun 2021, biaya penelitian dan pengembangan telah menghabiskan RMB 142,7 miliar, menyumbang sekitar 22,4% dari pendapatan tahunan perusahaan. (RMB 1 = Rp. 2.215,- ).

Dalam sepuluh tahun terakhir, akumulasi biaya penelitian dan pengembangan telah melampaui RMB 845 miliar.

Pada tahun 2021, sekitar 107.000 orang yang terlibat dalam penelitian dan pengembangan, terhitung sekitar 54,8% dari total jumlah karyawan perusahaan. Huawei adalah salah satu pemegang paten terbesar di dunia. Lebih dari 90% paten adalah paten penemuan.

Huawei menempati urutan pertama dalam jumlah paten yang diberikan oleh Kantor Kekayaan Intelektual Negara Tiongkok dan Kantor Paten Eropa pada tahun 2021.

Huawei menempati urutan kelima dalam jumlah paten yang diberikan oleh Kantor Paten dan Merek Dagang AS pada tahun 2021.

Nilai dari semua paten yang dipegang oleh Huawei telah diakui sepenuhnya oleh industri dunia.

Dalam laporan panorama paten yang dikeluarkan oleh organisasi profesional pihak ketiga, Huawei berada di posisi terdepan dalam industri di banyak bidang standar utama seperti 5GWi-Fi6 H.266.

Produsen yang telah memperoleh lisensi hak properti Huawei telah berkembang dari industri tradisional komunikasi hingga mobil pintar dan rumah pintar Internet barang dan industri baru lainnya.

Setelah Kirin menjadi terkenal, Huawei membuat langkah besar di bidang chip.

Chip AI komersial Huawei Ascend 910 adalah aspek kinerja dari proyek Da Vinci Huawei.

Ascend 910 saat ini merupakan prosesor AI dengan daya komputasi yang memadai. Skenario aplikasi utamanya adalah keseluruhan kehidupan cerdas Internet dan komputasi berdasarkan perangkat keras dan layanan cloud Huawei sendiri.

Sebelum memahami chip Ascend, mari kita pertama-tama mepahami mengapa chip kecerdasan buatan dibutuhkan? Tidak lain untuk pengembangan terobosan teknologi kecerdasan buatan dalam beberapa tahun terakhir, industri umumnya percaya bahwa ada tiga kekuatan pendorong utama.

Salah satunya adalah pembuatan dan akumulasi data yang masif, yang lainnya adalah inovasi algoritme teoretis, dan yang lainnya adalah transformasi teknologi komputasi.

Kombinasi daya komputasi data dan algoritma sangat diperlukan. Jika perkembangan teknologi kecerdasan buatan diibaratkan sebuah roket yang sedang lepas landas, maka big data adalah bahan bakarnya.

Algoritma dan teori digunakan untuk mengontrol lintasan dan sikap penerbangannya, dan teknologi komputasi adalah mesin untuk ledakan berkelanjutannya.

Jadi agar membuat roket ini terbang lebih tinggi dan lebih jauh, orang perlu terus mendapatkan lebih banyak data, dan terus membuat dan meningkatkan model dan teori algoritme kita untuk memproses, menganalisis, dan memanfaatkan data ini secara lebih efektif. Selain itu, orang perlu terus meningkatkan kemampuan komputasinya, sehingga bisa memproses lebih banyak data dalam waktu yang lebih singkat.

Maka untuk menjalankan semua perkembangan tersebut, pondasi yang terpenting adalah chip, terutama chip kecerdasan buatan (AI).

Selanjutnya, mari kita lihat chip Ascend.

Pertama, mari kita lihat arsitektur perangkat keras chip Ascend AI. Sebenarnya ada dua prosesor Ascend AI yang disebutkan di sini. Salah satunya adalah Ascend 310 yang dirilis pada 2018. Ini ditujukan untuk aplikasi penalaran.

Yang lainnya adalah Ascend 910 yang dirilis pada 2019 untuk aplikasi pelatihan. Perlu dicatat bahwa ini adalah chip yang paling berdedikasi untuk kecerdasan buatan. Semuanya dirancang dan dioptimalkan secara mendalam untuk bidang tertentu.

Ini juga merupakan aspek utama yang membedakan chip khusus seperti Ascend dari chip serba guna seperti CPU dan GPU. (Central Processing Unit/CPU dan Graphics Processing Unit/GPU adalah mesin komputasi fundamental. Namun seiring berkembangnya tuntutan komputasi, tidak selalu jelas apa perbedaan antara CPU dan GPU dan beban kerja mana yang paling cocok untuk masing-masingnya.)

Sumber: anandtech.com

Dalam sistem AI, kita perlu juga membedakan masing-masing dua proses, pelatihan dan inferensi.

Misalnya, Ascend 910 terutama ditujukan untuk aplikasi pelatihan AI di cloud, sehingga kinerja chip adalah daya komputasi, yang menjadi fokus pengoptimalannya, sehingga diproduksi menggunakan proses 7nm (nanometer), dan komputasi kekuatan FP16 dapat mencapai 256TFOPS, dan daya komputasi INT8 dapat mencapai 512 TOPS, sambil mendukung decoding video full HD dari 128 saluran.

Performa ini sebenarnya lebih dari GPU pada periode yang sama. Misalnya, Nvidia V100 akan mencapai daya komputasi setinggi itu di masa depan, dan konsumsi daya tertingginya adalah GPU 310 watt, yang pada dasarnya berada di urutan besarnya yang sama.

Sebaliknya, Ascend 310 ditujukan untuk skenario inferensi, terutama di sisi seluler, jadi ini memerlukan keseimbangan tertentu antara kinerja dan konsumsi daya, karena pada dasarnya tidak mungkin menggunakan kamera pintar, kendaraan tak berawak, atau manusia. daya watt di ponsel atau jam tangan kita.

Pada saat yang sama, untuk beberapa skenario edge computing, batasan biaya penggunaan chip, kinerja chip itu sendiri secara real-time, dan keamanan juga menjadi pertimbangan penting.

Oleh karena itu, dikombinasikan dengan persyaratan ini, Ascend 310 diproduksi menggunakan Proses 12nm, yang konsumsi daya terbesar hanya 8 watt.

Dalam hal kinerja, daya komputasi FP16 mencapai 8TFLOPS, dan daya komputasi INT8 dapat mencapai 16 TOPS, dan juga mengintegrasikan saluran dekoder video full HD 16.

Jadi ini adalah daya komputasi yang sangat tinggi di bidang edge computing.

Saat ini, banyak chip struktur sebenarnya dirancang dan dikembangkan dalam bentuk sistem pada sebuah chip.

Mengambil kue sebagai contoh adalah memasukkan banyak kue kecil yang berbeda ke dalam kotak daripada langsung membuat kue yang sangat besar.

Misalnya, jika setiap kue kecil bisa dibuat terpisah, dan juga bisa dibuat dengan rasa dan ukuran yang berbeda, pada akhirnya semuanya bisa dibuat bersama. Ini tidak hanya menghemat waktu produksi tetapi juga mengurangi risiko dan biaya produksi.

Chip Huawei Ascend AI yang sama, esensinya juga merupakan satu buah sistem. Hanya saja dalamnya ada banyak modul yang berbeda pada chip, yang terdiri dari kue-kue kecil seperti yang disebutkan sebelumnya. Beberapa di antaranya bertanggung jawab atas penyimpanan data, beberapa bertanggung jawab atas antarmuka dan komunikasi, penjadwalan dan kontrol tugas. Tentu saja, yang paling penting adalah inti dari komputasi AI ini.

Kemudian dari perspektif struktur perangkat keras, fitur utama chip Ascend AI adalah inti AI -nya menggunakan arsitektur Da Vinci yang dikembangkan sendiri Huawei, termasuk Ascend 910 dan Ascend 310. Bahkan, mereka semua menggunakan core AI berdasarkan arsitektur Da Vinci.

Secara umum, arsitektur Da Vinci dapat dibagi menjadi tiga komponen utama. Menghitung perhitungan data, penyimpanan dan kontrol.

Kemudian deng menggunakan unit perhitungan ini untuk melakukan tiga operasi dasar, skalar, vektor dan tensor.

Misalnya, jumlah operasi tegangan secara khusus digunakan untuk mempercepat operasi matriks dalam aplikasi AI. Ini juga disebut unit kubus 3D (3D Cube). Ini dapat menggunakan hanya dengan satu instruksi untuk menyelesaikan operasi dua perkalian 16 x 16 matriks.

Jadi selain struktur perangkat keras chip, hal yang sama penting adalah metode pemrograman chip dan desain serta implementasi arsitektur perangkat lunak.

Inilah alasan mengapa NVIDIA GPU bersinar di bidang kecerdasan buatan dan telah banyak digunakan di bidang kecerdasan buatan, berkat pentingnya kinerja chip GPU.

Tetapi yang lebih penting, karena meluncurkan pemrograman yang matang dan mudah digunakannya kerangka CUDA. Sebaliknya, pemrograman FPGA sangat sulit, yang menyebabkan sebagian besar membatasi penggunaan FPGA yang lebih luas.

Jadi untuk chip spesifik AI semacam ini, prosesor Ascend AI juga menyediakan tumpukan perangkat lunak susun (stack) multi-layer dan rantai alat pengembangan untuk membantu pengembangan lebih baik dengan menggunakan Ascend. Keragaman perangkat lunak juga dapat menebus kerugian fleksibilitas yang tidak mencukupi.

Tumpukan perangkat lunak ini dapat dibagi menjadi 4 lapisan.

Bagian paling bawah adalah prosesor sumber daya komputasi. Sebagai contoh, CPU inti AI yang disebutkan sebelumnya juga memiliki modul perhitungan yang bertanggung jawab untuk visi digital.

Bagian atas adalah beberapa pustaka akselerasi standar, yang bertanggung jawab atas tugas tingkat operator output perangkat keras.

Selain itu, ada jadwal tugas dan beberapa modul pra-pemrosesan, dan kemudian ke atas adalah lapisan bingkai. Seperti namanya, digunakan untuk menjadwalkan dan mengelola kerangka kerja pembelajaran yang mendalam, dan menghasilkan model offline.

Yang perlu dicatat disini bahwa prosesor Ascend AI tidak hanya mendukung kerangka kerja pembelajaran mendalam arus utama, tetapi juga mendukung kerangka pembelajaran yang mendalam yang disebut MindSpore yang dikembangkan oleh MindSpore.

Kemudian melalui model jaringan saraf yang dihasilkan oleh kerangka pembelajaran yang mendalam dari MindSpore dapat dikrim langsung pada chip Ascend AI.

Dan tidak perlu beradaptasi dan mengubah perangkat keras, sehingga sangat meningkatkan efisiensi pengembangan. Lapisan terakhir dari tumpukan perangkat lunak ini adalah lapisan aplikasi. Abstraksinya adalah yang tertinggi, dan kemasannya mengintegrasikan banyak komputer di bidang khusus.

Misalnya, untuk menghitung visi, ada kemasan algoritma untuk bahasa dan teks, dan pengguna juga dapat mengambilnya langsung untuk menelepon.

Selain tingkat logika yang besar ini, Software Stack (susun) Ascend juga menyediakan rantai alat pengembangan lengkap MindStudio mencakup kompilasi dan analisis kinerja debugging, model, dan sebagainya.

Arsitektur perangkat keras dan tumpukan perangkat lunak diperkenalkan, dan tautan besar terakhir diperlukan untuk menyelesaikan loop tertutup seluruh ekologi, yaitu untuk menyediakan solusi tingkat sistem yang menggabungkan perangkat lunak dan perangkat keras.

Ini Sebenarnya Tren Chip Saat Ini.

Jadi tidak perlui apakah itu CPU GPU FPGA atau chip spesifik AI seperti itu, sebenarnya itu berkembang sesuai dengan prosedur baku seperti ini.

Sederhananya, perusahaan chip tidak hanya harus memberikan chip biasa atau tidak hebat, tetapi di samping itu, mereka juga perlu menyediakan perangkat lunak dan alat pengembangan yang mudah.

Seperti tumpukan perangkat lunak yang diperkenalkan sebelumnya, maka yang terbaik adalah memberikan desain referensi lengkap dan perangkat lunak dan sistem perangkat keras, sehingga semua orang dapat menggunakannya.

Demikianjjuga dengan chip Ascend juga menyediakan serangkaian produk perangkat keras, mulai dari modul akselerasi kecil hingga kartu akselerasi penalaran atau pelatihan, hingga server khusus, dan bahkan kluster komputasi yang terdiri dari beberapa array server.

Ini juga membangun portofolio produk yang mencakup ujung akhir dari terminal dan komputasi claud (awan), sehingga pengguna dapat memilih produk perangkat keras yang sesuai dengan kebutuhan aktual mereka.

Inilah yang dirujuk Huawei untuk seluruh cakupan kebutuhan ini.

Huawei Ascend 910 adalah prosesor AI yang paling kuat komputasinya.

Menurut informasi yang dirilis oleh Huawei, hasil tes yang sebenarnya menunjukkan bahwa Ascension 910 telah mencapai spesifikasi desain dalam hal daya komputasi.

Kinerja teknologi keseluruhan Ascend 910 melebihi ekspektasi. Sebagai prosesor AI yang paling kuat komputasi, inti dari Ascend adalah arsitektur Da Vinci yang rancag sendiri oleh Huawei.

Da Vinci dari IP ke set instruksi dibuat oleh para ahli Huawei sendiri. Seri Ascend termasuk chip AI dan AI IP.

Di antaranya, seri anoTINYLite semuanya IP. Mereka dapat menanamkan chip Huawei sendiri pada semua produk lain yang membutuhkan kemampuan AI.

Dunia luar hanya melihat bahwa Huawei terus merilis chip baru, tetapi kesulitan dan keringat yang dikorbankan dan dibayar di dalam Huawei hanya mereka sendiri yang paling paham.

Investasi dana besar dan jangka panjang dala R&D adalah kunci untuk kenaikan cepat bagi Huawei dalam beberapa tahun terakhir.

Prinsip dasar Huawei untuk investasi litbang (R&D) akan dipertahan terus lebih dari 10% dari pendapatannya untuk masa depan, dan prinsip ini akan terus dipertahankan.

Meskipun dalam dua tahun terakhir, disebabkan oleh sanksi AS yang berakibat sulit untuk berkembang, dan pendapatan telah banyak menurun, tetapi untuk investasi dana litbang tidak menurun sama sekali.

Sebelumnya, semikonduktor HiSilicon dikarenakan sanksi OEM chip oleh AS, menyebabkan sulit bagi Huawei untuk meraih keuntungan.

Huawei memberikan dukungan dana litbang untuk perusahaan, untuk menerobos hambatan dari sanksi AS, agar tetap bisa terus mendaki puncak.

Dengan investasi litbang yang tinggi untuk waktu yang lama, Huawei telah mencapai kesuksesan dalam banyak aspek.

Kini tidak hanya memimpin dunia dalam paten 5G, dan juga telah mengembangkan chip Kirin, chip Ascend telah dikembangkan denga dua sistem operasi domestik: sistem operasi Hongmeng dan sistem OpenEuler ( Euler-OS) untuk menebus situasi kurangnya chip inti Tiongkok.

Euler-OS adalah distribusi Linux komersial yang dikembangkan oleh kode komersial Huawei berdasarkan sumber kode CentOS.

Dan justru dengan akumulasi input yang cukup dari investasi R&D (litbang) jangka panjang memungkinkannya Huawei bertahan hidup, meski dengan banyaknya mendapat tekanan dari AS.

Keberhasilan Huawei telah mengkonfirmasi betapa pentingnya penelitian ilmiah bagi perusahaan teknologi.

Demikian juga bagi perusahaan terkemukakan lain seperti Apple, Google tetap maju mereka, tidak dapat dipisahkan dari investasi besar dalam penelitian ilmiah (iptek) mereka setiap tahunnya.

Sumber: Media TV da Tulisan Luar Negeri