Dengan kemajuan teknologi di bidang komputasi yang didasari oleh kecerdasan buatan (AI), fungsi dari Neural Processing Unit (NPU) menjadi semakin penting untuk meningkatkan efisiensi perangkat tanpa memberi beban tambahan pada CPU dan GPU.
Salah satu tokoh penting di balik perkembangan teknologi ini adalah Qualcomm, perusahaan yang sudah merintis inovasi pada AI on-device selama lebih dari sepuluh tahun.
Tetapi, apa sebenarnya yang membuat NPU Snapdragon X berbeda dari para pesaingnya?
NPU Bukan Sekadar TOPs
Di sektor kecerdasan buatan, kinerja dari NPU sering kali dinilai melalui skor Tera Operations Per Second (TOPs).
Namun, sesuai dengan Nitin Kumar, Wakil Presiden Pengelolaan Produk di Qualcomm, tidak semua NPU diciptakan secara setara.
Tidak semua Neural Processing Units (NPU) diciptakan sama. Memiliki sejumlah TOPs saja tidak menjamin bahwa NPU tersebut mempunyai kapabilitas yang serupa.
Misalnya saja, Qualcomm sudah membawa NPU ke dalam prosesornya untuk perangkat seluler sejak lebih dari satu dekade yang lalu, jauh sebelum para pesaing mulai meluncurkan fitur semacam itu.
Snapdragon X Elite, yang saat ini dipakai dalam laptop Windows, dilengkapi dengan NPU sebesar 45 TOPs, sedangkan pesaingnya yang baru merilis NPU-nya tahun 2023 hanya mencapai angka sekitar 20 TOPs.
Efisiensi: Muatan AI pada NPU Qualcomm, Bukan di CPU
Pada tes komparasi kinerja, Qualcomm memperlihatkan bahwa Snapdragon X lebih efisien dalam mengelola kecerdasan buatan daripada arsitektur x86.
Pada demonstrasi tersebut, dua notebook dengan NPU 40+ TOPs dipakai untuk menguji coba aplikasi kecerdasan buatan yang serupa. Berikut hasilnya:
-
Laptop berbasis Snapdragon X Elite hanya mengonsumsi sekitar 4-5% daya CPU, karena beban kerja telah dipindahkan secara keseluruhan ke NPU yang dirancang untuk kinerja hemat energi.
-
Laptop yang menggunakan basis x86 malah melihat peningkatan penggunaan CPU sebesar 20-30%. Ini terjadi karena NPU mereka tidak bisa beroperasi dengan efisien saat menangani tugas-tugas kecerdasan buatan.
Artinya, walaupun kedua-duanya memiliki skor TOPs yang hampir sama, arsitektur yang lebih efisien membuat Snapdragon X dapat mengelola kecerdasan buatan dengan konsumsi daya yang lebih sedikit serta kinerja yang superior daripada processor pesaingnya.
Ekosistem AI Qualcomm
Di luar penawaran kinerja dan efisiensi energi superior, Qualcomm turut membantu para pembuat perangkat lunak untuk menciptakan aplikasi yang didukung kecerdasan buatan dengan lebih mudah.
Dengan AI Hub for Compute, para pengembang bisa mendapatkan akses ke lebih dari 100 model AI yang sudah dioptimalkan sebelumnya dan siap untuk dipasukkan serta disinkronkan dengan aplikasi mereka.
“Telah berinvestasi lebih dari sepuluh tahun dalam pengembangan alat-alat dan sistem ekologi kecerdasan buatan, kami sekarang memungkinkan para pembuat kode untuk dengan cepat mendapatkan akses ke model-model AI, meningkatkan performanya, serta meluncurkan program-program mereka pada perangkat Snapdragon X hanya dalam beberapa menit,” jelas Kumar.
Fitur ini sangat menguntungkan para pembuat aplikasi, sebab memungkinkan mereka merancang serta mencoba program baru tanpa harus membuat kembali kode dari dasar agar sesuai dengan struktur NPU Qualcomm.
Berdasarkan pengalamannya yang luas dalam bidang teknologi seluler, Qualcomm berhasil menciptakan NPU yang tak hanya menawarkan skor TOPs tinggi, melainkan juga dibuat dengan pertimbangan efisiensi energi yang signifikan.
Snapdragon X sudah teruji lebih unggul dalam mengelola beban kerja kecerdasan buatan daripada pesaing berbasis x86, karena desainnya yang dioptimalkan memungkinkan AI beroperasional tanpa memberatkan prosesor utama.
Dengan peningkatan pemakaian AI di era perhitungan kontemporer, kemampuan Qualcomm untuk menghasilkan NPU yang efisien energi, kuat, dan bersahabat dengan para pembuat aplikasi dapat menjadikan hal ini sebagai pembeda utama bagi posisi mereka dalam arena bisnis.
(*)
