بعد از CPU و GPU، واژه NPU جدید است و هر شرکتی از قدرت NPU برای ارائه ویژگی ها و تجربیات هوش مصنوعی مولد استفاده می‌کند. رایانه‌های شخصی Copilot+ با پردازنده های سری اسنپدراگون X کوالکام عرضه می‌شوند که دارای یک NPU قدرتمند هستند و تا ۴۵ TOPS (تریلیون عملیات در ثانیه) را ارائه می‌دهند.
آخرین موتور عصبی اپل با نام NPU می‌تواند تا 38 TOPS را ارائه دهد. اینتل و AMD همچنین آماده عرضه NPU های نسل بعدی خود برای پلتفرم های Lunar Lake (48 TOPS) و Strix Point (50 TOPS) هستند. با تبلیغات زیاد در مورد NPU ها، این سوال پیش میآید که NPU چیست و دقیقا چه کاری انجام می‌دهد؟ برای پاسخ به تمام سوالات شما، در ادامه در دانوتک توضیحی در مورد NPU ارائه شده است.
NPU چیست؟
NPU مخفف واحد پردازش عصبی است و به طور خاص برای انجام وظایف مرتبط با هوش مصنوعی طراحی شده است. وقتی می‌گویم وظایف مرتبط با هوش مصنوعی، به این معنی است که NPU می‌تواند شبکه‌های عصبی، وظایف یادگیری ماشین و بارهای کاری هوش مصنوعی را پردازش کند.
انواع خاصی از محاسبات ریاضی برای وظایف هوش مصنوعی انجام می‌شود و رایج‌ترین آنها ضرب ماتریس است (همچنین «matmul» نامیده می‌شود). NPU ها برای انجام سریع این عملیات ضرب ماتریس طراحی شده‌اند.
علاوه بر این، برای هر کار هوش مصنوعی، پردازش موازی از اهمیت بالایی برخوردار است، جایی که شبکه های عصبی به طور همزمان بسیاری از عملیات را پردازش می‌کنند. بنابراین، NPUها شتاب دهنده های تخصصی دارند که موازی سازی را در مقیاس بزرگ باز می‌کنند. همراه با حافظه با پهنای باند بالا، NPU ها می‌توانند به سرعت عملیات matmul موازی را در چندین هسته انجام دهند.
بنابراین به طور خلاصه، NPU ها به طور خاص برای وظایف هوش مصنوعی طراحی شده‌اند که در آن تمرکز بر باز کردن قفل موازی، اجرای عملیات matmul بسیار سریع و فعال کردن مقیاس پذیری است. به خاطر داشته باشید که شرکت های مختلف NPU ها را متفاوت می‌نامند. گوگل آن را TPU (واحد پردازش تنسور) و اپل آن را موتور عصبی می‌نامد.
NPU چه تفاوتی با CPU و GPU دارد؟
همانطور که در بالا گفتم، NPU ها به طور خاص وظایف مرتبط با هوش مصنوعی را انجام می‌دهند، به این معنی که یک واحد پردازش خاص برنامه است. در حالی که CPU یک واحد پردازش همه منظوره است که باید وظایف مختلفی را انجام دهد.
به عنوان مثال، CPUها می‌توانند عملیات سیستم عامل و برنامه های عمومی را مدیریت کنند. تطبیق پذیری آن این است که می‌تواند هر چیزی را که به سمت آن پرتاب کنید، تحمل کند. CPUها در کارهای تک رشته‌ای بسیار خوب هستند، اما در کارهای موازی بسیار ناکارآمد هستند.
در مرحله بعد، GPU برای رندر کردن گرافیک ساخته شده است، به این معنی که در قدرت بخشیدن به بازی ها و ایجاد شبیه سازی بسیار خوب است. پردازنده‌های گرافیکی نزدیک‌ترین به NPUها هستند، زیرا می‌توانند وظایف را به صورت موازی انجام دهند. به همین دلیل است که پردازنده‌های گرافیکی می‌توانند وظایف مرتبط با هوش مصنوعی را نیز انجام دهند و به طور گسترده برای آموزش مدل‌های هوش مصنوعی استفاده می‌شود. گفتنی است، از آنجایی که NPU ها فقط برای عملیات های مرتبط با هوش مصنوعی طراحی شده اند، از نظر سرعت و کارایی بهتر عمل می‌کنند.
به خاطر داشته باشید، در روزهای اولیه محاسبات، زمانی که GPU یا NPU وجود نداشت، CPU به طور کامل گرافیک را با استفاده از رندر نرم افزار مدیریت می‌کرد. با پیشرفت تکنولوژی در دهه 1990، GPUها برای مدیریت گرافیک از طریق سخت افزار اختصاصی وارد شدند. و اکنون، ما شاهد عصر NPUها هستیم.
همه این واحدهای محاسباتی اکنون برای کارهای تخصصی توسعه داده شده‌اند تا CPU برای انواع کارها تحت فشار قرار نگیرد. این منجر به کارایی و عملکرد بهتر می‌شود. در حالی که NPU ها در حال محبوب شدن هستند، به خاطر داشته باشید که GPU ها هنوز به طور گسترده برای آموزش مدل های هوش مصنوعی استفاده می‌شوند. و NPU ها در حال حاضر به طور گسترده برای آزمایشات استفاده می‌شوند. با این حال، گوگل مدل Gemini خود را به طور کامل بر روی NPU خود آموزش داده است.
کاربردهای NPU در لپ تاپ چیست؟
NPU ها یا شتاب دهنده های سخت افزاری تخصصی هوش مصنوعی در ابتدا توسط شرکت های بزرگ برای پردازش موازی استفاده میشدند. با این حال، محصولات مصرفی مانند لپ‌تاپ و تلفن‌های هوشمند اکنون NPU دارند. برای مثال، رایانه‌های شخصی Copilot+ جدید مایکروسافت دارای یک NPU قدرتمند است که می‌تواند ویژگی‌هایی مانند Recall را تامین کند، که در حال حاضر به تعویق افتاده است اما به زودی در چند ماه آینده عرضه می‌شود.
Recall از صفحه اسکرین شات می‌گیرد، داده های روی دستگاه را با استفاده از NPU پردازش می‌کند و یک نمایه برداری ایجاد می‌کند. اگر CPU یا GPU پردازش داده‌ها بود، منجر به تخلیه باتری می‌شد. اما اکنون که یک NPU اختصاصی داریم، می‌تواند به طور موثر عملیات هوش مصنوعی را بدون آسیب رساندن به عمر باتری یا استرس CPU یا GPU انجام دهد.
به طور مشابه، NPUهای اختصاصی دارای ویژگی‌های قدرتمندی مانند Cocreator در MS Paint، تولید تصاویر در برنامه Photos، حذف پس‌زمینه از کلیپ‌های ویدئویی، اعمال جلوه‌های بصری با استفاده از Magic Mask در DaVinci Resolve، فریم‌های پیشرفته در بازی‌ها، اعمال افکت‌های Windows Studio، تولید واقعی هستند.
با گذشت زمان، کاربرد NPU ها فقط گسترده‌تر می‌شود. CPU و GPU را از انجام چنین وظایفی آزاد می‌کند و دستگاه را بهینه‌تر می‌کند
از سوی دیگر، اپل از موتور عصبی خود که NPU نامیده می‌شود، برای تقویت بسیاری از ویژگی‌های هوش اپل در iOS، iPadOS و macOS استفاده می‌کند. مدل هوش مصنوعی روی دستگاه از موتور عصبی برای خلاصه کردن ایمیل‌ها، اولویت‌بندی اعلان‌ها، تولید خلاصه‌ای از تماس‌های ضبط‌شده، تولید تصاویر و موارد دیگر استفاده می‌کند. سیری جدید همچنین از موتور عصبی برای پردازش بسیاری از وظایف هوش مصنوعی استفاده می‌کند.
به زبان ساده، NPU یک شتاب‌دهنده سخت‌افزاری جدید است که می‌تواند امکانات جدیدی را در عصر هوش مصنوعی باز کند. این تازه شروع کار است و در آینده نزدیک امکان استفاده از برنامه ها و تجربیات جدید مبتنی بر NPU وجود خواهد داشت.
