آنچه باید در مورد شتاب‌دهنده‌های سخت‌افزاری هوش مصنوعی بدانید: NPUها، TPUها و فراتر از آنها

بازدید: 6 بازدید
آنچه باید در مورد شتاب‌دهنده‌های سخت‌افزاری هوش مصنوعی بدانید: NPUها، TPUها و فراتر از آنها

با شتاب گرفتن چشم‌انداز فناوری مالزی – از استارت‌آپ‌های مبتنی بر هوش مصنوعی گرفته تا متخصصانی که دفاتر خانگی خود را ارتقا می‌دهند – درک سخت‌افزار پشت هوش مصنوعی هرگز تا این حد مهم نبوده است. شتاب‌دهنده‌های سخت‌افزاری هوش مصنوعی، پردازنده‌های تخصصی هستند که حجم کار هوش مصنوعی را سریع‌تر و کارآمدتر از پردازنده‌های مرکزی عمومی مدیریت می‌کنند. سه نوع اصلی – NPU برای هوش مصنوعی روی دستگاه در  لپ‌تاپ‌ها و رایانه‌های شخصی ، TPU برای یادگیری ماشین در مقیاس بزرگ در فضای ابری و GPU برای توسعه هوش مصنوعی همه‌کاره و رندر گرافیکی – هر کدام به کاربران مختلف و نیازهای متفاوتی خدمت می‌کنند. درک تفاوت‌های آنها به شما کمک می‌کند تا تعیین کنید کدام یک برای شما مناسب است یا اینکه آیا اصلاً به یکی از آنها نیاز دارید یا خیر.

شتاب سخت‌افزاری چیست؟

شتاب سخت‌افزاری، استفاده از پردازنده‌های تخصصی برای انجام وظایف محاسباتی هوش مصنوعی سریع‌تر و کارآمدتر از یک CPU عمومی است. در حالی که CPUها طیف گسترده‌ای از وظایف را با استفاده از داده‌های ساختاریافته (مانند فایل‌ها و پایگاه‌های داده با فرمت‌های خاص) انجام می‌دهند، حجم کاری هوش مصنوعی نیاز به پردازش حجم عظیمی از داده‌های بدون ساختار مانند متن و تصاویر دارد. این تفاوت اساسی دلیل نیاز محاسبات هوش مصنوعی به سخت‌افزارهای هدفمند است.

شتاب‌دهنده‌های هوش مصنوعی – شامل NPUها، TPUها و GPUها – برای بارهای کاری خاص برنامه بهینه شده‌اند که در آن‌ها عملیات ریاضی یکسانی باید تریلیون‌ها بار به‌طور همزمان انجام شود. یک CPU استاندارد به سادگی نمی‌تواند با این سطح از کارایی موازی برای وظایف هوش مصنوعی مطابقت داشته باشد.

واحد پردازش عصبی (NPU) چیست؟

NPU یا واحد پردازش عصبی، یک ریزپردازنده تخصصی است که برای تسریع وظایف هوش مصنوعی روی دستگاه طراحی شده است. NPUها در رایانه‌های شخصی، لپ‌تاپ‌های هوش مصنوعی و دستگاه‌های تلفن همراه تعبیه شده‌اند و به آنها امکان می‌دهند بارهای کاری هوش مصنوعی را به صورت محلی و بدون تکیه بر سرورهای ابری اجرا کنند.

با یک دستگاه مجهز به NPU، می‌توانید:

  • از ویژگی‌های هوش مصنوعی ویندوز ۱۱ نهایت استفاده را ببرید و از Microsoft Copilot به طور کارآمد استفاده کنید، از جمله رونویسی در لحظه و دستورات صوتی.
  • تماس‌های ویدیویی پیشرفته با هوش مصنوعی را با ویژگی‌هایی مانند تار کردن پس‌زمینه و قاب‌بندی خودکار برقرار کنید
  • با استفاده از ابزارهای هوش مصنوعی روی دستگاه برای ویرایش عکس، بهبود ویدیو و موارد دیگر، روی تصاویر، ویدیوها و متن کار کنید

پردازش هوش مصنوعی لبه‌ای چگونه با NPUها کار می‌کند؟

دستگاه‌های بدون NPU هنوز می‌توانند برخی از وظایف هوش مصنوعی را انجام دهند، اما باید حجم کار را به سرورهای راه دور (پردازش ابری) ارسال کنند و پاسخ‌ها را به کاربر برگردانند. دستگاهی که NPU دارد، این وظایف را به صورت محلی با استفاده از شتاب سخت‌افزاری انجام می‌دهد. به این فرآیند، پردازش هوش مصنوعی لبه‌ای می‌گویند: مرحله استنتاج به جای ابر، روی خود دستگاه اتفاق می‌افتد، به این معنی که مدل هوش مصنوعی به صورت محلی اجرا می‌شود.

پردازش هوش مصنوعی لبه‌ای، زمان پاسخ سریع‌تر، حریم خصوصی بهتر (از آنجا که داده‌ها روی دستگاه باقی می‌مانند) و امکان استفاده از ویژگی‌های هوش مصنوعی بدون اتصال به اینترنت را فراهم می‌کند – یک مزیت بسیار مفید در مناطقی با اتصال ناپایدار.

TOPS چه تاثیری بر عملکرد NPU دارد؟

معماری NPU مبتنی بر پردازش موازی است: این واحد، عملیات ریاضی یکسانی را تریلیون‌ها بار تکرار می‌کند و در عین حال داده‌ها را با کمترین میزان ممکن جابجا می‌کند. عملکرد NPU با استفاده از معیار TOPS اندازه‌گیری می‌شود که مخفف «تریلیون‌ها عملیات در ثانیه» است. به عنوان مثال، ۱ TOPS به این معنی است که NPU می‌تواند یک تریلیون عملیات در ثانیه انجام دهد، در حالی که ۹۹ TOPS به این معنی است که می‌تواند نود و نه تریلیون عملیات در ثانیه انجام دهد.

TOPS را معادل اسب بخار برای NPU در نظر بگیرید. برای اکثر کاربران، ۴۰ TOPS کافی است و این حداقل مقدار مورد نیاز برای کسب گواهینامه Copilot+ توسط یک دستگاه است.

NPU TOPS بر اساس دستگاه:

به خاطر داشته باشید که مقدار بالای TOPS به تنهایی عملکرد بهینه هوش مصنوعی را تضمین نمی‌کند. عواملی مانند ادغام سیستم، پهنای باند حافظه موجود و کیفیت بهینه‌سازی نرم‌افزار نیز نقش دارند. TOPS مورد نیاز شما بسته به اینکه اولویت شما بهره‌وری انرژی، رفتار پایدار مدل یا قدرت محاسباتی خام باشد، متفاوت خواهد بود. در حالی که در حال حاضر 40 TOPS برای ویژگی‌های هوش مصنوعی ویندوز 11 کافی است، هنگام انتخاب دستگاه، مورد استفاده خاص خود را در نظر بگیرید.

TPU (واحد پردازش تنسور) چیست؟

TPU یا واحد پردازش تنسور، یک تراشه شتاب‌دهنده هوش مصنوعی است که توسط گوگل توسعه داده شده و به طور خاص برای حجم کار یادگیری ماشینی طراحی شده است. TPUها برای ریاضیات تنسوری – ضرب‌ها و تجمع‌های ماتریسی بزرگ – که عملیات اصلی پشت آموزش و اجرای مدل‌های هوش مصنوعی هستند، بهینه شده‌اند.

تفاوت بین آموزش هوش مصنوعی و استنتاج چیست؟

آموزش فرآیند آموزش یک مدل هوش مصنوعی با تغذیه داده‌ها، انجام پیش‌بینی‌ها، اندازه‌گیری دقت و تکرار میلیون‌ها باره‌ی این چرخه است. استنتاج فرآیند استفاده از یک مدل آموزش‌دیده برای تولید نتایج است. واحدهای پردازش مرکزی (TPU) هم برای آموزش و هم برای استنتاج طراحی شده‌اند، در حالی که واحدهای پردازش مرکزی (NPU) فقط برای استنتاج استفاده می‌شوند.

TPU ها در مراکز داده، محیط‌های آموزش یادگیری ماشین و فرآیندهای استنتاج در مقیاس بزرگ استفاده می‌شوند. به همین دلیل، آنها در دستگاه‌های مصرفی یافت نمی‌شوند. اگر در عملیات مرکز داده یا یادگیری ماشین سازمانی کار نمی‌کنید، به TPU نیازی ندارید.

TPU در مقابل GPU: چگونه آنها را برای یادگیری ماشین مقایسه کنیم؟

ویژگی پردازنده گرافیکی تی پی یو
هدف اصلی محاسبات موازی شتاب ریاضی تانسوری
مورد استفاده یادگیری ماشین و رندر گرافیکی فقط یادگیری ماشین
قدرت قدرت محاسبات موازی عظیم راندمان بالا برای ضرب ماتریس‌ها
بهترین برای مدل‌های هوش مصنوعی سفارشی و حجم‌های کاری مختلط یادگیری عمیق در مقیاس بزرگ
بهره‌وری انرژی متوسط عالی
دسترسی ابری عریض (AWS، Azure و غیره) گوگل کلود

چگونه از پردازنده‌های گرافیکی (GPU) برای حجم کاری هوش مصنوعی استفاده می‌شود؟

پردازنده‌های گرافیکی (GPU) یا واحدهای پردازش گرافیکی (GPUs) در ابتدا برای رندر گرافیکی توسعه داده شدند، اما قابلیت‌های پردازش موازی آنها، آنها را برای محاسبات هوش مصنوعی نیز مناسب می‌کند. به عنوان مثال، هسته‌های CUDA در پردازنده‌های گرافیکی NVIDIA® وظایف را به زیر وظایف کوچکتر تقسیم کرده و آنها را همزمان اجرا می‌کنند، که برای عملیات ریاضی تکراری که حجم کار هوش مصنوعی به آن نیاز دارد، ایده‌آل است.

پردازنده‌های گرافیکی (GPU) در سناریوهای زیر انتخاب قدرتمندی برای وظایف هوش مصنوعی هستند:

  • آموزش مدل‌های هوش مصنوعی، که شامل تکرار میلیون‌ها بار محاسبات یکسان است
  • تجزیه و تحلیل تصاویر، ویدیوها یا فایل‌های صوتی، که انواع داده‌های یکنواختی هستند که می‌توانند به صورت موازی پردازش شوند
  • توسعه برنامه‌های کاربردی مبتنی بر مدل‌های بزرگ از پیش آموزش‌دیده (مانند دستیار به سبک ChatGPT)، که در آن‌ها ضرب‌های ماتریسی عظیم، عملیات اصلی هستند.

با این حال، پردازنده‌های گرافیکی (GPU) به طور قابل توجهی انرژی بیشتری نسبت به NPU مصرف می‌کنند. اگر مصرف بالای انرژی نگران‌کننده نیست، به پردازش لبه‌ای با تأخیر کم نیاز ندارید و با مدل‌های بزرگ کار می‌کنید، پردازنده‌های گرافیکی (GPU) انتخاب قدرتمندی هستند. برای حداکثر عملکرد و پایداری،  طیف وسیعی از دسکتاپ‌ها و ایستگاه‌های کاری تجاری HP را که دارای پردازنده‌های گرافیکی NVIDIA® هستند، در نظر بگیرید.

NPU در مقابل GPU: کدام یک برای کارهای هوش مصنوعی مصرف‌کنندگان بهتر است؟

ویژگی ان پی یو پردازنده گرافیکی
هدف اصلی هوش مصنوعی اج (روی دستگاه) محاسبات موازی
قدرت استنتاج با تأخیر کم و مصرف توان پایین قدرت و انعطاف‌پذیری محاسبات موازی
بهترین برای هوش مصنوعی پس‌زمینه همیشه روشن کدنویسی یا هوش مصنوعی مرتبط با گرافیک
بهره‌وری انرژی عالی متوسط
تأثیر باتری عمر باتری تمام روز باتری را سریع خالی می‌کند

NPU در مقابل TPU در مقابل GPU: تفاوت‌های کلیدی در یک نگاه

نوع شتاب‌دهنده بهترین برای مزایای کلیدی موارد استفاده معمول در دسترس بودن
واحد پردازش عصبی (NPU) استنتاج هوش مصنوعی روی دستگاه بهره‌وری انرژی، تأخیر کم، حریم خصوصی کامپیوترهای شخصی هوش مصنوعی، لپ‌تاپ‌ها، ویژگی‌های بلادرنگ دستگاه‌های مصرفی
TPU (واحد پردازش تنسور) آموزش و استنتاج یادگیری ماشین در مقیاس بزرگ بهینه‌سازی عملیات تانسور، مقیاس‌پذیری مراکز داده، هوش مصنوعی ابری، تحقیقات سرویس‌های ابری
پردازنده گرافیکی (GPU) حجم کاری متنوع هوش مصنوعی انعطاف‌پذیری، پشتیبانی گسترده نرم‌افزاری بازی، تولید محتوا، توسعه ML مصرف کننده تا متخصص

به کدام شتاب‌دهنده هوش مصنوعی نیاز دارید؟

شتاب‌دهنده هوش مصنوعی مناسب به مورد استفاده شما بستگی دارد:

  • بهره‌وری روزمره و ویژگی‌های هوش مصنوعی →  یک کامپیوتر شخصی مجهز به NPU، مانند  لپ‌تاپ HP OmniBook X AI
  • تولید محتوای حرفه‌ای و توسعه یادگیری ماشین →  یک ایستگاه کاری مجهز به پردازنده گرافیکی، مانند  کامپیوتر شخصی ایستگاه کاری موبایل HP ZBook Power G9 
  • استقرار یادگیری ماشین سازمانی →  دسترسی به TPU ابری

اگر یک دستیار هوش مصنوعی می‌خواهید که به دستورات صوتی پاسخ دهد، نیاز به ویرایش عکس‌ها و ویدیوها روی دستگاه دارید و می‌خواهید به ویژگی‌های هوش مصنوعی ویندوز ۱۱ دسترسی کامل داشته باشید، یک کامپیوتر شخصی مجهز به هوش مصنوعی با واحد پردازش عصبی (NPU) انتخاب مناسبی است. اگر در حال توسعه نرم‌افزار هستید، با مدل‌های یادگیری ماشین کار می‌کنید یا از ابزارهای حرفه‌ای تولید محتوا که از هسته‌های CUDA (مانند Adobe® AI) استفاده می‌کنند، استفاده می‌کنید، یک ایستگاه کاری مجهز به GPU گزینه بهتری است. برای بارهای کاری یادگیری ماشین در سطح سازمانی، TPUها مقیاس و کارایی مورد نیاز شما را فراهم می‌کنند.

سوالات متداول در مورد شتاب‌دهنده‌های سخت‌افزاری هوش مصنوعی

آیا به NPU در لپ‌تاپم نیاز دارم؟

اگر می‌خواهید وظایف هوش مصنوعی مستقیماً روی دستگاه شما و نه در فضای ابری پردازش شوند، به یک NPU نیاز دارید. به این فرآیند، پردازش هوش مصنوعی لبه‌ای می‌گویند که در آن مدل هوش مصنوعی به صورت محلی روی رایانه شخصی، لپ‌تاپ یا دستگاه تلفن همراه شما اجرا می‌شود. پردازش روی دستگاه، زمان پاسخ سریع‌تر، حریم خصوصی بهبود یافته و قابلیت هوش مصنوعی آفلاین را فراهم می‌کند.

آیا پردازنده گرافیکی (GPU) می‌تواند جایگزین NPU برای وظایف هوش مصنوعی شود؟

یک پردازنده گرافیکی (GPU) می‌تواند برخی از وظایف هوش مصنوعی را که یک NPU انجام می‌دهد، انجام دهد، اما فقط در سناریوهای خاص – مانند هنگام توسعه نرم‌افزاری که به میلیون‌ها محاسبه مکرر نیاز دارد. پردازنده‌های گرافیکی جایگزین ایده‌آلی برای استفاده روزمره از هوش مصنوعی نیستند زیرا آنها انرژی بسیار بیشتری مصرف می‌کنند و برای پردازش پس‌زمینه با تأخیر کم و همیشه روشن که NPUها به طور مؤثر انجام می‌دهند، بهینه نشده‌اند.

TOPS به چه معناست و من به چه مقدار از آن نیاز دارم؟

TOPS مخفف «تریلیون‌ها عملیات در ثانیه» است و تعداد عملیاتی را که یک NPU می‌تواند در هر ثانیه اجرا کند، اندازه‌گیری می‌کند. برای اکثر مصرف‌کنندگان، ۴۰ TOPS یک مقدار پایه کافی است. این همچنین حداقل مقدار مورد نیاز برای گواهینامه Copilot+ PC است.

آیا TPU ها در لپ تاپ های مصرفی موجود هستند؟

خیر. TPUها به طور خاص برای وظایف یادگیری ماشینی در سطح سازمانی ساخته شده‌اند و منحصراً در مراکز داده و محیط‌های ابری استفاده می‌شوند. آن‌ها در دستگاه‌های مصرفی موجود نیستند.

همین امروز از شتاب هوش مصنوعی بهره ببرید

شتاب‌دهنده‌های هوش مصنوعی برای مقیاس‌ها و موارد استفاده مختلف ساخته شده‌اند: NPUها هوش مصنوعی را به محاسبات روزمره می‌آورند، GPUها تطبیق‌پذیری را برای توسعه و کارهای خلاقانه ارائه می‌دهند و TPUها نیازهای یادگیری ماشینی سازمانی را برآورده می‌کنند. شتاب‌دهی هوش مصنوعی به سرعت در حال تبدیل شدن به یک ویژگی استاندارد در دستگاه‌های مصرفی است.

 برای یافتن یک کامپیوتر شخصی مجهز به هوش مصنوعی با فناوری NPU یکپارچه،  طیف کامل لپ‌تاپ‌ها و تبلت‌های اچ‌پی را بررسی کنید  ، یا برای ایستگاه‌های کاری مجهز به پردازنده گرافیکی، طیف دسکتاپ‌های اچ‌پی را مرور کنید  – و قدرت هوش مصنوعی را به زندگی روزمره و حرفه‌ای خود بیاورید.

دسته‌بندی بلاگ
اشتراک گذاری
نوشته های مرتبط
دیدگاهتان را بنویسید

نشانی ایمیل شما منتشر نخواهد شد. بخش‌های موردنیاز علامت‌گذاری شده‌اند *