Какво означава „field programmable array“?
Пълният термин е Field Programmable Gate Array (FPGA) — програмируема логическа матрица. FPGA реализира конфигурируема цифрова логика; NPU ускорява поддържаните операции на невронни мрежи. Изборът зависи от действителния път на сигнала. Обработката с FPGA може да е полезна за паралелни интерфейси или чувствително към времето събиране на данни, а NPU може да опрости поддържана задача за изпълнение на модел.
От развойна FPGA платка до продукт по поръчка
FPGA платката доказва само част от системата. Индивидуалният проект изисква и последователност на включване на захранванията, тактова организация, интерфейси към паметта, топлинен проект и повторяем метод за изпитване. Сравнете труда за проектиране и проверка на FPGA с MPU или FPGA архитектура тип система върху чип. Разходите за FPGA включват инженерна работа, инструменти, сложност на платката и производствени изпитвания, както и самия чип.
Какво е AI MPU?
Платформа MPU, съвместима с изкуствен интелект, съчетава приложен микропроцесор със софтуера и ресурсите за ускорение, необходими за натоварване с машинно обучение. Започнете, като идентифицирате кои задачи принадлежат на процесора и кои се възползват от поддържан ускорител.
MPU или приложен микропроцесор обикновено е софтуерен център на вградена система Linux. „AI MPU“ не е отделна категория процесори, а MPU платформа, която включва или работи в тясно сътрудничество с ресурси за ускорение като NPU, GPU, DSP или FPGA. MPU хоства Linux, работа в мрежа, съхранение, услуги за сигурност, логика на приложенията и време за изпълнение, което координира натоварванията на AI.
За машинното обучение MPU практическият въпрос не е само скоростта на процесора. Ширина на честотната лента на паметта, поддръжка на ускорител, камера и високоскоростни I/O, Linux BSP качество, дългосрочна наличност, термичен дизайн и зрялост на инструменталната верига на модела често имат повече значение от заглавната TOPS стойност.
Какво прави MPU добра платформа с изкуствен интелект?
Най-добрият MPU за изкуствен интелект е специфичен за натоварването. Визуалният шлюз може да даде приоритет на MIPI CSI, хардуерни видеопроводи и NPU. Един здрав мисионерски компютър може да се нуждае от PCIe, множество Ethernet портове, детерминистични придружаващи ядра и по-силни функции за сигурност. Една индустриална платформа може да оцени дългия живот на продукта, TSN, CAN-FD и стабилна екосистема Linux.
Сравнете действителния модел и пълната верига за предварителна обработка. Платформа с по-ниска рекламирана стойност на ускорителя може да спечели, ако избягва копията на паметта, поддържа необходимите оператори и поддържа пътя от сензора до резултата ефективен.
NPU: ефективно невронно заключение на ръба
Edge NPU ускорява операторите на невронни мрежи като навивки, матрични операции и общи функции за активиране. Обикновено това е най-ефективното място за поддържани модели за откриване, класифициране, сегментиране и извличане на характеристики, когато мощността и пропускателната способност на устойчивото заключение са от значение.
Производителността на NPU зависи от компилацията и покритието на оператора. Неподдържаните слоеве може да се върнат към процесора или друг ускорител. Изискванията за квантуване, тензорните оформления, разделителната способност на входа и движението на паметта също могат драстично да променят производителността в реалния свят. Винаги сравнявайте производствената графика, вместо да разчитате само на теоретичния TOPS.
FPGA: детерминистични тръбопроводи и AI изводи, където гъвкавостта има значение
FPGA се отличава с детерминистично движение на данни, персонализирани интерфейси и масивни паралелни конвейери. В крайните системи той може да десериализира сензори, да подравнява времеви отпечатъци, да филтрира данни, да генерира региони на интерес, да извършва предварителна обработка на изображения и да захранва ускорител с предвидима латентност. FPGA AI извод също е възможен, когато моделът се съпоставя добре с наличния DSP, памет и стека за ускоряване на доставчика.
Компромисът е инженерно усилие. RTL или HLS дизайн, симулация, затваряне във времето, проверка и стратегия за актуализиране трябва да бъдат планирани. Трябва да се избере FPGA, защото детерминистичното поведение или персонализираният паралелизъм създава системна стойност - не просто защото може да изпълнява аритметика.
NPU срещу FPGA за edge AI
Решението NPU срещу FPGA често е фалшив двоичен код. NPU обикновено е по-лесният избор за поддържани невронни мрежи и висока производителност на ват. FPGA е по-силен, когато системата се нуждае от персонализирани сензорни интерфейси, детерминистична предварителна обработка, необичайни формати на данни или строго контролиран конвейер преди и след извод.
Общата архитектура използва и двете: FPGA за поглъщане и предварителна обработка на сензора, NPU за невронната мрежа и MPU за Linux оркестрация. Това намалява количеството нередовна работа, наложена на всеки един процесор.
| Ресурс | Най-подходящи работни натоварвания | Основни ограничения |
|---|---|---|
| FPGA | Детерминистични тръбопроводи, персонализиран I/O, времеви печат, предварителна обработка, специализирано ускорение | RTL/HLS усилия, проверка, ресурси на устройството |
| NPU | Поддържани невронни изводи с добра производителност на ват | Операторска поддръжка, компилатор/време за изпълнение, квантуване и движение на паметта |
| MPU | Linux приложения, работа в мрежа, съхранение, киберсигурност, оркестрация | По-малко детерминистично изпълнение; режийни разходи за общо предназначение |
| MCU / RT ядро | Контролни вериги, надзор на безопасността, последователност на захранването, детерминистичен I/O | Ограничена памет и изчисления на високо ниво |
Edge computing
- Започнете със срокове: идентифицирайте кои сигнали имат трудни изисквания за синхронизиране и максималното забавяне на сензора до действие.
- Скорости на картографски данни: изчислява пропускателната способност на сензора, междинните размери на тензора и трафика на паметта в най-лошия случай.
- Дръжте детерминистичното поглъщане близо до интерфейса: FPGA, DMA двигатели или ядра в реално време често са подходящи.
- Поставете поддържаните невронни модели на NPU: валидирайте покритието на оператора и действителната компилирана производителност.
- Използвайте MPU за системата: работа в мрежа, съхранение, актуализации, регистриране, API и политика за приложения принадлежат естествено към Linux.
- Резервен контрол в реално време: MCU или детерминистично ядро трябва да контролира критичното за времето задействане и здравето на платформата, когато е необходимо.
Честотната лента на паметта често е скритото тясно място
Много крайни дизайни на AI се фокусират върху изчислителните пикове и по-късно откриват, че копията, преобразуването на цветовете, преформатирането на тензора или споделеното DDR доминират латентността. Пътищата с нулево или ниско копиране, топологията на DMA, поведението на кеша и достъпът до паметта на ускорителя трябва да бъдат оценени рано. Термичното дроселиране също може да превърне силен бенчмарк в слаба устойчива производителност.
Това е особено важно, когато множество камери, радари, сензори за събития или високоскоростни Ethernet потоци споделят една и съща подсистема на паметта.
Примери за референтна архитектура
Визия / тръбопровод за сензор за събития
Сензор → FPGA приемане и времево клеймо → NPU извод → MPU услуги за вземане на решения → CAN-FD или Ethernet изход. Това е силен модел за възприятие с ниска латентност и се свързва директно с нашия .
Вграден AI компютър
Високоскоростен I/O → DMA / ускорителен път → NPU или GPU извод → Linux услуги за приложения → съхранение и мрежови API. Нашите вграден изчислителен модул и здрав крайен компютър продуктовите класове са изградени около този тип разделяне.
Индустриален детерминистичен портал
CAN-FD / сериен / Ethernet интерфейси → FPGA или MCU времеви печат и обработка на протоколи → MPU услуги → опционални NPU анализи. Тук детерминираният I/O и дългосрочната поддръжка на софтуера могат да бъдат по-важни от максималната пропускателна способност на AI.
Как да избирате между FPGA, NPU и MPU
Изберете от пълното натоварване, а не от етикета на процесора. Ако доминиращият проблем е невронният извод, започнете от NPU съвместимостта. Ако персонализираният I/O и детерминистичната предварителна обработка доминират, оценете FPGA ресурсите. Ако Linux услугите, мрежите и приложният софтуер доминират, започнете с възможностите на MPU. Повечето високопроизводителни крайни платформи ще комбинират поне два от тези ресурси.
Преди да включите хардуер, пуснете представителни потоци през планирания софтуерен стек и измерете латентността от край до край, мощността, честотната лента на паметта и термиките. Това доказателство е по-ценно от общото класиране на ускорителя.
Работен пример: четири камери и споделен бюджет за памет
Помислете за пример за планиране с четири 1280 × 720 потока при 30 кадъра в секунда, представени като RGB с един байт на канал след преобразуване на изображението. Техният полезен товар на комбинираното логическо изображение е 4 × 1280 × 720 × 30 × 3 = 331,776,000 байта в секунда, приблизително 332 MB/s в десетични единици. Това не е побитовата скорост на връзката към камерата или измерената производителност на ALVEXIS продукт.
Едно допълнително пълноформатно копие чете и записва този полезен товар, като добавя приблизително 664 MB/s трафик на паметта, преди да обмисли поведението на кеша или други операции. Тензорите на модела, преобразуването на цветовете, регистрирането и едновременните услуги добавят собствен трафик. Това обяснява защо един дизайн може да бъде ограничен от движението на данни, дори когато неговият заглавен рейтинг на ускорителя изглежда достатъчен.
| Работа до място | Отправна точка | Доказателства преди извършване |
|---|---|---|
| Поглъщане и синхронизиране на камерата | Поддържани SoC интерфейси, с FPGA или придружаващо устройство, където е необходимо | Едновременно улавяне на поток, поведение на клеймо за време и загуба при натоварване |
| Невронен извод | NPU, когато се поддържат избраната графика и прецизност | Точност на преобразуване и устойчиви измервания на приложението на устройството |
| Linux услуги и запис | MPU ресурси и изрично бюджетиран път за съхранение | Поведение на процесора, паметта и I/O, докато изводът е активен |
| Критичен във времето външен контрол | Подходящ контролер в реално време или валидирано детерминистично изпълнение | Доказателство за времето за реакция при съответното най-лошо работно натоварване |
Целта на разделянето е да направи изрично всяко време и изискване за ресурс. Това не означава, че всеки дизайн се нуждае от четири различни процесора. Започнете с най-простата архитектура, която отговаря на изискванията, след това добавете ресурси, където измерванията или ограниченията на интерфейса ги оправдават.
План за валидиране за избор на процесорен микс
- Замразяване на входния договор: сензори, формати на данни, модел, разделителна способност и работни условия.
- Проверете поддръжката на модела и качеството на изхода, преди да сравните пропускателната способност на ускорителя.
- Измерете поотделно придобиването, предварителната обработка, изводите и доставката, след което измерете целия път.
- Повторете при продължително термично натоварване със запис, работа в мрежа и активни всички предвидени сензори.
- Записвайте възрастта на опашката, загубените входове и латентността на опашката, така че високата средна скорост не крие периодични закъснения.
Съхранявайте версията на платката, изображението на софтуера, версиите на инструменталната верига и тестовите входове с резултатите. За изпълнение на Rockchip, Ръководство за внедряване на модел RK3588 развива този работен процес. За данни от камери за събития използвайте ръководство за софтуерна интеграция за дефиниране на времеви отпечатъци и представяния, преди да изберете пътя за извод.
След като се характеризира работното натоварване, сравнете Опции за интегриране на SoM и SBC. Това решение свързва изчислителната архитектура с конектори, захранване, корпус и производствена работа.
От избор на процесор до продукт, който може да се сглоби
Списъкът с процесори е полезен само когато отговаря на целия продукт. Преди да поръчате персонализирана платка, превърнете работното натоварване в кратко инженерно описание:
- входове: брой сензори, интерфейси, честота на дискретизация и изисквания за синхронизация.
- Натоварване на AI: действителния модел, поддържана прецизност и приемливо качество на изхода.
- Физически ограничения: размери, източник на захранване, охлаждане и работна среда.
- Доставка: количество прототип, производствен обем, собственост на софтуера и тестове за приемане.
За инспекционна станция свържете тръбопровода на камерата към тригера на линията, идентификатора на частта и интерфейса за резултат. Нашите индустриален машинно зрение и решение за контрол на качеството обяснява как тези изисквания се превръщат в пилотен проект.
Често задавани въпроси за MPU, NPU и FPGA edge AI
Какво е MPU AI?
MPU AI описва работни натоварвания с изкуствен интелект, разгърнати на вградена микропроцесорна платформа, обикновено с Linux и често с интегрирано или придружаващо ускорение като NPU, GPU или FPGA. MPU обикновено управлява приложения, мрежи, съхранение, сигурност и оркестрация около конвейера за изводи.
Може ли MPU да изпълнява машинно обучение?
да Работните натоварвания за машинно обучение на MPU могат да работят на CPU ядра или да използват интегрирани ускорители. За производствените системи поддръжката на модела, честотната лента на паметта, устойчивите термики и латентността от край до край са по-важни от самото заглавие TOPS.
NPU срещу FPGA: кое е по-добро за edge AI?
NPU обикновено е по-лесният избор за поддържани невронни мрежови изводи със силна производителност на ват. FPGA е за предпочитане, когато персонализирани сензорни интерфейси, детерминистична предварителна обработка, необичайни формати на данни или специализирани конвейери са централни за дизайна. Много системи използват и двете.
Можете ли да стартирате работно натоварване NPU на FPGA?
FPGA може да реализира ускорители на невронни мрежи или конвейери за изводи, но не е автоматично еквивалентен на специален NPU. Търговията включва програмируеми логически ресурси, памет, зрялост на инструменталната верига, поддръжка на модели, усилия за проверка и мощност.
Кога изводите на FPGA AI имат смисъл?
FPGA AI изводите са привлекателни, когато изводите трябва да бъдат тясно свързани с детерминистична предварителна обработка, потребителски интерфейси или специализирано движение на данни. Това е особено полезно, когато стандартното време за изпълнение на NPU не отговаря на пътя на сензора или ограниченията за латентност.
Където TinyML се вписва в периферни изчисления
периферни изчисления описва обработка близо до източника на данни; edge AI прилага изводи за машинно обучение там. TinyML адресира по-ограничен клас на внедряване, често на микроконтролери с ограничена памет и мощност. Малък класификатор на вибрации и тръбопровод за възприятие с множество камери следователно се нуждаят от много различни хардуерни бюджети, въпреки че и двата могат да бъдат крайни AI.
За цел за микроконтролер проверете размера на модела, паметта за изпълнение, поддържаните оператори и режийните разходи за придобиване. За дизайн, базиран на NPU или FPGA, също оценете движението на паметта и разделението между ускорена и неускорена работа. Изберете най-малката архитектура, която удовлетворява измерените изисквания за задача и възстановяване, вместо да избирате технология само от нейния акроним.
Технически справки
- Rockchip: RKNN софтуерни компоненти и инструменти за внедряване
- Rockchip: преобразуване на модел и примери за изводи
- Галего и др.: Визия, базирана на събития — Проучване
- TensorFlow Lite Micro: извод за устройства с ограничена памет
Примерът за честотна лента е изрично изчисление, а не бенчмарк за продукт. Валидирайте избраната архитектура за предвиденото работно натоварване.
Разделете вашето реално работно натоварване на edge AI.
Изпратете сензорните интерфейси, типа на модела, скоростите на данни, обвивката на мощността и ограниченията за внедряване. Можем да ги съпоставим към MPU/NPU/FPGA архитектура и подходящ клас изчислителен модул.