Шта значи израз „field programmable array”?
Пун назив је Field Programmable Gate Array (FPGA), програмабилно поље логичких кола. FPGA реализује подесиву дигиталну логику, а NPU убрзава подржане операције неуронских мрежа. Избор зависи од стварног пута сигнала. FPGA обрада може бити корисна за паралелне интерфејсе или временски осетљиво прикупљање, док NPU може поједноставити подржано оптерећење инференције.
Од развојне FPGA плоче до производа по мери
FPGA плоча доказује само део система. Прилагођени пројекат захтева и редослед укључивања напајања, тактовање, меморијске интерфејсе, топлотни пројекат и поновљив метод испитивања. Упоредите рад на пројектовању и провери FPGA са MPU или SoC FPGA архитектуром. Трошак FPGA укључује инжењерски рад, алате, сложеност плоче и производне тестове, не само чип.
Шта је АИ MPU?
Платформа MPU способна за вештачку интелигенцију комбинује микропроцесор апликације са софтвером и ресурсима за убрзање који су потребни за радно оптерећење машинског учења. Почните тако што ћете идентификовати који задаци припадају ЦПУ-у и који имају користи од подржаног акцелератора.
MPU, или апликативни микропроцесор, обично је софтверски центар уграђеног Linux система. „АИ MPU“ није посебна категорија процесора колико платформа MPU која укључује или блиско сарађује са ресурсима за убрзање као што су NPU, ГПУ, ДСП или FPGA. MPU хостује Linux, умрежавање, складиштење, безбедносне услуге, логику апликације и време извођења које координира АИ радна оптерећења.
За MPU машинско учење, практично питање није само брзина процесора. Капацитет меморије, подршка за акцелератор, камера и брзи I/O, Linux BSP квалитет, дугорочна доступност, термални дизајн и зрелост ланца алата модела често су важнији од насловне вредности TOPS.
Шта чини MPU добром платформом за вештачку интелигенцију?
Најбољи MPU за вештачку интелигенцију зависи од радног оптерећења. Мрежни пролаз за визију може дати приоритет MIPI CSI, хардверске видео цевоводе и NPU. Чврстом рачунару за мисију ће можда требати PCIe, више Ethernet портова, детерминистичка пратећа језгра и јаче безбедносне карактеристике. Индустријска платформа може ценити дуг животни век производа, ТСН, CAN-FD и стабилан Linux екосистем.
Упоредите стварни модел и комплетан ланац претходне обраде. Платформа са нижом рекламираном цифром акцелератора може победити ако избегава меморијске копије, подржава потребне оператере и одржава ефикасан пут од сензора до резултата.
NPU: ефикасно неуронско закључивање на ивици
Ивица NPU убрзава операторе неуронске мреже као што су конволуције, матричне операције и уобичајене функције активације. Обично је најефикасније место за подржане моделе детекције, класификације, сегментације и екстракције карактеристика када су моћ и трајна пропусност закључивања битни.
Перформансе NPU зависе од компилације и покривености оператера. Неподржани слојеви се могу вратити на ЦПУ или други акцелератор. Захтеви за квантизацију, распоред тензора, улазна резолуција и кретање меморије такође могу драматично да промене перформансе у стварном свету. Увек мерите график производње уместо да се ослањате само на теоретски TOPS.
FPGA: детерминистички цевовод и закључивање АИ где је флексибилност важна
FPGA се истиче у детерминистичком кретању података, прилагођеним интерфејсима и масовно паралелним цевоводима. У ивичним системима може десериализовати сензоре, поравнати временске ознаке, филтрирати податке, генерисати регионе од интереса, извршити претходну обраду слике и хранити акцелератор са предвидљивом латенцијом. FPGA Закључак АИ је такође могућ када се модел добро мапира са доступним ДСП-ом, меморијом и акцелерацијом добављача.
Компромис је инжењерски напор. РТЛ или ХЛС дизајн, симулација, затварање времена, верификација и стратегија ажурирања морају бити планирани. Треба изабрати FPGA јер детерминистичко понашање или прилагођени паралелизам ствара системску вредност — не само зато што може да изводи аритметику.
NPU вс FPGA за edge AI
Одлука NPU наспрам FPGA је често лажна бинарна. NPU је генерално лакши избор за подржане неуронске мреже и јаке перформансе по вату. FPGA је јачи када су систему потребни прилагођени интерфејси сензора, детерминистичка предобрада, необични формати података или строго контролисан цевовод пре и после закључивања.
Уобичајена архитектура користи обоје: FPGA за унос и претходну обраду сензора, NPU за неуронску мрежу и MPU за Linux оркестрацију. Ово смањује количину неправилног рада који је присиљен на било који процесор.
| Ресурс | Најприкладнија радна оптерећења | Главна ограничења |
|---|---|---|
| FPGA | Детерминистички цевовод, прилагођени I/O, временско означавање, претходна обрада, специјализовано убрзање | РТЛ/ХЛС напор, верификација, ресурси уређаја |
| NPU | Подржано неуронско закључивање са добрим перформансама по вату | Подршка оператера, компајлер/време извођења, квантизација и кретање меморије |
| MPU | Linux апликације, умрежавање, складиштење, сајбер безбедност, оркестрација | Мање детерминистичко извршење; режијски трошкови опште намене |
| MCU / РТ језгро | Контролне петље, надзор безбедности, секвенцирање снаге, детерминистички I/O | Ограничена меморија и рачунање високог нивоа |
Edge computing
- Почните са роковима: идентификују који сигнали имају захтеве за тешко време и максимално кашњење сензора до акције.
- Стопе података на мапи: израчунајте пропусност сензора, средње величине тензора и меморијски саобраћај у најгорем случају.
- Држите детерминистички унос близу интерфејса: FPGA, ДМА мотори или језгра у реалном времену су често прикладни.
- Поставите подржане неуронске моделе на NPU: потврди покривеност оператера и стварне компајлиране перформансе.
- Користите MPU за систем: умрежавање, складиштење, ажурирања, евидентирање, АПИ-ји и политика апликација природно припадају Linux.
- Резервишите контролу у реалном времену: MCU или детерминистичко језгро треба да надгледа критично активирање и здравље платформе где је то потребно.
Меморијски пропусни опсег је често скривено уско грло
Многи edge AI дизајни се фокусирају на врхове рачунања и касније откривају да копије, конверзија боја, преформатирање тензора или дељено DDR доминирају кашњењем. Путања са нултом или малом количином копија, ДМА топологија, понашање кеша и приступ меморији акцелератора треба рано процењивати. Термичко пригушивање такође може да претвори јаке стандарде у слабе трајне перформансе.
Ово је посебно важно када више камера, радара, сензора догађаја или брзих Ethernet токова деле исти меморијски подсистем.
Примери референтне архитектуре
Цевовод сензора вида/догађаја
Сензор → FPGA унос и временска ознака → NPU закључивање → MPU услуге одлучивања → CAN-FD или Ethernet излаз. Ово је јак образац за перцепцију ниске латенције и директно се повезује са нашим .
Уграђени АИ рачунар
Брзи I/O → ДМА / путања акцелератора → NPU или закључивање ГПУ-а → Linux сервиси апликација → меморијски и мрежни АПИ-ји. Наше уграђени рачунарски модул и робусни рачунар класе производа су изграђене око ове врсте партиционисања.
Индустријски детерминистички пролаз
CAN-FD / серијски / Ethernet интерфејси → FPGA или MCU временско означавање и руковање протоколом → MPU услуге → опциона NPU аналитика. Овде детерминистичка I/O и дугорочна могућност одржавања софтвера могу бити важнији од максималног протока АИ.
Како изабрати између FPGA, NPU и MPU
Бирајте између комплетног радног оптерећења, а не ознаке процесора. Ако је доминантни проблем неуронско закључивање, почните од NPU компатибилности. Ако доминирају прилагођена I/O и детерминистичка предобрада, процените FPGA ресурсе. Ако доминирају Linux услуге, мрежни и апликативни софтвер, почните са могућношћу MPU. Већина платформи високих перформанси комбинује најмање два од ових ресурса.
Пре него што укључите хардвер, покрените репрезентативне стримове кроз предвиђени софтверски стог и измерите латенцију од краја до краја, снагу, пропусни опсег меморије и термичке карактеристике. Тај доказ је вреднији од генеричког рангирања акцелератора.
Пример рада: четири камере и заједнички буџет за меморију
Размотрите пример планирања са четири 1280 × 720 тока при 30 фрејмова у секунди, представљених као РГБ са једним бајтом по каналу након конверзије слике. Њихова комбинована логичка слика је 4 × 1280 × 720 × 30 × 3 = 331,776,000 бајтова у секунди, приближно 332 MB/с у децималним јединицама. Ово није брзина пријеноса везе камере или измјерене перформансе ALVEXIS производа.
Једна додатна копија целог екрана чита и уписује тај корисни терет, додајући приближно 664 MB/с меморијског саобраћаја пре разматрања понашања кеша или других операција. Тензори модела, конверзија боја, евидентирање и истовремене услуге додају сопствени саобраћај. Ово објашњава зашто дизајн може бити ограничен кретањем података чак и када се његов рејтинг убрзања у наслову чини довољним.
| Рад до места | Полазна тачка | Докази пре извршења |
|---|---|---|
| Унос камере и синхронизација | Подржани СоЦ интерфејси, са FPGA или пратећим уређајем где је потребно | Симултано снимање тока, понашање временске ознаке и губитак под оптерећењем |
| Неурално закључивање | NPU када су подржани изабрани графикон и прецизност | Прецизност конверзије и трајна мерења апликације на уређају |
| Linux услуге и снимање | MPU ресурса и експлицитно планирану путању за складиштење | ЦПУ, меморија и понашање I/O док је закључивање активно |
| Временски критична спољна контрола | Одговарајући контролер у реалном времену или валидирана детерминистичка имплементација | Докази о времену одговора под релевантним радним оптерећењем у најгорем случају |
Сврха партиционисања је да се сваки временски захтев и захтев за ресурсима учини експлицитним. То не значи да су за сваки дизајн потребна четири различита процесора. Почните са најједноставнијом архитектуром која испуњава захтеве, а затим додајте ресурсе тамо где мере или ограничења интерфејса то оправдавају.
План валидације за избор микса процесора
- Замрзните уговор о уносу: сензори, формати података, модел, резолуција и услови рада.
- Проверите подршку модела и квалитет излаза пре него што упоредите пропусност акцелератора.
- Одвојено мерите аквизицију, претходну обраду, закључивање и испоруку, а затим измерите комплетну путању.
- Поновите под сталним термичким оптерећењем са активним снимањем, умрежавањем и свим предвиђеним сензорима.
- Забележите старост реда, изгубљене уносе и кашњење у репу, тако да висока просечна стопа не скрива повремена кашњења.
Сачувајте ревизију плоче, слику софтвера, верзије ланца алата и тестне уносе са резултатима. За имплементацију Rockchip, RK3588 водич за примену модела развија овај радни ток. За податке камере догађаја користите водич за интеграцију софтвера да дефинише временске ознаке и репрезентације пре избора путање закључивања.
Након што се карактерише оптерећење, упоредите SoM и SBC опције интеграције. Та одлука повезује рачунарску архитектуру са конекторима, напајањем, кућиштем и производним радом.
Од избора процесора до производа који се може изградити
Ужи избор процесора је користан само када одговара комплетном производу. Пре него што наручите прилагођену плочу, претворите радно оптерећење у кратак инжењерски сажетак:
- Улази: број сензора, интерфејси, брзине узорковања и захтеви за синхронизацију.
- АИ радно оптерећење: стварни модел, подржану прецизност и прихватљив квалитет излаза.
- Физичка ограничења: димензије, извор напајања, хлађење и радно окружење.
- Достава: количина прототипа, обим производње, власништво над софтвером и тестови прихватања.
За станицу за инспекцију, повежите цевовод камере са окидачем линије, идентификатором дела и интерфејсом резултата. Наше индустријски машински вид и решење за контролу квалитета објашњава како ти захтеви постају пилот.
MPU, NPU и FPGA edge AI Честа питања
Шта је MPU АИ?
MPU АИ описује радна оптерећења вештачке интелигенције примењена на уграђеној микропроцесорској платформи, обично са Linux и често са интегрисаним или пратећим убрзањем као што су NPU, ГПУ или FPGA. MPU обично управља апликацијама, умрежавањем, складиштењем, безбедношћу и оркестрацијом око цевовода закључивања.
Може ли MPU покренути машинско учење?
Да. MPU Радна оптерећења машинског учења могу да раде на ЦПУ језгрима или да користе интегрисане акцелераторе. За производне системе, подршка за моделе, пропусни опсег меморије, трајне топлоте и кашњење од краја до краја важнији су од самог наслова TOPS.
NPU вс FPGA: шта је боље за edge AI?
NPU је обично једноставнији избор за подржано закључивање неуронске мреже са јаким перформансама по вату. FPGA је пожељнији када су прилагођени интерфејси сензора, детерминистичка предобрада, необични формати података или специјализовани цевоводи централни за дизајн. Многи системи користе и једно и друго.
Можете ли да покренете NPU радно оптерећење на FPGA?
FPGA може да имплементира акцелераторе неуронске мреже или цевоводе закључивања, али није аутоматски еквивалент наменском NPU. Трговина укључује програмабилне логичке ресурсе, меморију, зрелост ланца алата, подршку за моделе, напоре и снагу верификације.
Када FPGA АИ закључивање има смисла?
FPGA АИ закључивање је привлачно када закључивање мора бити чврсто повезано са детерминистичком претходном обрадом, прилагођеним интерфејсима или специјализованим кретањем података. Посебно је корисно када стандардно NPU време извођења не одговара путањи сензора или ограничењима кашњења.
Где се ТиниМЛ уклапа у рубно рачунарство
Едге цомпутинг описује обраду у близини извора података; edge AI тамо примењује закључивање машинског учења. ТиниМЛ се бави ограниченијом класом примене, често на микроконтролерима са ограниченом меморијом и снагом. Мали класификатор вибрација и цев за перцепцију са више камера стога захтевају веома различите хардверске буџете иако оба могу бити edge AI.
За циљ микроконтролера, проверите величину модела, меморију за време извршавања, подржане операторе и трошкове аквизиције. За дизајн заснован на NPU или FPGA, такође процените кретање меморије и партицију између убрзаног и неубрзаног рада. Изаберите најмању архитектуру која задовољава измерени задатак и захтеве за опоравак, уместо да бирате технологију само из њеног акронима.
Техничке референце
- Rockchip: RKNN софтверске компоненте и алати за примену
- Rockchip: примери конверзије модела и закључивања
- Галлего ет ал.: Визија заснована на догађајима — Анкета
- ТенсорФлов Лите Мицро: закључивање о уређајима ограниченим меморијом
Пример пропусног опсега је експлицитна калкулација, а не референтна вредност производа. Потврдите изабрану архитектуру на предвиђеном радном оптерећењу.
Поделите своје стварно edge AI радно оптерећење.
Пошаљите интерфејсе сензора, тип модела, брзину преноса података, омотач снаге и ограничења примене. Можемо их мапирати у MPU/NPU/FPGA архитектуру и одговарајућу класу рачунарског модула.