ما المقصود بمصفوفة البوابات القابلة للبرمجة FPGA؟

المصطلح الكامل هو Field Programmable Gate Array، أي مصفوفة بوابات قابلة للبرمجة ميدانيًا FPGA. تنفذ FPGA منطقًا رقميًا قابلًا للتهيئة، بينما تسرّع وحدة المعالجة العصبية NPU عمليات الشبكات العصبية المدعومة. يعتمد الاختيار على مسار الإشارة الفعلي. قد تفيد معالجة الإشارات باستخدام FPGA في الواجهات المتوازية أو جمع البيانات الحساس للتوقيت، بينما قد تبسط NPU تنفيذ حمل استدلال تدعمه.

من لوحة تطوير FPGA إلى منتج مخصص

تثبت لوحة FPGA صلاحية جزء من النظام فقط. يحتاج التصميم المخصص أيضًا إلى تسلسل تشغيل التغذية، وتوزيع إشارات الساعة، وواجهات الذاكرة، والتصميم الحراري، وطريقة اختبار قابلة للتكرار. قارن جهد تصميم FPGA والتحقق منه بخيار المعالج الدقيق MPU أو بنية نظام على شريحة يدمج FPGA. تشمل تكلفة FPGA الهندسة والأدوات وتعقيد اللوحة واختبارات الإنتاج، إلى جانب الشريحة نفسها.

أدلة هندسية ذات صلة

الذكاء الاصطناعي الطرفي والسحابي للأجهزة الصناعية

ما هي وحدة MPU التي تعمل بالذكاء الاصطناعي؟

تجمع منصة MPU المدعمة بالذكاء الاصطناعي بين المعالج الدقيق للتطبيقات والبرمجيات وموارد التسريع اللازمة لأعباء عمل التعلم الآلي. ابدأ بتحديد المهام التي تنتمي إلى وحدة المعالجة المركزية والمهام التي تستفيد من المسرع المدعوم.

عادةً ما يكون MPU، أو المعالج الدقيق للتطبيق، هو مركز البرامج لنظام Linux المدمج. لا تعد "AI MPU" فئة معالجات منفصلة بقدر ما هي منصة MPU تتضمن أو تعمل بشكل وثيق مع موارد التسريع مثل NPU أو GPU أو DSP أو FPGA. تستضيف وحدة MPU Linux والشبكات والتخزين وخدمات الأمان ومنطق التطبيق ووقت التشغيل الذي ينسق أعباء عمل الذكاء الاصطناعي.

بالنسبة للتعلم الآلي MPU، فإن السؤال العملي ليس فقط سرعة وحدة المعالجة المركزية. عرض النطاق الترددي للذاكرة، ودعم المسرع، والكاميرا والإدخال/الإخراج عالي السرعة، وجودة Linux BSP، والتوفر على المدى الطويل، والتصميم الحراري، ونضج سلسلة الأدوات النموذجية غالبًا ما تكون أكثر أهمية من قيمة TOPS الرئيسية.

ما الذي يجعل MPU منصة جيدة للذكاء الاصطناعي؟

أفضل وحدة MPU للذكاء الاصطناعي هي خاصة بعبء العمل. قد تعطي بوابة الرؤية الأولوية لـ MIPI CSI وخطوط أنابيب فيديو الأجهزة ووحدة NPU. قد يحتاج كمبيوتر المهام الصعبة إلى PCIe ومنافذ Ethernet المتعددة والنوى المصاحبة الحتمية وميزات أمان أقوى. قد تقدر المنصة الصناعية عمر المنتج الطويل، وTSN، وCAN-FD، ونظام Linux البيئي المستقر.

قياس النموذج الفعلي وسلسلة المعالجة المسبقة الكاملة. يمكن أن تفوز منصة ذات رقم تسريع أقل معلن عنها إذا تجنبت نسخ الذاكرة، ودعمت المشغلين المطلوبين، وحافظت على كفاءة مسار المستشعر إلى النتيجة.

NPU: الاستدلال العصبي الفعال على الحافة

تعمل وحدة NPU المتطورة على تسريع مشغلي الشبكات العصبية مثل التلافيف وعمليات المصفوفة ووظائف التنشيط الشائعة. عادةً ما يكون هذا هو المكان الأكثر كفاءة لنماذج الكشف والتصنيف والتجزئة واستخراج الميزات المدعومة عندما تكون الطاقة وإنتاجية الاستدلال المستدام أمرًا مهمًا.

يعتمد أداء NPU على التجميع وتغطية المشغل. قد تعود الطبقات غير المدعومة إلى وحدة المعالجة المركزية (CPU) أو مسرع آخر. يمكن لمتطلبات التكميم وتخطيطات الموتر ودقة الإدخال وحركة الذاكرة أيضًا أن تغير أداء العالم الحقيقي بشكل كبير. قم دائمًا بمقارنة الرسم البياني للإنتاج بدلاً من الاعتماد على TOPS النظري وحده.

FPGA: خطوط الأنابيب الحتمية واستدلال الذكاء الاصطناعي حيث تكون المرونة مهمة

تتفوق FPGA في حركة البيانات الحتمية والواجهات المخصصة وخطوط الأنابيب المتوازية على نطاق واسع. في أنظمة الحافة، يمكنها إلغاء تسلسل أجهزة الاستشعار، ومحاذاة الطوابع الزمنية، وتصفية البيانات، وإنشاء مناطق الاهتمام، وإجراء معالجة مسبقة للصور، وتغذية المسرع بزمن انتقال يمكن التنبؤ به. يكون استدلال FPGA AI ممكنًا أيضًا عندما يتم تعيين نموذج جيدًا لمكدس DSP والذاكرة ومكدس تسريع البائع المتوفر.

المقايضة هي جهد هندسي. يجب تخطيط إستراتيجية تصميم RTL أو HLS والمحاكاة وإغلاق التوقيت والتحقق والتحديث. يجب اختيار FPGA لأن السلوك الحتمي أو التوازي المخصص يخلق قيمة النظام، وليس فقط لأنه يمكنه تشغيل العمليات الحسابية.

NPU مقابل FPGA لـ edge AI

غالبًا ما يكون قرار NPU vs FPGA ثنائيًا خاطئًا. تعد وحدة NPU بشكل عام الخيار الأسهل للشبكات العصبية المدعومة والأداء القوي لكل واط. يكون FPGA أقوى عندما يحتاج النظام إلى واجهات استشعار مخصصة، أو معالجة مسبقة حتمية، أو تنسيقات بيانات غير عادية أو خط أنابيب يتم التحكم فيه بإحكام قبل الاستدلال وبعده.

تستخدم البنية المشتركة كلا من: FPGA لاستيعاب أجهزة الاستشعار والمعالجة المسبقة، وNPU للشبكة العصبية، وMPU لتنسيق Linux. وهذا يقلل من مقدار العمل غير المنتظم المفروض على أي معالج واحد.

المواردأحمال العمل الأنسبالقيود الرئيسية
FPGAخطوط الأنابيب الحتمية، الإدخال / الإخراج المخصص، الطابع الزمني، المعالجة المسبقة، التسريع المتخصصجهد RTL/HLS والتحقق وموارد الجهاز
NPUدعم الاستدلال العصبي مع الأداء الجيد لكل واطدعم المشغل، والمترجم/وقت التشغيل، والتكميم، وحركة الذاكرة
MPUتطبيقات Linux، الشبكات، التخزين، الأمن السيبراني، التنسيقتنفيذ أقل حتمية؛ النفقات العامة للأغراض العامة
MCU / RT الأساسيةحلقات التحكم، مراقبة السلامة، تسلسل الطاقة، الإدخال/الإخراج الحتميذاكرة محدودة وحساب عالي المستوى
FPGAI/O
NPUAI
MPULinux · I/O

طريقة عملية لتقسيم بنية الذكاء الاصطناعي الطرفية

  1. ابدأ بالمواعيد النهائية: تحديد الإشارات التي لها متطلبات توقيت صعبة والحد الأقصى لتأخير إجراء المستشعر.
  2. معدلات بيانات الخريطة: حساب إنتاجية المستشعر وأحجام الموتر المتوسطة وحركة مرور الذاكرة الأسوأ.
  3. حافظ على الاستيعاب الحتمي بالقرب من الواجهة: غالبًا ما تكون محركات FPGA أو DMA أو مراكز الوقت الفعلي مناسبة.
  4. ضع النماذج العصبية المدعومة على NPU: التحقق من صحة تغطية المشغل والأداء المترجم الفعلي.
  5. استخدم MPU للنظام: تنتمي الشبكات والتخزين والتحديثات والتسجيل وواجهات برمجة التطبيقات وسياسة التطبيقات بشكل طبيعي إلى Linux.
  6. احتياطي التحكم في الوقت الحقيقي: يجب أن تشرف وحدة MCU أو النواة الحتمية على التشغيل الحرج للوقت وصحة النظام الأساسي عند الاقتضاء.

غالبًا ما يكون النطاق الترددي للذاكرة هو عنق الزجاجة المخفي

تركز العديد من تصميمات الذكاء الاصطناعي للحافة على الذروة الحسابية وتكتشف لاحقًا أن النسخ أو تحويل الألوان أو إعادة تنسيق الموتر أو DDR المشترك يهيمن على زمن الوصول. ينبغي تقييم مسارات النسخ الصفري أو المنخفض، وطوبولوجيا DMA، وسلوك ذاكرة التخزين المؤقت، والوصول إلى ذاكرة التسريع مبكرًا. يمكن أن يؤدي الاختناق الحراري أيضًا إلى تحويل معيار قوي إلى أداء مستدام ضعيف.

يعد هذا مهمًا بشكل خاص عندما تشترك العديد من الكاميرات أو الرادار أو مستشعرات الأحداث أو تدفقات Ethernet عالية السرعة في نفس نظام الذاكرة الفرعي.

أمثلة على الهندسة المعمارية المرجعية

خط أنابيب الرؤية / استشعار الحدث

المستشعر ← استيعاب FPGA والطابع الزمني ← استدلال NPU ← خدمات قرار MPU ← CAN-FD أو مخرج Ethernet. يعد هذا نمطًا قويًا للإدراك المنخفض الكمون ويرتبط مباشرة بإدراكنا .

كمبيوتر مدمج بالذكاء الاصطناعي

الإدخال/الإخراج عالي السرعة → DMA / مسار التسريع → استنتاج NPU أو GPU → خدمات تطبيقات Linux → واجهات برمجة التطبيقات للتخزين والشبكة. لدينا وحدة الحساب المدمجة و كمبيوتر حافة وعرة يتم إنشاء فئات المنتجات حول هذا النوع من التقسيم.

بوابة الحتمية الصناعية

واجهات CAN-FD / تسلسلية / Ethernet → الطابع الزمني FPGA أو MCU ومعالجة البروتوكول → خدمات MPU → تحليلات NPU الاختيارية. هنا يمكن أن يكون الإدخال/الإخراج الحتمي وقابلية صيانة البرامج على المدى الطويل أكثر أهمية من الحد الأقصى من إنتاجية الذكاء الاصطناعي.

كيفية الاختيار بين FPGA وNPU وMPU

اختر من عبء العمل الكامل، وليس ملصق المعالج. إذا كانت المشكلة السائدة هي الاستدلال العصبي، فابدأ من توافق NPU. إذا كانت عمليات الإدخال/الإخراج المخصصة والمعالجة المسبقة الحتمية هي المهيمنة، فقم بتقييم موارد FPGA. إذا كانت خدمات Linux والشبكات وبرامج التطبيقات هي المهيمنة، فابدأ بقدرة MPU. ستجمع معظم الأنظمة الأساسية عالية الأداء بين اثنين على الأقل من هذه الموارد.

قبل الالتزام بالأجهزة، قم بتشغيل التدفقات التمثيلية من خلال مجموعة البرامج المقصودة وقياس زمن الوصول الشامل والطاقة وعرض النطاق الترددي للذاكرة والحرارة. وهذا الدليل أكثر قيمة من تصنيفات المسرعات العامة.

مثال عملي: أربع كاميرات وميزانية ذاكرة مشتركة

خذ بعين الاعتبار مثال تخطيط مع أربعة تدفقات بدقة 1280 × 720 بمعدل 30 إطارًا في الثانية، ممثلة بـ RGB مع بايت واحد لكل قناة بعد تحويل الصورة. حمولة الصورة المنطقية المجمعة الخاصة بهم هي 4 × 1280 × 720 × 30 × 3 = 331,776,000 بايت في الثانية، حوالي 332 ميجابايت/ثانية بالوحدات العشرية. هذا ليس معدل البت لرابط الكاميرا أو الأداء المُقاس لمنتج Alvexis.

تقوم نسخة كاملة الإطار إضافية بقراءة تلك الحمولة وكتابتها، مما يضيف حوالي 664 ميجابايت/ثانية من حركة مرور الذاكرة قبل التفكير في سلوك ذاكرة التخزين المؤقت أو العمليات الأخرى. تضيف موترات النماذج وتحويل الألوان والتسجيل والخدمات المتزامنة حركة المرور الخاصة بها. وهذا ما يفسر سبب تقييد التصميم بحركة البيانات حتى عندما يبدو تصنيف التسريع الرئيسي الخاص به كافياً.

العمل إلى مكاننقطة البدايةالأدلة قبل ارتكابها
استيعاب الكاميرا والمزامنةواجهات SoC المدعومة، مع FPGA أو جهاز مصاحب عند الحاجةالتقاط الدفق المتزامن وسلوك الطابع الزمني والخسارة تحت الحمل
الاستدلال العصبيNPU عندما يتم دعم الرسم البياني والدقة المختارةدقة التحويل وقياسات التطبيق المستمرة على الجهاز
خدمات لينكس والتسجيلموارد MPU ومسار تخزين محدد في الميزانية بشكل صريحسلوك وحدة المعالجة المركزية والذاكرة والإدخال/الإخراج أثناء نشاط الاستدلال
التحكم الخارجي الحرج للوقتوحدة تحكم مناسبة في الوقت الفعلي أو تنفيذ حتمي تم التحقق من صحتهأدلة وقت الاستجابة في ظل عبء العمل الأسوأ ذي الصلة

الغرض من التقسيم هو توضيح كل متطلبات التوقيت والموارد. وهذا لا يعني أن كل تصميم يحتاج إلى أربعة معالجات مختلفة. ابدأ بأبسط بنية تلبي المتطلبات، ثم أضف الموارد حيث تبررها القياسات أو قيود الواجهة.

خطة التحقق من صحة اختيار مزيج المعالج

  1. تجميد عقد الإدخال: أجهزة الاستشعار وتنسيقات البيانات والنموذج والدقة وظروف التشغيل.
  2. تحقق من دعم النموذج وجودة الإخراج قبل مقارنة إنتاجية المسرع.
  3. قم بقياس الاكتساب والمعالجة المسبقة والاستدلال والتسليم بشكل منفصل، ثم قم بقياس المسار الكامل.
  4. كرر ذلك تحت الحمل الحراري المستمر مع التسجيل والشبكات وجميع أجهزة الاستشعار المقصودة النشطة.
  5. سجل عمر قائمة الانتظار، والمدخلات المفقودة، وزمن الوصول، لذا فإن المعدل المتوسط المرتفع لا يخفي التأخيرات المتقطعة.

احتفظ بمراجعة اللوحة وصورة البرنامج وإصدارات سلسلة الأدوات ومدخلات الاختبار مع النتائج. لتنفيذ Rockchip، دليل نشر نموذج RK3588 تطوير سير العمل هذا. للحصول على بيانات كاميرا الأحداث، استخدم دليل تكامل البرمجيات لتحديد الطوابع الزمنية والتمثيلات قبل اختيار مسار الاستدلال.

بعد تحديد حجم العمل، قم بمقارنة خيارات تكامل SoM وSBC. يربط هذا القرار بنية الحوسبة بالموصلات والطاقة والعلبة وأعمال الإنتاج.

من اختيار المعالج إلى منتج قابل للبناء

تكون القائمة المختصرة للمعالج مفيدة فقط عندما تناسب المنتج الكامل. قبل طلب لوحة مخصصة، قم بتحويل عبء العمل إلى ملخص هندسي قصير:

  • المدخلات: عدد أجهزة الاستشعار والواجهات ومعدلات العينات ومتطلبات التزامن.
  • عبء عمل الذكاء الاصطناعي: النموذج الفعلي، الدقة المدعومة وجودة الإخراج المقبولة.
  • القيود المادية: الأبعاد ومصدر الطاقة والتبريد وبيئة التشغيل.
  • التسليم: كمية النموذج الأولي وحجم الإنتاج وملكية البرمجيات واختبارات القبول.

بالنسبة لمحطة الفحص، قم بتوصيل خط أنابيب الكاميرا بمشغل الخط ومعرف الجزء وواجهة النتيجة. لدينا رؤية الآلة الصناعية وحل مراقبة الجودة يوضح كيف تتحول هذه المتطلبات إلى مشروع تجريبي.

الأسئلة الشائعة حول MPU وNPU وFPGA edge AI

ما هو MPU AI؟

يصف MPU AI أعباء عمل الذكاء الاصطناعي المنتشرة على منصة المعالجات الدقيقة المضمنة، عادةً مع Linux وغالبًا مع تسريع متكامل أو مصاحب مثل NPU أو GPU أو FPGA. تدير وحدة MPU عادةً التطبيقات والشبكات والتخزين والأمان والتنسيق حول خط أنابيب الاستدلال.

هل يمكن لوحدة MPU تشغيل التعلم الآلي؟

نعم. يمكن تشغيل أحمال عمل التعلم الآلي لوحدة المعالجة المركزية (MPU) على مراكز وحدة المعالجة المركزية (CPU) أو استخدام المسرعات المدمجة. بالنسبة لأنظمة الإنتاج، يعد دعم النماذج وعرض النطاق الترددي للذاكرة والحرارة المستدامة ووقت الاستجابة الشامل أكثر أهمية من TOPS الرئيسي وحده.

NPU أم FPGA: أيهما أفضل للذكاء الاصطناعي الحافة؟

عادةً ما تكون وحدة NPU هي الخيار الأبسط لاستدلال الشبكة العصبية المدعومة بأداء قوي لكل واط. يُفضل استخدام FPGA عندما تكون واجهات الاستشعار المخصصة أو المعالجة المسبقة الحتمية أو تنسيقات البيانات غير العادية أو خطوط الأنابيب المتخصصة أمرًا أساسيًا في التصميم. تستخدم العديد من الأنظمة كليهما.

هل يمكنك تشغيل عبء عمل NPU على FPGA؟

يمكن لـ FPGA تنفيذ مسرعات الشبكة العصبية أو خطوط أنابيب الاستدلال، ولكنها لا تعادل تلقائيًا وحدة NPU مخصصة. تتضمن التجارة موارد منطقية قابلة للبرمجة، والذاكرة، ونضج سلسلة الأدوات، ودعم النموذج، وجهود التحقق والقوة.

متى يكون استنتاج FPGA AI منطقيًا؟

يعد استنتاج FPGA AI جذابًا عندما يجب أن يكون الاستدلال مقترنًا بإحكام بالمعالجة المسبقة الحتمية أو الواجهات المخصصة أو حركة البيانات المتخصصة. يكون ذلك مفيدًا بشكل خاص عندما لا يتناسب وقت تشغيل NPU القياسي مع مسار المستشعر أو قيود زمن الوصول.

المراجع التقنية

يعتبر مثال النطاق الترددي حسابًا صريحًا، وليس معيارًا للمنتج. التحقق من صحة البنية المحددة على عبء العمل المقصود.

قم بتقسيم عبء عمل الذكاء الاصطناعي الحقيقي الخاص بك.

أرسل واجهات الاستشعار ونوع النموذج ومعدلات البيانات ومغلف الطاقة وقيود النشر. يمكننا تعيينها على بنية MPU/NPU/FPGA وفئة وحدة الحوسبة المناسبة.

طلب تفاصيل الهندسة المعماريةسجّل اهتمامك بالطلب المسبق