Τι σημαίνει ο όρος «field programmable array»;
Ο πλήρης όρος είναι Field Programmable Gate Array (FPGA). Ένα FPGA υλοποιεί διαμορφώσιμη ψηφιακή λογική, ενώ μια NPU επιταχύνει τις υποστηριζόμενες λειτουργίες νευρωνικών δικτύων. Η επιλογή εξαρτάται από την πραγματική διαδρομή σήματος. Η επεξεργασία σήματος με FPGA μπορεί να εξυπηρετεί παράλληλες διεπαφές ή χρονικά απαιτητική συλλογή, ενώ μια NPU μπορεί να απλοποιεί ένα υποστηριζόμενο φορτίο εξαγωγής συμπερασμάτων.
Από μια πλακέτα ανάπτυξης FPGA σε ένα προσαρμοσμένο προϊόν
Μια πλακέτα FPGA επαληθεύει μόνο μέρος του συστήματος. Ο προσαρμοσμένος σχεδιασμός χρειάζεται επίσης αλληλουχία τροφοδοσίας, χρονισμό, διεπαφές μνήμης, θερμικό σχεδιασμό και επαναλήψιμη μέθοδο δοκιμών. Συγκρίνετε την προσπάθεια σχεδιασμού και επαλήθευσης FPGA με μια αρχιτεκτονική MPU ή SoC FPGA. Το κόστος FPGA περιλαμβάνει μηχανική ανάπτυξη, εργαλεία, πολυπλοκότητα πλακέτας και δοκιμές παραγωγής, πέρα από το ίδιο το ολοκληρωμένο.
Τι είναι ένα AI MPU;
Μια πλατφόρμα MPU με δυνατότητα AI συνδυάζει έναν μικροεπεξεργαστή εφαρμογών με το λογισμικό και τους πόρους επιτάχυνσης που απαιτούνται για ένα φόρτο εργασίας μηχανικής μάθησης. Ξεκινήστε προσδιορίζοντας ποιες εργασίες ανήκουν στην CPU και ποιες επωφελούνται από έναν υποστηριζόμενο επιταχυντή.
Ένας MPU, ή ένας μικροεπεξεργαστής εφαρμογών, είναι συνήθως το κέντρο λογισμικού ενός ενσωματωμένου συστήματος Linux. Ένας "AI MPU" δεν είναι μια ξεχωριστή κατηγορία επεξεργαστών τόσο όσο μια πλατφόρμα MPU που περιλαμβάνει ή συνεργάζεται στενά με πόρους επιτάχυνσης όπως NPU, GPU, DSP ή FPGA. Το MPU φιλοξενεί Linux, δικτύωση, αποθήκευση, υπηρεσίες ασφαλείας, λογική εφαρμογών και το χρόνο εκτέλεσης που συντονίζει τους φόρτους εργασίας AI.
Για τη μηχανική εκμάθηση MPU, το πρακτικό ερώτημα δεν είναι μόνο η ταχύτητα της CPU. Το εύρος ζώνης μνήμης, η υποστήριξη επιταχυντή, η κάμερα και η υψηλή ταχύτητα I/O, η ποιότητα Linux BSP, η μακροπρόθεσμη διαθεσιμότητα, ο θερμικός σχεδιασμός και η ωριμότητα της αλυσίδας μοντέλων συχνά έχουν μεγαλύτερη σημασία από μια τιμή επικεφαλίδας TOPS.
Τι κάνει μια MPU μια καλή πλατφόρμα τεχνητής νοημοσύνης;
Το καλύτερο MPU για τεχνητή νοημοσύνη είναι συγκεκριμένο για τον φόρτο εργασίας. Μια πύλη όρασης μπορεί να δώσει προτεραιότητα σε MIPI CSI, αγωγούς βίντεο υλικού και NPU. Ένας ανθεκτικός υπολογιστής αποστολής μπορεί να χρειάζεται PCIe, πολλαπλές θύρες Ethernet, ντετερμινιστικούς συνοδευτικούς πυρήνες και ισχυρότερα χαρακτηριστικά ασφαλείας. Μια βιομηχανική πλατφόρμα μπορεί να εκτιμήσει τη μεγάλη διάρκεια ζωής του προϊόντος, τα TSN, CAN-FD και ένα σταθερό οικοσύστημα Linux.
Συγκρίνετε το πραγματικό μοντέλο και την πλήρη αλυσίδα προεπεξεργασίας. Μια πλατφόρμα με χαμηλότερη διαφημιζόμενη φιγούρα επιταχυντή μπορεί να κερδίσει εάν αποφεύγει τα αντίγραφα μνήμης, υποστηρίζει τους απαιτούμενους χειριστές και διατηρεί αποτελεσματική τη διαδρομή αισθητήρα προς αποτέλεσμα.
NPU: αποτελεσματικό νευρικό συμπέρασμα στην άκρη
Ένα άκρο NPU επιταχύνει τελεστές νευρωνικών δικτύων όπως συνελίξεις, λειτουργίες μήτρας και κοινές συναρτήσεις ενεργοποίησης. Είναι συνήθως το πιο αποτελεσματικό μέρος για υποστηριζόμενα μοντέλα ανίχνευσης, ταξινόμησης, τμηματοποίησης και εξαγωγής χαρακτηριστικών όταν η ισχύς και η συνεχής απόδοση συμπερασμάτων έχουν σημασία.
Η απόδοση του NPU εξαρτάται από τη συλλογή και την κάλυψη του χειριστή. Τα μη υποστηριζόμενα επίπεδα ενδέχεται να επιστρέψουν στη CPU ή σε άλλο επιταχυντή. Οι απαιτήσεις κβαντισμού, οι διατάξεις τανυστών, η ανάλυση εισόδου και η κίνηση της μνήμης μπορούν επίσης να αλλάξουν δραματικά την απόδοση του πραγματικού κόσμου. Πάντα να συγκρίνετε το γράφημα παραγωγής αντί να βασίζεστε μόνο στο θεωρητικό TOPS.
FPGA: ντετερμινιστικοί αγωγοί και συμπέρασμα AI όπου η ευελιξία έχει σημασία
Ένα FPGA υπερέχει σε ντετερμινιστική κίνηση δεδομένων, προσαρμοσμένες διεπαφές και μαζικά παράλληλους αγωγούς. Στα συστήματα αιχμής μπορεί να αποσειρώσει αισθητήρες, να ευθυγραμμίσει χρονικές σημάνσεις, να φιλτράρει δεδομένα, να δημιουργήσει περιοχές ενδιαφέροντος, να εκτελέσει προεπεξεργασία εικόνας και να τροφοδοτήσει έναν επιταχυντή με προβλέψιμο λανθάνοντα χρόνο. Το συμπέρασμα FPGA AI είναι επίσης δυνατό όταν ένα μοντέλο αντιστοιχίζεται καλά στη διαθέσιμη στοίβα επιτάχυνσης DSP, μνήμης και προμηθευτή.
Η αντιστάθμιση είναι προσπάθεια μηχανικής. Πρέπει να σχεδιαστεί ο σχεδιασμός, η προσομοίωση, το κλείσιμο χρονισμού, η επαλήθευση και η στρατηγική ενημέρωσης RTL ή HLS. Θα πρέπει να επιλεγεί ένα FPGA επειδή η ντετερμινιστική συμπεριφορά ή ο προσαρμοσμένος παραλληλισμός δημιουργεί αξία συστήματος—όχι απλώς επειδή μπορεί να εκτελέσει αριθμητική.
NPU εναντίον FPGA για Edge AI
Η απόφαση NPU εναντίον FPGA είναι συχνά ένα ψευδές δυαδικό. Ένα NPU είναι γενικά η ευκολότερη επιλογή για υποστηριζόμενα νευρωνικά δίκτυα και ισχυρή απόδοση ανά watt. Ένα FPGA είναι ισχυρότερο όταν το σύστημα χρειάζεται προσαρμοσμένες διεπαφές αισθητήρων, ντετερμινιστική προεπεξεργασία, ασυνήθιστες μορφές δεδομένων ή αυστηρά ελεγχόμενη διοχέτευση πριν και μετά το συμπέρασμα.
Μια κοινή αρχιτεκτονική χρησιμοποιεί και τα δύο: FPGA για εισαγωγή και προεπεξεργασία αισθητήρα, NPU για το νευρωνικό δίκτυο και MPU για ενορχήστρωση Linux. Αυτό μειώνει τον όγκο της ακανόνιστης εργασίας που επιβάλλεται σε οποιονδήποτε επεξεργαστή.
| Πόρων | Βέλτιστος φόρτος εργασίας | Κύριοι περιορισμοί |
|---|---|---|
| FPGA | Ντετερμινιστικοί αγωγοί, προσαρμοσμένη I/O, χρονοσήμανση, προεπεξεργασία, εξειδικευμένη επιτάχυνση | Προσπάθεια RTL/HLS, επαλήθευση, πόροι συσκευής |
| NPU | Υποστήριξη νευρωνικών συμπερασμάτων με καλή απόδοση ανά watt | Υποστήριξη χειριστή, μεταγλωττιστής/χρόνος εκτέλεσης, κβαντοποίηση και κίνηση μνήμης |
| MPU | Εφαρμογές Linux, δικτύωση, αποθήκευση, ασφάλεια στον κυβερνοχώρο, ενορχήστρωση | Λιγότερο ντετερμινιστική εκτέλεση. γενικού σκοπού |
| Πυρήνας MCU / RT | Βρόχοι ελέγχου, επίβλεψη ασφαλείας, αλληλουχία ισχύος, ντετερμινιστικό I/O | Περιορισμένη μνήμη και υπολογισμός υψηλού επιπέδου |
Edge computing
- Ξεκινήστε με προθεσμίες: προσδιορίστε ποια σήματα έχουν απαιτήσεις σκληρού χρονισμού και τη μέγιστη καθυστέρηση αισθητήρα σε δράση.
- Ρυθμοί δεδομένων χάρτη: υπολογίστε την απόδοση του αισθητήρα, τα ενδιάμεσα μεγέθη τανυστών και την κίνηση μνήμης στη χειρότερη περίπτωση.
- Διατηρήστε την ντετερμινιστική απορρόφηση κοντά στη διεπαφή: Οι κινητήρες FPGA, DMA ή πυρήνες σε πραγματικό χρόνο είναι συχνά κατάλληλοι.
- Τοποθετήστε υποστηριζόμενα νευρωνικά μοντέλα στο NPU: επικύρωση της κάλυψης του χειριστή και της πραγματικής μεταγλωττισμένης απόδοσης.
- Χρησιμοποιήστε το MPU για το σύστημα: Η δικτύωση, η αποθήκευση, οι ενημερώσεις, η καταγραφή, τα API και η πολιτική εφαρμογών ανήκουν φυσικά στο Linux.
- Κράτηση ελέγχου σε πραγματικό χρόνο: ένας MCU ή ένας ντετερμινιστικός πυρήνας θα πρέπει να επιβλέπει την κρίσιμη χρονικά ενεργοποίηση και την υγεία της πλατφόρμας όπου απαιτείται.
Το εύρος ζώνης της μνήμης είναι συχνά το κρυφό σημείο συμφόρησης
Πολλά σχέδια τεχνητής νοημοσύνης αιχμής επικεντρώνονται σε υπολογιστικές κορυφές και αργότερα ανακαλύπτουν ότι τα αντίγραφα, η μετατροπή χρώματος, η αναδιαμόρφωση τανυστήρα ή το κοινό DDR κυριαρχούν στον λανθάνοντα χρόνο. Οι διαδρομές μηδενικού αντιγράφου ή χαμηλού αντιγράφου, η τοπολογία DMA, η συμπεριφορά της κρυφής μνήμης και η πρόσβαση στη μνήμη του επιταχυντή θα πρέπει να αξιολογηθούν έγκαιρα. Ο θερμικός στραγγαλισμός μπορεί επίσης να μετατρέψει ένα ισχυρό σημείο αναφοράς σε αδύναμη σταθερή απόδοση.
Αυτό είναι ιδιαίτερα σημαντικό όταν πολλές κάμερες, ραντάρ, αισθητήρες συμβάντων ή ροές υψηλής ταχύτητας Ethernet μοιράζονται το ίδιο υποσύστημα μνήμης.
Παραδείγματα αρχιτεκτονικής αναφοράς
Σωλήνας όρασης / αισθητήρα συμβάντων
Αισθητήρας → Απορρόφηση και χρονική σήμανση FPGA → συμπέρασμα NPU → Υπηρεσίες απόφασης MPU → Έξοδος CAN-FD ή Ethernet. Αυτό είναι ένα ισχυρό μοτίβο για αντίληψη χαμηλής καθυστέρησης και συνδέεται απευθείας με το δικό μας .
Ενσωματωμένος υπολογιστής AI
Υψηλής ταχύτητας I/O → DMA / διαδρομή επιτάχυνσης → NPU ή συμπέρασμα GPU → Υπηρεσίες εφαρμογών Linux → API αποθήκευσης και δικτύου. Το δικό μας ενσωματωμένη μονάδα υπολογιστών και υπολογιστής με στιβαρή άκρη Οι κατηγορίες προϊόντων χτίζονται γύρω από αυτόν τον τύπο διαμερισμάτων.
Βιομηχανική ντετερμινιστική πύλη
CAN-FD / σειριακές / διεπαφές Ethernet → Χρονοσήμανση FPGA ή MCU και χειρισμός πρωτοκόλλου → Υπηρεσίες MPU → προαιρετικά αναλυτικά στοιχεία NPU. Εδώ το ντετερμινιστικό I/O και η μακροπρόθεσμη συντήρηση λογισμικού μπορεί να είναι πιο σημαντικά από τη μέγιστη απόδοση AI.
Πώς να επιλέξετε μεταξύ FPGA, NPU και MPU
Επιλέξτε από τον πλήρη φόρτο εργασίας, όχι από την ετικέτα του επεξεργαστή. Εάν το κυρίαρχο πρόβλημα είναι το νευρικό συμπέρασμα, ξεκινήστε από τη συμβατότητα NPU. Εάν κυριαρχούν το προσαρμοσμένο I/O και η ντετερμινιστική προεπεξεργασία, αξιολογήστε τους πόρους FPGA. Εάν κυριαρχούν οι υπηρεσίες Linux, η δικτύωση και το λογισμικό εφαρμογών, ξεκινήστε με τη δυνατότητα MPU. Οι περισσότερες πλατφόρμες αιχμής υψηλής απόδοσης συνδυάζουν τουλάχιστον δύο από αυτούς τους πόρους.
Πριν από τη δέσμευση υλικού, εκτελέστε αντιπροσωπευτικές ροές μέσω της προβλεπόμενης στοίβας λογισμικού και μετρήστε από άκρο σε άκρο την καθυστέρηση, την ισχύ, το εύρος ζώνης μνήμης και τις θερμικές τιμές. Αυτά τα στοιχεία είναι πιο πολύτιμα από τις γενικές κατατάξεις επιταχυντών.
Παράδειγμα εργασίας: τέσσερις κάμερες και ένας προϋπολογισμός κοινής μνήμης
Εξετάστε ένα παράδειγμα σχεδιασμού με τέσσερις ροές 1280 × 720 σε 30 καρέ ανά δευτερόλεπτο, που αντιπροσωπεύονται ως RGB με ένα byte ανά κανάλι μετά τη μετατροπή εικόνας. Το συνδυασμένο λογικό ωφέλιμο φορτίο εικόνας τους είναι 4 × 1280 × 720 × 30 × 3 = 331,776,000 byte ανά δευτερόλεπτο, περίπου 332 MB/s σε δεκαδικές μονάδες. Αυτός δεν είναι ο ρυθμός bit σύνδεσης κάμερας ή η μετρημένη απόδοση ενός προϊόντος ALVEXIS.
Ένα επιπλέον αντίγραφο πλήρους καρέ διαβάζει και γράφει αυτό το ωφέλιμο φορτίο, προσθέτοντας περίπου 664 MB/δευτερόλεπτα κίνησης μνήμης πριν εξετάσει τη συμπεριφορά της προσωρινής μνήμης ή άλλες λειτουργίες. Οι τανυστές μοντέλων, η μετατροπή χρώματος, η καταγραφή και οι ταυτόχρονες υπηρεσίες προσθέτουν τη δική τους επισκεψιμότητα. Αυτό εξηγεί γιατί μια σχεδίαση μπορεί να περιοριστεί από την κίνηση δεδομένων ακόμα και όταν η βαθμολογία επιτάχυνσης επικεφαλίδας φαίνεται επαρκής.
| Εργασία σε θέση | Αφετηρία | Αποδεικτικά στοιχεία πριν από τη διάπραξη |
|---|---|---|
| Απορρόφηση και συγχρονισμός κάμερας | Υποστηριζόμενες διεπαφές SoC, με FPGA ή μια συνοδευτική συσκευή όπου απαιτείται | Ταυτόχρονη λήψη ροής, συμπεριφορά χρονικής σήμανσης και απώλεια υπό φορτίο |
| Νευρικό συμπέρασμα | NPU όταν υποστηρίζονται το επιλεγμένο γράφημα και η ακρίβεια | Ακρίβεια μετατροπής και σταθερές μετρήσεις εφαρμογής στη συσκευή |
| Υπηρεσίες και ηχογράφηση Linux | Πόροι MPU και μια ρητά προγραμματισμένη διαδρομή αποθήκευσης | Συμπεριφορά CPU, μνήμη και I/O ενώ η εξαγωγή συμπερασμάτων είναι ενεργή |
| Χρονικά κρίσιμος εξωτερικός έλεγχος | Ένας κατάλληλος ελεγκτής σε πραγματικό χρόνο ή επικυρωμένη ντετερμινιστική υλοποίηση | Αποδεικτικά στοιχεία χρόνου απόκρισης υπό τον σχετικό φόρτο εργασίας στη χειρότερη περίπτωση |
Ο σκοπός της κατάτμησης είναι να καταστήσει σαφή κάθε χρονισμό και απαίτηση πόρων. Δεν σημαίνει ότι κάθε σχέδιο χρειάζεται τέσσερις διαφορετικούς επεξεργαστές. Ξεκινήστε με την απλούστερη αρχιτεκτονική που πληροί τις απαιτήσεις και, στη συνέχεια, προσθέστε πόρους όπου οι μετρήσεις ή οι περιορισμοί της διεπαφής τους δικαιολογούν.
Ένα σχέδιο επικύρωσης για την επιλογή του μείγματος επεξεργαστή
- Παγώστε το συμβόλαιο εισαγωγής: αισθητήρες, μορφές δεδομένων, μοντέλο, ανάλυση και συνθήκες λειτουργίας.
- Επαληθεύστε την υποστήριξη του μοντέλου και την ποιότητα εξόδου πριν συγκρίνετε την απόδοση του επιταχυντή.
- Μετρήστε χωριστά την απόκτηση, την προεπεξεργασία, το συμπέρασμα και την παράδοση και μετά μετρήστε την πλήρη διαδρομή.
- Επαναλάβετε υπό παρατεταμένο θερμικό φορτίο με την εγγραφή, τη δικτύωση και όλους τους προβλεπόμενους αισθητήρες ενεργούς.
- Καταγράψτε την ηλικία της ουράς, τις χαμένες εισόδους και τον λανθάνοντα χρόνο της ουράς, επομένως ένα υψηλό μέσο ποσοστό δεν κρύβει διακοπτόμενες καθυστερήσεις.
Διατηρήστε την αναθεώρηση του πίνακα, την εικόνα λογισμικού, τις εκδόσεις της αλυσίδας εργαλείων και τις εισαγωγές δοκιμής με τα αποτελέσματα. Για μια υλοποίηση Rockchip, το Οδηγός ανάπτυξης μοντέλου RK3588 αναπτύσσει αυτή τη ροή εργασίας. Για δεδομένα συμβάντων κάμερας, χρησιμοποιήστε το οδηγός ενοποίησης λογισμικού για να ορίσετε χρονικές σημάνσεις και αναπαραστάσεις πριν επιλέξετε τη διαδρομή συμπερασμάτων.
Αφού χαρακτηριστεί ο φόρτος εργασίας, συγκρίνετε το Επιλογές ενσωμάτωσης SoM και SBC. Αυτή η απόφαση συνδέει την υπολογιστική αρχιτεκτονική με συνδέσμους, ισχύ, περίβλημα και εργασίες παραγωγής.
Από την επιλογή επεξεργαστή έως ένα οικοδομήσιμο προϊόν
Μια σύντομη λίστα επεξεργαστών είναι χρήσιμη μόνο όταν ταιριάζει στο πλήρες προϊόν. Προτού παραγγείλετε μια προσαρμοσμένη πλακέτα, μετατρέψτε τον φόρτο εργασίας σε μια σύντομη σύντομη τεχνική:
- Είσοδοι: αριθμός αισθητήρων, διεπαφές, ρυθμοί δειγμάτων και απαιτήσεις συγχρονισμού.
- Φόρτος εργασίας AI: το πραγματικό μοντέλο, υποστηριζόμενη ακρίβεια και αποδεκτή ποιότητα εξόδου.
- Φυσικοί περιορισμοί: διαστάσεις, πηγή ενέργειας, ψύξη και περιβάλλον λειτουργίας.
- Παράδοση: ποσότητα πρωτοτύπου, όγκος παραγωγής, κυριότητα λογισμικού και δοκιμές αποδοχής.
Για έναν σταθμό επιθεώρησης, συνδέστε τη σωλήνωση της κάμερας με τη σκανδάλη γραμμής, το αναγνωριστικό εξαρτήματος και τη διεπαφή αποτελέσματος. Το δικό μας βιομηχανική μηχανική όραση και λύση ποιοτικού ελέγχου εξηγεί πώς αυτές οι απαιτήσεις γίνονται πιλοτικό έργο.
MPU, NPU και FPGA edge AI FAQ
Τι είναι το MPU AI;
Το MPU AI περιγράφει φόρτους εργασίας τεχνητής νοημοσύνης που αναπτύσσονται σε μια ενσωματωμένη πλατφόρμα μικροεπεξεργαστή, συνήθως με Linux και συχνά με ενσωματωμένη ή συνοδευτική επιτάχυνση, όπως NPU, GPU ή FPGA. Το MPU διαχειρίζεται συνήθως εφαρμογές, δικτύωση, αποθήκευση, ασφάλεια και ενορχήστρωση γύρω από τη γραμμή συμπερασμάτων.
Μπορεί ένας MPU να εκτελέσει μηχανική εκμάθηση;
Ναι. Οι φόρτοι εργασίας μηχανικής μάθησης MPU μπορούν να εκτελούνται σε πυρήνες CPU ή να χρησιμοποιούν ενσωματωμένους επιταχυντές. Για τα συστήματα παραγωγής, η υποστήριξη μοντέλων, το εύρος ζώνης μνήμης, οι παρατεταμένες θερμικές θερμοκρασίες και ο λανθάνοντος χρόνος από άκρο σε άκρο έχουν μεγαλύτερη σημασία από τον τίτλο TOPS μόνο.
NPU εναντίον FPGA: ποιο είναι καλύτερο για το edge AI;
Ένα NPU είναι συνήθως η απλούστερη επιλογή για υποστηριζόμενη εξαγωγή συμπερασμάτων νευρωνικών δικτύων με ισχυρή απόδοση ανά watt. Ένα FPGA είναι προτιμότερο όταν οι προσαρμοσμένες διεπαφές αισθητήρων, η ντετερμινιστική προεπεξεργασία, οι ασυνήθιστες μορφές δεδομένων ή οι εξειδικευμένες σωληνώσεις είναι κεντρικά στο σχεδιασμό. Πολλά συστήματα χρησιμοποιούν και τα δύο.
Μπορείτε να εκτελέσετε έναν φόρτο εργασίας NPU σε ένα FPGA;
Ένα FPGA μπορεί να εφαρμόσει επιταχυντές νευρωνικών δικτύων ή αγωγούς συμπερασμάτων, αλλά δεν είναι αυτόματα ισοδύναμο με ένα αποκλειστικό NPU. Το εμπόριο περιλαμβάνει προγραμματιζόμενους λογικούς πόρους, μνήμη, ωριμότητα αλυσίδας εργαλείων, υποστήριξη μοντέλου, προσπάθεια επαλήθευσης και ισχύ.
Πότε έχει νόημα το συμπέρασμα AI FPGA;
Το συμπέρασμα FPGA AI είναι ελκυστικό όταν το συμπέρασμα πρέπει να είναι στενά συνδεδεμένο με ντετερμινιστική προεπεξεργασία, προσαρμοσμένες διεπαφές ή εξειδικευμένη μετακίνηση δεδομένων. Είναι ιδιαίτερα χρήσιμο όταν ένας τυπικός χρόνος εκτέλεσης NPU δεν ταιριάζει στη διαδρομή του αισθητήρα ή στους περιορισμούς καθυστέρησης.
Όπου το TinyML ταιριάζει στο υπολογιστική στην άκρη του δικτύου
Το υπολογιστική στην άκρη του δικτύου περιγράφει την επεξεργασία κοντά στην πηγή δεδομένων. Το edge AI εφαρμόζει τα συμπεράσματα μηχανικής μάθησης εκεί. Το TinyML απευθύνεται σε μια πιο περιορισμένη κατηγορία ανάπτυξης, συχνά σε μικροελεγκτές με περιορισμένη μνήμη και ισχύ. Επομένως, ένας μικρός ταξινομητής κραδασμών και ένας αγωγός αντίληψης πολλών καμερών χρειάζονται πολύ διαφορετικούς προϋπολογισμούς υλικού, παρόλο που και τα δύο μπορεί να είναι τεχνητής νοημοσύνης αιχμής.
Για έναν στόχο μικροελεγκτή, ελέγξτε το μέγεθος του μοντέλου, τη μνήμη χρόνου εκτέλεσης, τους υποστηριζόμενους χειριστές και τα γενικά έξοδα απόκτησης. Για μια σχεδίαση που βασίζεται σε NPU ή FPGA, αξιολογήστε επίσης την κίνηση της μνήμης και τη διαίρεση μεταξύ επιταχυνόμενης και μη επιταχυνόμενης εργασίας. Επιλέξτε τη μικρότερη αρχιτεκτονική που ικανοποιεί τις μετρούμενες απαιτήσεις εργασίας και ανάκτησης, αντί να επιλέξετε μια τεχνολογία μόνο από το ακρωνύμιό της.
Τεχνικές αναφορές
- Rockchip: Στοιχεία λογισμικού RKNN και εργαλεία ανάπτυξης
- Rockchip: παραδείγματα μετατροπής μοντέλων και συμπερασμάτων
- Gallego et al.: Event-based Vision — A Survey
- TensorFlow Lite Micro: συμπέρασμα σε συσκευές με περιορισμένη μνήμη
Το παράδειγμα εύρους ζώνης είναι ένας σαφής υπολογισμός, όχι ένα σημείο αναφοράς προϊόντος. Επικυρώστε την επιλεγμένη αρχιτεκτονική για τον προβλεπόμενο φόρτο εργασίας.
Διαχωρίστε τον πραγματικό φόρτο εργασίας σας με τεχνητή νοημοσύνη αιχμής.
Στείλτε τις διεπαφές του αισθητήρα, τον τύπο μοντέλου, τους ρυθμούς δεδομένων, το φάκελο ισχύος και τους περιορισμούς ανάπτυξης. Μπορούμε να τα αντιστοιχίσουμε σε μια αρχιτεκτονική MPU/NPU/FPGA και σε κατάλληλη κλάση υπολογιστικής μονάδας.