Immagine sorgente: Ambiq
Punti chiave sui dispositivi AI alimentati a batteria:
- I dispositivi alimentati a batteria stanno adottando l’intelligenza artificiale (AI) per migliorare le prestazioni.
- I dispositivi IA che operano all’edge devono essere avari di potere.
- I dispositivi che sfruttano questa tendenza lo faranno Vieni con sottosistemi e capacità diversificati, ma tutti devono includere funzionalità di sicurezza complete.
As la tecnologia progredisce, l’imperativo di integrare l’intelligenza artificiale nei dispositivi alimentati a batteria non solo richiede innovazioni in termini di efficienza energetica, ma rimodella anche il modo in cui i dispositivi interagiscono con il loro ambiente, promuovendo un mondo più intelligente e interconnesso.
Introduzione
Quando pensiamo all’intelligenza artificiale, Velivolo autonomo di sesta generazione, le Internet industriale delle cosee, ovviamente, ChatGPT, questi sono argomenti che mi vengono in mente spesso. All'altra estremità dello spettro ci sono i dispositivi che servono essi stessi il “bordo” – dove il sistema elettronico si interfaccia con il di rose, fisico mondo, come occhiali AR/VR alimentati a batteria, automazione industriale, dispositivi di monitoraggio remoto nonché un dispositivo indossabile che misura il battito cardiaco, la pressione sanguigna o altri parametri medici di chi lo indossa. Questi tipi di dispositivi devono essere piccoli e, soprattutto, devono essere utilizzati assolutamente la minor quantità di energia possibile.
Localizzando l’elaborazione dell’intelligenza artificiale all’interno dei dispositivi stessi, i progettisti stanno superando i vincoli tradizionali legati a potenza, prestazioni e spazio, consentendo così una nuova era di dispositivi mobili e veramente autonomi.
A tal fine, gli OEM stanno sostituendo gli algoritmi informatici classici con soluzioni di rete neurale. L'idea è di non solo migliorare le prestazioni, ma anche farlo risparmiare spazio ed energia. Ma fino ad ora, questo significherebbe il dispositivo dovrebbe comunicare tramite cloud con un server AI. Ma ciò non introdurrebbe solo latenza, ma sarebbe aumentano anche peso e dimensioni e consumano troppa energia, il che è di preciso la situazione che i progettisti stavano cercando di evitare. La soluzione si basa su chip monolitici a bassissimo consumo con intelligenza artificiale integrata, come quelli di Ambiq Apollo5 serie, destinata alle applicazioni AI alimentate a batteria.
L'MCU Apollo510 in breve
Come descritto nel comunicato stampa di Ambiq[1], l'Apollo510 è l'ultimo di una serie di MCU Apollo, nati dal successo Famiglia Apollo4 Plus. Recentemente introdotto al Conferenza mondiale integrata, la nuova unità è il primo membro della famiglia SoC Apollo5. L’unità monolitica può elaborare carichi di lavoro di intelligenza artificiale e machine learning e, allo stesso tempo, affrontare applicazioni vocali di qualità telco, elaborazione vocale/sensore sempre attiva, nonché grafica complessa.
L'Apollo510 dispone di un ARM Cortex-M55 dotato di Arm Helium, consentendo al dispositivo di raggiungere velocità di elaborazione fino a 250 MHz, consentendo all'unità di fornire un'efficienza energetica 30 volte migliore e prestazioni 10 volte più veloci rispetto ai precedenti dispositivi Apollo, migliorando anche la latenza di un fattore dieci e allo stesso tempo utilizzando solo metà della potenza. Altri elementi fondamentali della progettazione includono 4 MB di NVM su chip e 3.75 MB di SRAM su chip, oltre a fornire interfacce ad elevata larghezza di banda fino a 500 MB/s, consentendo l'utilizzo efficiente di qualsiasi memoria off-chip che i progettisti di prodotti OEM possono scegliere di utilizzare. impiegare.
Apollo510 di Ambiq apporta progressi rivoluzionari nelle capacità dei microcontrollori, sottolineando in particolare il suo ruolo nel potenziare la prossima generazione di dispositivi potenziati dall'intelligenza artificiale senza compromettere l'efficienza o la funzionalità.
I confronti tra energia e calcolo dell'Apollo510. Fonte dell'immagine. Ambiq
La conditio sine qua non di qualsiasi dispositivo alimentato a batteria, con o senza AI, è il consumo di la minor quantità di energia possibile. A tal fine, Scott Hanson, CTO e fondatore di Ambiq, afferma: “Noi di Ambiq abbiamo spinto la nostra piattaforma proprietaria SPOT per ottimizzare il consumo energetico a supporto dei nostri clienti, che anno dopo anno stanno aumentando in modo aggressivo l'intelligenza e la sofisticatezza dei loro dispositivi alimentati a batteria. quest’anno, il nuovo MCU Apollo510 è allo stesso tempo il prodotto più efficiente dal punto di vista energetico e dalle prestazioni più elevate che abbiamo mai creato”.
Per ulteriori approfondimenti, guarda questa discussione esterna sulle caratteristiche e gli impatti dell'MCU Apollo510.
Operare sull'Endpoint
As descritto da Hanson in un video di ipXchange[2], basato sul cloud L'intelligenza artificiale può essere stupenda, ma per lui la storia più grande sta accadendo al punto finale. Dispositivi come sensori intelligenti e orologi intelligenti, che operano all'endpoint, devono essere in grado di eseguire l'inferenza dell'intelligenza artificiale per una moltitudine di scopi cioè pronto ad aumentare alla velocità dell'immaginazione dei designer. È qui che viene preso di mira l'Apollo5.
Questa attenzione strategica all’elaborazione degli endpoint è essenziale per ottenere il tipo di interazione reattiva e intuitiva prevista dai moderni dispositivi intelligenti, dai sistemi di automazione domestica alle sofisticate tecnologie di monitoraggio sanitario.
Poiché Apollo510 può eseguire carichi di lavoro AI e DSP con un numero di cicli da 3 a 15 volte inferiore rispetto a quanto richiesto in precedenza, è, a sua volta, 3 a 15 volte più efficiente, richiedendo molta meno potenza per operazione.
La capacità dell'Apollo510 di migliorare le prestazioni con un consumo energetico minimo lo rende ideale per le applicazioni endpoint, come indicato nel video di riferimento. Queste funzionalità sono fondamentali nei moderni dispositivi IoT in cui l'elaborazione in tempo reale e l'efficienza energetica sono fondamentali.
Non perdere il chip per la memoria
L'accesso alla memoria viene imposto Enorme costi energetici, anche se quella memoria è ospitata su un altro dado che è strettamente co-confezionato direttamente con il motore AI. Tuttavia, se i progettisti che utilizzano l'Apollo510 do necessitano di ancora più memoria di quella nativa del dispositivo Ambiq, è disponibile una ricca scelta di interfacce di memoria.
L'approccio architettonico dell'Apollo510 all'integrazione di una sostanziale memoria su chip costituisce un fattore cruciale nella sua capacità di eseguire in modo efficiente applicazioni ad alta richiesta, mantenendo la leadership di Ambiq nella progettazione di MCU a basso consumo.
Nessuna Micro MPU – per ora.
Le MPU occupano molto spazio sul die, ed di non sono necessari per molti dei potenziali casi d'uso dell'Apollo510. Tuttavia, alcuni OEM dovranno gestire reti neurali più complesse e i futuri membri della famiglia Apollo5 implementeranno MPU per soddisfare le loro esigenze. Allo stesso modo, mentre i predecessori dell'unità erano dotati di Bluetooth, questo primo membro della famiglia Apollo5 non lo ha, ancora una volta, perché molti progetti semplicemente non lo richiedono.
Sicurezza
Aumentare Ambiq proprio piattaforma secureSPOT, Apollo510 utilizza la tecnologia Arm TrustZone con una funzione fisica non clonabile (PUF), OTP anti-manomissione e periferiche sicure. Grazie a queste funzionalità critiche, Apollo510 consente ai progettisti di creare in modo più rapido e semplice un ambiente di esecuzione affidabile (TEE) per sicuro, applicazioni robuste.
Il miglioramento di queste misure di sicurezza è una risposta diretta alle crescenti sfide nella protezione dei dati degli utenti e nella garanzia dell’integrità dei dispositivi in un’era in cui la sicurezza digitale è fondamentale.
Sviluppo software per aiutare i clienti
Solo una volta costruita una rete neurale inizia il processo di metamorfosi, ed esso può quindi essere applicato direttamente a ciò che Hanson chiama hardware bare metal, un vecchio termine affascinante amato dagli ingegneri hardware. L'azienda fornisce librerie e utilità per aiutare i progettisti nei loro compiti.
Azienda fornita Sono inoltre disponibili kit di sviluppo IA che fungono da utili progetti di riferimento. Basati su reti neurali open source che Ambiq progetta internamente, loro colpisci molti degli argomenti scottanti vengono ora affrontati in modo marginale, compreso il miglioramento del parlato. L'azienda spera che i progettisti OEM utilizzino questi kit come punti di partenza e si basino su di essi.
Sfide e opportunità
L'intelligenza artificiale arriva dal server remoto fino all'edge. I designer di tutto il mondo stanno appena iniziando a esplorare le possibilità quello Questo comporterà, e il mondo sta aspettando la prima killer app.
La famiglia Apollo5 e i suoi concorrenti presenti e futuri non solo consumano minuscole quantità di energia, ma vantano anche enormi quantità di potenza computazionale specializzata, ben oltre ciò che possono fare anche i progettisti più sofisticati adesso essere abituato. Alcuni OEM potrebbero essere tentati di attenersi ai loro algoritmi computazionali classici della vecchia scuola.
Possono scegliere di utilizzare questi dispositivi semplicemente come nuovi potenti muscoli per rianimare un frame ormai obsoleto e non sfruttare appieno l’opportunità di impiegare l’intelligenza artificiale.
Quindi la sfida qui non è farlo bordo d'attacco aziende come Ambiq, che prospererà o verrà comprata, con grande profitto per gli azionisti. Il pericolo qui è per le aziende che falliranno se non riescono ad afferrare la tigre dell’intelligenza artificiale per la coda.
Il video tocca anche il panorama dinamico dell’integrazione dell’intelligenza artificiale nei dispositivi a basso consumo, evidenziando le sfide legate al bilanciamento delle prestazioni con l’efficienza energetica, una considerazione fondamentale poiché la tecnologia continua ad evolversi ed espandersi in nuovi mercati.
Avvolgere Up
Anche se ChatGPT può occupare tutti i titoli dei giornali, stanno succedendo molte cose al limite e oltre. L'intelligenza artificiale interpreterà i movimenti della mano a utenti del dispositivo, analizzano i loro comandi vocali e inventariano le letture del corpo dell'utente da minuscoli e discreti indossabili cerotti e protesi corporee.
Ma la potenza è un fattore limitante e ogni microwatt conta. I riferimenti a memorie esterne, anche se alloggiate nello stesso dispositivo, sprecano energia. I riferimenti all’intelligenza artificiale basata su server sono fuori discussione. Ecco perché dispositivi come Apollo510 devono esserlo autonomo, e avere quanto più spazio possibile su un unico die e includere la connettività più efficiente agli elementi esterni.
Riferimenti:
- Ambiq Apollo510 offre un miglioramento dell'efficienza energetica 30 volte superiore per liberare l'intelligenza artificiale degli endpoint: https://ambiq.com/news/ambiq-apollo510-delivers-30x-power-efficiency-improvement-to-unleash-endpoint-ai/
- Podcast di ipXperience: https://www.youtube.com/watch?v=Fan7MdyS36o
Glossario dei termini chiave:
- OTP. Password una tantum
- DSP. Elaborazione del segnale digitale
- GPU. Unità di elaborazione grafica