Şüphesiz bunu okumuşsunuzdur veya duymuşsunuzdur, ağ uç cihazlarının sayısı çoğaldıkça, büyük miktarda veri akışı da sürekli olarak arttı. Bu cihazlar arasında sürücüsüz arabalar, Nesnelerin İnterneti cihazları, tüketici elektroniği ve hatta dizüstü bilgisayarlar ve kişisel bilgisayarlar yer alıyor. Birçok tahmine göre 2025 yılına kadar on milyarlarca IoT cihazı faaliyette olacak. Bu cihazlar buluta çeşitli veri türlerini sürekli veri akışları halinde gönderir ve veri hızları büyük farklılıklar gösterir. Genel olarak bu cihazlar büyük miktarda ham veri üretecek ve veri miktarı zamanla artmaya devam edecektir.
Güvenlik kameralarındaki, sürücüsüz araçlardaki ve bilgisayarlardaki video kaydediciler, yüksek hızlı, yüksek çözünürlüklü video akışları üretir. IoT cihazları orta bit hızı verileri üretir ve bunları büyük veri akışları halinde toplar. Diğer birçok IoT sensörü türü (sıcaklık, basınç, konum, ışık seviyesi vb. ölçümü) düşük bit hızlı veri akışları üretecek, ancak yakında bu tür sensörlerin sayısı milyarlara ulaşacak. Bu nedenle, bu düşük bit hızlı veri akışları bile buluta girmeden önce daha büyük, yüksek bit hızlı veri akışları halinde toplanabilir.
Pikosel, uzun mesafe IoT ağları (LoRaWAN gibi) ve küresel ağ iletişimi uydu ağları (SpaceX'in genişleyen Starlink geniş bant ağı ve Swarm Technologies'in uydu tabanlı IoT İnterneti gibi) dahil olmak üzere 5G kablosuz ağların ve diğer yüksek hızlı ağ teknolojilerinin yükselişi ), kapsamlı ve hızlı bulut erişimi sağlar (Not: Starlink, Ağustos 2021'de Swarm Technologies'i satın aldı). Bu iletişim ve ağ teknolojileri, ortaya çıkan ağ uç noktasını hızlandırır.
. Ağın ucundaki gerçek zamanlı uygulamalar genellikle yüksek gecikmeyi tolere etmez; dolayısıyla işleme, analiz ve karar verme süreçlerinin cihazın kendisine aktarılması gerekir. Bu ağ uç cihazları otonom araçları, IoT sensörlerini, güvenlik kameralarını, akıllı telefonları, dizüstü bilgisayarları ve kişisel bilgisayarları içerir. Bu nedenle ağ uç bilişiminin potansiyeli çok büyüktür.
Verilerin ağırlığı altında bulut her şeyi yapamaz
Akıllı telefonların ve IoT cihazlarının katlanarak büyümesi, ağ üzerinde uç bilişimin gelişimini destekledi. Bu cihazlar her yerde bulunur ve buluta bilgi göndermek veya buluttan bilgi almak için İnternet'e bağlı olmaları gerekir. Bazı IoT cihazları (kameralar gibi) çalışma sırasında büyük miktarda veri üretir.
Sıcaklık sensörleri gibi diğer IoT cihazları az miktarda veri üretiyor ancak bu tür sensörlerin sayısı milyarlara ulaşabildiği için bulut işlemeye büyük bir yük getiriyor. Bu nedenle, yalnızca ağ iletişiminin ve buluttaki bulut depolamanın maliyetini azaltmak için değil, aynı zamanda bulut veri kanalının aşırı yüklenmesini önlemek için de ağın ucuna dayalı işleme çok gereklidir.
Ağ kenarı ürünleri ve uygulamalarının geliştiricileri, verileri analiz etmeye ve buna dayalı olarak kararlar almaya yardımcı olmak amacıyla karmaşık kalıpları eşleştirmek ve tanımak için yapay zeka ve makine öğrenimi (AI/ML) algoritmalarını giderek daha fazla benimsiyor. Aslında AI/ML kullanımı teknoloji son derece hızlı bir şekilde büyümüştür.
Günümüzde AI/ML algoritmaları, geleneksel algoritma programları tarafından ayrıştırılması ve tanınması zor olan karmaşık ve çok boyutlu veri modellerini tanımlayabildiğinden, ham verileri verimli bir şekilde işlemek için gerekli araçlar olarak kabul edilmektedir. Bazı spesifik AI/ML uygulamaları, kişilerin veya nesnelerin algılanmasını, tanınmasını, tanımlanmasını ve sayılmasını; varlık ve envanter takibi, çevresel algılama, ses ve ses algılama ve tanıma, sistem sağlığı izleme ve sistem bakım planlaması. Bilgisayar cihazlarının ve uygulamalarının geliştirilmesi.
Ortaya çıkan ağ uç cihazları ve uygulamaları arasında otonom araçlar, robotlar, otomatik üretim, uzaktan izleme, tedarik zinciri ve lojistik sistemleri ile kamu ve özel güvenliği sağlamaya yönelik video gözetimi yer alıyor. Verimliliği artırabildiği, işletme maliyetlerini azaltabildiği ve kullanıcı deneyimini geliştirebildiği için pazarın bu ağ uç sistemlerine olan talebi hızla artıyor. Ancak ne kadar kablosuz ve kablolu iletişim altyapısı kurarsak inşa edelim, aşırı veri karmaşası buluta giden bu veri hatlarını bunaltabilir veya engelleyebilir.
Ağın ucundaki yerelleştirilmiş işleme, veri hattındaki engelin kaldırılmasına yardımcı olur
Bu eğilimler, verilerin ağın ucunda oluşturulduğu durumlarda artık daha fazla işlem yapılmasının ve buluta iletilen veri miktarının azaltılmasının gerekli olduğunu göstermektedir. Nesnelerin İnterneti ve diğer ağa bağlı cihazların patlayıcı büyümesi, yeni ağ uç cihazlarının geliştirilmesinde ana itici güçtür; bu da yeni uygulamaların geliştirilmesini daha da teşvik eder, böylece ham verileri hızlı karar almayı desteklemek için yararlı ve eyleme dönüştürülebilir bilgilere dönüştürür. -Yapma, Değişen durumlara gerçek zamanlı olarak yanıt verin.
Ağ uç bilişiminin gelişiminin ilk aşamalarında şirketler, verileri uzun mesafelerdeki veri merkezlerine aktarmanın maliyetine odaklandı. Başlangıçta, ağ ucu uygulamalarının önemli bir özelliği, bulutta depolanan verilere ve buluta bağlı diğer bilgisayarlara erişme ihtiyacıydı. Bu erken uygulamalar genellikle gerçek zamanlı uygulamalar değildir; Yüzlerce milisaniye, hatta saniyeler süren yanıt süreleri kabul edilebilir. Bununla birlikte, Nesnelerin İnterneti cihazlarının gelişimi ve ağ ucunda gerçek zamanlı işleme, analiz ve yanıta yönelik artan talep, daha büyük tasarım zorluklarının yanı sıra ağ ucu teknolojisinin güçlü gelişimini de destekledi.
Ağ kenarı işleme, binlerce kilometre uzaktaki bir veri merkezinde analiz yapmak ve karar vermek yerine bilgi işlem ve veri depolamayı, veri toplayan cihaza giderek daha yakın hale getirir
Şekil 1. Ağ uç bilişimindeki eğilimler (Resim kaynağı: Lattice)
AI/ML yeteneklerinden yararlanabilecek birçok ağ uç uygulamasının son derece sıkı güç tüketimi kısıtlamaları altında çalışması gerekir. Yaygın olarak dağıtılan bu cihazlar genellikle pil gücüne dayanır. Bu tür uygulamalar, fabrikalar, çiftlikler, ofis binaları, perakende mağazalar, hastaneler, depolar, sokaklar ve konutlar dahil olmak üzere çeşitli ağ uç ortamlarında bol miktarda bulunur. Sayıları arttıkça bu cihazların tek şarjla veya yalnızca enerji toplama ve depolamayla uzun süre, hatta aylarca, yıllarca çalışması gerekiyor.
Bu nedenle, birçok cihazın çoğu zaman uyku veya hazırda bekletme durumunda olması gerekir ve cihaz etkin olmadığında devrelerin çoğunun düşük güçte bekleme modunda olması gerekir. Daha sonra aktivasyon olayı gerektiğinde cihazı başlatacaktır. Bu tür uygulamalarda temel devre Ultra düşük güç tüketimiyle çalışan sistemin beklemede kalması, etkinleştirme olayını beklemesi ve ardından gerektiğinde cihazın geri kalanına güç vermesi gerekir.
FPGA AL/ML'yi düşük güç tüketimiyle gerçekleştirir
Düşük çalışma gücü tüketimi ve AI/ML algoritma uygulaması gereksinimleri, düşük güçlü ağ uç cihazı tasarımı gereksinimleriyle çelişiyor gibi görünüyor. Ancak bu iki karmaşık tasarım gereksinimi birbiriyle çelişmez. Lattice'in en yeni FPGA'sı (düşük güçlü, küçük boyutlu, yüksek performanslı CertusPro-NX serisi cihazlar), düşük güçlü ağ uç cihazlarının birçok tasarım gereksinimlerini karşılayacak şekilde tasarlandı. Bu FPGA'ler, ağın ucunda birden fazla sensörü, ekranı, yüksek çözünürlüklü videoyu, ağ bağlantısını ve AI/ML işlemeyi destekleyebilir.
Aynı zamanda, Lattice'in sensAI çözüm koleksiyonunun yeni yayımlanan 4.1 sürümü, tasarım ekiplerinin yeni Ağ uç ekipmanı geliştirmesine yardımcı olmak için kullanıma hazır AI/ML araçları, IP çekirdekleri, donanım platformları, referans tasarımları ve gösterimleri ve özelleştirilmiş tasarım hizmetleri sağlar. ve hızla pazara sunuyoruz. sensAI'nin en son sürümü CertusPro-NX FPGA'yı destekler.
Lattice sensAI çözüm koleksiyonu, uçtan uca AI/ML modeli eğitimini, doğrulamasını ve derlemesini hızlandırır. Lattice, geliştiricilerin hızlı bir şekilde makine öğrenimi uygulamaları oluşturmasına yardımcı olan grafik kullanıcı arayüzü (GUI) tabanlı bir araç olan sensAI 4.0'a sensAI Studio tasarım ortamını ekledi. Ağ uç bilişim tasarımını ayarlamak için Lattice sensAI 2021'deki araçları kullanırken ve Lattice iCE4.1 UltraPlus, CrossLink-NX, ECP40 ve CertusPro-NX FPGA'yı kullanırken, gerçek zamanlı AI/ML işlevleri ultra düşük güç tüketimiyle gerçekleştirilebilir ――Güç tüketimi 5 mW ila 1 W kadar düşüktür.
Şekil 2. Lattice'in sensAI Studio tasarım ortamı, uçtan uca AI/ML modeli eğitimini, doğrulamasını ve derlemesini hızlandırır. (Resim kaynağı: Kafes)
Lattice CertusPro-NX FPGA serisi ürünleri destekleyen sensAI 4.1 ile sensAI'nin performansı da büyük ölçüde iyileştirildi. Mevcut nesne tespit ve takip uygulamalarına ek olarak birden fazla nesnenin gerçek zamanlı sınıflandırılması gibi uygulamalar da eklenmiştir. sensAI 4.1 çözüm seti, güncellenmiş bir sinir ağı derleyicisi içerir ve ayrıca Caffe, Keras, TensorFlow ve TensorFlow Lite'ın en son sürümleri dahil olmak üzere yaygın olarak kullanılan diğer makine öğrenimi platformlarıyla da uyumludur.
Lattice sensAI 4.1 çözüm setindeki IP çekirdekleri, üç tür evrişimli sinir ağı (CNN) hızlandırıcısını (CNN, CNN Plus ve CNN Compact) ve bir CNN yardımcı işlemci motorunu içerir. CNN IP çekirdeği, geliştiricilerin başkaları tarafından yayımlanan Mobilenet v1/v2, Resent, SSD ve VGG gibi yaygın olarak kullanılan çeşitli CNN'leri kullanmasına veya CNN modelini gerektiği gibi özelleştirmesine olanak tanır. sensAI 4.1 CNN hızlandırıcı, ultra düşük güçlü AI tasarımlarının uygulanmasını büyük ölçüde basitleştirmek için Lattice FPGA'lerin paralel işleme yeteneklerini, dağıtılmış belleğini ve DSP kaynaklarını kullanır. Hızlandırıcı çekirdeği, miliwatt aralığında ultra düşük güç tüketimi ile CNN'yi uygulayabilen son derece verimli ikili sinir ağları (BNN) dahil olmak üzere düşük güçlü sinir ağlarını uygulamak için FPGA programlanabilir mantığını kullanır.
Şekil 3. Lattice sensAI çözüm koleksiyonu, Lattice FPGA'ya dayalı AI/ML cihazları geliştirebilir. (Resim kaynağı: Kafes)
Kafes sensAI 4.1 referans tasarımı
Kafes FPGA'ler, yaygın olarak kullanılan çeşitli elektriksel arayüz standartlarını destekleyecek şekilde yapılandırılabilen programlanabilir I/O sağlar. algılayıcı arayüzler. Şirket ayrıca farklı sensör iletişim protokollerini desteklemek için birçok sert çekirdekli ve yumuşak çekirdekli IP modülü de sağlıyor. FPGA'lerin uzun süredir sensör füzyonunda önemli avantajlara sahip olması nedeniyle Lattice sensAI 4.1'in tasarımı, ağ uç cihazlarındaki birden fazla sensöre dayalı AI/ML çıkarım fonksiyonlarının geliştirilmesini basitleştirmeyi ve akıllı sensör füzyonunu gerçekleştirmeyi amaçlamaktadır. sensAI 4.1 çözüm koleksiyonu, derinlemesine durumsal farkındalık elde etmek için aynı anda çalışabilen çeşitli akıllı sensör füzyonu uygulama durumlarını gösteren birçok referans tasarım örneği içerir. Bu referans tasarımları şunları içerir:
• Hareket algılama
Bu referans tasarımı, yapay zeka tabanlı düşük güçlü bir hareket algılama sistemini uygulamak için bir IR görüntü sensörü kullanıyor. Referans tasarımı, bir eğitim veri seti, yaygın olarak kullanılan sinir ağı eğitim araçlarıyla eğitilebilecek komut dosyaları ve kullanıcıların değiştirebileceği bir sinir ağı modeli sağlar.
•Anahtar kelime tespiti
Bu referans tasarımı, anahtar kelime ifadelerini sürekli olarak tespit etmek için dijital bir MEMS mikrofonu kullanır. Tasarımcılar, sisteme uyandırma sözcüğü işlevleri eklemek amacıyla sağlanan eğitim veri kümesini güncellemek için derin öğrenme çerçevelerini (Caffe, Tensorflow veya Keras gibi) kullanabilir. Referans tasarımı, bir eğitim veri kümesini, yaygın olarak kullanılan sinir ağı eğitim araçları kullanılarak eğitilebilecek komut dosyalarını ve kullanıcıların değiştirebileceği bir sinir ağı modelini içerir.
•Yüz tanıma
Bu referans tasarımı, CNN tabanlı yüz tanımayı uygulamak için görüntü sensörlerini kullanır ve eğitim veritabanını diğer hedef türlerini tanıyacak şekilde değiştirebilir.
• Personel tespiti
Bu referans tasarımı, insanların varlığını sürekli olarak algılamak için CMOS görüntü sensörlerini kullanır. Bu tasarımı temel alan yapay zeka sistemi, ilgilenilen herhangi bir hedefi tespit etmek ve bulmak amacıyla sağlanan eğitim modelini güncellemek için derin bir öğrenme çerçevesi (Caffe veya Tensorflow gibi) kullanabilir. Referans tasarımı, bir sinir ağı modeli, bir eğitim veri seti ve ortak eğitim araçları kullanılarak eğitilebilecek komut dosyalarını içerir.
•Hedef tespiti, sınıflandırma, takip ve sayma
Bu referans tasarımı, hedef tespiti, sınıflandırma, izleme ve sayma örneklerini sağlar. Kafes geliştirme kartları için FPGA RTL, sinir ağı modelleri, örnek eğitim veri setleri ve tasarım komut dosyasının yeniden oluşturulması ve güncellenmesi dahil olmak üzere eksiksiz bir tasarıma sahiptir.
Yapay zekanın kullanılabileceği yaygın ve potansiyel ağ uç uygulamaları
Birçok ağ uç cihazının (otonom robotlar, çevre kontrolü ve video güvenlik kameraları gibi) performansını artırmak için AI/ML algoritmalarını kullanmanın bariz avantajları vardır; PC'ler ve dizüstü bilgisayarlar gibi diğer ağ uç cihazı türleri de bundan yararlanabilir. . Lattice, PC/dizüstü bilgisayar kullanıcılarının deneyimini sürekli olarak geliştirmek ve dizüstü bilgisayarların işletim güç tüketimini önemli ölçüde azaltmak amacıyla çoklu mod, akıllı sensör füzyonu ve AI/ML teknolojisini kullanmak için iş ortakları ve müşterilerle birlikte çalışıyor. Bazı uygulamalarda pil ömrü %28'e kadar arttı.
Hangi ekipman özelliklerinin potansiyel değeri var?
PC ve laptopların 24 saat içerisindeki kullanımları oldukça farklı olup genellikle gün içerisinde mesai saatlerinde yoğun olarak kullanılmaktadır. Ancak çalışma saatlerinde dahi dinlenme durumu olacak. İnsanlar ara sıra mola verir ve öğle saatlerinde yemek yerler. Bu zamanlarda genellikle açtıkları çeşitli uygulamaların kapanmamasını sağlamak için bilgisayarı çalışır durumda tutarlar.
Akıllı sensör birleşimi elde etmek için AI/ML analizini ve karar almayı bilgisayarın mevcut sensörleriyle (kameralar ve mikrofonlar) birleştirin; böylece PC'lerin veya dizüstü bilgisayarların, ekranın ve CPU'nun ne zaman kapatılacağına ve ne zaman devre dışı bırakılacağına karar vermesi için çevredeki ortamı algılamasına olanak tanır. yeniden güçlendirildi.
Varlık algılamanın en basit kullanımı, etrafta kimse olmadığında bilgisayarı kapatmaktır. Kullanıcı uzakta olduğunda Ekran Dikkat izleme işlevi uzun süre bilgisayar ekranını karartabilir ve düşük güç modunu etkinleştirebilir. Akıllı sensörün merkezi görevi gören düşük güçlü, küçük boyutlu FPGA, bilgisayar sensörlerinden girdi alabiliyor ve ardından duruma göre hangi bileşenlerin güç sağlayacağına karar verebiliyor.
Gizlilik ve güvenlik sorunlarını çözün
Benzer şekilde, bu işlevler bilgisayarın gizliliğini ve güvenliğini de artırabilir. Bilgisayarın yerleşik konferans kamerası, kullanıcının arkasındaki arka planı izlemek ve birisinin kullanıcının omzunun arkasından gözetleyip gözetlemediğini tespit etmek için kullanılabilir. Bilgisayar gizliliği koruyacak şekilde yapılandırılmışsa, yetkili bir kullanıcının arkasındaki birinin bilgisayar ekranını gözetlediğinden şüphelenildiğinde, kullanıcıya hatırlatmak için bir uyarı görüntüleyebilir ve hatta ekranı otomatik olarak karartabilir. Bu çözümlerde tüm çıkarım verilerinin yerel olarak FPGA'da saklandığına dikkat edilmelidir. SoC'ye yalnızca meta veriler aktarılır, bu da gizliliği daha da artırır ve güvenliği artırır.
Kullanıcı deneyimini optimize edin
AI/ML işlevleri aynı zamanda bilgisayar kullanıcılarının genel deneyimini de geliştirebilir. Örneğin, AI/ML tabanlı yüz vizör işlevi, kullanıcının avatarını kırpmak ve ortalamak için yerleşik video konferans kamerasının daha yüksek çözünürlüğünü kullanarak video konferans için daha iyi bir görüntü sağlayabilir. Katılımcılar, görüntüleri ortalanmış halde kalırken toplantı sırasında da hareket edebilirler. Benzer şekilde, hareket tanıma, dizüstü bilgisayarlara veya PC'lere veya diğer video özellikli IoT cihazlarına temassız işlem yetenekleri ekleyebilir.
Sağlık yararları
Artık pek çok şirket çalışanlarının sağlığını korumak istediğini açıkça belirtiyor. AI/ML tabanlı algılama işlevleri, açılır hatırlatıcılar ve diğer önlemler aracılığıyla tekrarlayan stres yaralanmalarının önlenmesine yardımcı olabilir ve çalışanların verilen dinlenme önerilerini gerçekten benimsediğinden emin olmak için bilgisayar video sensörlerini kullanabilir.
AI/ML uygulamaları, tekrarlayan stres yaralanmalarına neden olan başka bir faktör olabilecek kullanıcının duruşunu tespit etmek için de kullanılabilir. Aktif sensör geri bildirimini kullanan bu özellikler, işletmelerde halihazırda kullanılan basit zamanlama hatırlatıcılarından önemli ölçüde daha iyi olan ve strese bağlı iş yaralanmalarıyla etkili bir şekilde başa çıkabilen sağlık uygulamaları geliştirmek için kullanılabilir.
AI/ML yoluyla uygulanan tüm bu işlevler, tedarikçilerin kurumsal alıcılar için daha çekici olan kişisel bilgisayarlar ve dizüstü bilgisayarlar oluşturmasına yardımcı olabilir ve tüm bu işlevlere, sensAI 4.1 çözüm koleksiyonu ve Lattice düşük güçlü FPGA Özellikleri aracılığıyla ulaşılabilir.
Bu tür FPGA'nın kullanımı, uzun süreli sensör bağlantısı ve füzyonu için FPGA geliştirmenin ikonik işlevini aşar ve olgun AI/ML algoritmalarına dayanarak sensör sinyal analizi ve karar verme işlevlerini ekler. AI/ML'nin eklenmesi, FPGA'yı sistem işlevlerini yönetebilen, kullanıcı deneyimini geliştirebilen ve genel sistem işletim güç tüketimini azaltarak pil ömrünü büyük ölçüde uzatabilen düşük güçlü bir sistem denetleyicisi haline getirir.
Sonuç: Milyarlarca ağ uç cihazından oluşan devasa bir pazar henüz geliştirilmedi
Çoklu düşük güçlü FPGA serisi ürünleri ve bu ürün serilerini destekleyen bir dizi sensAI 4.1 çözümüyle Lattice, AI/ML teknolojisini milyarlarca ağ uç cihazına getirmeye kararlıdır. Bu nedenle ağ ucu uygulamaları oldukça potansiyel bir hedef pazardır.
Çeşitli tahminlere göre, çok sayıda ağ ucu pazarının ihtiyaçlarını karşılamak için dünyanın geniş bir bölgesinde on milyarlarca ağ ucu cihazına ihtiyaç duyulmaktadır ve bu da FPGA işi için oldukça caziptir - elbette bu ölçek Bu şekilde her sektöre uygundur. Lattice'in sensAI 4.1 çözüm seti ve düşük güçlü, küçük boyutlu FPGA serisini piyasaya sürmesi doğrudan ağ uç uygulamalarını ve pazarlarını hedefliyor. Lattice'in sensAI 4.1 çözüm koleksiyonu, sistem geliştiricilerinin çeşitli pazarlar için esnek, uygulamaya özel, FPGA tabanlı AI/ML çıkarım çözümleri geliştirmesine olanak tanıyan, ağ uç uygulamalarına yönelik yenilikçi bir geliştirme aracıdır.