Poptávka po nasazení algoritmů a modelů umělé inteligence (AI) přímo na koncových zařízeních (tzv. edge) mezi vývojáři neustále roste.
Důvod je zřejmý: tento přístup přibližuje schopnosti AI přímo k aplikaci, což umožňuje rychlejší zpracování, nižší latenci a lepší ochranu soukromí – to vše bez nutnosti spoléhat se na centralizované cloudové servery. Společnost Advantech nyní nabízí konstruktérům další konkurenční výhodu: robustní řešení „AI-on-Module“ s nízkým tepelným výkonem (TDP). Tato řešení využívají platformy nové generace (System-on-Chip) v malých formátech od předních hráčů na trhu, jako jsou Qualcomm®, NVIDIA, RockChip a NXP®, s možností rozšíření o akcelerační AI moduly.
V první linii: Kritické aplikace
Řešení AI-on-Module otevírají dveře nové generaci rychle rostoucích segmentů bateriově napájených aplikací, jako jsou drony a autonomní zařízení pro obranný průmysl. Nejnovější technologie AI na výkonnějších čipech (SoC) s integrovanými neurálními procesory (NPU) a vylepšenou konektivitou pomáhají rozvíjet širší funkcionalitu. Tvorba a nasazování AI modelů je nyní podporováno větším množstvím nástrojů a existujících vzorových modelů, což usnadňuje začátky. Očekávaný výkon AI lze navíc lépe změřit již na samém počátku vývojového cyklu.
Edge AI nové generace funguje jako klíčový faktor, který pomáhá vývojářům plnit hlavní cíle tohoto náročného sektoru.
Dlouhé vývojové cykly v tomto odvětví a specifické požadavky také znamenají, že inženýři se již nyní dívají do budoucna a plánují pracovat s hardwarem, který zatím fyzicky neexistuje. Využití brzké dostupnosti předkonfigurovaných Edge AI modulů od Advantechu je proto atraktivní i ekonomické.
Komerční aplikace
Je třeba poznamenat, že tento trend se zdaleka netýká pouze obranného průmyslu. Evropa je svědkem rostoucí poptávky po komerčních aplikacích Edge AI. Z této špičkové technologie může těžit mnoho odvětví. Nejnovější řešení od Advantechu umožňují vývojářům využívat napájení přes Ethernet (PoE) přímo na jejich nosných deskách (Carrier Boards). Společnost se silně zaměřuje na své portfolio počítačových modulů (Computers on Modules) a disponuje jedněmi z nejlepších zdrojů a lokální infrastrukturou pro podporu inženýrů při vývoji jejich systémů.
Advantech navíc pracuje na uvedení jednodeskových počítačů (SBC) s AI schopnostmi napájených přes PoE. Ty by měly umožnit krátkou dobu uvedení na trh (time-to-market) a jsou velmi vhodné pro malé a střední podniky.
Dalším častým tématem v komerčních aplikacích je ochrana dat a poměrně přísná legislativa EU. V mnoha aplikacích přispívá k souladu s předpisy právě zpracování obrazu přímo na zařízení (na okraji sítě) a odesílání pouze anonymizovaných dat na server.
Znalosti znamenají sílu a efektivitu
TDP (Thermal Design Power) představuje maximální množství tepla, které komponenta vygeneruje při běžném používání.
U polovodičů značí nízké TDP procesor, který spotřebovává méně energie a generuje méně tepla než jeho protějšek s vyšším TDP. Díky tomu mohou systémoví inženýři nabídnout svým zákazníkům řešení se sníženou spotřebou energie pro delší výdrž baterie u přenosných zařízení, s menším vyzařováním tepla (což eliminuje potřebu rozsáhlých chladicích systémů), nižším dopadem na životní prostředí a potenciálně tišším provozem.
Vývojáři se také musí zaměřit na formát (form factor). Zařízení Edge AI často pracují na hranici možností v oblasti chlazení. Malý formát je klíčový kvůli potřebě kompaktních, energeticky úsporných a odolných zařízení, která lze nasadit v rozmanitých prostředích. Je však možné dosáhnout efektivnějšího chlazení a celkově lepších systémů s moduly OSM nebo SMARC? To bývá ve fázi koncepčního návrhu často tvrdý oříšek.
Advantech dokáže splnit požadavky na nízké TDP i malé rozměry díky svým Edge AI modulům nové generace, z nichž řada bude brzy k dispozici. Klíčové mezi novinkami budou řešení založená na procesorových platformách Qualcomm® a NXP®.
Plán do budoucna
Advantech udržuje komplexní plán uvádění nových AI-on-Module produktů, jak inovace postupují od konceptu přes vývoj a validační testování až po sériovou výrobu.
Mezi nejnovější řešení, která vstupují do výroby, patří Advantech AOM-2721. Nabízí kompaktní formát OSM (Open Standard Module) velikosti L o rozměrech pouhých 45 x 45 mm a je založen na ultravýkonné platformě Qualcomm® QCS6490. Tento čipset poskytuje výkonnou Edge AI díky architektuře s AI akcelerátorem a potenciálním špičkovým inferenčním výkonem až 13 TOPS při nízkém TDP.
Strojové učení přímo na zařízení (on-device machine learning) usnadňuje exponenciální šíření případů užití edge computingu. SoC Qualcomm® QCS6490 je účelově navržen pro vysoce výkonné edge výpočty, kombinuje až 8jádrové CPU Qualcomm®®, integrovanou GPU Qualcomm® Adreno™ a výkonný AI engine (NPU + digitální signálový procesor). Díky trojitému ISP (Image Signal Processor) s podporou AI, škálovatelnému výpočetnímu výkonu, prémiovým možnostem multigigabitové konektivity a rozšířeným I/O je QCS6490 ideální volbou.
Modul AOM-2721 OSM 1.1 s čipem Qualcomm® QCS6490 poskytuje rozhraní PCIe, USB 3.2, Giga Ethernet, sériové rozhraní kamery MIPI-CSI, komunikační protokol I2C, SPI, GPIO, PWM a vestavěná rozhraní DisplayPort a MIPI-DSI pro embedded aplikace.
Další novinkou v sériové výrobě je Advantech AOM-5521. Je založen na platformě NXP® i.MX 95 a nabízí kompaktní formát SMARC o rozměrech 82 x 50 mm. Čip i.MX 95 přináší bezpečné, zabezpečené a energeticky úsporné edge výpočty, kombinující AI akcelerované zpracování obrazu s vysokým výpočetním výkonem a pohlcující 3D grafikou postavenou na Arm® Mali™. Mezi výjimečné vlastnosti patří inovativní akcelerátor NXP Neutron NPU pro strojové učení, vysokorychlostní konektivita, bezpečnostní funkce a integrovaná zabezpečená enkláva EdgeLock®.
Advantech AOM-5521 s NXP® i.MX95 a integrovaným AI NPU nabízí spolehlivý a bezpečný provoz. Poskytuje rozsáhlé možnosti připojení, včetně USB 2.0, USB 3.2 Gen1, 10 Gigabit Ethernet, sériového rozhraní MIPI-C, PCIe, a také dvoukanálového rozhraní LVDS a 4linkového sériového rozhraní displeje MIPI-D. Tyto vlastnosti činí z AOM-5521 vynikající volbu pro širokou škálu vestavěných aplikací.
Elitní výkon
Kromě Qualcomm® QCS6490 a NXP® i.MX95 plánuje Advantech také řešení AI-on-Module s čipy Qualcomm® Elite/X Plus a Qualcomm® QCS9100.
To je skvělá zpráva pro vývojáře v sektorech, jako je obrana, protože to rozšiřuje možnosti v klíčových aplikacích, včetně vyčkávací munice a dronů (loitering drones). Dostupnost AI modulů s malými rozměry a nízkým TDP (v některých případech pouhých 6,5 W) podporuje kritické úkoly, jako je autonomní detekce objektů. Ve skutečnosti z toho budou těžit jakékoli aplikace vyžadující shodu s předpisy, kybernetickou bezpečnost a odolnost. Možnosti zahrnují jak pájecí moduly OSM, tak moduly SMARC, což poskytuje větší svobodu při mechanickém návrhu.
Inovativní možnosti se chystají i pro komerční aplikace, jako je rozpoznávání obličeje v interkomech. Příkladem nadcházejícího vývoje je modul Advantech AOM-3841 s nízkoenergetickým SoC RockChip RK3576.
V době, kdy se konstruktéři snaží vytvářet optimální řešení vyvažováním mnoha atributů – výkonu, spolehlivosti, odolnosti, formátu a nízkého TDP – představují moduly AI-on-Module nové generace od Advantechu pohodlnou a efektivní cestu vpřed. Ve východní Evropě, kde je rostoucí poptávka po AI řešeních tažena zvyšujícími se investicemi rizikového kapitálu, silnou vládní podporou a rostoucí základnou kvalifikovaných technických talentů, musí vývojáři věnovat větší pozornost dostupnosti Edge AI platforem, aby mohli pokračovat v pozoruhodném pokroku na globální scéně.
Advantech Europe
Lidická 2006/26, 602 00 Brno
Tel.: +420 731 463 768
E-mail: Tato e-mailová adresa je chráněna před spamboty. Pro její zobrazení musíte mít povolen Javascript.
www.advantech.com/en-eu
