A legerősebb mesterséges intelligencia-modellek kifejlesztéséért folyó verseny olyannyira magával ragadó lehet, hogy a figyelemmel kísérők hajlamosak hátradőlni, és megvárni, amíg a „megfelelő” modell győzedelmeskedik, mielőtt eldöntenék, mit is építsenek belőle. Ez azonban hiba lenne, a terméktervezőknek ki kellene használniuk a lehetőséget, hogy a modellek előrejelzéseit használható, megbízható és gyakorlati értékkel bíró megoldásokká alakítsák át.
A Lattice Semiconductor és az NVIDIA közötti együttműködés a mesterséges intelligencia korszakának terméktervezési irányváltását jelzi. A „Sensor Bridge” referencia-tervvel egységesítve az érzékelőktől az MI-ig vezető folyamatokat, csökkentik a valós időhöz közeli észlelésre, értelmezésre és reagálásra képes rendszerek kialakításának korlátait. Az alkalmazások mostantól modulárisabb módon állíthatók össze, ami felgyorsítja a fejlesztést, és intelligensebb, gyorsabban reagáló termékek megvalósítását teszi lehetővé.
Ahogy az intelligencia egyre közelebb kerül az adatok keletkezési helyéhez, a hangsúly a jobb modellek építéséről arra a kérdésre helyeződik át, hogy hogyan kell ezeknek a modelleknek viselkedniük, a valós rendszerekbe való beépítés után. Az, hogy a rendszer mit észlel, mit tart fontosnak, vagy mit hagy figyelmen kívül, olyan kulcsfontosságú tervezési paraméter, amely meghatározza, hogy egy „mesterséges intelligencia-terméket” megbízhatónak, kiszámíthatónak és hasznosnak tekintenek-e.
A tervezők a referencia-tervet a Lattice Semiconductor LF-SNR-ETH-EVN (1. ábra) elnevezésű, CertusPro-NX alapú szenzor-Ethernet átjáró kártyájának felhasználásával valósíthatják meg, amely a különböző típusú szenzorjeleket szabványosított, alacsony késleltetésű Ethernet-adatfolyamokká alakítja át, amelyeket a rendszerben utána következő perem-MI rendszerek felhasználhatnak.
Az alacsony energiafogyasztású FPGA-alapú hardverplatform a hálózat peremén helyezkedik el, és a sokféle, alacsony szintű érzékelőjelet gyors, strukturált adatfolyamokká alakítja át, amelyek valós időben feldolgozhatók az Etherneten keresztül. A rendszer befogadja a nyers érzékelőadatokat, normalizálja és csomagokba rendezi, majd továbbítja azokat alacsony késleltetésű, nagy átviteli sebességű feldolgozás céljából a nagy teljesítményű grafikus processzorok (GPU-k) felé.
A Lattice kártya az NVIDIA Holoscan Sensor Bridge-szel és a perifériás számítógépes modulokkal integrálva teljes körű, végpontok közötti megoldást kínál a valós idejű szenzoros mesterséges intelligencia rendszerekhez. Ez az együttműködés megkönnyíti az új szenzorok integrálását, valamint az adatok hatékony továbbítását a mesterséges intelligencia következtetési folyamatokba olyan perifériás mesterséges intelligencia platformokon, mint az NVIDIA IGX Orin és AGX Orin.
Ez a megközelítés a felhőt támogató szerepkörbe helyezi, amelynek feladata a modellek betanítása, a különböző telepítésekből származó adatok összesítése, valamint a frissítések kezelése és a rendszer hosszú távú optimalizálása, míg az peremhálózati modulok a valós idejű érzékelésre, értelmezésre és reagálásra összpontosíthatnak.
Érzékelő-MI rendszerek tervezése
A fejlesztők így az érzékelő-MI rendszerek gyors kialakítására és az adatok fizikai bemenetekről az NVIDIA következtetési rétegébe történő áramlásának optimalizálására összpontosíthatnak. Ahelyett, hogy szimulált bemenetekre vagy a rendszer viselkedésére vonatkozó elvont feltételezésekre támaszkodnának, működő feldolgozási folyamaton keresztül áramló valós idejű érzékelőadatok felhasználásával készíthetnek prototípusokat.
Például a fejlesztő egy valós érzékelő-konfigurációval kezdheti a munkát – egy ipari érzékelővel vagy kamerával –, amelynek adatai a CertusPro-NX hídon keresztül, Ethernet-kapcsolaton keresztül továbbítódnak egy Holoscan-alapú alkalmazáshoz, amely a perifériás hardveren fut, és valós idejű mesterséges intelligencia-következtetés-feldolgozást végez. Hagyományosan egy új érzékelő hozzáadása jelentős mennyiségű mérnöki munkát igényelt, például egyéni illesztőprogramok írását, kernel szintű integrációt és egyedi adatfolyamatok kiépítését, csak hogy a jel használható formába kerüljön. A Holoscan csökkenti a terheket egy szabványosított API-val és szállítási réteggel, amely lehetővé teszi az érzékelőadatok folyamatos feldolgozását a peremhálózaton.
Fordítási réteg
A Lattice FPGA alapú kártya programozható transzlációs rétegként működik a fizikai világ és a rendszer többi része között, csökkentve a hardver újratervezésének szükségességét minden új érzékelő bevezetésekor. Előre konfigurált FPGA építőelemeket tartalmaz az érzékelőadatok kezelésére és adaptálására, valamint egy komplett szoftvercsomagot az adatok gyűjtésére, mozgatására és feldolgozására az NVIDIA edge MI hardveren.
Ez a megközelítés a szenzorintegrációt hardveres korlátból konfigurálható tervezési döntéssé alakítja, jelentősen növelve a rendszer rugalmasságát a termékkövetelmények fejlődésével. A tervezőcsapatok zökkenőmentesen integrálhatnak új szenzorokat vagy adhatnak hozzá további bemeneteket a fejlesztési folyamat során anélkül, hogy a teljes architektúra átfogó átdolgozására lenne szükség.
A termék viselkedésének a teljes gyártási rendszerek működésbe lépése előtti módosításának lehetősége csökkenti az egyedi integrációs munkát, és iteratív fejlesztéseket tesz lehetővé a rendszerészlelésben, a műveleti események kiváltó okaiban és a bizonytalanság kezelésében.
Következtetés
A terméktervezők nem engedhetik meg maguknak, hogy megvárják a mesterséges intelligencia „modellháborúinak” lezárulását. Elérkezett az idő, hogy olyan mesterséges intelligencia által vezérelt alkalmazásokat hozzanak létre, amelyek képesek érzékelni, dönteni és cselekedni valós idejű, valós bemenetek alapján. A Lattice Semiconductor és az NVIDIA közötti együttműködés ultraalacsony késleltetésű folyamatokat biztosít a tervezőknek, amelyek lehetővé teszik az MI-alkalmazások új kategóriáinak létrehozását több területen.
Rolf Horn
Applications Engineer
DigiKey Germany
Tel.: +49 89 2444 8 x 16817
E-mail: rolf.horn@digikey.com
