Die Ausführung maschineller Lernverfahren (ML, Machine Learning) auf Edge-Geräten wird als Embedded Machine Learning bezeichnet, wobei Tiny Machine Learning ML-Systeme beschreibt, die Mikrocontroller mit besonders begrenzten Speicher- und Rechenkapazitäten verwenden, um batteriebetriebene, vom Stromnetz unabhängige Anwendungen zu ermöglichen. Dabei ist der Übergang der unterschiedlichen Rechen-Leistungsklassen bei unterschiedlichen eingebetteten Systemen fließend. [1]
AI on the Edge bietet einige Vorteile gegenüber klassischer, serverseitig zentralisierter KI, bringt aber auch zusätzliche Herausforderungen mit sich:
Geringere Latenzzeit
Echtzeitanwendungen erfordern die Auswertung der erfassten Sensordaten direkt auf dem Edge-System. Eine Serververbindung ist möglicherweise nicht jederzeit verfügbar und unterliegt einer zusätzlichen Latenzzeit. Die Herausforderung besteht darin, gleichzeitig die Auswertung komplexer Daten mit ausreichender Genauigkeit bei begrenztem Speicher und begrenzter Rechenleistung zu realisieren und die Echtzeitanforderungen der Anwendung zu erfüllen.
Ressourcensparsamkeit
AI on the Edge kann dazu beitragen, die Umweltbelastung zu reduzieren. Wenn Edge-Geräte die Daten direkt verarbeiten, ist keine ständige energieintensive Datenübertragung erforderlich. Ein möglicher Ansatz besteht darin, anstelle der Rohdaten nur relevante Merkmale oder unerwartete Ereignisse zu übertragen.
Datenschutz
Auch der Schutz sensibler Daten kann durch den Einsatz von AI on the Edge verbessert werden. Werden die Rohdaten nicht an einen zentralen Server übertragen, bleiben sie nur lokal (und temporär) auf dem Edge-Gerät gespeichert. Dieser datensparsame Ansatz reduziert die Angriffsvektoren erheblich. Allerdings sind die lokal erfassten Datensätze untereinander oft nicht homogen und weisen oft unterschiedliche statistische Eigenschaften auf.
Es besteht die Möglichkeit, Modelle auf den lokalen Edge-Geräten mit Hilfe von Algorithmen des föderalen Lernens (Federated Learning) zu trainieren. Dabei wird auf jedem Edge-Gerät jeweils ein Modell auf dem lokalen Datensatz trainiert und nur die Modellparameter werden an einen globalen Server gesendet. Dies gewährleistet den Datenschutz, während gleichzeitig die Erkenntnisse von jedem einzelnen Edge-Gerät genutzt werden können.