KI-Modelle für Kleinstgeräte: Pro²Future ermöglicht Embedded Intelligence

Im kürzlich abgeschlossenen Forschungsprojekt E-MINDS haben Forscher*innen von Pro²Future, der TU Graz und der Universität St. Gallen einen wichtigen Durchbruch erzielt: Künstliche Intelligenz kann nun effizient auf extrem ressourcenbeschränkten IoT-Geräten ausgeführt werden,  ganz ohne externe Rechenleistung.

Unter der Leitung von Michael Krisper, Senior Researcher bei Pro²Future und am Institut für Technische Informatik der TU Graz tätig, konzentrierte sich das Projekt auf die Entwicklung skalierbarer KI-Modelle für Embedded Systems mit nur wenigen Kilobyte Speicher. Diese Modelle können beispielsweise Positionsfehler durch Störsignale in industriellen Umgebungen korrigieren.

Intelligenz im Miniaturformat: neue Ansätze für Echtzeit-Edge-AI

Das Forschungsteam entwickelte ein modulares Methodenset, das den Speicherbedarf von KI-Modellen deutlich reduziert, ohne die Leistungsfähigkeit zu beeinträchtigen. Zu den zentralen Techniken zählen:

  • Modellorchestrierung: Statt eines universellen Modells stehen mehrere spezialisierte Modelle zur Verfügung. Je nach Störquelle (z. B. Metall, Personen, Regale) wird innerhalb von rund 100 Millisekunden das passende Modell geladen.
  • Subspace configurable networks (SCNs): Ein neuer Modelltyp, der sich dynamisch an unterschiedliche Eingaben anpasst. SCNs zeigten sich besonders effizient bei Objekterkennung auf IoT-Geräten.
  • Quantisierung und Pruning: Durch die Vereinfachung numerischer Werte (z. B. Ganzzahlen statt Gleitkommazahlen) und das Entfernen irrelevanter Modellbestandteile konnte der Rechenaufwand bei minimalem Genauigkeitsverlust reduziert werden.

Diese Methoden ermöglichen es, KI-basierte Ultra-Wideband-Lokalisierung direkt auf Chip-Hardware auszuführen, etwa in Drohnen, Shuttles oder mobilen Robotern in automatisierten Lagerumgebungen. Auch zukünftige Anwendungen wie smarte Heimgeräte oder sichere Keyless-Entry-Systeme profitieren davon.

Vom Labor in die Praxis

Zwar lag der Fokus von E-MINDS auf robuster UWB-Lokalisierung für industrielle Automatisierung, doch die Ergebnisse zeigen deutlich: Effiziente Edge-AI ist nicht länger auf Hochleistungsrechner beschränkt. Die entwickelten Methoden lassen sich auf zahlreiche Anwendungsbereiche übertragen – von der Logistik bis zur Konsumelektronik.

Originalbeitrag der TU Graz
📷 Bildnachweis: Lunghammer – TU Graz

Kontakt:
Michael Krisper

+43 664 78517623

TU Graz, Institut für Kommunikationsnetze und Satellitenkommunikation, Klaus Witrisal und Team