In einem aktuellen Interview mit dem Deutschlandfunk in der Rubrik Computer und Kommunikation spricht Dr. Michael Krisper, Senior Researcher bei Pro²Future, über die Herausforderungen und Chancen von lokaler KI-Verarbeitung auf ressourcenbeschränkten Geräten.
„Ziel ist es, KI-Funktionen auf kleinen Geräten zuverlässiger, autonomer und sicherer zu machen, trotz der eingeschränkten Ressourcen“, erklärt Krisper im Gespräch mit dem Deutschlandfunk.
Warum lokale Verarbeitung der Schlüssel ist
In dem Interview hebt Dr. Krisper die Bedeutung der direkten Verarbeitung auf dem Chip hervor, also ohne Auslagerung der Rechenleistung in die Cloud. Besonders bei batteriebetriebenen Geräten und kritischen Systemen wie Unfallerkennung in Fahrzeugen kommt es auf höchste Zuverlässigkeit und minimale Latenz an. Denn: Millisekunden können den Unterschied machen.
Zudem stellt die lokale Ausführung sicher, dass IoT-Geräte auch bei Netzwerkausfällen oder ohne Internetverbindung funktionsfähig bleiben, etwa in sensiblen Infrastrukturen wie Industrieanlagen oder im medizinischen Bereich.
Ein weiterer Vorteil: Datenschutz. Sensible Daten, z. B. aus Herzschrittmachern, verbleiben im Gerät und müssen nicht an externe Server übermittelt werden.
Methoden für KI unter extremen Bedingungen
Um KI-Modelle auch auf Geräten mit wenigen Kilobyte Speicher lauffähig zu machen, wurde bei Pro²Future gemeinsam mit der TU Graz und der Universität St. Gallen (HSG) ein modularer „Werkzeugkasten“ verwendet. Zum Einsatz kommen u. a.:
- Pruning & Folding: Reduktion der Modellgröße durch das Entfernen überflüssiger oder weniger kritischer neuronaler Pfade.
- Modelldistillation: Training eines kompakten Schülermodells auf Basis eines präzisen Lehrermodells – optimiert für konkrete Aufgaben.
- Subspace Configurable Networks: Eine an der TU Graz entwickelte Methode, die den Austausch einzelner Modellfunktionen ermöglicht, ohne das gesamte Modell neu laden zu müssen.
Diese Ansätze machen es möglich, KI-Anwendungen direkt auf eingebetteten Systemen effizient, sicher und ressourcenschonend umzusetzen – eine Schlüsseltechnologie für das Internet der Dinge, industrielle Systeme und die Medizintechnik der Zukunft.
Forschung, die Wirkung zeigt
„Ich freue mich sehr, dieses Forschungsprojekt bei Pro²Future geleitet zu haben“, so Krisper. „Ein großes Dankeschön an unsere Partner von der Technischen Universität Graz und der Universität St. Gallen (HSG) für die vertrauensvolle Zusammenarbeit.“
Hier geht’s zum vollständigen Interview mit Dr. Michael Krisper (in deutscher Sprache):
https://www.deutschlandfunk.de/mini-ki-auch-iot-geraete-sollen-von-ki-profitieren-interview-michael-krisper-100.html