Während die Welt gebannt auf immer größere KI-Modelle blickt, die ganze Rechenzentren in Beschlag nehmen, verfolgt ein Forschungsteam rund um die TUs in Wien und Graz in Zusammenarbeit mit Industriepartnern einen ergänzenden Ansatz: Wie lässt sich maschinelles Lernen dorthin bringen, wo der Platz knapp, die Energie begrenzt und die Rechenleistung überschaubar ist – direkt in industrielle Geräte oder Steuerungen? Die Antwort auf diese Frage sucht das Christian Doppler Labor für Embedded Machine Learning (EML) an der TU Wien in Kooperation mit der TU Graz, dem Mobilitäts-Technologieunternehmen AVL, Mission Embedded, einem Unternehmen zur Entwicklung und Produktion von hochzuverlässigen Systemlösungen für sicherheitskritische Anwendungsbereiche, und Siemens Österreich. Gemeinsam wird an der Schnittstelle von Algorithmen und Hardware geforscht – mit Ergebnissen, die nicht nur wissenschaftlich beachtlich, sondern zunehmend praxisrelevant für die Industrie sind.

Matthias Wess ist Technology Expert für Electronic Design bei Siemens Österreich und gleichzeitig Postdoc-Researcher am genannten Labor an der TU Wien. Er verkörpert sehr gut die Symbiose zwischen Universität und angewandter Forschung im Industrieunternehmen – eine Kernaufgabe der Christian Doppler Labore. „Ich forsche einerseits als Postdoc im Christian Doppler Labor und arbeite hauptberuflich bei Siemens, wo ich dafür sorge, dass die Ergebnisse auch tatsächlich zum Einsatz kommen“, erklärt Wess. Diese enge Verzahnung ist kein Zufall, sondern Prinzip: Das Christian Doppler Labor findet zu hundert Prozent an der Universität statt, wird aber von den Firmenpartnern mitfinanziert und inhaltlich durch konkrete Use Cases getrieben. Viele der Studierenden, die im Labor arbeiten, finden anschließend direkt den Weg in die Industrie – als Werkstudierende, Praktikant:innen oder als ständige Mitarbeitende. „Auch das ist eine positive Synergie, die hier entsteht“, sagt Wess.

Embedded Systems im Fokus

Doch worum geht es inhaltlich? Im Kern dreht sich alles um eingebettete Systeme, Embedded Systems – also Recheneinheiten, die in Geräte integriert sind: vom Controller im Auto bis hin zu Industrie- PCs in Fabriken. Die Herausforderung: Die leistungsfähigen Machine-Learning- Modelle, die in der Forschung entwickelt werden, sind oft viel zu groß und rechenintensiv für solche Geräte. Large Language Models (LLMs) sind aufgrund ihres Speicher- und Rechenbedarfs in der Regel nicht direkt auf eingebetteten Systemen einsetzbar. „Der Hauptaspekt unseres EML-Labors ist, dass man versucht, Algorithmen, die mächtige Hardware brauchen, auf Devices zu bringen, die das eigentlich nicht leisten können“, beschreibt Wess die zentrale Forschungsaufgabe. Dabei geht es nicht nur um Miniaturisierung, sondern auch um Echtzeitfähigkeit, die in industriellen Umgebungen unverzichtbar ist.

© Christian Doppler Labor für EML/TU Wien

Eine typische Hardwareplattform für die Forschungsarbeiten.

Martin Matschnig, Leiter der Forschungsgruppe Electronics Design and Integrated Circuits bei Siemens Österreich, betont die strategische Dimension: „Wir befinden uns direkt am Device – die Daten werden nicht transferiert, um anderswo prozessiert zu werden. Es geht darum, mit möglichst geringer Rechenleistung und wenig Leistungsverbrauch die Algorithmen direkt in einer Anlage ausführen zu können.“ Das hat handfeste Vorteile: Daten müssen nicht in die Cloud übertragen werden, was Datenschutz und Cybersecurity stärkt. Gleichzeitig spart man Energie und bremst den Bedarf an Rechenzentren – ein wesentlicher Nachhaltigkeitsaspekt.

Die Struktur des Labors spiegelt die Breite der Fragestellungen wider. Zwei Themenkomplexe bilden das Rückgrat: Die TU Graz bringt ihre Expertise in Computer Vision ein und arbeitet eng mit AVL zusammen, vor allem im Bereich autonomes Fahren. Die TU Wien wiederum fokussiert sich auf den Embedded-Plattform- Aspekt. „Das ist unser gemeinsamer Forschungskern: Computer Vision und Machine Learning mit Embedded-Plattformen“, erklärt Wess. Beide Universitäten sind übrigens auch Teil des Siemens Research and Innovation Ecosystem.

© Christian Doppler Labor für EML/TU Wien

Das Team des Christian Doppler Labors für Embedded Machine Learning an der TU Wien – von einer KI erfasst.

Für Siemens steht dabei eine bestimmte Aufgabenstellung im Vordergrund, welche von der Wissenschaft lange eher vernachlässigt wurde: Analyse von Zeitreihendaten. „In vielen Siemens- Produkten sind Microcontroller oder ähnliche Komponenten verbaut“, sagt Wess. „Hier sehen wir großes Potenzial, Machine Learning direkt in diese Geräte zu integrieren.“ Jeder Temperatur-, Strom- oder Spannungssensor liefert eine Zeitreihe, und in industriellen Anlagen fallen davon Unmengen an. Während LLMs versuchen, ein universelles Modell für alle Datenarten zu schaffen, ist das auf eingebetteten Systemen nicht umsetzbar. „Hier muss man sich an die Anwendung angepasst überlegen, welcher Algorithmus das Problem effizient löst“, betont Wess.

Ein konkretes Ergebnis dieser Forschung ist ein Framework, das Wess im Rahmen seiner Doktorarbeit entwickelt hat. Es dient als Performance-Estimation- Tool und hilft dabei, die bestmögliche und effizienteste Hardwarelösung für spezielle Machine-Learning-Aufgaben zu finden. „Welchen Algorithmus wählt man für welche Hardware aus und umgekehrt. Hier gibt es einen Entscheidungsrahmen in mehreren Dimensionen“, erklärt Wess. Sein Estimation-Tool sagt vorher, wie lange die Ausführungszeit eines bestimmten Algorithmus auf unterschiedlichen Hardwareplattformen ist. So weiß man, welchen Chip man in welches Produkt einbauen muss. Matschnig ergänzt: „Wir haben das Tool ursprünglich für kleine Siemens-Industrie-PCs entwickelt, aber auch für leistungsfähigere Industriesteuerungen ist es relevant. Also überall dort, wo man direkt im Feld Rechenkapazität zur Verfügung hat, die man für Machine-Learning- Algorithmen nutzen kann.“

© Siemens

Industrie-PCs und größere Industriesteuerungen sind Rechenkapazitäten im Feld, die man für Machine Learning nutzen kann.

Die internationale Anerkennung ließ nicht lange auf sich warten. „Bei der renommierten ICCAD-Konferenz gewann das Team des EML-Labors den TinyML Design Contest – gegen viele Gruppen aus der ganzen Welt“, berichtet Matschnig, der gleichzeitig unterstreicht, was die Forschungsaktivitäten in Österreich innerhalb der Siemens-Welt besonders macht: „Unser USP ist die Sicht auf die Hardware und speziell auf die integrierten Schaltungen. Wir haben uns hier auch auf die Entwicklung von eigenen anwendungsspezifischen integrierten Schaltungen, sogenannten ASICs, spezialisiert und auf deren Optimierung, um die Algorithmen für die jeweiligen Problemstellungen individuell anpassen zu können.“

Für die Zeit nach dem Auslaufen des Labors im Herbst 2026 gibt es bereits weiterführende Pläne: „Aktuell betrachten wir einzelne Devices – wie bringe ich einen Machine-Learning-Algorithmus auf ein einzelnes Gerät? In der Fortsetzung des Christian Doppler Labors wird es mehr um den Systemgedanken gehen“, so Matthias Wess. Konkret bedeutet das: Wie lässt sich ein Machine-Learning- Problem auf mehrere leistungsbeschränkte Devices aufteilen? Was wird idealerweise wo gelöst, um das Gesamtsystem optimal zu nutzen? Dabei denken die Forschenden auch in Richtung Neuromorphic Computing – neuartige Computerarchitekturen, die mit Machine- Learning-Workloads grundlegend besser umgehen können als herkömmliche Systeme. In einer Zeit, in der KI oft mit gigantischen Modellen und enormem Energieverbrauch gleichgesetzt wird, zeigt dieses Labor im aktuellen sowie im nachfolgenden Forschungssetup, dass die eigentliche Innovation manchmal darin besteht, groß zu denken – und „kleine“ Lösungen zu entwickeln.