NeuralDEM: Deep-Learning zur Simulation industrieller Prozesse

Simulationen in Sekunden statt in Tagen oder Wochen

Ein NXAI-Forscherteam präsentiert erstmals eine End-to-End-Deep-Learning Alternative zur Modifizierung industrieller Prozesse. Die Forschung zeigt, dass Deep-Learning-Modelle physikalische Prozesse über lange Zeiträume hinweg realitätsgetreu abbilden können. Angestrebt wird nun eine schnelle Echtzeit-Simulationen.

Discrete Element Methods (DEMs) sind industrieller Standard in der Simulation von granularen Strömungen und der Pulver-Simulationen. Darüber hinaus spielt die numerische Berechnungsmethode von Partikeln auch bei der Simulation chemischer Prozesse eine grosse Rolle. Doch DEMs haben Nachteile: Sie sind rechenintensiv und oft komplex zu kalibrieren. Das NXAI- und das JKU Linz-Research-Team um Johannes Brandstetter führen neuronale Netze und DEMs in ihrem Modell NeuralDEM zusammen und versprechen schnellere Simulationen, Parameter-Optimierung und industrielle Simulationen in Echtzeit.

Industrie hätte genügend Daten für die Modelle

«Jeden Tag werden Tausende und Abertausende von Rechenstunden für die Modellierung von Turbulenzen, die Simulation von Flüssigkeits- oder Luftströmungen, die Wärmeübertragung in Materialien, Verkehrsströme und vieles mehr aufgewendet. Viele dieser Prozesse folgen ähnlichen Grundmustern, benötigen jedoch unterschiedliche und spezialisierte Software, um sie zu simulieren. Noch schlimmer ist, dass für verschiedene Parametereinstellungen die kostspieligen Simulationen in voller Länge von Grund auf neu durchgeführt werden müssen. Deep-Learning-Techniken sind bereit, Modelle zu entwickeln, die Simulationen in Sekunden statt in Tagen oder gar Wochen durchführen», erklärt Brandstetter. Genug Simulationsdaten hat die Industrie, davon sind Brandstetter und sein Team überzeugt.

Physik zuverlässig erlernen und wieder abbilden

Grundlage für die jüngsten Forschungserfolge ist die von NXAI patentierte Architektur der Universal Physics Transformers (UPT). Dabei handelt es sich um eine Methode, neuronale Netzwerke so zu verbessern, dass sie schneller, effizienter und sehr grosse Mengen an Daten verarbeiten können und die Physik in einer abstrakten, komprimierten Darstellung der physikalischen Welt lernen.

«Informationen zu kodieren und dann zu dekodieren ist die Herausforderung», erklärt Benedikt Alkin aus dem NXAI-Forscherteam. UPTs sind nicht auf traditionelle Ansätze wie Gitterstrukturen (zum Beispiel bei Strömungssimulationen) oder Teilchenmodelle angewiesen. «UPTs können auf unterschiedlichste Simulationen angewendet werden», ergänzt NXAI-Kollege Tobias Kronlachner. Das Paper dazu wird in einigen Tagen auf der wichtigsten Machine Learning-Konferenz NeurIPS präsentiert.

«Künstliche Intelligenz und insbesondere neuronale Netze sind spätestens jetzt in der Simulationswelt angekommen. Unser neuronales Netz lernt dank UPT die Physik und wir beweisen, dass unsere AI based Simulationen die Physik zuverlässig erlernen und dann auch wieder abbilden. Das ist das entscheidende Kriterium für die Akzeptanz in der industriellen Anwendung», unterstreicht Johannes Brandstetter.

Demonstration der Leistungsfähigkeit des Modells

Seit über einem Jahr arbeitete das NXAI-Team an dem Modell. Die Linzer haben sich mit Prof. Dr. Stefan Pirker von der JKU Linz, Thomas Lichtenegger und Tobias Kronlachner drei Domänenexperten ins Team geholt. Im Deep-Learning gab es Unterstützung von Samuele Papa aus dem KI-Powerhouse Amsterdam. Die Forscher demonstrieren die Leistungsfähigkeit des Modells in verschiedenen Transportprozessen, darunter Masse, Spezies und Verweilzeit.

Sie visualisieren dies in drei Szenarien: dem Entleeren und Nachfüllen von Silos mit variierenden Ausströmwinkeln sowie Wirbelschichten mit unterschiedlichen Anströmgeschwindigkeiten. Das Modell erzeugte originalgetreue physikalische Simulationen. Das grösste NeuralDEM-Modell ist in der Lage, gekoppelte CFD-DEM-Wirbelschichtreaktoren mit 160k CFD-Zellen und 500k DEM-Partikeln für Trajektorien von 28s, d.h. 2800 ML-Zeitschritten, originalgetreu zu modellieren.

Grosse Netze und Domänenwissen

Brandstetter sieht NXAI in einer Vorreiterrolle in der Industrie. «Wir haben zum einen bewiesen, dass wir in der Lage sind, sehr grosse Modelle zu entwickeln und effizient zu berechnen. Zum anderen verfügen wir über umfassendes Domänenwissen im Bereich der Simulation, was uns von anderen unterscheidet. Diejenigen, die ähnliche Rechenleistungen bieten können, verfügen oft nicht über dieses spezifische Fachwissen und zeigen meist wenig Interesse daran. Gleichzeitig fehlt es den Experten aus den Fachbereichen häufig an Erfahrung mit grossen neuronalen Netzen. Unser Alleinstellungsmerkmal liegt genau hier: Wir vereinen die Expertise für grosse Netze mit tiefgreifendem Domänenwissen.»

In naher Zukunft will NXAI Simulations-Foundation-Modelle bauen, auf weiteren Simulationsarten wie CFD (numerische Strömungsdynamik) setzen und diese Industriekunden anbieten. «Wir haben ein wahnsinnig gutes Team mit Domänenexperten und Machine Learning-Experten und werden weiterhin investieren», verspricht Brandstetter.