https://www.youtube.com/watch?v=OjcUzw6LS-c

ONNX (Open Neural Network Exchange) ist ein offenes Austauschformat für neuronale Netze.

Die Kernidee: Du trainierst ein Modell in einem Framework (z. B. PyTorch) und kannst es als .onnx-Datei speichern. Diese Datei lässt sich dann in einer ganz anderen Umgebung laden und ausführen – ohne PyTorch zu brauchen.

In der Datei steckt:

• die Architektur (welche Schichten, wie verbunden – als Berechnungsgraph)
• die Gewichte (die trainierten Parameter)
• die Operatoren in einer standardisierten Form (Conv, MatMul, ReLU usw.)

Der praktische Nutzen liegt vor allem in zwei Punkten: Portabilität (trainieren in PyTorch, deployen in C++, C#, Java, JavaScript, mobile, Azure ML …) und Performance durch die ONNX Runtime, die das Modell für die jeweilige Hardware (CPU, GPU, NPU) optimiert ausführt – oft schneller als das ursprüngliche Framework.

Für deinen Azure-Stack besonders relevant: Azure ML und viele Azure-Dienste haben ONNX-Runtime direkt integriert, das macht Deployment deutlich schlanker als ein PyTorch-Container.