Video: Wie sich ONNX-Runtime-Anwendungen lokal bereitstellen lassen
Mit der Ryzen AI-Software hat AMD eine Sammlung von Tools und Laufzeitbibliotheken entwickelt, die die Ausführung von KI-Anwendungen auf PCs mit Ryzen AI-Prozessoren ermöglichen. Dank der Kompatibilität zum Open Neural Network Exchange (ONNX)-Format können Entwickler KI-Modelle, die in einem Framework entwickelt und trainiert wurden, schnell und effizient auf KI-PCs mit Ryzen AI-Prozessor portieren. Dieses Video zeigt, welche Vorteile das bringt.
Diese Seite nutzt einen YouTube-Kanal, der Google Ireland Ltd. gehört. Angaben darüber, welche Daten durch Google verarbeitet und zu welchen Zwecken genutzt werden, finden Sie in der Datenschutzerklärung von Google
Inhalt
ONNX (Open Neural Network Exchange) ist ein offenes Format, mit dem KI-Modelle zwischen verschiedenen Frameworks wie Caffe, PyTorch, TensorFlow oder OpenCV schnell und einfach portiert werden können. So lassen sich beispielsweise große Sprachmodelle (Large Language Model, LLM) auf einem Framework trainieren und dann über die ONNX-Runtime-Inferenz-Engine auf einem anderen nutzen. Typische Einsatzgebiete sind Objekterkennung, Empfehlungssysteme, Bildbearbeitung und Echtzeit-Datenanalyse.
Mit der AMD Ryzen AI Software erhalten Nutzer die Möglichkeit, ONNX-Runtime-Anwendungen auf einem KI-PC mit aktuellen Ryzen AI-Prozessoren auszuführen. Sie ist auf die XDNA-Architektur der Ryzen AI-Prozessoren optimiert und kann die KI-Beschleunigungseinheit (Neural Processing Unit, NPU) voll ausnutzen. Beispiele, Demos und Tutorials erleichtern den Einstieg.
Dieses Video zeigt, welche Vorteile sich durch den Einsatz von Ryzen AI Software ergeben und wie Unternehmen dadurch ihre KI-Projekte beschleunigen können.