Ratgeber und Analysen

Leistung des Ryzen AI Max+ 395 mit lokalen LLMs: veröffentlichte Daten

Wir haben veröffentlichte Tests mit llama.cpp zusammengetragen: schnelle MoE-Modelle (über 50 Tokens/s mit gpt-oss-120b) und deutlich langsamere dichte 70B-Modelle (rund 4 Tokens/s).

2 Min. Lesezeit

Mini PC con refrigeración líquida, vista lateral

Hinweis: RobitoPC hat diese Tests nicht selbst durchgeführt. Wir fassen von Dritten veröffentlichte Ergebnisse zusammen und nennen jede Quelle mit Datum. Die tatsächliche Leistung hängt von Modell, Quantisierung, Software und Treibern ab.

Ergebnisse mit llama.cpp

„pp512“ misst die Geschwindigkeit beim Verarbeiten eines Prompts mit 512 Tokens, „tg128“ die Geschwindigkeit beim Erzeugen von 128 Tokens (das, was du beim Chatten wahrnimmst).

ModellQuantisierungBackendpp512 (tok/s)tg128 (tok/s)
Llama 2 7BQ4_0Vulkan881,752,2
Llama 2 7BQ4_0HIP (ROCm)349,048,7
Qwen3-30B-A3B (MoE)UD-Q4_K_XLVulkan—75,3
Llama 4 Scout 109B (MoE)UD-Q4_K_XLVulkan102,620,2
gpt-oss-120b (MoE)—Vulkan45954,5
gpt-oss-120b (MoE)—ROCm—49,0
Qwen2.5 72B (dicht)Q5_K_M——4,1

Quellen: llm-tracker.info (Zeilen zu Llama 2, Qwen3 und Llama 4 Scout, veröffentlicht im Mai 2025) und die Zusammenstellung von ComputingForGeeks (aktualisiert am 14.10.2026) für gpt-oss-120b und Qwen2.5 72B. Beide Quellen nutzen unterschiedliche Konfigurationen: Vergleiche die Zeilen mit Vorsicht.

Was diese Zahlen zeigen

  • MoE-Modelle sind die Stärke. Sie aktivieren pro Token nur einen Teil ihrer Parameter, daher erzeugen riesige Modelle wie gpt-oss-120b Text mit über 50 Tokens/s – angenehm zum Chatten.
  • Große dichte Modelle sind langsam. Ein dichtes Modell mit rund 70B liegt bei etwa 4 Tokens/s: Es funktioniert, ist aber nicht flüssig.
  • Vulkan verarbeitet Prompts schneller. Im selben Test ist Vulkan bei der Prompt-Verarbeitung fast dreimal so schnell wie HIP, bei ähnlicher Generierung.
  • Der Speicher entscheidet. In 128 GB gemeinsamen Speicher passen Modelle, die auf keine Consumer-Grafikkarte passen.

Geräte mit diesem Prozessor

Quellen

Weiterlesen

Mini-PCs, um künstliche Intelligenz lokal auf deinem eigenen Rechner auszuführen. Mit Versand in die ganze EU.

Kostenloser Versand in die EU · 14 Tage Widerrufsrecht · 3 Jahre gesetzliche Gewährleistung

Zahlungsarten
  • American Express
  • Maestro
  • Mastercard
  • PayPal
  • Visa

© 2026 RobitoPC · AMD, Ryzen und Radeon sind Marken von Advanced Micro Devices, Inc. Unabhängiger Shop ohne Verbindung zu AMD.

Website erstellt von milenaweb.es