# Experten nicht einzeln streichen, Roboterarme den Handgriff merken

> Ein Amazon-Preprint kürzt Experten-Modelle nach Paaren statt einzeln. Shanghai speichert innere Zustände wiederholter Roboterläufe und beschleunigt die Inferenz. Stanford macht aus Papers Agenten, die miteinander rechnen.

Datum: 2026-09-17 · KI & Robotik

Drei Arbeiten vom 16. und 17. September 2026: Ein Amazon-Preprint streicht Fachmodule in großen Sprachmodellen nicht einzeln, sondern nach Paaren. Eine Gruppe in Shanghai speichert interne Zustände wiederholter Roboterläufe und beschleunigt die Inferenz auf handelsüblicher Hardware. Stanford Medicine veröffentlicht in *Nature* ein Programm, das wissenschaftliche Papers in Agenten verwandelt, die miteinander rechnen.

## Experten nicht einzeln streichen

Große Sprachmodelle vom Typ Experten-Mischung halten hunderte Fachmodule im Speicher, auch wenn pro Wort nur wenige davon rechnen. Bei Qwen3.5-122B liegen 116 der 122 Milliarden Parameter in diesen Modulen, rund 240 Gigabyte. Die ganze Bank muss im Grafikspeicher liegen. Alex Tseng, Stefano Soatto und Kollegen bei Amazon zeigen in [arXiv:2609.18916](https://arxiv.org/abs/2609.18916), warum bisherige Kürzungen danebenliegen: Die Module arbeiten nicht additiv. Bestimmte Paare werden weit häufiger gemeinsam gewählt, als es der Zufall erwarten ließe.

Ihre Methode HOPE misst beim Kalibrieren nicht nur, wie stark jedes Modul allein beiträgt, sondern auch, wie Paare einander verstärken. Daraus wird pro Schicht eine quadratische Gleichung, die festlegt, welche Module gemeinsam weg dürfen. Die bisher beste Einzelskala (REAP) ist der Sonderfall ohne diese Paar-Terme. An drei offenen Modellen bis 122 Milliarden Parametern, zwei Kalibriersätzen und Tests für Mathematik, Anweisungen, Code und Agenten-Aufgaben liegt HOPE vorn – vor allem, wenn die Hälfte der Module fällt. Dort ist der mittlere Rang 1,58 von fünf Verfahren, der nächste 2,42. Beim Agenten-Programmieren bis plus 6,1 Prozentpunkte. Halbiert man Qwen3.5-122B, bleiben nach Angabe der Autoren etwa 125 Gigabyte. Es wird nicht nachtrainiert. Code soll mit der Veröffentlichung folgen; das ist ein Preprint.

[Matrix der Experten-Paare in drei Schichten von GLM-4.5-Air, mit sichtbaren Blöcken gemeinsamer Nutzung]

Figure 2: Tseng, Kaul, Zancato, Xia, Soatto, [arXiv:2609.18916](https://arxiv.org/abs/2609.18916), CC BY 4.0. Die Off-Diagonalen der Interaktionsmatrix sind im Mittel 33 Prozent so groß wie die Diagonale.

## Wiederholte Handgriffe nicht jedes Mal neu rechnen

Modelle, die Kamerabild, Sprachbefehl und Armbewegung verbinden, brauchen für jeden Schritt Rechenzeit. In der Fabrik wiederholt ein Arm oft dieselbe Arbeit an einem festen Platz, mit kleinen Abweichungen bei Licht und Objektlage. Kaijun Zhou, Jinyu Gu und Kollegen an der Shanghai Jiao Tong University messen in [arXiv:2609.19104](https://arxiv.org/abs/2609.19104), dass sich das nicht nur in Kamerabild und Bahn zeigt, sondern in den inneren Zuständen des Modells: Eingänge der Rechenschichten ähneln sich bis 98,5 Prozent, die wichtigen Neuronen beim Entrauschen der Bewegung überlappen zu 86 Prozent bei derselben Aufgabe, nur zu 71 Prozent bei einer anderen.

rMuscle legt zwei Speicher an. Der eine übernimmt Bildmerkmale aus einem ähnlichen früheren Lauf und rechnet nur die Bildkacheln neu, die sich stark geändert haben – typischerweise Greifer, Arm und Objekt. Der andere lädt beim Entrauschen nur die Gewichte der Neuronen, die der Referenzlauf als wichtig markiert hat. Die vollständigen Zustände werden in der Pause gebaut, während der Arm die letzte Bewegung ausführt. Gegen die schnellste genaue Inferenz-Engine liegt die Beschleunigung bei 1,29-fach auf einer RTX 4090 und 1,42-fach auf einem Jetson Thor, gemessen an π0.5, GR00T N1.6 und X-VLA über 92 Aufgaben. Die Erfolgsrate bleibt: 76 Prozent beim Flaschenpacken mit zwei ALOHA-Armen, 84 Prozent beim Packen auf einem Förderband mit Franka und DOBOT, jeweils wie das unbeschleunigte Modell. Die Arbeit gilt für wiederholte Stationen, nicht für offene Haushalte. Preprint, CC BY 4.0.

## Papers, die einander Fragen stellen

Jiacheng Miao und James Zou von Stanford Medicine beschreiben in [*Nature*](https://www.nature.com/articles/s41586-026-11044-y) (16. September) Paper2Agent. Das Programm liest Text, Figuren, Code und Daten eines Papers, spielt die Originalrechnung in einer virtuellen Umgebung nach und legt das Ergebnis in einer Schnittstelle ab, mit der ein Agent sprechen und rechnen kann. Autoren ergänzen, was im Manuskript fehlt, etwa verworfene Versuche.

Zwei unabhängige Papers – ein Werkzeug, das die Wirkung genetischer Varianten vorhersagt, und eine Genomstudie zu ADHS – wurden zu Agenten. Gemeinsam markierten sie eine Variante nahe dem Gen MPHOSPH9 als mit höherem ADHS-Risiko verknüpft; Zou nennt die Verbindung zuvor unberichtet. Die Paarung war von den Autoren gewählt, nicht aus Millionen Papers selbst gefunden. Mehr als 100 solche Agenten existieren, Code auf [GitHub](https://github.com/jmiao24/Paper2Agent). Die Entdeckung ist ein Hinweis, kein klinischer Befund. Stanford-Bericht: [16. September](https://med.stanford.edu/news/all-news/2026/09/ai-agents-talk.html).

Bis bald
Euer Benny

## Quellen

- [Tseng, Kaul, Zancato, Xia, Soatto: Higher-order pruning of experts in mixture-of-experts language models, arXiv:2609.18916](https://arxiv.org/abs/2609.18916)

- [Dieselbe Arbeit, HTML mit Figuren](https://arxiv.org/html/2609.18916v1)

- [Zhou, Li, Chen, Gu: rMuscle: Robotic Muscle Memory for Efficient Vision-Language-Action Model Inference, arXiv:2609.19104](https://arxiv.org/abs/2609.19104)

- [rMuscle, HTML mit Figuren](https://arxiv.org/html/2609.19104v1)

- [Miao, Davis, Zhang et al.: Reimagining research papers as interactive and reliable AI agents, Nature (2026)](https://www.nature.com/articles/s41586-026-11044-y)

- [Stanford Medicine: Manuscripts-turned AI agents can now talk to each other, make new discoveries](https://med.stanford.edu/news/all-news/2026/09/ai-agents-talk.html)

- [Paper2Agent auf GitHub](https://github.com/jmiao24/Paper2Agent)

[HTML-Fassung](https://ki-news.digitsoftware.de/news/experten-nicht-einzeln-streichen-roboterarme-den-handgriff-merken)
