GoAgent -- Gruppenbasierte Kommunikationstopologien fuer Multi-Agent-Systeme
Hongjiang Chen und Kollegen von der Monash University und der Arizona State University praesentieren GoAgent, eine Methode zur automatischen Generierung von Kommunikationstopologien fuer LLM-basierte Multi-Agent-Systeme. Der zentrale Gedanke: Statt einzelne Agenten als Knoten zu verbinden, werden kollaborative Gruppen als atomare Einheiten behandelt. Das Ergebnis sind effizientere und leistungsfaehigere Kommunikationsstrukturen als bei bisherigen knotenbasierten Ansaetzen.
Kernaussagen
Bisherige Ansaetze fuer Multi-Agent-Kommunikation -- ob Chain, Star, vollvernetzte Graphen oder Debate-Topologien -- behandeln jeden Agenten als einzelnen Knoten und erzeugen Verbindungen zwischen ihnen. GoAgent identifiziert zwei fundamentale Probleme dieses Paradigmas:
Fehlende Koordinationsstrukturen. Wenn ein Solver und ein Verifier als getrennte Knoten modelliert werden, fehlt die explizite Modellierung ihrer kohaerenten Zusammenarbeit. Das fuehrt zu fragmentierten Workflows und suboptimaler Problemloesung.
Kommunikations-Overhead. Ohne explizite Gruppengrenzen entstehen dichte, unkontrollierte Verbindungen. Aufgabenirrelevantes Rauschen akkumuliert sich ueber die Kommunikationswege und verschlechtert die Ergebnisqualitaet.
GoAgent loest beide Probleme durch einen vierphasigen Prozess:
-
Task Encoding und Gruppenentdeckung: Die Aufgabe wird in eine kontinuierliche Repraesentation kodiert. Ein LLM generiert einen Pool von K (typischerweise 16) aufgabenrelevanten Kandidatengruppen -- jede mit einer vordefinierten internen Kommunikationsstruktur.
-
Autoregressive Generierung: Das Modell waehlt sequentiell Gruppen aus und verbindet sie. Bei jedem Schritt aggregiert ein GRU die bisherigen Gruppen, fusioniert die Aufgabenrepraesentation mit dem historischen Kontext ueber Gated Attention und sagt die naechste Gruppe sowie deren Verbindungen vorher.
-
Conditional Information Bottleneck (CIB): Ein Kompressionsmechanismus, der auf die Aufgabenrepraesentation konditioniert ist. Er maximiert die Vorhersagerelevanz der komprimierten Features und minimiert gleichzeitig ueber KL-Divergenz das aufgabenirrelevante Rauschen aus der Kommunikationshistorie.
-
Ausfuehrung: Der generierte Graph definiert die Kommunikationsstruktur fuer die eigentliche Multi-Agent-Ausfuehrung.
Die Evaluation laeuft ueber sechs Benchmarks aus Reasoning und Code-Generierung. GoAgent erreicht durchgehend State-of-the-Art-Ergebnisse:
| Benchmark | GoAgent | Bisheriges SOTA | Differenz |
|---|---|---|---|
| MMLU | 91,50% | 89,54% | +1,96% |
| GSM8K | 95,30% | 94,37% | +0,93% |
| AQuA | 86,45% | 85,51% | +0,94% |
| MultiArith | 99,11% | 98,93% | +0,18% |
| SVAMP | 96,46% | 95,63% | +0,83% |
| HumanEval | 94,21% | 91,74% | +2,47% |
Der Durchschnitt liegt bei 93,84% gegenueber 92,62% -- bei gleichzeitig 17% weniger Token-Verbrauch. Zum Vergleich: Feste Topologien wie Chain (83,01%), vollvernetzter Graph (82,35%) oder LLM-Debate (84,96%) liegen auf MMLU deutlich darunter.
Ablationsstudien bestaetigen den Beitrag beider Komponenten: Ohne Gruppen-Level-Generierung sinkt die MMLU-Genauigkeit um 2,61%, ohne CIB um 3,27%.
Methodik
Die Autoren evaluieren GoAgent auf sechs etablierten Benchmarks: MMLU (153 Samples), GSM8K (1.319), MultiArith (600), SVAMP (1.000), AQuA (254) und HumanEval (164). Als Baselines dienen sowohl feste Topologien (Chain, Star, vollvernetzt, Debate) als auch dynamische Ansaetze wie ARG-Designer, das bisherige SOTA fuer adaptive Topologiegenerierung.
Die Kandidatengruppen werden offline durch ein LLM erzeugt. Das ist gleichzeitig eine Einschraenkung: Der vorgegebene Gruppenpool begrenzt die Flexibilitaet fuer neuartige Expertenkombinationen, die nicht im initialen Pool enthalten sind.
Die Evaluation fokussiert auf statische Reasoning-Aufgaben. Die Effektivitaet in dynamischen, interaktiven Umgebungen -- etwa Embodied AI oder Multi-Agent Reinforcement Learning -- bleibt offen.
Relevanz fuer die Praxis
Fuer Entwickler von Multi-Agent-Systemen liefert GoAgent drei uebertragbare Erkenntnisse:
Gruppen statt Individuen als Designeinheit. Die meisten Multi-Agent-Frameworks (CrewAI, AutoGen, LangGraph) modellieren Agenten als einzelne Knoten. GoAgent zeigt, dass die explizite Modellierung von Gruppen -- etwa ein Researcher-Summarizer-Paar oder ein Coder-Reviewer-Tester-Trio -- die Ergebnisqualitaet messbar verbessert. Dieses Prinzip laesst sich auch ohne GoAgent umsetzen: Statt einzelne Agenten zu orchestrieren, sollte man kohaerente Teilteams mit definierten internen Rollen entwerfen.
Kommunikationsrauschen ist ein reales Problem. Die 17% Token-Reduktion bei gleichzeitig hoeherer Qualitaet zeigt, dass mehr Kommunikation nicht gleich bessere Ergebnisse bedeutet. Der CIB-Ansatz filtert gezielt irrelevante Signale. In der Praxis heisst das: Die Kommunikation zwischen Agenten sollte bewusst eingeschraenkt und auf aufgabenrelevante Informationen fokussiert werden.
Topologie ist kein Nebenaspekt. Der Unterschied zwischen der schlechtesten festen Topologie (vollvernetzt, 82,35%) und GoAgent (91,50%) auf MMLU betraegt ueber 9 Prozentpunkte. Die Wahl der Kommunikationsstruktur hat damit einen groesseren Einfluss als viele Prompt-Engineering-Techniken.