Ein Agent, der jede Nacht dieselbe Aufgabe erledigt, wird nicht besser. Er wird auch nicht schlechter. Er bleibt genau so gut, wie der Text war, den man ihm vor vier Monaten geschrieben hat.
Das ist der unbequeme Teil an Agenten-Systemen. Die Qualität hängt fast vollständig an der Anweisung, und die Anweisung ist ein Stück Prosa, das jemand einmal getippt und dann vergessen hat. Man merkt das nicht, weil ein Agent nie sagt, dass er mit einer besseren Anweisung mehr könnte.
Darwin ist unsere Antwort darauf. Es ist ein offenes Paket, jeder kann es benutzen, und es macht eine einzige Sache: Es lässt Agenten ihren eigenen Anweisungstext weiterentwickeln.
Wie der Kreislauf läuft#
Jeder Lauf eines Agenten wird bewertet. Nicht von einem Menschen, sondern von einem prüfenden Modell mit einem festen Maßstab.
Aus den bewerteten Läufen entsteht ein Herausforderer: eine überarbeitete Fassung der Anweisung, die aus den Schwachstellen der bisherigen abgeleitet ist. Der Herausforderer ersetzt den Amtsinhaber nicht sofort. Beide laufen eine Zeit lang parallel, und die Aufgaben werden zwischen ihnen aufgeteilt.
Wenn genug Läufe vorliegen, entscheidet ein statistischer Test. Nicht "der eine hat einen höheren Durchschnitt", sondern die Frage, ob der Unterschied groß genug ist, um kein Zufall zu sein. Gewinnt der Herausforderer, wird er der neue Amtsinhaber. Gewinnt er nicht, bleibt alles wie es war und die alte Fassung behält ihren Platz.
Der wichtigste Teil ist die Bremse#
Ein System, das sich selbst verändert, ist eine gute Idee mit einer offensichtlichen Gefahr: Es kann sich in eine Richtung entwickeln, die niemand wollte.
Deshalb sitzen die Sicherheitsschranken nicht am Rand, sondern in der Mitte. Es gibt eine Mindestzahl an Läufen, bevor überhaupt entschieden wird. Es gibt eine Zeitgrenze für laufende Vergleiche, damit ein Test nicht ewig offen bleibt. Und es gibt einen Rückweg: Wenn die aktive Fassung anfängt zu scheitern, geht das System auf die letzte bekannte gute Fassung zurück.
Der Rückweg ist der Teil, der die meiste Arbeit gemacht hat, und das ist typisch. Vorwärts geht immer leicht. Der Weg zurück ist das, was ein Experiment von einem Betriebssystem unterscheidet.
Warum Statistik statt Bauchgefühl#
Die verlockende Abkürzung wäre: neue Fassung hat im Schnitt besser abgeschnitten, also nehmen wir sie.
Das ist bei kleinen Zahlen fast immer falsch. Wenn ein Agent eine Handvoll Mal gelaufen ist und die neue Fassung etwas öfter besser abgeschnitten hat, sagt das ungefähr nichts. Man braucht ein Verfahren, das erkennt, wann genug Belege vorliegen, und das bis dahin die Klappe hält.
Genau da liegt der Unterschied zwischen einem System, das sich verbessert, und einem, das jede Woche seine Anweisung austauscht und sich dabei gut fühlt.
Was wir damit selbst machen#
Wir fahren Darwin auf unserer eigenen Agenten-Flotte. Nicht auf allen gleichzeitig, sondern zuerst auf zwei, mit einer scharfen Beobachtung dessen, was passiert.
Diese Zurückhaltung hat einen Grund. Ein Verfahren, das die Anweisungen der ganzen Flotte gleichzeitig verändert, ist nicht mutig, sondern unbeobachtbar. Wenn danach etwas schlechter läuft, weiß niemand, welche der Änderungen es war.
Also: zwei Agenten, lange genug laufen lassen, dass die Zahlen etwas bedeuten, dann der Rest.
Offener Quellcode, und warum#
Darwin liegt offen. Jeder kann es installieren, lesen und benutzen, ohne uns zu fragen und ohne zu bezahlen.
Der Grund ist unspektakulär: Ein Verfahren, das die Qualität von Agenten misst, ist genau die Art von Werkzeug, die von Gegenlesern besser wird. Wir haben aus Rückmeldungen und externen Prüfungen mehr über die eigenen Schwachstellen gelernt als aus dem eigenen Testlauf.
Und es ist ehrlicher. Wer behauptet, seine Agenten würden mit der Zeit besser, sollte zeigen können, woran er das misst.
Was es nicht ist#
Darwin macht ein schlechtes Modell nicht klug und einen falsch entworfenen Agenten nicht richtig. Es verbessert eine Anweisung entlang eines Maßstabs, den jemand vorgibt. Ist der Maßstab schief, wird der Agent zuverlässig schief.
Das ist keine Einschränkung der Umsetzung, sondern die Natur der Sache. Ein System, das sich selbst optimiert, optimiert genau das, was gemessen wird, und nichts sonst. Wer so etwas einsetzt, sollte deshalb länger über den Maßstab nachdenken als über den Mechanismus.
