← Zurück zur Übersicht in Entwicklung

NEVIM Studio

Die Werkstatt, in der die Agenten entstehen — zusammengesteckt aus Bausteinen und verbunden mit Linien, ohne eine Zeile Code.

Das Grundproblem

Ich bin kein Programmierer. Wenn jede Fähigkeit eines Assistenten im Programmcode vergraben ist, kann ich nichts davon ändern — ich kann nur bitten, dass es jemand für mich tut.

Deshalb gilt im Studio eine Regel, an der sich alles ausrichtet: Jede Fähigkeit muss ein Baustein sein, den ich sehe, anfassen und umstecken kann. Was nur im Code existiert — eine versteckte Abzweigung, ein hartverdrahteter Sonderfall — verstößt gegen diese Regel und wird umgebaut, bis es ein Baustein ist.

Die Bausteine

  • Auslöser — was den Agenten in Gang setzt: eine Nachricht von Hand, später auch eine Uhrzeit oder ein Ereignis wie eine eingehende Mail.
  • Schritte — was getan wird: eine Frage ans Modell, ein festes Rechenprogramm, eine Wiederholung, eine Verzweigung.
  • Werkzeuge — womit gearbeitet wird: im Netz suchen, eine Seite lesen, eine Datei öffnen, in den Aufgaben nachsehen.
  • Gedächtnis — was behalten wird: der Gesprächsverlauf, und getrennt davon Wissen, das an einem bestimmten Ablauf hängt.
  • Ausgang — was hinten herauskommt.

Man zieht die Bausteine auf eine Fläche und verbindet sie mit Linien. Die Linie sagt, was wohin fließt. Mehr Programmierung ist es nicht.

Die Skill-Arbeitsfläche im Studio: links die Liste der Bausteine, in der Mitte ein Agent als Netz aus Knoten, die mit Linien verbunden sind
Ein echter Agent auf der Arbeitsfläche. Links stehen die verfügbaren Bausteine, in der Mitte laufen die Linien im mittleren Knoten zusammen — das ist die Stelle, an der das Modell entscheidet, welches Werkzeug es als nächstes braucht.

Fertige Agenten ziehen aus

Ein zusammengebauter Agent bleibt nicht im Studio wohnen. Er zieht aus und läuft eigenständig weiter — auch wenn die Werkstatt geschlossen ist. Das Studio ist der Bauplatz, nicht die Wohnung.

Der Vorteil: Ich kann am Studio herumbauen, ohne dass etwas ausfällt, das gerade gebraucht wird. Und ein Agent, der einmal steht, ändert sich nicht mehr hinter meinem Rücken.

Nichts läuft unbeobachtet

Jeder Durchlauf wird aufgezeichnet: Welcher Baustein war dran, was hat er als Eingabe bekommen, was kam heraus, wie lange hat es gedauert. Wenn ein Agent Unsinn macht, muss ich nicht raten — ich lese nach, an welcher Stelle es abgebogen ist.

Das klingt selbstverständlich, ist es aber nicht. Der häufigste Fehler bei solchen Ketten ist, dass ein Schritt etwas anderes bekommt, als der Baumeister gedacht hat. Ohne Aufzeichnung sucht man im Dunkeln.

Der Rechner dahinter

Im Hintergrund laufen ein paar Dienste, die mehreren Agenten gleichzeitig zuarbeiten: einer merkt sich Gesprächsverläufe, einer sucht und liest Webseiten, einer sammelt Gelesenes für später, einer verwaltet persönliche Fakten.

Die Statusanzeige des Studios: Arbeitsspeicher-Auslastung, Prozessor- und Grafikkarten-Auslastung samt Temperaturen
Die Statusanzeige beim Arbeiten. Sprachmodelle sind vor allem hungrig auf Arbeitsspeicher — hier sind rund 91 von 125 Gigabyte belegt, die Grafikeinheit läuft am Anschlag. Deshalb steht der Rechner hier und nicht in der Cloud: Was dieses Gerät an einem Abend rechnet, wäre gemietet eine Rechnung.

Was noch fehlt

  • Einige Bausteine sind vorgesehen, aber noch nicht gebaut — der Zeit-Auslöser, der Ereignis-Auslöser und die Verzweigung. Sie stehen schon in der Liste, ausgegraut.
  • Wiederholungen über mehrere Runden mit einer gemeinsamen Tafel, auf der Zwischenstände landen, sind entworfen und warten auf den Bau.
  • Der Bereich, der die Werkzeug-Aufrufe verteilt, ist über die Zeit zu groß geworden und gehört aufgeteilt.