Sessions & Speicher

Sessions

Wie Sessions funktionieren

Jedes Gespraech mit einem Agenten findet in einer Session statt. Sessions werden durch Schluessel identifiziert, die den Kontext kodieren -- welcher Agent, welcher Channel, welcher Chat.

Sessions fuehren ein vollstaendiges Transkript (Append-only JSONL) aller Nachrichten, Tool-Aufrufe und Ergebnisse. Dieses Transkript gibt Agenten den Kontext ueber das laufende Gespraech.

Session-Schluessel

Sessions werden automatisch basierend auf dem Kontext geroutet:

Muster Bedeutung
agent:main:main Haupt-Direktkonversation
agent:<id>:<channel>:group:<id> Gruppenchat auf einem bestimmten Channel
agent:<id>:<channel>:channel:<id> Channel/Raum-Konversation
cron:<jobId> Geplante Job-Ausfuehrung
hook:<uuid> Webhook-ausgeloeste Ausfuehrung

Session-Lebenszyklus

Token-Verfolgung

Sessions verfolgen kumulativen Token-Verbrauch (Eingabe, Ausgabe, Cache Read, Cache Write) fuer Kostenueberwachung und Kontextfenster-Management.


Komprimierung

Was ist Komprimierung?

Wenn sich ein Gespraech dem Kontextfenster-Limit des Modells naehert, komprimiert Neotask es -- fasst aeltere Nachrichten in eine kompakte Uebersicht zusammen und startet eine neue Session mit dieser Zusammenfassung plus aktuellen Nachrichten.

Wie es funktioniert

  1. Erkennung -- Kontextverbrauch ueberwachen (Standard-Ausloeser: 80% des Kontextfensters)
  2. Zusammenfassung -- Aeltere Nachrichten werden in einen Komprimierungseintrag zusammengefasst
  3. Neue Session -- Eine frische Session startet mit der eingefuegten Zusammenfassung am Anfang
  4. Beibehaltung -- Alte Transkripte werden fuer den Verlauf aufbewahrt, aber nicht mehr in den Kontext geladen

Konfiguration

Manuelle Komprimierung

Sie koennen die Komprimierung jederzeit manuell mit dem /compact-Befehl ausloesen. Dies ist nuetzlich, wenn Sie den Kontext zuruecksetzen moechten, ohne wichtige Informationen zu verlieren.


Speicher

Agenten-Speicher

Jeder Agent hat ein Speichersystem fuer das Persistieren wichtiger Informationen ueber Sessions hinweg:

Vektorsuche

Neotask unterstuetzt Vektoraehnlichkeitssuche ueber den Agenten-Speicher:

  1. Indizierung -- Speicherdateien werden mittels Embeddings indiziert
  2. Suche -- Agenten durchsuchen den Speicher mit natuerlicher Sprache ("Was hat der Benutzer ueber seine API-Praeferenzen gesagt?")
  3. Abruf -- Relevante Erinnerungen werden nach Aehnlichkeit sortiert zurueckgegeben

Memory-Plugin (LanceDB)

Das LanceDB-Memory-Plugin bietet erweiterte Vektorspeicherung:

Automatischer Abruf

Zu Sessionbeginn koennen relevante Erinnerungen automatisch abgerufen und in den Kontext des Agenten injiziert werden. Dies gibt Agenten Kontinuitaet ueber Sessions hinweg, ohne komplette Konversationsverlaeufe laden zu muessen.


Session-Persistenz

Alle Session-Daten werden lokal gespeichert:

Bereinigung