Řízení paměti AI agentů: progresivní kontext, guardraily a Dreaming

Analyzováno: 1 dokument / 912 slov

Executive Summary

  • Agent se bez dlouhodobé paměti automaticky nezlepšuje: po skončení běhu ztrácí kontext, nezná organizační specifika a neopírá se o předchozí chyby.
  • Jediný společný soubor pravidel může zpočátku fungovat, při růstu však zahlcuje kontext. Vhodnější je souborová paměť v markdownu s progresivním odhalováním detailů.
  • Produkční paměť potřebuje historii změn, řízení oprávnění a ochranu proti souběžným zápisům. Konsolidaci zkušeností má provádět samostatný proces Dreaming, ne agent během aktivní úlohy.

Core Knowledge

Proč samotný model nestačí

Continual learning v provozu naráží na cold start a ztrátu kontextu mezi relacemi. Obecný model zároveň nezná firemní pravidla a zvyklosti. Pokud si agent neuchovává relevantní zkušenosti, jeho padesáté provedení úlohy nemusí být lepší než první.

Vývoj přístupů k paměti

Jednoduchým přístupem je jednotný markdownový soubor, například CLAUDE.md, který se na začátku relace vloží do kontextu. Obsahuje pravidla, konvence a preference. Tento přístup je srozumitelný, ale s narůstajícím počtem pokynů vede k context bloat.

Alternativou jsou explicitní paměťové nástroje, například memory_read(), memory_write() a memory_edit(). Zdroj je uvádí jako paradigma, ve kterém agent paměť výslovně čte, zapisuje a upravuje.

Současný preferovaný model staví na běžném souborovém systému. Paměť je rozdělena do lidsky čitelných markdownových souborů a agent se v ní pohybuje obecnými bash-like příkazy. Pro vyhledání relevantního kontextu může použít například grep.

Progresivní odhalování kontextu

Skills a adresářová paměť omezují zahlcení tím, že agent nejprve načte jen metadata nebo úvodní část souboru. Detailní obsah si vyžádá až ve chvíli, kdy je relevantní pro aktuální úlohu.

Princip odpovídá knihovně: agent nejdříve vidí názvy knih na polici, ale francouzský slovník otevře až tehdy, když jej situace skutečně vyžaduje. Nejde o načtení co největšího objemu informací, ale o cílené rozšíření kontextu.

Produkční guardraily

Ve víceagentním prostředí hrozí souběžné zápisy, nejasný původ změn a hromadění zastaralých, duplicitních nebo škodlivých aktualizací. Produkční paměť proto vyžaduje historii změn, optimistickou kontrolu souběhu a přístupová oprávnění.

Přístup lze členit podle odpovědnosti: organizační konvence mohou být pouze pro čtení, týmové soubory pro čtení i zápis a soukromé pracovní poznámky jednotlivých relací jsou přístupné jen dané relaci.

Bezpečný zápis pomocí hashe

Při úpravě sdíleného souboru agent nejdříve načte aktuální obsah a vytvoří jeho content hash. Připraví návrh změny a bezprostředně před zápisem hash znovu ověří. Pokud se mezitím soubor změnil, zápis se odmítne. Agent načte čerstvý stav, změnu znovu vygeneruje a pokus opakuje.

Dreaming: asynchronní konsolidace paměti

Dreaming je dávkový proces prováděný mimo živý běh agenta. Orchestrátor naklonuje aktivní paměťové úložiště, rozdělí historické transkripty nebo logy mezi dílčí agenty a nechá je hledat opakované chyby, zastaralé informace, duplicity a nedostatky konfigurace nástrojů.

Dílčí agenti připraví doporučení pro reorganizaci, vyčištění a obohacení paměti. Orchestrátor tato doporučení sjednotí, doplní statistiky a zdůvodnění změn a vytvoří aktualizované úložiště, které se nasadí pro následující běhy. Tím se konsolidace oddělí od plnění aktuální úlohy.

Decision Rules

  • IF jednotný soubor pravidel roste a vytváří context bloat, THEN přejdi na progressive disclosure pomocí Skills nebo adresářové paměti.
  • IF agent potřebuje dlouhodobý kontext napříč relacemi, THEN organizuj paměť do lidsky čitelných markdownových souborů a zpřístupni obecné vyhledávání.
  • IF více agentů upravuje stejný paměťový soubor, THEN použij optimistickou kontrolu souběhu založenou na hashi; při neshodě zápis odmítni a změnu vytvoř znovu z aktuálního stavu.
  • IF je nutné hledat systémové vzorce v paměti z více relací, THEN spusť out-of-band Dreaming místo rozsáhlé konsolidace během živé úlohy.
  • IF paměť používají různé skupiny agentů, THEN rozděl přístup na read-only organizační konvence, týmové read-write soubory a soukromé pracovní poznámky jednotlivých relací.

Quality Criteria

Checklist

  • Paměť je v markdownu a zůstává čitelná pro lidi i agenty.
  • Kontext se nenačítá celý najednou, ale progresivně podle relevance.
  • Agent může zapisovat důležité poznatky pro budoucí relace.
  • Změny mají dohledatelný původ, historii a možnost rollbacku.
  • Souběžné úpravy chrání kontrola hashe.
  • Oprávnění rozlišují organizační, týmovou a relační úroveň paměti.
  • Historické zkušenosti se konsolidují samostatným procesem Dreaming.

Red flags

  • Společný soubor pravidel stále roste a zatěžuje každou relaci nerelevantním kontextem.
  • Agent musí při každé úloze načítat rozsáhlou paměť bez ohledu na aktuální potřebu.
  • Nelze určit, který agent nebo relace provedly konkrétní změnu.
  • Konkurenční zápis může tiše přepsat novější stav souboru.
  • Paměť obsahuje zastaralé, duplicitní nebo chybně upravené záznamy.

Benchmarky

OblastVyhovující stavNevyhovující stav
Konsolidace pamětiAktualizované úložiště vzniká z analýzy historických logů, sjednocení doporučení, statistik a zdůvodnění změn.Živý agent během úlohy ručně mění paměť bez širšího přehledu a ponechává duplicity či zastaralé záznamy.
Souběžný zápisPři neshodě hashe je zápis odmítnut a návrh se vytvoří znovu z čerstvého stavu.Agent zapisuje podle dříve načteného obsahu bez kontroly mezitím provedených změn.

Edge Cases

  • Paměť je pouze pro čtení: Pokud agent do organizačních konvencí nezapisuje, kontrola souběžných zápisů se neuplatní. Oprávnění pro čtení chrání sdílená pravidla před nechtěnými změnami.

Metadata

  • Celkový počet zdrojů: 1
  • Pokrytí: 100 %
  • Důvěryhodnost: vysoká - výstup vychází z jediného dodaného zdroje, který přímo popisuje continual learning, paměťová paradigmata, guardraily a workflow Dreaming; nebyly použity externí informace ani ověřování tvrzení.
  • Zdroj 1: https://www.youtube.com/watch?v=tTcxVv8HHNw