Book Library

Prompt Caching In Agents | EARENDIL

大型语言模型常被视作函数：输入一些文本，输出一些文本。这是一个有用的抽象，但它忽略了运行编码代理时最重要的部分之一：大部分输入与上一次相同。换句话说，我们主要是在追加内容。