理解代理内存
注:
此功能目前仅以预览模式提供,适用于 AWS 和 IBM Cloud 部署。
代理记忆功能使 AI 代理能够在不同聊天会话中保留、调用并运用关于您的信息,从而随着时间的推移,为您提供更加个性化且高效的交互体验。
启用代理记忆功能后,AI 代理会从您的对话中学习,并记住您的偏好、工作背景以及常用信息等关键细节。 此功能使客服人员能够提供更贴切的回复,而无需您在每次对话中重复提供信息。
代理内存的工作原理
代理记忆通过从您与 AI 代理的对话中提取并存储相关信息来运作。 该系统会识别并保存有助于改善未来交互的信息,例如:
- 个人资料(姓名、职务、所在地)
- 工作偏好与背景
- 常见问题
- 沟通风格偏好
代理会利用这些存储的信息来:
- 提供符合上下文的回复
- 减少重复解释的需要
- 随着时间的推移提高响应准确性
- 根据您的偏好定制互动体验
代理内存需要在构建器和用户两个层面进行配置:
- 代理记忆
- 构建器通过将
memory_enabled参数设置为true,使代理具备存储和使用记忆的能力。例如:
spec_version: v1 kind: native name: travel_assistant llm: groq/openai/gpt-oss-120b style: default memory_enabled: true description: | A travel-planning assistant that learns stable user preferences and uses them in future conversations. instructions: | Help the user plan travel efficiently. Pay attention to stable preferences like home city, airline preference, hotel style, budget level, and preferred response format. Do not treat one-time trip details as long-term preferences unless the user clearly says they are ongoing preferences. collaborators: [] tools: [] - 用户内存
- 用户可以通过在 Orchestrate Chat 界面中启用 “在对话中使用记忆 ”开关,来控制其对话是否会生成记忆。
- 必须先启用代理内存 ,才能使代理具备保存内存的功能
- 随后,每位用户必须启用用户内存 ,才能为其对话启用内存功能
先决条件
要使用代理内存,必须满足以下要求:
- 构建人员或管理员必须在代理开发工具包(
trueADK)中将该memory_enabled参数设置为。 - 您必须在聊天界面中通过“ 在对话中使用记忆 ”开关启用记忆功能。
- 代理记忆功能仅支持使用 gpt-oss 作为 AI 模型的原生代理。
代理内存入门
请关注以下主题,以了解、启用并有效利用代理内存:
- 代理内存管理
- 按照分步指南首次设置内存。 了解先决条件,学习如何在代理和用户两级启用内存功能,并验证内存是否运行正常。
- 在交谈中运用记忆
- 了解有关有效利用代理内存的实际案例和最佳实践。 了解如何指导智能体记住或遗忘信息,并通过现实生活中的场景观察记忆功能的实际应用。
- 内存行为与限制
- 了解存储了哪些信息、内存的作用域范围,以及用于保护您数据的治理政策。 了解隐私控制、数据保留及合规标准。
- 保留时间策略
- 了解内存的保留时长、最近最少使用(LRU)策略的工作原理,以及禁用内存时会发生什么。 了解 30 天的空闲间隔以及内存项如何被自动移除。
- 常见问题及解答
- 快速获取有关代理内存功能、行为及管理的常见问题解答。