AI 智能体框架：为业务选择合适的基础

AI 智能体是可以代表用户自主执行任务的程序。这些 AI 系统首先会制定一个包含一系列步骤的计划，以便完成一项复杂的任务。

然后，它们使用函数调用来连接外部工具，例如应用程序编程接口 (API)、数据源、网络搜索甚至其他 AI 智能体，这些工具可以帮助填补它们的知识空白。

在执行行动计划之后，自主智能体会从反馈中学习，并将学到的信息存储在内存中，以提高未来性能。

组织可以使用 Python 或 JavaScript 等编程语言从头开始构建 AI 智能体。然而，更快、更具可扩展性的方法是使用 AI 智能体框架。

智能体框架是开发、部署和管理 AI 智能体的基础。这些软件平台具有内置的特性和功能，有助于简化和加快流程，包括：

• 概述智能体型 AI 的结构、特征和能力的预定义架构。

• 促进 AI 智能体与人类用户或其他智能体之间互动的通信协议。

• 协调任务的任务管理系统。

• 用于函数调用的整合工具。

• 用于跟踪智能体型 AI 性能的监控工具。

在深入 AI 智能体领域之前，请先考虑一下您所在组织的目标和用例。理想的框架可在您的技术能力、短期需求和长期目标之间取得平衡。

以下是选择 AI 智能体框架时需要考虑的几个方面：

• 复杂性

• 数据隐私和安全

• 使用便捷

• 无缝集成

• 性能和可扩展性

确定您希望 AI 智能体完成的任务以及这些任务的复杂程度。确定您是需要仅包含单个智能体的简单实施，还是需要多智能体生态系统。

对于多智能体环境，规划出所需的智能体交互以及仍然需要人工干预的地方。

例如，在客户支持领域，单个 AI 智能体即可帮助对所遇问题的严重程度进行分类。但是，如果您想要更稳健的工作流，请考虑创建一个具有不同智能体的多智能体系统，以便解决问题、提出修复建议并将复杂的案例分配给其他 AI 智能体或人类代理。

选择智能体框架时，数据隐私和安全必须是首要考虑因素。验证您选择的框架的安全策略和措施，包括静态和传输中数据的加密、访问控制和删除任何敏感信息。

考虑开发团队的技能水平。例如，CrewAI 等适合初学者的 AI 框架具有用于快速原型设计的无代码界面和用于快速部署的现成的 AI 智能体模板。

更有经验的 AI 开发人员可能会使用高级智能体框架，例如 LangGraph，它提供低级别控制和可定制的代码选项。

根据智能体 AI 框架与现有技术堆栈的兼容性来对其进行评估。检查您选择的框架与当前数据源、基础设施和工具的集成程度。

了解如何将智能体型 AI 部署到您的环境中（无论是本地还是云）以及是需要小规模还是大规模的部署。

评估所选 AI 智能体框架的性能。考虑实时应用程序的响应时间或延迟，并评估在处理大量数据或多个并发请求时性能是否会下降。虽然重点可能放在短期上，但也要考虑框架如何随着您业务的增长而扩展。

智能体型 AI 仍处于早期阶段。随着 AI 背后科技的发展，其底层框架也将不断发展。以下是一些目前流行的 AI 智能体框架：

AutoGen 是 Microsoft 推出的开源框架，用于创建多智能体 AI 应用程序来执行复杂任务。其架构由 3 层组成：

• Core 是一个用于开发可扩展和分布式智能体网络的编程框架，并带有用于跟踪和调试智能体工作流的工具。它采用异步消息传递方式，支持请求-响应和事件驱动的智能体交互。

• AgentChat 建立在 Core 之上，可用于制作会话式 AI 助手。这是适合初学者的起点，提供具有预定义行为和交互模式的默认单智能体和多智能体团队。

• 扩展是包含核心和 AgentChat 组件执行的包，用于进一步扩展其能力，并与外部库和其他服务交互。您可以使用内置扩展程序和 AutoGen 社区开发的扩展程序，甚至可以自行创建扩展程序。

AutoGen 还提供了两种方便的开发人员工具：用于评估智能体型 AI 性能和执行基准测试的 AutoGen Bench，以及用于开发智能体的无代码界面的 AutoGen Studio。AutoGen 可在 GitHub 上访问。

CrewAI 是多智能体 AI 解决方案的编排框架。与 AutoGen 一样，CrewAI 也是开源的。

CrewAI 基于角色的架构将智能体型 AI 视为一个“工人团队”。以下是“团队”的核心部分：

• 智能体被分配了专门的角色，同时仍在协作处理复杂的工作流。开发人员可以使用自然语言概述智能体的角色、目标和背景。

• 任务定义了每个智能体的具体职责。开发人员还可以使用自然语言来描述每个智能体的任务和预期输出。

• 流程确定了智能体如何协同工作以及如何执行任务。它可以是连续的，按照预设的顺序完成任务，也可以是分层的，由自定义的管理智能体监督任务的委派、执行和完成。

CrewAI 的示例集合之一包括一个股票市场分析“团队”。该“团队”以连续的方式进行协作，市场分析师智能体负责分析特定股票的数据，研究智能体负责收集支持信息来验证数据分析，策略智能体负责根据分析和支持数据制定分步行动计划。

CrewAI 支持与各种大型语言模型 (LLM) 的连接，包括 Anthropic 的 Claude、Google 的 Gemini、Mistral 的 AI 模型、OpenAI 的 GPT 模型以及基础模型（IBM® watsonx.ai 中）。

该框架还拥有一套检索增强生成 (RAG) 工具来搜索不同的数据源。

Crewai 可以在 GitHub 上访问。

LangChain 是另一个用于构建由 LLM 驱动的应用程序的开源框架，包括 ChatGPT 等聊天机器人和 AI 智能体。

它采用模块化架构，每个模块都代表封装了使用 LLM 所需的复杂概念和步骤的抽象结构。

然后，可以将这些模块化组件串联起来，创建 AI 应用程序。

LangChain 可用于开发具有简单工作流的简单 AI 智能体。它为向量数据库和实用程序提供支持，将内存合并到应用程序中，从而保留历史记录和上下文。

其 LangSmith 平台允许进行调试、测试和性能监控。

LangChain 可在 GitHub 上访问。

LangGraph 存在于 LangChain 生态系统中。该框架擅长为多代理系统编排复杂的工作流。

它采用图形架构，其中 AI 智能体的特定任务或动作被描绘为节点，而这些动作之间的转换则表示为边缘。

状态组件维护所有交互中的任务列表。这种类型的架构适用于循环、条件或非线性工作流。

例如，航空公司可能希望构建一个旅行助手 AI 智能体，以便帮助用户查找和预订航班。使用 LangGraph，每个操作都将表示为节点，并且这些节点可以有多个执行特定任务的智能体。

可以添加人机回圈步骤，以便用户可以从搜索列表中选择航班，如果没有任何适合他们偏好的航班，旅行助理智能体可以轻松更改回“查找航班”节点并重新进行搜索。

LangGraph 可以在 GitHub 上访问。

LlamaIndex 是一个开源数据编排框架，用于构建生成式 AI 和智能体型 AI 解决方案。它提供预先打包的智能体和工具以及最近引入的工作流，一种开发多智能体系统的机制。

以下是构成 LlamaIndex 中工作流的主要元素：

• 步骤是智能体的具体行动。这些是工作流的基本组件。

• 事件触发步骤并且是步骤进行通信的手段。

• 上下文在工作流中共享，因此步骤可以存储、检索和传递数据并在整个运行过程中维持状态。

这种事件驱动型架构支持异步完成工作流步骤。这意味着，与图形架构不同，步骤之间的路径无需定义，从而使智能体操作之间的转换更加灵活。

因此，LlamaIndex 工作流非常适合更具动态性的 AI 应用程序，这些应用程序需要经常循环返回先前步骤或分叉到多个步骤。

LlamaIndex 可在 GitHub 上访问。

Semantic Kernel 是 Microsoft 提供的开源开发工具包，用于构建企业级生成式 AI 应用程序。它目前被标记为实验性的智能体型框架为创建智能体提供了核心抽象。

它有 2 个内置智能体实现：一个聊天完成智能体和一个更高级的助理智能体。

可以通过群聊或使用 Semantic Kernel 的流程框架（也标记为实验性的）来编排多个智能体，以实现更复杂的工作流程。

流程由步骤组成，这些步骤代表分配给 AI 智能体的任务，并概述了数据如何在步骤之间流动。

Semantic Kernel 可在 GitHub 上访问。

要做出更明智的决策，请考虑尝试您喜欢的框架。从简单的单智能体实现开始，测试每个框架的运行方式以及与其他框架的比较情况。

合适的框架能满足您的企业需求，并有助于制作能够自动执行工作流的 AI 智能体，从而提高业务流程的效率。