大模型Agent-2024 年 AI Agents 的发展现状 - 优一未来

导读

简单来说，大家都期望使用 AI 以及 AI Agents，但是 AI Agent 的应用领域依然集中在 GEN AI 初期的擅长领域：

• 研究
• 总结
• 客户
• 个人助理
• 代码生成等

不过，AI Agent 的应用领域也有很多新领域，包括：

• 任务路由和协作
• 管理多步骤任务
• 自动执行重复性任务
• 类人推理

但是现阶段来说，很复杂的使用还有没普及，应用都集中在特定和行业和企业内，不具备通用型，而且对于企业和个人的要求也比较高。

下面详细看一下报告内容。

背景

到 2024 年，AI 代理不再是小众兴趣。各行各业的公司都越来越重视将代理整合到他们的工作流程中：从自动化日常任务到协助数据分析或编写代码。

但是喧嚣表面的背后到底发生了什么？

• AI 代理是否发挥了他们的潜力，或者他们只是另一个流行词？
• 谁在部署它们，是什么阻止了其他人一头扎进去？

报告调查了 1,300 多名专业人士（从工程师和产品经理到业务领导者和高管），以揭示 AI 代理的现状，分解当今 AI 代理的使用方式（或未使用）。

人们使用代理做什么？

代理现在最适合执行哪些任务？

代理的主要用例包括执行研究和总结（58%），其次是简化个人生产力或帮助的任务（53.5%）。

这些说明了人们希望让其他人（或某物）为他们处理耗时的任务。用户无需筛选无休止的数据进行文献综述或研究分析，而是可以依靠 AI 代理从大量信息中提取关键见解。同样，AI 代理通过协助安排和组织等日常任务来提高个人生产力，让用户可以专注于重要的事情。

效率提升不仅限于个人。客户服务 （45.8%）是用例的另一个主要领域，可帮助公司处理查询、排除故障并加快跨团队的客户响应时间。

几乎每个人都有希望使用 AI 代理

代理正在在过去的一年里，许多代理框架获得了巨大的普及。无论是使用 ReAct 结合 LLM 推理和操作、多代理编排器，还是像 LangGraph 这样更可控的框架。

并非所有关于代理的宣传和讨论都是炒作。目前，大约 51% 的受访者在生产中使用代理，中型公司（100 – 2000 名员工）最积极地将代理商投入生产（占 63%）。

贵公司目前有生产中的代理商？

同时 78% 的受访者积极计划尽快将代理投入生产。虽然很明显，人们对 AI 代理的需求很强烈，但实际的生产部署对许多人来说仍然是一个障碍。

您目前正在开发一个代理并计划将其投入生产吗？

我们还看到公司从简单的基于聊天的实施转向更高级的框架，这些框架强调多代理协作和更多的自主功能。

虽然众所周知，科技行业是早期采用者，但所有行业对代理商的兴趣都越来越大。在非科技公司工作的受访者中，90% 已经或计划将代理投入生产（几乎相当于科技公司的 89%）。

代理控制措施

跟踪和可观测性工具是代理控制措施的首选部分，可帮助开发人员了解代理行为和性能。

大多数公司还采用护栏来防止代理商偏离轨道。

您为代理采取了哪些控制措施？

在测试 LLM 应用程序时，离线评估（39.8%） 比在线评估（32.5%） 更常被提及为一种策略。这可能说明了监控实时性能的难度。在填写回复中，许多公司还让人工专家手动检查或评估回复，以增加一层预防措施。

您的代理拥有什么样的工具权限？

尽管人们已经对AI代理感到兴奋，但大多数人在谈到我们将让代理在多大程度上摆脱束缚时采取了更保守的方法。很少有受访者允许他们的代理自由读取、写入和删除。相反，大多数团队要么允许只读工具权限，要么需要人工批准才能执行更重要的操作，例如写入或删除。

按公司规模划分的工具权限

在代理控制方面，不同规模的公司对其优先级的权重也不同。不出所料，大型企业（2000+ 名员工）更加谨慎，严重依赖“只读”权限以避免不必要的风险。他们还倾向于将护栏与离线评估配对，以便在客户看到任何响应之前捕获预生产中的回归。

与此同时，小公司和初创公司（<100 名员工）更专注于跟踪以了解他们的代理应用程序中发生的情况（而不是其他控件）。从我们的对话来看，小公司往往只关注运输和通过查看数据来理解结果;而企业则全面实施了更多的控制措施。

按公司规模划分的代理控制

虽然非科技和科技公司受访者的代理采用率相似，但在那些在生产中使用代理控制的受访者中，科技公司更有可能使用多种控制方法。51% 的科技受访者目前正在使用 2 种或多种控制方法，而其他行业的受访者只有 39%。这表明科技公司可能在构建可靠的代理方面走得更远，因为需要控制才能获得高质量的体验。

用于控制或护栏的方法数

技术公司更倾向于使用更多的控制方法，这是毋庸置疑的。

让代理投入生产的障碍和挑战

保持 LLM 应用程序的高性能质量控制并不容易（从响应是否准确或是否遵循正确的样式）。

性能质量是受访者最关心的问题，其重要性是成本和安全等其他因素的两倍多。

在生产环境中投入更多代理的最大限制是什么？

特别是对于小公司来说，性能质量远远超过其他考虑因素，45.8% 的人将其列为主要考虑因素，而成本（第二大问题）仅为 22.4%。这一差距凸显了可靠、高质量的性能对于组织将代理从开发转移到生产有多么重要。

虽然质量仍然是企业的首要考虑因素，但对于这些必须遵守法规并更敏感地处理客户数据的大型公司来说，安全问题也普遍存在。

按公司规模划分部署代理的障碍

挑战并不止于质量。从书面回复中，许多人对构建和测试代理的最佳实践感到不确定。特别是，有两个主要障碍突出：知识和时间。

• 知识：团队经常难以掌握与代理合作所需的技术知识，包括针对特定用例实施这些技术知识。许多员工仍在学习技巧，需要提高技能以有效利用 AI 代理。• 时间：构建和部署所需的时间投入非常大，尤其是在尝试确保代理可靠运行时 – 这可能需要调试、评估、微调等。

代理成功案例

最热门的 AI 代理应用程序

在我们的调查中，Cursor 成为最受关注的代理应用程序，紧随其后的是 Perplexity 和 Replit 等重量级应用程序。

• Cursor 是一个 AI 驱动的代码编辑器，通过智能自动完成和上下文帮助帮助开发人员编写、调试和解析代码。
• Replit 还通过设置环境、配置并让您在几分钟内构建和部署功能齐全的应用程序来加速软件开发生命周期。
• Perplexity 是一个 AI 驱动的答案引擎，可以通过 Web 搜索和响应中的链接源来回答复杂的查询。

这些应用程序正在突破代理可以做的界限，表明 AI 代理不再是理论上的，它们正在解决当今生产环境中的实际问题。

AI 代理采用的新兴主题

调研还探讨了 AI 代理采用的新兴主题，这些主题包括：

• 管理多步骤任务 代理更有能力进行更深入的推理和上下文管理，从而使他们能够处理更复杂的任务。
• 自动执行重复性任务 AI 代理仍然被视为自动化管理任务的必要条件，这些任务可以让用户腾出时间来参与更具创造性的问题解决。
• 任务路由和协作 更好的任务路由可确保正确的代理在正确的时间处理正确的问题，尤其是在多代理系统中。许多人想知道如何有效地编排任务并跨代理网络进行协作。
• 类人推理 与传统的 LLM 不同，AI 代理可以追溯他们的决策，包括根据新信息进行时间旅行、审查和修改过去的决策。

尽管实现存在挑战，但围绕以下领域仍存在显着的声音：