AI智能体投入生产不易,三位数字领域领导者分享三条实用建议
将AI智能体投入生产并非易事。明智的专业人士会聚焦于治理和框架,与专家合作并确保设定明确的成果。
当前,关于AI智能体的潜力有诸多炒作,但能证明这些工具产生投资回报的证据却较少。科技分析公司Gartner近期预测,到2027年,40%的企业将因治理漏洞而降级或停用自主AI智能体,这些漏洞往往是在智能体投入生产后才被发现。
此外,AI正引发认知疲劳。以下是如何更高效且从容工作的方法。
在近期于旧金山举行的Snowflake峰会上,三位数字领域的领导者分享了他们所在组织将智能体投入生产的经验,为其他希望利用AI的专业人士提供了三条建议:运用框架、借助专家力量以及实现数据货币化。
1. 聚焦框架
可穿戴技术专家Whoop的分析副总裁Matt Luizzi表示,他们的组织全天候收集生物识别数据,以提供健康和wellness洞察,Snowflake为该公司的内部分析服务提供支持。Luizzi指出,智能体在这一过程中发挥着越来越重要的作用,尤其是Snowflake CoCo,这是一款为开发者和数据工程师打造的编码智能体。
他说,他们使用CoCo已有数月,最初仅在分析团队中试用,团队成员能快速查看查询结果并判断其正确性,同时摸索如何扩大这一流程的规模。如今,他们已创建了更规范的评估框架,并开始大规模推广智能体。
Luizzi还提到,公司的软件工程师会进行A/B测试,并利用CoCo分析结果、提出下一个功能建议、进行测试和迭代。他表示,通过自动化实验框架,这种方法不仅能快速提升业务价值,还能提高客户价值。
Luizzi称,由于公司的数据集中在Snowflake平台上,其在智能体探索方面的底层基础已经具备。他们利用公司的Cortex AI服务开始测试智能体并积累经验。
他说,他们很快意识到上下文至关重要,这意味着要深入挖掘语义层,确保上下文处于结构化的环境中。
Luizzi强调,框架对于成功开展智能体AI探索至关重要。他表示,他们正尝试以更可重复的方式开展各项工作,就像过去10年在数据架构方面所做的那样。构建可重复的框架,以实现AI工作负载的扩展,这是他们未来要坚持的方向。
2. 借助专家分析师
体育公司Fanatics的数据副总裁Madeleine Want负责管理公司博彩和游戏部门的数据工程、数据科学和机器学习工作,这些工作由Snowflake平台提供支持。
她说,在开始实验时,他们不确定哪些方法可行,哪些不可行。但他们发现,底层数据的质量越好、治理越完善,大语言模型(LLM)就越能有效提取信息并回答问题。
虽然关注数据和治理听起来是显而易见的事,但Want指出,18个月前并非如此。她说,作为一个组织,他们在构建定制机器学习模型方面有丰富经验,因此很难相信引入第三方模型并直接应用于数据分析会有效。但现在,这种方法已深深融入他们的工作方式。
她还介绍了公司从探索到应用的过程:他们在上下文明确的领域早期就取得了成功,在这些领域,他们有深入了解业务领域的专家分析师,他们能够指导智能体。
Want表示,随着时间的推移,公司取得了更多成功。他们在上下文层的投入逐渐减少,智能体在自主回答问题前所需的监督程度也在降低。
她说,他们衡量答案准确性的能力在提高,因为他们引入了规模化的评估框架,这让他们在不监督时也能对智能体的回答有信心,这才是关键所在。
这些成功意味着智能体的应用范围在扩大。除了分析领域,其他专业人士也看到了其优势并希望进行探索。
虽然Fanatics仍在使用Snowflake的界面和智能体,但公司正在将API和响应集成到其他第三方工具中,以便人们能更好地利用数据驱动的洞察。Want说,用户希望在实际应用中进一步挖掘数据的价值,人们希望通过多种渠道和方式获取这些洞察,因为他们需要在工作中利用数据。
3. 实现数据货币化
软件公司Synopsys的首席信息官Sriram Sitaraman表示,他们公司长期使用Snowflake数据平台及其智能体服务(如CoCo)来支持决策过程。
大约18个月前,Sitaraman所在的公司意识到AI智能体有潜力完成初级员工的任务,如快速查询、创建图表和提取洞察。他说,他们利用了这一能力,并认为如果创建一个知识智能体,就可以在多个维度进行部署。
例如,为财务部门创建了一个能生成报告的收入智能体,为公司数据中心的票务系统创建了一个调试智能体。Sitaraman表示,团队从结果质量、得出结果的时间和结果成本三个维度评估了AI的潜力,发现AI在这三个方面都有积极影响,他认为这是一个重大突破:过去,往往需要在某些方面做出牺牲。
现在,无需每次为适应上下文调整AI模型时都重新编程系统,而是可以专注于洞察,无需担心底层问题。
Sitaraman在回顾公司的智能体应用历程时表示,从数据入手,利用AI实现数据货币化。投入多少数据并不重要,因为AI具有线性扩展性,数据越多,决策就越准确。
不过,Sitaraman也发出了警告,他们意识到,目前自动化和自主性之间的区别并不大,因此必须谨慎行事。你是想自动化一个流程,还是想创建一个智能体,这涉及不同的成本结构、使用模式和治理方式。
他鼓励专业人士确定合适的应用场景,构建合适的框架,不要低估智能体的能力。他说,你可以推出一个智能体,称其为"销售运营智能体",但它很可能也能成为"销售分析智能体"或其他类型的智能体。所以,重要的是要思考"这是否是我们期望它做的事情"。框架和技能都非常重要,需要仔细规划整个流程。
此外,还有一些相关内容:美国员工是全球对AI最持怀疑态度的群体,原因不止是担心失业;我用ChatGPT构建了一个免费的PDF编辑器,因为我不放心让它修改我的文件,结果很棒;如何审计ChatGPT对你的了解并重新掌控数据隐私;我试用了Google Drive的新AI清理工具来整理14年的存储杂乱,以下是结果。