首页 > 云计算 > 公有云实践 > 使用Salesforce和亚马逊云构建低代码AI
在本次会议中,学习如何利用Amazon SageMaker和Amazon Bedrock与Salesforce数据云的原生集成,为Salesforce应用程序赋予预测和生成式AI能力。探索这些集成如何驱动代理式体验,推动客户成功。本次演讲由亚马逊云科技合作伙伴Salesforce为您带来。
以下是小编为您整理的本次演讲的精华。
在不断演进的人工智能领域,构建AI系统面临着多方面的挑战和复杂性。作为AI的核心,数据必须实现统一,同时确保隐私和安全性,这是一项并非易事的任务。与整体工作流程的集成是另一个障碍,因为AI系统并非独立运行。AI人才的稀缺进一步加剧了这一问题,需求远远超过了可用的熟练劳动力。此外,生成式AI的出现带来了新的挑战,例如幻觉,即模型可能看似提供了准确的响应,但实际上并非如此。有鉴于此,令人震惊的是,正在开发的50%的AI项目从未投入生产。
这一严峻现实促使组织重新思考其AI/ML策略。亚马逊云科技和Salesforce之间的合作应运而生,旨在创建低代码平台解决方案,使开发人员和联合客户能够轻松构建生成式AI应用程序,从而充分发挥所使用平台的潜力。
Salesforce的Einstein利用Amazon SageMaker的产品,这是一个促进端到端机器学习项目的机器学习开发环境。Einstein利用SageMaker的推理功能来托管生成式AI解决方案,为客户提供更高的吞吐量和更低的延迟。协作平台Slack最近推出了Slack AI,这是一款帮助用户总结线程和回顾频道的产品。想象一下,从两周的假期回来,迎接你的是大量信息洪流 - Slack AI会总结这些对话,提供简明扼要的概览。Slack AI依赖于SageMaker来托管支持此功能的生成式AI模型,因为SageMaker为模型托管提供了合规和安全的解决方案。
集成平台Salesforce MuleSoft采用Amazon Textract,这是一种基于API的服务,可从PDF和图像中提取数据,实现智能文档处理。发票是Textract的一个主要用例,允许无缝提取数据。
这一合作的核心是Salesforce Data Cloud,这是一个运行在亚马逊云科技基础设施上的下一代数据平台。Data Cloud为用户提供了各种功能,包括Model Builder,它可以连接到用户亚马逊云科技账户中的模型,包括SageMaker和Bedrock。这种集成使用户能够在Salesforce生态系统中利用传统和生成式AI模型。
Salesforce宣布了AgentForce,这是一项创新功能,允许用户构建能够在预定义参数内运行的自主代理。这些代理可以无缝集成到Salesforce平台中,遵守信任指南,并且可以定制以提供可扩展的服务、销售和营销解决方案。关键的是,AgentForce与Salesforce的Customer 360集成,使这些代理能够与所有Salesforce产品进行交互。这些代理本身可以从各种来源摄取数据并执行丰富的分析,利用传递给AI代理的上下文数据。
Wiley是一家为数千名学生提供教育资源的公司,在高峰时期会出现服务呼叫激增的情况,需要高效的客户服务和良好的体验。通过实施AgentForce,Wiley的案件解决率显著提高了40%。该解决方案使Wiley能够创建提供数据驱动建议并无缝集成到其工作流程中的AI代理,从而加快案件解决速度,每年节省23万美元的成本。
Salesforce的创新还体现在能够将自己的预测模型和大型语言模型(LLM)引入平台。客户可以利用在SageMaker或Bedrock上运行的现有模型,并将它们与Salesforce工具(如Flow和Apex)集成。例如,可以无缝集成一个倾向性买家模型,从而实现流失预测和其他高级分析。
Salesforce的超大规模数据平台Data Cloud在这个生态系统中发挥着关键作用。它使用户能够连接和协调客户数据,形成统一视图,实现实时更新,并支持更强大、更高效的决策。Data Cloud每天更新超过1000亿条记录,通过提供个性化和相关的体验来增强客户忠诚度。与Amazon S3和Redshift等亚马逊云科技服务的本机集成进一步增强了Data Cloud的功能。
先进的AI功能是Data Cloud的基石,允许用户通过无代码构建器将自己的LLM引入Salesforce。用户可以通过拖放式细分构建可扩展和灵活的受众,甚至与Amazon Ads集成以实现有针对性的互动。
Data Cloud的关键组件Model Builder使用户能够引入自己的预测模型、直接在Salesforce中创建新模型,并集成自己的大型语言模型。该功能现已正式推出,同时还支持引入自己的模型和LLM。目前,Salesforce支持来自Bedrock、Cohere和Mystraal的Anthropic模型,并提供开放式连接器以集成其他模型。
将亚马逊云科技模型集成到Salesforce的过程非常顺畅。用户与Amazon SageMaker共享数据,使用该数据构建模型,并将模型添加到注册表中。然后,将端点提供给Model Builder(前身为Einstein Studio),从而可以直接在Salesforce中保存和利用模型的推理结果。例如,在SageMaker上运行的流失模型可以提供推理结果,这些结果可以通过Flow、Apex和其他工具在Salesforce中应用。
在集成来自Bedrock的LLM时,Salesforce引入了一个信任层,用于删除个人身份信息(PII),如姓名、地址、信用卡号码和社会安全号码。它还执行毒性评分和偏差检测,确保生成内容的安全性和完整性。系统维护审计跟踪,记录请求和响应,为客户提供透明和可审计的系统。
亚马逊云科技的首席AI/ML架构师Retchna深入探讨了Amazon Bedrock的细节,这是一种基于API的Gen AI服务,可访问业界领先的基础模型。Bedrock提供了一个单一API,用于访问来自Cohere、AI21(Jurassic)、Anthropic(Claude系列,包括Haiku 3.5和Sonnet 3.5)、Meta(LLaMa)、Mistral、Stability AI以及Amazon自己的一线模型(包括最近宣布的Nova系列)的模型。
Bedrock支持通过微调、提示工程和检索增强生成来定制模型,后者允许将特定于业务的数据注入提示以获得更准确的响应。它还支持托管代理,以便执行预订航班或处理医疗索赔等操作。
Bedrock的模型评估功能非常全面,包括自动评估、人工评估工作流程和创新的LLM作为评判员的方法。自动评估涉及提供参考提示和数据集、运行作业并获得关于多个模型的准确性、稳健性和毒性的指标。人工评估工作流程允许对品牌语音、同理心和其他定性方面进行主观评估。LLM作为评判员的功能利用大型语言模型本身来评估其他LLM,从而实现可扩展和经济高效的评估。
在Bedrock上,安全性和隐私性是至关重要的。所有推理调用和微调数据都保留在亚马逊云科技基础设施内,确保数据永远不会离开亚马逊云科技边界。微调后的模型和数据被隔离到各个客户账户中,静态数据和传输中的数据都可以加密。Bedrock符合各种法规,包括HIPAA、FedRAMP、GDPR、SOC和ISO。
与CloudWatch(用于可观察性)和CloudTrail(用于审计)等其他亚马逊云科技服务的集成进一步增强了Bedrock的功能,使其能够创建全面的生成式AI解决方案。
该会议最后进行了一次演示,展示了如何将Bedrock模型引入Salesforce,并使用提示模板和Einstein Force中的自定义操作生成摘要或执行其他任务。该过程从设置Bedrock账户并获取模型端点开始。在Salesforce的Model Builder中,用户可以连接到Amazon Bedrock,提供身份验证详细信息并配置模型,然后在游乐场中测试模型,最后保存。
配置完成后,可以使用提示模板或Einstein Force或Salesforce Lightning Web组件中的操作将模型嵌入到Salesforce中。提示模板允许用户指定说明、引用Salesforce数据(如案例或机会)以及选择所需的模型,包括自定义模型或标准模型。
在Einstein Force中,用户可以定义代理的角色、防护措施以及它可以访问的模型或操作类型。然后,代理可以通过聊天机器人进行对话、生成电子邮件或向客户发送短信,利用集成的Bedrock模型。例如,使用Amazon Bedrock和EventBridge生成电子邮件是一种可行的用例。
Salesforce和亚马逊云科技的合作旨在通过低代码平台简化生成式AI应用程序的开发,解决与数据、集成、人才和幻觉相关的挑战。通过利用亚马逊云科技服务(如SageMaker、Textract和Bedrock),并与Salesforce的Data Cloud、Model Builder和Einstein Force集成,客户可以更高效地构建AI解决方案,并在各自领域释放新的可能性。
总而言之,Salesforce与亚马逊云科技之间的协同作用赋予了组织通过低代码平台利用生成式人工智能的力量,解决了构建人工智能系统的多方面挑战。通过结合Salesforce的创新,如AgentForce、Data Cloud和Model Builder,以及亚马逊云科技服务如SageMaker、Textract和前沿的Bedrock,客户可以更高效地开发人工智能解决方案,促进创新并在各个行业开启新的可能性。
我们正处在 Agentic AI 爆发前夜。 2025 亚马逊云科技中国峰会提出,企业要从 " 成本优化 " 转向 " 创新驱动 " ,通过完善的数据战略和 AI 云服务,把握全球化机遇。亚马逊将投入 1000 亿美元在 AI 算力、云基础设施等领域,通过领先的技术实力和帮助“中国企业出海“和”服务中国客户创新“的丰富经验,助力企业在 AI 时代突破。
来自 “ ITPUB博客 ” ,链接:https://blog.itpub.net/70038688/viewspace-3089390/ ,如需转载,请注明出处,否则将追究法律责任。