ITPub博客

首页 > 人工智能 > 人工智能 > Amazon Bedrock 可用于访问 Anthropic 的最新款模型 Claude 2.1简介

Amazon Bedrock 可用于访问 Anthropic 的最新款模型 Claude 2.1简介

投稿 人工智能 编辑:ITPUB 时间:2024-01-03 11:04:45 0 删除 编辑

今天,我们宣布 Claude 2.1基础模型(FM)已经在  Amazon Bedrock 正式上线。上周,Anthropic 推出最新款模型 Claude 2.1,为企业提供非常关键的使用功能和服务,其中包括业界领先的 200,000个令牌上下文窗口(是  Claude 2.0 上下文窗口的 2 倍)、大幅度降低幻觉率、提高长文档的准确性、系统提示功能以及用于函数调用和工作流协调测试工具的使用功能。 随着 Claude 2.1 在 Amazon Bedrock 中的正式推出,您可以使用 Anthropic 提供的人工智能系统构建企业的生成式人工智能 ( AI) 应用。现在,您可以在   Amazon Bedrock console 中使用访问 Anthropic 的 Claude 2.1 模型。

屏幕截图 2023-12-26 220844.png

以下是 Amazon Bedrock 推出的 Claude 2.1 模型的一些主要亮点:

200,000 个标记上下文窗口——企业应用程序在处理产品指南、技术文档、财务或法律声明等长篇文档时,需要借助更大的上下文窗口和更准确的输出能力。Claude 2.1 可以支持 200,000 个标记,相当于大约 150,000 个单词或超过 500 页的文档数量。在向 Claude 上传大量的信息时,您可以同时进行汇总、问答、趋势预测等操作,并对多个文档进行横向比较和纵向对比,以便快速完成商业计划书的起草,或者分析复杂的合同。

准确性大幅提升——与 Claude 2.0 相比, Claude 2.1 在诚实性能方面也取得显著进步,幻觉率降低 2 倍,开放式对话和文件问答中的幻觉减少 50%,与 Claude 2.0 相比,错误答案减少30%,错误断定文档支持特定主张的比率降低 3-4 倍。Claude 可以快速准确地分辨信息的真实性和准确定,从而帮助用户解决潜在的问题。随着准确性的提高,可以为企业和员工构建更加可靠的关键性应用程序。

系统提示功能——Claude 2.1 版可以提供系统提示功能服务,这项新功能可以通过多种方式提高 Claude 的表现,包括在角色扮演场景中提高角色深度和角色一致性,特别是在较长的对话中,以及更严格地遵守指南、规则和指令。这在本质上代表了结构上的变化,但与以前 Claude 的提示方式相比,并没有太多内容变化。

用于函数调用和工作流协调的工具——作为测试版功能, Claude 2.1可以与现有内部流程、产品和应用程序接口集成通用,从而构建生成式人工智能应用。Claude 2.1 可从其他知识源准确地检索和处理数据,并为给定任务调用函数。Claude 2.1 可以通过使用专用的 API 和网络搜索 API 检索数据库资源来回答问题,将自然语言请求翻译成结构化 API 调用,或连接到产品数据集,以便提出建议并帮助客户完成购买。该功能目前仅限于特定的早期访问合作伙伴使用,计划在不久的将来开放更多访问权限。如果您有兴趣获得早期访问权,请联系您的亚马逊云科技客户团队。

如果您想要了解更多有关 Claude 2.1 功能和性能的信息,请访问  Anthropic Claude on Amazon Bedrock 和  Amazon Bedrock documentation

实际运行中的Claude 2.1

当在 Amazon Bedrock 中使用 Claude 2.1时,请访问  Amazon Bedrock console。在左下方窗格中选择 “Model access”,然后在右上方选择 “Manage model access”,提交用户信息并申请 Claude 模型的访问权限。在获取模型访问权限时可能需要耐心等待几分钟时间。如果您已经拥有对 Claude 模型的访问权限,则无需单独申请 Claude 2.1 的访问权限。

屏幕截图 2023-12-26 221059.png

要在聊天模式下测试 Claude 2.1,请在左侧菜单窗格的  Playgrounds 下选择  Text 或  Chat。然后选择  Anthropic ,再选择  Claude v2.1 。

屏幕截图 2023-12-26 221154.png

通过选择  View API request ,您还可以通过  Amazon Command Line Interface (Amazon CLI) 和 Amazon SDK 中的代码示例访问模型。下面是 Amazon CLI 命令的参考示例:

image.png

将源数据和文档放在所有引用或使用内容的问题前面时,就可以使用 Claude 2.1 的模型方法来开启系统提示。输入的内容可以是自然语言文本、结构化文档或使用 document , papers , books , 或 code 标记的代码片段等。您还可以使用会话文本(例如聊天记录)和检索增强生成结果( RAG ,例如文档分块)。

下面是一个系统提示示例,可供操作人员根据公司文件回答客户问题。

image.png

要了解有关 Amazon Bedrock 提示工程的更多信息,请参阅 Amazon Bedrock 文档中的  Prompt engineering guidelines 。您可以了解适用于 Amazon Bedrock 文本模型(包括 Claude)的一般提示技术、适用模板和参考示例。

正式上线使用

Claude 2.1 今天在美国东部(弗吉尼亚州北部)和美国西部(俄勒冈州)地区正式上线。 您只需按使用数量付费,就使用时间而言无任何限制。对于文本生成模式,您需要为处理每个输入标记和生成每个输出标记付费。您也可以选择  provisioned throughput 模式来满足您应用程序的性能要求,此时使用时间有固定的套餐选择。如果您想要了解更多信息,请参阅  Amazon Bedrock Pricing。

快去  Amazon Bedrock console 中试用 Anthropic Claude 2.1 吧,并将反馈发送到  Amazon re : Post for Amazon Bedrock 或通过您常用的亚马逊云科技支持联系人发送即可。

—  Channy

作者 Channy Yun
Channy Yun 是亚马逊云科技的首席开发者倡导者,热衷于帮助开发人员在最新的亚马逊云科技服务上构建现代应用程序。他是一名务实的开发人员和博客作者,热爱社区驱动的技术学习和分享,并因此将开发人员吸引到全球亚马逊云科技用户组中。他的主要话题有开源、容器、存储、网络与安全以及物联网。请关注他的 Twitter 账号:@channyun。


原文作者:亚马逊云开发者 ;链接:https://blog.itpub.net/31545808/viewspace-3002465/ ,如需转载,请注明出处,否则将追究法律责任。

请登录后发表评论 登录
全部评论

注册时间:2018-09-19

  • 博文量
    479
  • 访问量
    2702427