今天,我们宣布 Claude 2.1基础模型(FM)已经在 Amazon Bedrock 正式上线。上周,Anthropic 推出最新款模型 Claude 2.1,为企业提供非常关键的使用功能和服务,其中包括业界领先的 200,000个令牌上下文窗口(是 Claude 2.0 上下文窗口的 2 倍)、大幅度降低幻觉率、提高长文档的准确性、系统提示功能以及用于函数调用和工作流协调测试工具的使用功能。 随着 Claude 2.1 在 Amazon Bedrock 中的正式推出,您可以使用 Anthropic 提供的人工智能系统构建企业的生成式人工智能 ( AI) 应用。现在,您可以在 Amazon Bedrock console 中使用访问 Anthropic 的 Claude 2.1 模型。

以下是 Amazon Bedrock 推出的 Claude 2.1 模型的一些主要亮点:
200,000 个标记上下文窗口——企业应用程序在处理产品指南、技术文档、财务或法律声明等长篇文档时,需要借助更大的上下文窗口和更准确的输出能力。Claude 2.1 可以支持 200,000 个标记,相当于大约 150,000 个单词或超过 500 页的文档数量。在向 Claude 上传大量的信息时,您可以同时进行汇总、问答、趋势预测等操作,并对多个文档进行横向比较和纵向对比,以便快速完成商业计划书的起草,或者分析复杂的合同。
准确性大幅提升——与 Claude 2.0 相比, Claude 2.1 在诚实性能方面也取得显著进步,幻觉率降低 2 倍,开放式对话和文件问答中的幻觉减少 50%,与 Claude 2.0 相比,错误答案减少30%,错误断定文档支持特定主张的比率降低 3-4 倍。Claude 可以快速准确地分辨信息的真实性和准确定,从而帮助用户解决潜在的问题。随着准确性的提高,可以为企业和员工构建更加可靠的关键性应用程序。
系统提示功能——Claude 2.1 版可以提供系统提示功能服务,这项新功能可以通过多种方式提高 Claude 的表现,包括在角色扮演场景中提高角色深度和角色一致性,特别是在较长的对话中,以及更严格地遵守指南、规则和指令。这在本质上代表了结构上的变化,但与以前 Claude 的提示方式相比,并没有太多内容变化。
用于函数调用和工作流协调的工具——作为测试版功能, Claude 2.1可以与现有内部流程、产品和应用程序接口集成通用,从而构建生成式人工智能应用。Claude 2.1 可从其他知识源准确地检索和处理数据,并为给定任务调用函数。Claude 2.1 可以通过使用专用的 API 和网络搜索 API 检索数据库资源来回答问题,将自然语言请求翻译成结构化 API 调用,或连接到产品数据集,以便提出建议并帮助客户完成购买。该功能目前仅限于特定的早期访问合作伙伴使用,计划在不久的将来开放更多访问权限。如果您有兴趣获得早期访问权,请联系您的亚马逊云科技客户团队。
如果您想要了解更多有关 Claude 2.1 功能和性能的信息,请访问 Anthropic Claude on Amazon Bedrock 和 Amazon Bedrock documentation
当在 Amazon Bedrock 中使用 Claude 2.1时,请访问 Amazon Bedrock console。在左下方窗格中选择 “Model access”,然后在右上方选择 “Manage model access”,提交用户信息并申请 Claude 模型的访问权限。在获取模型访问权限时可能需要耐心等待几分钟时间。如果您已经拥有对 Claude 模型的访问权限,则无需单独申请 Claude 2.1 的访问权限。

要在聊天模式下测试 Claude 2.1,请在左侧菜单窗格的 Playgrounds 下选择 Text 或 Chat。然后选择 Anthropic ,再选择 Claude v2.1 。

通过选择 View API request ,您还可以通过 Amazon Command Line Interface (Amazon CLI) 和 Amazon SDK 中的代码示例访问模型。下面是 Amazon CLI 命令的参考示例:

将源数据和文档放在所有引用或使用内容的问题前面时,就可以使用 Claude 2.1 的模型方法来开启系统提示。输入的内容可以是自然语言文本、结构化文档或使用 document , papers , books , 或 code 标记的代码片段等。您还可以使用会话文本(例如聊天记录)和检索增强生成结果( RAG ,例如文档分块)。
下面是一个系统提示示例,可供操作人员根据公司文件回答客户问题。

要了解有关 Amazon Bedrock 提示工程的更多信息,请参阅 Amazon Bedrock 文档中的 Prompt engineering guidelines 。您可以了解适用于 Amazon Bedrock 文本模型(包括 Claude)的一般提示技术、适用模板和参考示例。
Claude 2.1 今天在美国东部(弗吉尼亚州北部)和美国西部(俄勒冈州)地区正式上线。 您只需按使用数量付费,就使用时间而言无任何限制。对于文本生成模式,您需要为处理每个输入标记和生成每个输出标记付费。您也可以选择 provisioned throughput 模式来满足您应用程序的性能要求,此时使用时间有固定的套餐选择。如果您想要了解更多信息,请参阅 Amazon Bedrock Pricing。
快去 Amazon Bedrock console 中试用 Anthropic Claude 2.1 吧,并将反馈发送到 Amazon re : Post for Amazon Bedrock 或通过您常用的亚马逊云科技支持联系人发送即可。
— Channy

原文作者:亚马逊云开发者 ;链接:https://blog.itpub.net/31545808/viewspace-3002465/ ,如需转载,请注明出处,否则将追究法律责任。