关键字: [reInforce, Privacy Nexus, ]

本文字数: 1600, 阅读完需: 8 分钟

导读

在本次演讲中, 演讲者阐释了” 在亚马逊云科技上平衡负责任的人工智能、隐私和数据保护” 的主题。他解释说, 亚马逊云科技制定了负责任的人工智能政策, 禁止虚假信息、非法跟踪和武器化, 并要求人工监督、风险评估和透明度。演讲重点阐述了亚马逊云科技如何通过利益相关者参与、道德监督、安全的人工智能生命周期和治理框架, 在保护消费者数据隐私和同意的同时, 促进信任、透明度和道德创新, 从而实现负责任的人工智能发展。

演讲精华

以下是小编为您整理的本次演讲的精华，共1300 字，阅读时间大约是6 分钟。

在不断发展的人工智能领域中, 其能力持续扩展并渗透到各个领域, 一个关键的方面浮现出来—— 负责任地平衡和利用这种强大的技术。亚马逊云科技前首席执行官亚当· 塞利布斯基强调, 拥有强大的生成式人工智能能力也意味着承担相应的重大责任。在亚马逊云科技, 他们坚定不移地致力于为客户提供必要的工具和指导, 以构建公平和准确的人工智能应用程序。然而, 这一努力不仅仅是创建最佳服务或工具; 它需要整合正确的技术、适当的数据集, 并以积极、有利和公平的方式对社会产生深远影响, 摒弃歧视或不平等。

亚马逊云科技负责任人工智能的原则植根于透明度、可解释性、公平性和非歧视性。任何人工智能模型做出的决策都必须基于公平的数据, 具有正确的价值观和排名, 确保算法透明度, 并排除敏感的个人信息。这些原则包括道德考量、人类价值观、安全性、稳健性以及跨行业和族裔群体的包容性。

为了说明负责任人工智能的重要性, 提出了一个现实生活中的场景。来自不同族裔背景的两个家庭申请改变居住地或新家。尽管两个家庭的信用评分和收入水平都无可挑剔, 但其中一个家庭获得了有利的贷款条件和更高的贷款额度, 而另一个家庭则面临不利情况和可能被拒绝。这种差异源于贷款机构使用了有偏差的数据和决策模型, 凸显了这种技术驱动决策的影响, 以及可能失去宝贵客户群或市场渗透率的风险。

根据联合国教科文组织科技监测和麦肯锡公司的报告,2023 年至2027 年负责任人工智能的投资趋势凸显了其日益重要的地位。2023 年, 投资额为150 亿美元, 预计到2027 年将增长200%, 达到450 亿美元。重点正在转移到建立治理准备情况评估、大力引入人工监督、测试和验证, 以及将治理实践纳入信息技术预算、战略和路线图。

亚马逊云科技在负责任人工智能领域一直在稳步推进, 这一进程伴随着2017 年推出Amazon Rekognition 和Amazon Transcribe,2019 年推出CodeGuru 以通过自动化代码审查提高生产力。2020 年, 亚马逊云科技专注于制定治理政策和实践, 发布了《负责任人工智能白皮书》, 并推出了治理框架。2022 年和2023 年, 亚马逊云科技推出了Governance Zones 和安全的人工智能工作负载环境。2024 年, 亚马逊云科技与行业合作伙伴、监管机构保持一致, 并开始为合作伙伴处理客户数据时的数据保护认证工作。

亚马逊云科技的负责任人工智能政策作为指导框架, 禁止虚假信息、非法跟踪和武器化, 同时要求人工监督、风险评估和透明度。它为亚马逊云科技设计的每一个应用程序、工具和服务提供指导, 促进信任、透明度和道德创新, 同时保护消费者数据隐私和同意权。

亚马逊云科技在道德人工智能决策方面采用了全面的框架, 包括利益相关方参与、道德监督、人工智能治理流程、安全的人工智能生命周期管理、数据匿名化、去识别化和结果测量。利益相关方参与是一个关键方面, 亚马逊云科技重视客户反馈、学术合作伙伴关系、政策参与团队、合作伙伴生态系统, 以及通过峰会、实验室和执行简报中心进行的公众外联。这种多元化的投入和见解为负责任地开发人工智能解决方案提供了信息。

为了进一步阐释负责任人工智能在实际应用中的作用, 演示了由亚马逊Bedrock 驱动的生成式人工智能应用程序Privacy Nexus 。这款前沿应用程序能够在亚马逊云科技环境中对个人数据实施强大的控制, 提供必要的识别和保护指导。该应用程序可扫描URL 、文本和新闻源, 识别个人身份信息(PII) 和受保护的健康信息(PHI), 评估风险, 提供补救建议, 并利用亚马逊云科技安全服务进行数据保护。值得注意的是, 演示显示样本数据中包含40 个暴露的信用卡号码, 凸显了该应用程序识别和量化潜在风险的能力。此外,Privacy Expert Chatbot 协助提供了与数据暴露和隐私风险相关的技术细节、成本估算和可视化。根据聊天机器人的说明, 单个PII 记录意外暴露的估计成本可能在150 美元到200 美元之间, 包括信用监控服务、法律费用、监管罚款和业务收入损失等因素。

负责任人工智能的应用遍及各个行业, 每个行业都面临独特的挑战和考虑因素。在医疗保健领域, 人工智能辅助诊断旨在减少错误, 改善患者结果。例如, 亚马逊云科技服务Amazon Comprehend Medical 可用于从非结构化文本数据中提取相关医疗信息, 有助于准确诊断。在金融领域, 道德信用评分实践力求消除歧视, 确保公平的贷款实践, 如前面的场景所示。亚马逊云科技服务Amazon SageMaker 可用于构建和部署机器学习模型进行信用风险评估, 同时减轻偏差。

招聘过程可从公正的招聘实践中获益, 免受面试和招聘方法中的偏见影响。亚马逊云科技服务Amazon Rekognition 可用于分析视频面试, 并根据面部表情或语音模式识别潜在偏见, 从而实现更加公平的招聘决策。

交通运输行业对自动驾驶汽车的安全性提出了严格要求, 需要最大限度降低对行人的风险, 并确保车内人员和路人的安全。亚马逊云科技 IoT Greengrass 等服务可用于在车载边缘设备上部署机器学习模型, 实现实时决策, 从而确保安全导航和避障。

电子商务平台可利用负责任的产品推荐系统, 根据个人客户的需求和偏好进行定制化推荐。亚马逊云科技 Amazon Personalize 等服务可用于构建考虑公平性和多样性因素的推荐引擎, 确保推荐结果不会对某些人口统计数据或产品类别存在偏差。

社交媒体内容审核可采用 AI 过滤器来检测和删除仇恨言论, 营造更加包容和尊重的在线环境。亚马逊云科技 Amazon Comprehend 等服务可用于分析文本数据中潜在的攻击性或有害内容, 实现主动审核和内容过滤。

为支持负责任 AI 的实施, 亚马逊云科技提供了一套服务, 包括 Rekognition 、SageMaker 、Comprehend 、IoT 、Greengrass 和 Personalize, 使开发人员能够开发负责任的 AI 产品, 同时在内部和外部维护客户信任。

董事会成员在考虑 AI 伦理时, 需要关注公平性、非歧视性、透明度、可解释性、隐私、数据保护、人工监督、稳健性、安全性、伦理原则和价值观、问责制和责任。其中, 问责制和责任至关重要, 因为它们确保 AI 解决方案在开发和部署时会充分考虑潜在影响。

亚马逊云科技负责任 AI 的实施路线图包括 AI 伦理治理、将伦理融入生命周期、培养伦理 AI 文化、持续改进、实现人工监督、确保数据安全和治理、关注负责任 AI 机制、赋能和培训团队以及建立持续监控和 AI 文化。这种全面的方法认识到, 负责任的 AI 不是一蹴而就的, 而是一个持续的过程, 需要保持警惕、适应性和对伦理原则的坚定承诺。

亚马逊云科技对于负责任人工智能持有坚定承诺, 制定了原则、政策、框架和实际策略, 旨在平衡人工智能创新与隐私、数据保护、公平性和道德考虑。该公司强调利益相关方参与、人工监督、透明度和持续改进在负责任地开发和部署各行业人工智能应用程序方面的重要性。通过遵循这些原则和实践, 亚马逊云科技致力于发挥人工智能的力量, 同时降低潜在风险, 确保对社会产生积极影响。

下面是一些演讲现场的精彩瞬间：

客户关注内容隐私和合规性, 以避免敏感信息泄露和潜在成本。

通过负责任的人工智能实践, 该公司可以在医疗、金融、招聘、交通、电子商务和社交媒体等多个领域发挥作用, 为人类带来更加公平、安全和有益的体验。

该公司希望通过人工智能技术减少诊断错误、消除歧视、保护个人隐私信息、确保自动驾驶汽车的行人安全, 为用户提供合适的推荐, 并从社交媒体中检测和删除仇恨言论, 从而以负责任的方式利用人工智能, 赢得内部和外部客户的信任。

该公司为董事会成员提供了一些顶尖的道德人工智能考量, 包括公平和非歧视、透明度和可解释性、隐私和数据保护、人工监督、稳健性和安全性、道德原则和价值观以及问责制和责任。

其中, 问责制和责任是最重要的一环, 因为该公司要确保为客户做正确的事情。

总结

这篇演讲深入探讨了在亚马逊云科技中平衡负责任的人工智能实践与隐私和数据保护的重要性。它强调在人工智能决策过程中需要透明度、公平性和非歧视性, 以防止意外偏见和不平等现象。负责任人工智能的原则, 包括道德考量、人工监督、安全性和稳健性, 被视为必须融入亚马逊云科技的政策、框架和服务的重要元素。

演讲指出, 亚马逊云科技致力于为客户提供构建公平和准确人工智能应用程序所需的工具和指导。它概述了亚马逊云科技的全面方法, 包括利益相关者参与、道德监督、安全人工智能生命周期管理, 以及与行业合作伙伴和监管机构的合作。演示展示了Privacy Nexus, 这是一种生成式人工智能应用程序, 可在亚马逊云科技环境中对个人数据进行强大控制, 提供敏感信息的识别和保护指导。

总的来说, 这篇演讲强调组织有责任负责任地利用人工智能, 确保对社会产生积极影响, 保护消费者数据隐私, 并促进信任和道德创新。亚马逊云科技努力与行业最佳实践保持一致、建立治理框架, 并为客户提供负责任的人工智能解决方案, 被视为实现这一目标的关键步骤。