导读

BBVA依靠数据和分析来提供自动化的业务和市场洞察，提高运营效率，并吸引客户。了解BBVA如何构建了一个全球数据平台，为其数据湖和数据网格架构提供支持。探索BBVA用于迁移其数据基础设施并部署多区域、多国家数据平台的方法，重点关注使用控制、安全性和监管合规性。了解为自动化迁移、降低成本而开发的工具，以及如何利用Amazon Athena、亚马逊云科技 Lake Formation、Amazon SageMaker和Amazon EMR加快价值实现。最后，了解该平台如何为生成式AI和数据治理奠定基础。

演讲精华

以下是小编为您整理的本次演讲的精华。

2024年亚马逊云科技re:Invent大会上，亚马逊云科技首席解决方案架构师Ignacio Fernandez和BBVA高级数据架构师Federico Esteban进行了一场题为“构建大规模多区域、多国家数据平台”的精彩演讲。他们深入探讨了BBVA在亚马逊云科技上构建全球数据平台的非凡历程，这个平台按时按预算交付，目前已经上线运行。

2023年6月，BBVA宣布与亚马逊云科技建立战略合作伙伴关系，这是朝着成为数据驱动型组织迈出的转折性一步。目标是利用亚马逊云科技全面的分析和AI服务组合，在BBVA的整个运营中创建一个新的数据平台，并在全球范围内大规模部署。这个安全的存储库将容纳BBVA的运营和客户数据，为内部业务利益相关者提供自动化的业务和营销洞见，从而提高运营效率并吸引新客户。

Ignacio Fernandez将航空业和金融业作了类比，两者都是受监管的环境。他将BBVA的全球数据平台生产环境比作一架正在飞行的飞机，而挑战在于在平台运行期间更换引擎，就像航空公司在飞行途中更换引擎一样。这个比喻突出了这一举措的复杂性和大胆性。

推动这一努力的动因是多方面的。首先，需要更高效的航线，以更快、更经济的方式前行。其次，该平台旨在覆盖更多目的地，即支持更多数据用例。第三，它寻求通过提高效率和改变数据消费者、数据科学家和业务分析师(数以百计和数千计)的工作方式来取悦终端用户。最后，“机组人员”(指负责该平台的团队)需要提高效率，这需要采用亚马逊云科技所促进的新的工作方式，特别是以不同的方式分配数据工作，被称为“现代数据社区”。

就像组织通过解耦和从单体架构过渡到微服务架构而获益一样，现代数据社区模型将责任推向边缘。与单一IT组织负责从摄取到数据质量管理和洞见创建的整个数据生命周期不同，这种模型通过在组织边缘分配责任来增加自主权、所有权和速度。

现代数据社区包括几个角色。生产者负责对数据进行目录编制和元数据标注，包括功能性和技术性，以便消费者更快发现。IT团队承担了支持角色，简化入职流程、提供安全环境以及提供培训和社区支持。在消费者方面，用户旨在更快发现数据并根据业务需求确保业务优先级。值得注意的是，现代数据社区的革命正在消费者端发生，消费者也渴望成为生产者。这一概念体现在BBVA实施的“沙箱”中，即一组具有共同优先事项和计划的终端用户(如业务分析师和数据科学家)，利用现代数据平台加速实现业务成果的时间价值。

作为一家在25多个国家拥有业务的全球金融机构，BBVA为超过7000万客户提供服务，拥有超过12万名每天依赖数据为客户提供高效服务的员工。这一需求推动了对大规模全球数据平台的需求。

BBVA的数据平台之旅与许多企业类似。最初，他们依赖于孤立的数据库，导致数据一致性和重复问题。随后，他们将数据统一到企业数据仓库中，这项技术多年运行良好，但随着数据量的增长，维护成本越来越高，难度也越来越大。这促使BBVA和许多公司开始尝试大数据技术，从而创建了他们的第一个大数据平台Datageddon。然而，他们面临两个主要挑战:大规模维护和运营这些技术的复杂性，以及内部部署的局限性，很快将无法满足不断增长的数据量和性能需求。

意识到这些局限性，BBVA决定迁移到亚马逊云科技，寻求无限扩展能力，并通过使用亚马逊云科技托管服务来简化架构。他们新平台的代号是“Adda”，这是一个全球统一平台，为6000多名高级用户(包括数据科学家和数据分析师)和40000多名数据消费者提供统一控制台。

Adda部署在两个位置:一个在欧洲，覆盖西班牙等欧洲国家;另一个在北弗吉尼亚。BBVA计划将美洲地区迁移到即将推出的墨西哥区域，以最小化延迟问题，并靠近为平台提供数据的运营系统。

该平台的规模令人印象深刻，拥有超过4PB的信息，管理约30000个表，每天摄取超过50000批次的信息来加载平台。值得注意的是，该平台支持40%的年增长率，在过去五年中一直保持这一增长，没有放缓迹象——这是BBVA迁移到云端的主要驱动力。

BBVA的这个项目历时三年，从2023年开始开发新平台。与此同时，他们执行了两个关键阶段:预迁移和监管跟踪。预迁移阶段专注于整理平台并减少不必要的组件，从而最小化未来迁移的范围。监管跟踪阶段则涉及与监管机构合作，获得将所有数据迁移到云端的批准，这是一项艰巨的任务，因为BBVA是首批在某些国家将100%信息迁移到云端的银行之一。

2024年，随着平台建成并准备就绪，BBVA开始迁移，从欧洲国家着手。他们最近完成了欧洲国家生产环境的迁移，关闭了欧洲的内部部署平台。目前，他们正在努力迁移美洲国家，包括阿根廷、秘鲁、哥伦比亚和墨西哥，计划在2025年年中完成迁移，届时将完全关闭内部部署平台。

Federico Esteban分享了这个项目的五个关键经验教训:

1.           复杂性:复杂性不在于构建新平台，而在于在并行运行两个平台的同时，将所有内容从内部迁移到新平台。这个并行阶段是项目中最关键和具挑战性的方面之一，因为它涉及在两个平台上同时运行超过50000个批次。

2.           预迁移:由于预迁移阶段，BBVA能够将迁移范围减少了40%以上，这是项目成功的关键因素之一。

3.           监管跟踪:从监管机构获得将数据迁移到云端的批准需要付出巨大努力，这凸显了不能低估说服监管机构所需工作的重要性。

4.           关闭:这是银行完全关闭旧平台的项目之一。为了实现这一目标，从项目一开始就必须设计好关闭流程。

5.           数据模式:BBVA利用亚马逊云科技的现代数据参考架构构建了大规模的Adda，考虑了诸如最佳数据性能与价格比、任何规模下无缝安全的数据访问、数据防泄漏、缩短实现时间价值、统一治理下简化入职、新的工作方式以及使用Amazon SageMaker等服务加速ML运维来解决业务挑战等前提。

为支持终端用户体验，BBVA实施了统一控制台，允许用户直接使用亚马逊云科技服务，同时提供了一个简化的界面，根据用户的角色和需求进行定制。这种方法避免了昂贵的集成，并使BBVA能够利用最新的亚马逊云科技服务功能。此外，该控制台还提供了BBVA特有的功能，如为用户授权数据源，并提供成本可见性小组件，随时监控服务使用情况和支出。

数据民主化是BBVA的一个战略优先事项，他们旨在简化6000多名用户访问数据的流程。通过统一控制台，用户可以订阅所需信息，利用治理工具查找和请求访问权限。对于非敏感数据，可立即授予访问权限，而对于敏感信息，则需要经过数据所有者的批准，比内部部署方式快得多，后者可能需要数周时间。

为了组织数据并启用订阅，BBVA将Amazon S3用作主要存储，根据国家、安全级别和数据账本组织存储桶。他们采用了三个安全级别:L1用于公共数据、L2用于敏感数据、L3用于机密数据，每个存储桶使用不同的加密密钥以确保安全性。数据目录充当抽象层，允许用户访问数据而无需知道文件的物理位置，而权限和访问控制则使用Lake Formation标签进行管理。

防止数据泄露是BBVA的一个关键问题，鉴于他们7000万客户数据的敏感性。为了解决这个问题，他们利用了Amazon GuardDuty，这是一项对用户几乎不可见的服务，可以防止未经授权的数据外泄。BBVA为每个沙箱部署了一个独立的GuardDuty队列，并在他们的控制台中实现了受控的数据下载功能，确保了治理并降低了数据泄露的风险。

迁移方法是这个项目的一个复杂且关键的方面，因为它涉及到同时运行内部和云平台，直到它们产生相同的结果。BBVA从他们的内部平台开始，该平台从不同国家的数千个运营系统接收数据，数据工程师创建了数千个作业来摄取这些信息。

为了启动并行阶段，BBVA部署了新的亚马逊云科技平台并迁移了所有内部流程。他们还复制了传输，确保运营系统同时将数据发送到两个平台。然而，在开始并行阶段之前，BBVA必须将4PB的数据迁移到云端，他们通过开发自己的快速数据传输系统来加速这一过程。

并行阶段涉及同时在两个平台上运行50，000个进程，持续一周，之后BBVA会停止并比较结果。最初，他们遇到了许多在云端执行进程的问题，需要修复和同步以确保数据一致性。这个迭代过程持续了6个月，直到云端数据与内部数据完全匹配。在此期间，用户使用复制的数据测试新平台和亚马逊云科技工具，一旦数据质量令人满意，就过渡到最终平台。成功迁移后，BBVA删除了复制的数据并关闭了内部系统。

为了促进并行阶段所需的快速数据传输，BBVA基于Amazon EMR和TP开发了自己的传输系统，实现了超过500TB/30小时的传输速率，每周移动约100TB的数据，时间不到6小时。

BBVA的迁移成功标准是至少达到90-90.5%的表格准确率，所有关键表格都必须完美无缺。最终，他们以97%的准确率继续前进。

迁移后，BBVA建立了FinDataOps部门来管理数据领域的FinOps，专注于成本控制。该部门协助财务部门进行预算编制和采用按使用付费策略，通过全面的仪表板和报告提供成本可见性，为现代数据社区定义治理模型和新角色，并实施成本保护措施。

成本保护是一个关键方面，因为BBVA意识到许多用户都是云平台的新手，可能会犯影响成本的错误。他们实施了“护栏”来保护用户免受此类错误的影响，对他们使用的服务设置了限制和控制。此外，BBVA不断探索最佳实践和新的亚马逊云科技服务，这些服务可能会对成本产生积极影响。

BBVA为分析和ML工作负载设计了预防性和检测性护栏。预防性护栏在服务请求或用户配置期间部署，例如在Amazon Athena上执行控制或每查询限制。检测性护栏利用日志、时间戳和通过Amazon CloudWatch和Amazon CloudTrail等服务进行的消耗监控，实现了与护栏限制相比较的指标和日志的实时分析。

为了避免意外消耗并提供成本保护，特别是对于技术水平较低的业务用户，BBVA根据平台筒仓实施了不同的护栏。对于使用Amazon EMR和Amazon Glue等服务的数据工程师，他们创建了9个护栏来监控和控制作业执行时间和资源使用情况。对于业务用户，他们保护了Amazon Athena等服务，停止处理过多数据量的查询，以防止成本超支。

此外，BBVA实施了“芒果护栏”来监控和控制沙箱预算。当用户达到预算的40%、50%和100%时，该护栏会向他们发送警报，并在200%利用率时自动停止沙箱。然后，用户必须审查并解决问题，可能需要调整预算或优化服务使用情况，然后才能重新启动沙箱。

成本可见性是一个优先事项，BBVA基于亚马逊云科技成本和使用报告(CUR)数据库创建了自定义仪表板，为用户提供了不同级别的详细成本信息，包括业务领域、部门、个人用户和特定服务。这些仪表板允许用户比较不同实体之间的成本，使他们能够识别和模仿优化平台使用的最佳实践。

展望2025年，BBVA确定了几个挑战和需要改进的领域。虽然当前平台管理结构化数据，但他们认识到需要纳入非结构化数据，以支持由生成式人工智能驱动的新兴用例。此外，他们旨在增强沙箱之间的数据共享和协作，将在线推理与Amazon SageMaker集成(目前仅限于批量推理)，并探索新的事务数据格式(如Iceberg)以克服Parquet格式的限制。

BBVA还计划引入使用Amazon Kinesis的实时处理能力，以补充他们现有的批处理工作负载。此外，他们寻求通过利用Amazon EMR Serverless、Amazon Glue DataBrew、亚马逊云科技 Glue Data Quality和亚马逊云科技 Glue ETL等服务来加速数据工程能力的发展。

尽管存在挑战，但BBVA对平台投入生产并体验到与亚马逊云科技合作的好处表示满意。他们认为，最好的时光还在后头，这凸显了他们在数据领域持续改进和创新的决心。

总之，本次会议全面概述了BBVA在亚马逊云科技上构建大规模多区域、多国家数据平台的非凡历程。从与亚马逊云科技的战略合作伙伴关系到复杂的迁移过程、监管障碍以及数据治理、成本管理和用户赋能的创新方法，BBVA的经验证明了基于云的数据平台的变革潜力。展望未来，BBVA将继续利用亚马逊云科技的尖端服务和自身的创新精神，推动数据驱动的创新，为客户提供卓越的价值。

我们正处在 Agentic AI 爆发前夜。 2025 亚马逊云科技中国峰会提出，企业要从 " 成本优化 " 转向 " 创新驱动 " ，通过完善的数据战略和 AI 云服务，把握全球化机遇。亚马逊将投入 1000 亿美元在 AI 算力、云基础设施等领域，通过领先的技术实力和帮助“中国企业出海“和”服务中国客户创新“的丰富经验，助力企业在 AI 时代突破。