220 likes | 517 Views
Oracle GoldenGate 产品 交流. 数据集成方案事业部 资深技术顾问 符云波. 议 程. GoldenGate 概述. 技术架构及特点. 主要应用场景和客户案例. GoldenGate 背景简介. 创建于1995年,总部在美国旧金山。 数据复制领域的专业公司。 全球超过 4,000 个安装许可,分布在政府、银行、制造、传媒、电信、证券、医疗和零售等各大行业,其中有多个全球财富 500 强企业。 与 Oracle 、 IBM 、 HP 、 Microsoft 、 Sybase 、 Teradata 等著名企业建立了紧密合作关系。
E N D
Oracle GoldenGate产品交流 数据集成方案事业部 资深技术顾问 符云波
议 程 GoldenGate概述 技术架构及特点 主要应用场景和客户案例
GoldenGate背景简介 创建于1995年,总部在美国旧金山。 数据复制领域的专业公司。 全球超过4,000个安装许可,分布在政府、银行、制造、传媒、电信、证券、医疗和零售等各大行业,其中有多个全球财富500强企业。 与Oracle、IBM、HP、Microsoft、Sybase、Teradata等著名企业建立了紧密合作关系。 2009年被Oracle收购,成为Oracle在实时数据集成,数据复制和数据高可用性领域的战略性产品。
GoldenGate在全球的客户 • 在数据集成领域中的最强的领导者 • 是现有Oracle产品功能的重要补充 • 在异构环境中的连续可用性 • 作为报表系统的实时数据访问 • 为BI,EPM,Exadata获得实时数据 • 零宕机的迁移/升级到Oracle数据库和应用 • 有超过400个客户部署了4000多套系统,其中包括很多财富500强中的企业:金融服务,通讯,医疗,公共部门,零售和公共事业 • 5家最大的商业银行中的三家 • 3家最繁忙的ATM网络 • 10家最大的财务数据服务公司中的七家 • 5家最大的电信运营商中的四家 • 5家最大的食品和药品商店中的三家
议 程 GoldenGate概述 技术架构及特点 主要应用场景和客户案例
Oracle GoldenGate工作原理模块化架构 捕获:通过读取事务日志,在事务发生时捕获(也可过滤)提交的事务。 队列:准备数据,使数据排入队列以备路由。 传输:分发数据以便路由到目标。 路由:压缩、加密数据以便路由到目标。 交付:保证事务数据完整,根据需要转换数据。 队列 队列 捕获 传输 交付 LAN/WANInternet TCP/IP 源数据库 目标数据库 双向
Oracle GoldenGate独特点实时、跨异构和支持交易/事务完整性的复制 跨异构环境,对系统负载影响很低,对交易型数据做实时抓取、路由、转换和传递 和其他产品关键差异点 性能 非侵入式、低影响和亚秒级的延迟 弹性、可扩展 开放和模块化的架构 – 支持异构数据源和目标 可靠 保持交易事务的完整性 – 对中断和失败容忍度高
GoldenGate 11g 主要特征: 松耦合部署配置灵活 分析型 合并实时BI 单向查询分流 集成/整合实时数据仓库 查询 / 报表 OLTP ODS OLTP OLTP ODS EDW 操作型 对等负载平衡/多主分布式 双向主用/备用或主动-主动,实现高可用性 广播数据分发 级联式分布式业务 OLTP OLTPNew OLTPOld Stage OLTP OLTP OLTP OLTP OLTP OLTP
GoldenGate 11g 主要特征: 异构性支持所有主流平台,OS,RDBMS
Filter/Map & 转换 • 可以配置Filter/Map以及变换的部件 • Capture(推荐) • DataPump • Replicat Network(TCP/IP) Filter/Map & Transform Filter/Map & Transform Filter/Map & Transform Extract(DataPump) Collector Replicat Trail Trail Extract(Capture) 源数据库 目标数据库
可靠性:进程故障的解决确保事务完整性 • 各种故障的解决方法 • GoldeGate的故障 • 进程故障->进程自动重启 • Trail文件故障->Checkpoint • GoldenGate以外的故障 • 服务器/DB/网络的故障->Checkpoint Network(TCP/IP) Extract(DataPump) Collector Replicat 自动重启 自动重启 Trail Trail Extract(Capture) 源数据库 目标数据库 Checkpoint Checkpoint Checkpoint
可选组件:GoldenGateVeridata™数据一致性比较 • 高速的数据比对解决方案 • 正在使用的数据库直接审计,识别和报告数据的差异性 • 优点: • 能快速地减少风险和对数据差异采取行动 • 加快和简化数据比较 • 不中断业务系统 • 加强决策和报告的可信度 • 关键特性: • 支持大数据量比对 • 当数据库在线的时候运行比对 • 选择性数据比对 • 灵活的报表机制 • 支持异构数据库 • 生成直观比较报告
可选组件:Management Pack提高管理效率 • 定义,配置,管理和报告GoldenGate在业务系统中配置情况 • 使用GodenGate管理服务体系架构 • 关键特性: • 集中化管理所有的GG进程 • 丰富的基于web的客户端界面增强了可视性 • 告警通知,Email方式或者第三方的监控产品集成 • 实时反馈GG的进程运行情况 • 无影响的部署不会影响系统性能
议 程 GoldenGate概述 技术架构及特点 主要应用场景和客户案例
GoldenGate 11g 广泛应用场景企业级解决方案 满足实时数据需求 • 标准化的单一的技术解决多种不同的需求 • 同时满足系统的连续可用性和报表/BI系统的实时数据访问的要求 零停机移植和升级/容灾/应急 新DB/OS/HW/App 灵活的高可用性 全面活动的分布数据库 基于日志,实时变化数据抓取 查询卸载/分流 报表数据库 OracleGoldenGate ETL EDW ODS • 降低成本 • 减少风险 • 获得更高的运行效率 ODI 实时BI/实时DW EDW 异构的源系统 数据分布 全球数据中心 SOA/EDA
场景:双活/多主数据中心 • 产品: • GoldenGate • 方案特点: • 亚秒级延迟、低带宽要求、无距离限制的双向数据复制 • 分布式计算提高性能 • 任一中心计划/非计划停机时,保障业务的连续可用性 • 支持广泛异构环境 • 尽可能避免数据冲突和及时自动处理冲突是实现双活的关键:GoldenGate提供冲突侦测处理机制,发现和记录数据冲突,按照设定规则自动处理冲突 中心A 应用 中心B 应用 中心A 数据库 中心B 数据库 双向数据复制,冲突侦测处理
RIM - BlackBerry • 业务挑战 • 需要全天候运行以支持全球运营和严格的 SLA • 每月升级、迁移和计划维护所需停机时间非常短 • 每个工厂的数据中心需要多步骤生产过程中每台设备的最新数据 • 解决方案 • 使用 Oracle GoldenGate 在 3 大洲的 5 个数据中心上进行多主数据复制,应对数据分布和可用性挑战 • 实现从单节点到双节点RAC 的跨操作系统零停机迁移 • 在 Oracle Exadata上整合了实时报告生成,消除了对源系统的性能影响 • 投资回报 • 支持全天候全球制造运营并能满足客户的 SLA • 升级其系统以增强可伸缩性,但不会对业务产生影响 • 通过将实时报告功能分流到Exadata来提高系统性能 25
RIM 制造系统多主数据中心 • 在分布于全球的 5 个数据中心之间进行多主数据复制 • 实现具有冲突管理、无距离限制的完全双向的数据移动 • 确保全球制造/维修服务的全天候可用性 • 在全球范围同步设备制造信息 • 在不同的地区间共享新产品测试信息以支持全球制造
RIM 运营报表分载到Exadata • 实时从生产数据库集中到 Exadata,用于生成报表
XX银行电子渠道风险监管平台 • 解决方案: • GoldenGate实时捕获网银数据库已提交交易,通过Java接口交付到电子渠道风险监管平台进行风险管理 • 风险分析评估结果存入监管平台在线库 • 用户发起新的交易请求时,网银系统调用监管平台接口,结合在线库的现有交易信息进行风险控制 • GoldenGate将监管平台在线库的数据实时同步到离线库 • 监管平台从离线库生成风险管理报表 • 统一模式扩展到其它电子渠道系统 网银应用 电子渠道风险监管平台 OAAM 网银数据库 监管平台离线库 监管平台在线库