580 likes | 1.08k Views
以下内容旨在概述产品的总体发展方向 。 该内容仅供参考 ,不可纳入任何合同 。 其内容不构成提供任何材料、代码或功能的承诺,并且不应该作为制定购买决策的依据 。 此处所述有关 Oracle 产品的任何特性或功能的开发、发布以及相应的日程安排均由 Oracle 自行决定 。. Oracle 数据集成解决方案 产品更新: Oracle GoldenGate 和 Oracle Data Integrator. 议题. 市场概述 Oracle 数据集成概述 Oracle Data Integrator 产品更新 Oracle GoldenGate 产品更新 更多信息.
E N D
以下内容旨在概述产品的总体发展方向。该内容仅供参考,不可纳入任何合同。其内容不构成提供任何材料、代码或功能的承诺,并且不应该作为制定购买决策的依据。此处所述有关 Oracle产品的任何特性或功能的开发、发布以及相应的日程安排均由 Oracle 自行决定。
Oracle 数据集成解决方案产品更新:Oracle GoldenGate 和 Oracle Data Integrator
议题 • 市场概述 • Oracle 数据集成概述 • Oracle Data Integrator 产品更新 • Oracle GoldenGate 产品更新 • 更多信息
市场概述数据量呈指数增长 45 PB+ 大型组织需要维护如此大量的数据 45%+ 数据量每年增长如此之多 17 个中有 15 个 美国行业领域拥有的 数据量超过了 美国国会图书馆
市场概述数据量呈指数增长 更多数据 带来 更多数据挑战
市场概述数据集成和数据质量市场 估计:数据集成市场 将达到 28 亿美元 数据质量市场 将达到 17.5 亿美元 (截至2016 年) 年均增长率达到 18.2%
Oracle 数据集成 (DIS) 广度可提高影响力和敏捷性 数据质量 数据集成 匹配/合并 剖析 标准化 异构 虚拟化 大数据 ETL/E-LT 复制
Oracle 数据集成 为企业数据集成提供全面的解决方案 • 全面、同类最佳的企业数据集成方法 • 最高性能、更低的总拥有成本、易用、可靠 • 经过验证的领先技术,能够快速实现价值 Oracle Data Integrator 遗留 Oracle GoldenGate 应用软件 Oracle Enterprise Data Quality 在线交易 Oracle Data Service Integrator • Oracle 客户报告: • 总拥有成本降低80% • 提升5倍性能 • 开发成本降低70% 非结构化 现代化 自定义 MDM BI 大数据 同步 SOA
Oracle Data Integrator 批量数据处理和数据转换 • 这些经过验证的领先技术能够提供高性能、低拥有成本并且可以快速实现价值的 E-LT 架构 • 轻型部署 • 灵活、易用的丰富功能 Oracle Data Integrator 遗留 高性能 E-LT 声明式设计 应用软件 可扩展的知识模块 在线交易 CEP 数据服务 非结构化 能够集成结构化数据和非结构化数据
Oracle GoldenGate 实时数据集成 • 高性能、低影响的实时数据集成和复制 • 利用高时效数据提升业务洞察 • 持续可用性确保全天候运营 Oracle GoldenGate 遗留 基于日志的变化数据捕获和交付 双活复制 应用软件 异构的源和目标 在线交易 可靠性和事务完整性 非结构化 CEP 集成、实时事件
为何选择 Oracle Data Integrator? • 异构数据库平台 • 对 Oracle 和非 Oracle 数据库的专有支持 • 适用于高端数据仓库的更快、更简单的架构 • E-LT 架构具有最快的数据加载速度 • 随处都能进行转换:源、中间层或目标 • 简便、完美的嵌入方式 • 对于SOA 和 Oracle 应用软件体系技术的专有运行 • 100%采用 Java、JEE 和 JSE 部署模式 • E-LT 架构使中间层不会成为数据瓶径 • 灵活的批量数据流或实时数据流 • 采用通用设计点,易于迁移到实时数据流 • 通过GoldenGate自动生成 DB CDC 或同类最佳的 CDC
Oracle 数据集成:双重战略 嵌入式技术和内容 业界最佳的独立平台 • 独特的价值主张:应用程序包含预构建的集成内容 • 显著降低新增和集成应用程序的成本 • 例如:Oracle BI 应用、Oracle Governance Risk & Compliance、Application Integration Architecture (AIA) 等等
重要的 ODI 内部 OEM 模式 ERP ODI GRC ERP ODI ERP DW ODI 应用程序 应用程序 ODI
注意:此列表的内容并不完整 Oracle 的全面集成 集成式 ODI 嵌入式 ODI 预构建内容 集成式 ODI 嵌入式 ODI 预构建内容 要点: 集成式 ODI ODI 包含特殊技术集成或特性以支持指定的 Oracle 管理软件/组件 嵌入式 ODI ODI 包含在 Oracle 管理软件/组件中,这些软件/组件随带特殊的许可类型(例如“限制使用”等) 预构建内容 在 ODI 中运行的 ETL 映射/内容随 Oracle 管理软件/组件一起交付
数据集成发展规划Oracle 不断评估并调整投资方向 2000 年至 2007 年的规划 2007 年至 2008 年的规划 ODI OWB-EETL OWB-EETL OWB 2006 2007 OWB(免费数据库特性) OWB(免费数据库特性) 2009 年至 2010 年的规划 从 2010 年 1 月至当前的规划 ODI ODI 新的 ETL KM KM OWB-EETL OWB-EETL OWB(免费数据库特性) OWB(免费数据库特性)
Oracle 自 2010 年 1 月以来的 ETL 规划 已向全球的 OWB 和 ODI 客户传达 ODI 12c12.1 统一的团队 ODI-EE 许可 OWB-EE 11gR2 ODI 11g11.1.1.3 ODI 11g11.1.1.6 ODI 11g11.1.1.7 2011 年底 2013 年 2013 年 2008 年 10 月 2009 年 1 月 2009 年 9 月 2010 年 7 月 OWB-EETL概念 知识 模块 ODI-EE 许可 数据库中 ETL 特性 未进行新的重大特性增强。继续提供bug修复、补丁和数据库认证
ODI 核心产品发布周期 2013 年 2013 上半年 2012 上半年 2012 上半年 2011 上半年
OWB 支持策略 客户可通过以下 URL 下载 OWB 支持策略: http://www.oracle.com/us/support/library/lifetime-support-technology-069183.pdf 有关支持级别的更多信息,请访问: http://www.oracle.com/us/support/lifetime-support/index.html
OWB 客户必须迁移到 ODI 吗? • Oracle 公司不强制现有 OWB 客户迁移到 ODI • Oracle 不会创建“强制性功能”来迫使现有 OWB 客户支付更多的许可费用 • Oracle 提供“终身支持”方案,以持续支持所有 OWB 特性 • 如果 OWB 客户打算启动全新的 ETL 项目,Oracle建议客户优先考虑 ODI • 如果任何新客户打算启动全新的 ETL 项目,Oracle建议客户优先考虑 ODI • ODI 是 Oracle 提供的战略前瞻性 ETL 平台
Oracle 技术迁移最佳实践 • 理解 OWB 和 ODI 是两个不同的 ETL 工具 • 迁移时没有“免费午餐”可享用 — 在不同的工具之间进行技术迁移,从不会获得十全十美或完全可预测的结果 • 手动重新实施可能是最好的办法 • 在 ODI 中优化 ETL 作业通常能取得最佳结果(与半自动转换工具相比) • 可以使用半自动转换服务 • Oracle 合作伙伴提供半自动转换实用程序和离岸服务,这些实用程序和服务可显著加快从 OWB 产品转换到 ODI 产品的速度。 • Oracle 不能保证这些服务的效果,但会向第三方合作伙伴提供有关转换实用程序开发方面的建议和意见。
OWB 到 ODI 等效组件 • OWB ETL Oracle Data Integrator • 所有 OWB ETL 特性将映射到 ODI(如果适用,这并不意味着两个产品的特性完全相同) • OWB Data Quality Oracle Enterprise Data Quality for ODI • 所有 OWB DQ 特性将映射到 EDQ for ODI(如果适用,这并不意味着两个产品的特性完全相同) • 例外情况:ODI 所提供的内置“检查流”特性可提供内联到 ETL 的轻量级数据质量功能,这些被视为基本的 ETL 特性 • OWB Data Profiling Oracle Enterprise Data Profiling • 所有 OWB DP 特性将映射到 EDP(如果适用,这并不意味着两个产品的特性完全相同)
ODI 11g 不支持的 OWB 特性 • Oracle Data Integrator 是一款非常高级的同类最佳 ETL 产品,但 OWB 已具有与其他Oracle 技术紧密结合的若干特性。以下是我们计划填补的空白: • Oracle Discoverer 集成 • 原因:ODI与用于血缘和影响分析的OBIEE 集成 • 未来:ODI 将与 Oracle BI Server 深度集成 • 维度建模 • 原因:对于ODI,数据建模来自于最佳的建模工具 • 未来:ODI 与 Oracle SQL Developer 紧密集成 • OMB 脚本编写 • 原因:ODI 中的脚本编写使用 ODI Java SDK API • 未来:集成 Groovy 脚本编写 • PL/SQL 代码生成 • 原因:ODI 生成 SQL 转换代码(对应所需的任何数据库代码),而不会生成任何过程代码。
新特性概述 • 集成式捕获 • 增强的冲突检测和解决 • 全球部署支持 • 安全性和性能 • 可扩展性 • 可管理性和监视能力 • 扩大的异构能力
集成式捕获 概述 适用于 Oracle Database 的集成式捕获 Oracle GoldenGate 11gR2 将 GoldenGate的捕获功能更贴近 Oracle Database 引擎。 100% 支持在 Oracle Database 和 Oracle Exadata内捕获和交付压缩对象
将 GoldenGate的捕获(提取)功能更贴近RDBMS 引擎 利用专有的 Oracle 数据库挖掘 API 并行进行挖掘及转换Redo记录成为 LCR 改进与RAC 协作,自动化节点控制 利用新的Oracle 特性,更紧密集成和快速开发 多线程 使用生产者线程来捕获redo记录,然后使用消费者线程来处理redo记录。 通过并行处理提高性能 集成式捕获 概述
支持多种部署配置 源:源数据库与集成式捕获进程位于同一台机器 下游:源数据库与集成式捕获进程位于不同的机器 现有GoldenGate客户可轻松过渡 客户可根据自己的需求选择喜欢的方案。 集成式捕获 概述 “在源上” “下游”
应考虑采用传统捕获的情况 不需要处理XML 类型、RAC 上的XA、压缩对象等 未来方向 传统捕获在很长时间内仍将流行 特定于核心的特性、错误修复程序和补丁将同时可用于两种类型的捕获 特定于 Oracle 的特性仅可用于集成式提取。 无法将特定于 Oracle 的特性专门地添加到传统捕获中。 传统捕获
增强的冲突检测和解决 (CD&R) 概述 增强的冲突检测和解决 Oracle GoldenGate 11gR2 自动检测和解决双活或多主部署的数据冲突。 强壮、更易于编码、更短的实施时间。
增强的冲突检测和解决 概述 • 用简易而可扩展的规则替代昂贵的手工编写的 CD&R 规则。 • 使用预构建方法解决冲突的选项 • Overwrite、Ignore、Discard、Usemax 和 Usemin • 支持的数据类型 • NUMERIC、DATE、TIMESTAMP、CHAR/NCHAR、VARCHAR/NVARCHAR • 支持异构部署
全球部署支持 概述 全球部署支持 Oracle GoldenGate 11gR2 使 Oracle GoldenGate 能够支持使用多字节/Unicode 对象和列名称的数据库。
非英语环境中的GoldenGate部署 支持欧洲重音字符和多字节字符 自动在不同的字符集环境之间转换事务数据 专有的错误消息,支持区分大小写功能 数据库对象名称支持 支持非 US-ASCII 字符(DDL 和 DML) 支持数据库对象级大小写区分功能 全球部署支持 概述
安全性 概述 安全性 Oracle GoldenGate 11gR2 最安全的GoldenGate版本 Oracle GoldenGate 11gR2 支持联邦信息保护标准 (FIPS) 和 BLOWFISH 加密算法,能在各系统和区域之间安全地移动数据
除当前的 BLOWFISH 算法之外,还支持符合 FIPS 的加密算法 队列文件的磁盘级加密 密码加密 在通过网络传输数据时 注意:仅支持Linux、Windows 和 Unix 平台。 IPv6 支持 政府要求 现有GoldenGate库的IPC交换基于IPv4。所有使用 IPv4 AP 的既有GoldenGate调用已改为同样适用 IPv6 API。 安全性 概述
性能 概述 性能改进 Oracle GoldenGate 11gR2 提高位于不同地理位置的分离系统之间,通过高延迟网络进行数据复制的性能
性能 数据泵改进概述 • Oracle GoldenGate 11g 第 2 版之前的版本 • 在数据泵与远程收集器进程之间,同步数据通信 • Oracle GoldenGate 11g 第 2 版 • 每次数据发送可以忽略确认消息 • 除非数据包内含有请求响应的标志,否则远程收集器不会向数据泵发送确认消息。
可扩展性 概述 可扩展性 Oracle GoldenGate 11gR2 通过使用事件标记,允许用户扩展GoldenGate实施以便根据具体事件(DML、DDL、数据值)执行相应操作
可扩展性 概述 • 事件标记系统 • 允许 Oracle GoldenGate进程基于事务日志或队列文件中的事件记录采取已定义的操作 • 支持的事件操作 • TRACE、LOG、CHECKPOINT BEFORE、IGNORE、DISCARD、SHELL、ROLLOVER、REPORT ABORT、CHECKPOINT AFTER、FORCESTOP、STOP • 为需要基于特殊事件进行非标准处理的客户提供更多选择。
事件标记系统 用户/应用程序更改 事件记录 事件记录 事件记录 通过 TCP/IP 访问 LAN/WAN/互联网 目标 数据库 源数据库 事务日志
可管理性和监控能力 概述 监控 Oracle GoldenGate 11gR2 新的 Oracle GoldenGate Monitor 产品提供关于GoldenGate实施的全面视图。 与 Oracle Enterprise Manager 相集成
Management Pack for Oracle GoldenGate 监控 • 高级监控、告警(SNMP支持)、延迟图和历史信息库。 • 基于新型代理基础架构,其将成为未来所有集成项目的基础。支持GoldenGate 11.1.1.1.1 以上版本 Oracle GoldenGate Monitor
Management Pack for Oracle GoldenGate 监控 • Oracle 的首选监控工具,涵盖整个 Oracle 体系(数据库、存储和FMW 等) • 适用于除了监控GoldenGate进程之外,还喜欢深入了解数据库会话、操作系统统计数据等的客户 • 包含在 Management Pack 中 Enterprise Manager 插件
扩展的异构支持 概述 扩展的异构支持 Oracle GoldenGate 11gR2 扩展了对现有支持平台的数据类型的支持 新增针对IBM DB2 on iSeries的专有日志捕获能力和 交付到 PostgreSQL的能力
扩大的异构能力 概述 平台 说明
支持的数据类型 数值(BIGINT、DECIMAL、DOUBLE、FLOAT、INTEGER、NUMERIC、REAL、SMALLINT) 字符串、二进制(CHAR、BINARY、VARCHAR、VARBINARY) 大对象(BLOB、CLOB、DBCLOB、GRAPHIC、VARGRAPHIC) 时间和日期(DATE、TIME、TIMESTAMP) 不支持的数据类型 DATALINK、UDT、DECFLOAT 和 XML DB2 iSeries 捕获