260 likes | 479 Views
Oracle ’ s Data Warehouse & ETL future. Communicatie. www.facebook.com/Vijfhart. #vijfhart. SSID: Vijfhart-IT Encryptie: Wpa2 (TKIP) Wachtwoord: 5hart-internet. Even voorstellen. Frank Kuijpers Business Intelligence consultant. Agenda. Oracle ETL tools OWB ODI Pauze
E N D
Oracle’s Data Warehouse & ETL future
Communicatie www.facebook.com/Vijfhart #vijfhart SSID: Vijfhart-IT Encryptie: Wpa2 (TKIP) Wachtwoord: 5hart-internet
Even voorstellen... Frank Kuijpers Business Intelligence consultant
Agenda Oracle ETL tools • OWB • ODI Pauze Overgang van OWB naar ODI • Handmatig • Converter
Oracle Warehouse Builder (OWB) OWB 9.2 en 10.1 => Not supported by Oracle OWB 10.2 => Premier Support gestopt in juli 2010. OWB 11.1 => Premier Support stopt in augustus 2012. OWB 11.2 => Vanafseptember 2009, tot januari 2015 Future • Geengeplande releases
Oracle Data Integrator (ODI) Gekocht in 2006 van Sunopsis ODI toevoegingen tov OWB • Doel database Oracle en non-Oracle (DB2, Teradata, XML, SQL Server etc) • Productiviteits- en kwaliteitsverbetering tav realisatie • Realtimedatawarehousing mogelijk (CDC) • Event and/or trigger-based integratie • Service Oriented Architecture (SOA) integratie
Waarom ODI? • Goede Perfomance • ELT ipv ETL • Code specifiek voor een RDBMS (Oracle, SQLServer, Teradata) • Eenvoudig in gebruik • Intuïtief • Real-time Datawarehousing • CDC (Change Data Capture) • Decleratief Ontwerp • Ontwerper specificeert business rules in data model • Tool genereert specifieke RDBMS code
Waarom ODI? • Knowledge Modules • Productiviteitverbetering door voorgedefinieerde herbruikbare code templates • Best practices snel te gebruiken • => Vele voorbeelden te vinden op www • Specifiek voor een RDBMS • Aanpasbaar voor specifieke klantwensen
ODI en OBI-EE • ODI strategic tool for OBI EE-related ETL • Supports heterogeneous target Platforms • Future direction • merge ODI en OBI EE repositories?
ODI Studio en interfaces ODI Studio Design Navigator: Reverse-engineer Ontwikkelprojects Scenario’s maken Operator Navigator: Sessies monitoren Topology Navigator: Infrastructuur vastleggen Security Navigator: Users en Privileges vastleggen Repository
ODI Repositories Master Repository Versioning Work Repository (Development) Work Repository (Production) Models Projects Execution Execution
ODI Data Kwaliteit overview Static Control op source data Flow Control tijdens integratieproces Static Control op target Corrigeren errors en herverwerken 1 3 source target 2 Target table ERRORS Source Table(s) Integratie ERRORS 4
Standalone Agent voorbeeld 6) Monitor Sessions View reports Design Navigator: Reverse-engineer Ontwikkel projects Scenario’s maken Operator Navigator: Sessies monitoren Java – Ieder platform 1) Gebruik Designer of Operator om Job op te starten Repository Iedere RDBMS Standalone Agent Regiseert uit te voeren taken 2) Lees Session 5) Schrijf Reports Java – Ieder platform 4) Return code 3) Execute Job Informatie systeem
Handmatige overgang OWB naar ODI Topology definiëren Knowledge modules zoeken en aan eigen wensen aanpassen Interfaces bouwen (= OWB mapping) Packages bouwen (= OWB process flow) Testen
Fasering conversietool OWB => ODI • Handmatig Converter • Fase: #dagen converter werk: • Intake ong. 5 dagen • Conversie tussen 10 en 20 dagen • Test • Hertest
Overview conversie OWB => ODI • Input conversie • OWB repository metadata (MDL-file) • Database structuur export (exlcusief data) • Output conversie • ODI topology (XML-file) • ODI project (XML-file) • Supported versies • OWB => v9.2 (of hoger) • ODI => v10g (of hoger) • Critical Success Factors: • Project management • Communication meetings projectteam (Klant en Convertor) • Expertise ODI en DB in projectteam • Applicatie kennis vanuit projectteam
Conversie stagingmapping OWB => ODI • OWB mapping • - truncate/insert • ODI output
Conversie ODS mapping OWB => ODI • OWB mapping • - Merge obv NK • - lookup • ODI output
Complex voorbeeld conversie OWB => ODI • OWB multitarget mapping • ODI output • 2 interfaces • ODI ondersteund geen mutitarget • Package • roept 2 interfaces in goede volgorde aan
Samenvatting ODI goed leren kennen => ODI cursus vijfhart Onderwerpen: • Data Warehousing overview • ODI Architectuur • ODI Topology • Source metadata • Projects • Knowledge Modules • Staging metadata • Executen en monitoring • Data Store metadata • Data Mart metadata • Packages • Interfaces geavanceerde delen • Data Kwaliteit • Error handling en robuustheid • Change Data Capture (CDC) • ODI versie management • ODI documentatie http://www.vijfhart.nl/oracle/opleidingen/oracle-cursus-pagina/training-id/8423/oracle-data-integrator-11g.htm Conversie uitvoeren OWB naar ODI Mail : owb2odi@bi-quest.nl ODI project starten Mail : frank.kuijpers@bi-quest.nl Tel : 06-54681902 Frank Kuijpers senior Oracle BI Consultant