610 likes | 809 Views
Datanettet ved UiO, og litt til…. Kjetil Otter Olsen Underdirektør Underavdeling for IT-Drift Universitetets Senter for InformasjonsTeknlologi (USIT) Har ansvaret for alt som er av IT-Drift ved UiO Har tidligere hatt ansvaret for UiOs datanett++
E N D
Datanettet ved UiO, og litt til….. Kjetil Otter Olsen • Underdirektør • Underavdeling for IT-Drift • Universitetets Senter for InformasjonsTeknlologi (USIT) Har ansvaret for alt som er av IT-Drift ved UiO Har tidligere hatt ansvaret for UiOs datanett++ Og er fortsatt aktiv og interessert innenfor det fagfeltet
Dagens agenda • En gjennomgang av UiOs datanett • Tanker bak designet • Teknologier som benyttes • Noen eksempler • Verktøy • Utstyr, med mulighet til å kikke i pausen • Internet, hvordan henger det sammen • UNINETT og NORDUnet • WDM, eller hvordan få ”nok” båndbredde • Trådløstnett ved UiO
Datanettet ved UiO • UiOs datanett er bygget opp med tre grunnregler • Raskt, nok båndbredde til alle • Stabilt, minimal nedetid, redundans på viktige steder • Rimelig, mest mulig fart for pengene • Nettet er under kontinuerlig utbygging, og vil alltid være det • Andre bygger etter ”skippertak-metoden” • Vi deler nettet grovt i to deler • Stamnettet, som kopler alle bygningene sammen • Rutet, Lag 3 i OSI-modellen, bruker OSPF som rutingprotokoll • Lokalnettene, som sørger for kopling til alle maskinene • Switchet, Lag 2 i OSI-modellen
Kabler må til! • To hovedtyper av datakabler • Fiber. Glassfiber som leder lys • Kobber. Kobbertråder som leder strøm • To hovedtyper av fiberkabler • Singel-mode, for lange avstander og høye hastigheter • Multi-mode, innomhus, lavere hastigheter. Rimeligere optikk • Mange typer kobberkabel • Category 3, 5, 5e, 6, 6e, 6a, 7. Høy hastighet, kort avstand • Vanlig «telefonkabel». Enkle signaler over lang avstand (xDSL)
Viktige teknologier • Fiber • Heleid, deleid, leid. Enkelt å få ”nok” båndbredde • WDM (WaveDivision Multiplexing) • Utnytter fiberen bedre, gir mange forbindelser på en fiber • Fast-ethernet (FE) og Gigabit-ethernet (GE) • Dagens standarder for datanettet på UiO • 100BaseTX, 100BaseFX • 1000BaseT, 1000BaseSX, 1000BaseLX, 1000BaseZX • 10Gigabit-ethernet (10GE) • Standarden for stamnett ved UiO for de neste 3-5 årene • 10GBaseSR, 10GBaseLR, 10GBaseER, 10GBaseT • Servertilkopling med 10GE er ikke uvanlig • 40 og 100gigabit-ethernet (40G og 100G) er godt på vei
40 og 100 Gigabit Ethernet • Et arbeid som startet i 2006. Ferdig i 2010. 802.3ba • Eksempler på 40G og 100G • 40GBase-SR4 10G på 4 x MM fiber, 100 meter • 100GBase-SR10 10G på 10 x MM fiber, 100 meter • 40GBase-LR4 4 x 10G på SM fiber, 10 Km • 100GBase-LR4 4 x 25G på SM fiber, 10 Km • Produkter tilgjengelig nå, men kostbare, 300.000 pr 100G port! • UNINETT har 100G Oslo - Trondheim, landets første 100G forbindelse!! • Forventes å falle i pris med 15-30% pr år • 400G og Terabit Ethernet tenkes det på • Klart rundt 2015 og 2016, kanskje
Utstyret, byggeklossene • Stamnettet bygges av Rutere • Softwarebaserte rutere • Alle pakker inspiseres av SW • Lav hastighet, høy funksjonalitet • Hardwarebaserte rutere • Alle pakker switches i HW (av ASICs) • Høy hastighet, lav funksjonalitet (men stigende) • Lokalnettene er bygget opp av Switcher • Binder sammen endeutstyret (servere, maskiner) med ruterne (stamnettet) • Alle sammen autonome enheter • Kompliserte, må ta høyde for alt som kan skje • Komplisert å lage, og drifte, store nett med store variasjoner
SDN – Software Defined Networking • Ny teknologi på fremmarsj • Skiller ruting-logikken og selve «pakkeskyflingen» • Programvare i egen servere • Styrer nettverksutstyret gjennom et definert grensesnitt • Åpner for mer avanserte protokoller og trafikkstyring • Enklere og rimeligere nettverksutstyr
Status på UiOs stamnett 2014 • Redundant kjerne med mye kapasitet • Redundant høykapasitetsforbindelse til omverden • Redundant ryggradsnett utenfor ”Campus” • Redundant nett på ”Campus” • Planer videre • Økt redundans • Fiber til flere steder • Nøkkelord; Redundans og Kapasitet • Og KISS: Keep It Simple, Stupid
10.000 mb/s Sentral infrastruktur Cisco Catalyst 6509 uio-gw8 Cisco Catalyst 6509 uio-gw7
Sentral infrastruktur cat6504 uio-gw10 cat6509 mrom-gw1 cat6509 uio-gw8 cat6509 uio-gw7 cat6509 mrom-gw2 10.000 mb/s 1.000 mb/s
Campus 2014 uio-gw22 uio-gw21 St Olavs plass PK HF SV uio-gw8 Adm Abel FV3 uio-gw7 Fys 1.000 mb/s 10.000 mb/s
hf-gw UiOs stamnett i IFI2 pk-gw stp-gw ifi-gw21 mrom-ifi ifi-gw22 mrom-ifi uio-gw8 uio-gw21 komrom 1 tung-gw2 mrom4 uio-gw22 komrom 2 uio-gw7 mrom-gw22 mrom2 mrom-gw21 mrom1 10G
Rom 9366 TM I9 IFI2 lokalnett 3 3 10G LR (sm fiber) Rom 6366 TM H6 10G kobber (sfp) 10G kobber (CX4) 3 3 3 Cat4506 med antall 48p kort Rom 4310 TM G4 Rom 4227 TM F4 Rom 4241 TM E4 Rom 4267 TM D4 3 3 3 3 3 Rom 3206 TM C3 Rom 3242 TM B3 Rom 3256 TM A3 3 3 3 3 2 3 IfI maskinrom ifi-gw22 cat6509 2? 2? ifi-gw21 cat6509 uio-gw22 uio-gw21
Forbindelsen til omverden NIX1 NORDUnet Stockholm oslo-gw1 uio-gw8 IFI1 / IFI2 ifi2-gw uio-gw21 St Olavs plass stolav-gw1 stp-gw NIX2 40 Gb/s 10 Gb/s København
MAN (Metropolitan Area Network) us-gw odont-gw Ullevål sykehus Geitmyrsveien 69/71 uio-gw8 Blindern uio-gw7 St. Olavs plass 5 Karl Johansgate 47 stp-gw sentrum-gw 1.000 mb/s 10.000 mb/s
2mb 10++mb 100mb F3B AHUS 1000mb AkerSyk. 10000mb B9/11 20 Blindern US St Olav 29 Geitm.v. Essen3 Tøyen SSBU Informatikk Arbinsgt7 St.Olavsp. CAS Sentrum Kr.Aug15 Chateau N Fornebu CA30 Lilletorget Observ S68 Fredrik2 Preklinisk FV3 28 Viking RH Fredrik3 Gaustad FV2 Grande
Ruterredundans • Ofte er det en ruter pr knutepunkt • Stopper den er det dødt • Vi kan sette ut en ruter til (HSRP, VRRP) • Fordeler • Ruterne kan ta over for hverandre, det er en god ting • Ulemper • Mer komplisert oppsett, en stor feilkilde • To steder å konfigurere, enda en stor feilkilde • To steder å kople enhetene til, også en feilkilde • Alternativer • Ha reservedeler i huset og ha rask respons ved feil • Og spre risikoen på flere rutere (=færre nett pr ruter) • Og benytte rutere med god oppetid
Maskinrom, med ruter-redundans switch uio-gw8 mrom-gw1 server switch uio-gw7 mrom-gw2 1.000 mb/s 10.000 mb/s
Lokalnettet (LAN) • Nettet inne i hvert hus • Består av • Strukturert kabling (telematikkrom, spredenett, stigenett/utjevning) • Nettverkselektronikk (switcher) • Forbindelse til stamnettet (til nærmeste ruter) • Den mest omfangsrike delen av ethvert nett • Krever orden!!
Lokalnettet Skjematisk struktur med telematikkrom, kabling og utstyr. Nettverksutstyr Telematikkrom Telematikkrom Stigenett/ utjevning Spredenett Telematikkrom Fra stamnettet
Verktøy som trengs i nettverksdrift • Alarmverktøy. For å varsle om feil • Utstyr og linjer som ikke fungerer • Høy temperatur • For mye trafikk/overbelastning • Trafikkverktøy/Grafverktøy. For å se tall og trender • Trafikkutvikling • Unormal oppførsel • Hvem og Hvor. For å finne brukere og maskiner • Når ”noe” skjer • Loggverktøy • For å samle meldinger fra utstyret
Utstyr • Rutere fra Cisco • SW-baserte, massevis av funksjoner, mange forskjellige grensesnitt • HW-baserte, massevis av krefter, stort sett bare ethernet-grensesnitt • Switcher fra Alcatel, HP, Cisco og Nortel • Alle moderne switcher har mye kapasitet, ”wire-speed” • MEN; mengden av buffer og funksjonalitet varierer sterkt, stort sett med prisen • Optikkmoduler • GBIC (GigaBit Interface Converter) 1 Gb/s interface • SFP (Small Formfactor Plugable) Også et 1 Gb/s interface • XENPAK, X2, SFP+ 10 Gb/s interfaces • Kabler • Fiber. Single og multimode • Kobber. Cat 3 og Cat 5 (uskjermet og skjermet)
Internet • Internet består av mange sammenkoplede nett • Noen viktige Internet-begreper • Internet Service Provider (ISP) • Nettet til en ISP kalles også et Autonomt System (AS) • Internet eXchange Point (IXP) • Her utveksles det trafikk mellom ISPene • Regional Internet Registries (RIR) • Reséaux IP Européen (RIPE) • AfriNIC (Afrika) • APNIC (Asia-Pacific) • ARIN (Amerika = Nord-Amerika) • LACNIC (Latin America and Caribbeen) • Internet Assigned Numbers Authority (IANA) • Holder orden på standarder etc på Internet
Internet Service Provider (ISP) • Selve byggeklossen i Internet • Internet = samlingen av nettene til alle ISPene • ISPens nett kalles også et Autonomt System (AS) • ISPene får AS-nummer (ASN) og IP-adresser fra sin RIR • ISPene har ansvaret for eget internt nett • Og koplingene mot andre ISPer • Via Public Peering eller Private Peering, eller begge deler • I Norge har vi ca 250 ISPer med smått og stort • Ca 15 av dem er store (i Norsk målestokk..)
Internet eXchange Point (IXP) • Sammenkoplingspunkter for ISPer • Trafikk mellom ISPene utveksles her • Kalles for ”Public Peering” • Ruting skjer med Border Gateway Protocol (BGP) • I Oslo er det to IXPer, NIX1 og NIX2 • Ca 60 ISPer er tilkoplet NIX1 og ca 20 er tilkoplet NIX2 • I Bergen og Trondheim er det spede begynnelser • Nye IXPer er på trappene i Tromsø og Stavanger • Alle disse er samlet under NIX-navnet www.nix.no • I Europa er det ca 60 IXPer • De største er i Amsterdam, London og Frankfurt • Se www.euro-ix.net for mer informasjon
Prinsippet for IXP ISP A ISP B Fysiske linjer ISP C IXP Logiske forbindelser (peering) ISP E ISP D
Internettrafikken vs. hendelser Fredag 11. mars 2011. Styrke 9 jordskjelv pluss Tsunami.
Ny Powerpoint mal 2011 Bare en ISP hadde økt trafikk
NIX-trafikkdvs Internet-trafikk i Norge Uke 10 2011. Inkl fredag 11. mars.
RIPE NCC • Reséaux IP Européens Network Coordination Centre • Den operative delen av RIPE • Holder orden på ASN og IP-adresser i Europa • Brukere (enkeltpersoner og bedrifter) må henvende seg via en ISP, ikke direkte • Holder til i Amsterdam og avholder RIPE-konferanser to ganger i året • www.ripe.net for de som vil vite mer
UNINETT • Internet-tilbyder for UH-sektoren i Norge • National Research and Education Network (NREN) • Eies av Kunnskapsdepartementet • Hovedsete i Trondheim • Samarbeider tett med de fire gamle universitetene • Driver kontinuerlig utbygging for å dekke behovene • Høy kapasitet og høy kvalitet er nøkkelord • www.uninett.no og drift.uninett.no
NORDUnet • Eies av Nordisk råd • Har ledelsen sittende i København • Og de driftsansvarlige i Stockholm • Har som oppgave å kople de nasjonale utdanningsnettene (NREN) sammen og til Internet • Sørger for koplinger til forskningsnett utenfor Norden • Driver også kontinuerlig utbygging • www.nordu.net
NORDUnet Internt og eksternt nett
Båndbredde • Mange snakker om ”raskere” datanett • Det raskeste vi har er fiber-baserte nett, og der er det lyshastigheten som setter grensen • I glass er max lyshastighet ca 0,67 *c • Det begrenser overføringshastigheten, og kan redusere overføringskapasiteten • Viktig å tenke på når store datamengder skal overføres over avstand
LFN (Long Fat Networks) • Vi skal overføre data Oslo – Trondheim vha TCP • Rundreisetiden er ca 8 ms • TCP-vindusstørrelsen er 64 KByte • Det gir max: 64KBytes pr 8 ms = 64 Mbit/s • Uansett hastighet på nettet mellom Oslo og Trondheim • Cluet er å øke TCP-vindusstørrelsen • Default i mange OS er kun 32 eller 64 KByte • RFC 1323 er nyttig lesestoff • Enda viktigere ved overføringer over større avstand • 16 ms til Tromsø, ~120 ms til California • 32 KByte og ~120 ms gir max ~2 Mb/s
WDM, ”uendelig” med båndbredde • Wave Division Multiplexing • Utnytter at fiberkabel bare er et ”rør” som leder lys • Kjernen er 8-10 mikrometer • Et hårstrå er 50-100 mikrometer • Sender lys med forskjellige ”farger” (bølgelengder) • Dense WDM (DWDM) • Mer enn ca 16 bølgelengder, ofte aktivt utstyr • Brukes på langdistansenett • Coarse WDM (CWDM) • Mindre enn ca 16 bølgelender, passivt utstyr • Brukes i lokalnett og på korte avstander (< 10 Km)
UNINETT DWDM • Samarbeid med BaneTele/Ventelo • Dekker Oslo, Trondheim, Bergen og Tromsø • Men også mulig å hente ut (add/drop) bølgelengder underveis • Utstyret takler 10G, 40G og 100G • 100G Oslo – Trondheim i produksjon • Etableres som punkt til punkt-systemer • Redundans på ruter-nivå, ikke på optisk/DWDM-nivå • Mellom 4 og 20 bølgelengder for UNINETT i hver forbindelse
Tromsø U2 (UiT) U1 (UiT) 40λ 4λ KystTele Trondheim 4λ mellom BT og UNINETT Hovedbygget 10λ mellom BT og UNINETT Realfagbygget 20λ mellom BT og UNINETT OADM/MUX hos BT UNINETTs terminal 40λ Trase2 40λ Bergen Thormøhlensgt 55 Trase1 80λ BT-bygget 40λ St Olavs plass OSLO USIT, Gaustadalleen23
NORDUnet DWDM • Bygger DWDM-nett på egenhånd • Utstyr fra Alcatel/Lucent • Dekker Oslo, Stockholm, København, Helsinki og Hamburg • Bygger sammenkoplede, to-veis ringer med OADMer • Optical Add/Drop Multiplexer • Kapasitet på 32 bølgelengder i dag • Kan bygges ut til 88 bølgelender • Muliggjør tilkopling til GEANT2 og GLIF • Gir oss dedikerte høykapasitetsveier ut i verden, rimelig, men ikke gratis