350 likes | 527 Views
高能物理计算发展动态. 中科院高能所计算中心 xurs@sun.ihep.ac.cn 010-68187981. Tier2 Center. Tier2 Center. Tier2 Center. Tier2 Center. 层 2 中心. HPSS. HPSS. HPSS. HPSS. LHC 高能物理实验数据处理示意图. ~PByte/sec. ~100-400 MBytes/sec. 在线取数. 对撞实验. CERN 700k SI95 ~1 PB Disk; Tape Robot. HPSS. ~2.5 Gbits/sec.
E N D
高能物理计算发展动态 中科院高能所计算中心xurs@sun.ihep.ac.cn010-68187981
Tier2 Center Tier2 Center Tier2 Center Tier2 Center 层 2中心 HPSS HPSS HPSS HPSS LHC高能物理实验数据处理示意图 ~PByte/sec ~100-400 MBytes/sec 在线取数 对撞实验 CERN 700k SI95 ~1 PB Disk; Tape Robot HPSS ~2.5 Gbits/sec FNAL: 200k SI95; 600 TB IN2P3 Center INFN Center RAL Center 2.5 Gbps ~2.5 Gbps Institute ~0.25TIPS Institute Institute Institute 100-1000 Mbits/sec 离线物理数据 2007-8年达几十 Pbyte/sec.5年左右达到1000PByte/sec PC或工作站
介绍ICFA-SCIC(International Committee on Future Accelerators - Standing Committee on Interregional Connectivity国际未来加速器学会-网络分会(引用到加州理工大学纽曼教授的PPT)
ICFA 网络计划 • ICFA 于1996年启动各国之间的高速网络互联计划 http://www.fnal.gov/directorate/icfa/icfa_communicaes.html “ICFA 要求参与国际高能物理合作的国家和机构 必须: • Review their operating methods to ensure they are fully adapted to remote participation • Strive to provide the necessary communications facilities and adequate international bandwidth” (即各国要运作要接轨、尽力提供带宽)
ICFA 1998联网带宽计划(Mbps) NTF 估计1998-2005年期间将是 100–1000 倍的带宽需求增加
ICFA-SCIC网络分会 • 成立于 1998年7月 • 主要任务: 向ICFA 建议有关北美、亚洲和欧洲高能物理合作中的高速联网计划; • 作为其一部分工作SCIC负责: • Monitor traffic • Keep track of technology developments • Periodically review forecasts of future bandwidth needs, and • Provide early warning of potential problems • 负责成立下属专业分会 • SCIC主席每年向ICFA和各实验室主任的联席会议报告工作进展。(近期是2003年2月) • 广泛代表各主要实验室及 ECFA, ACFA, NA Users, S. America
跨越大西洋的带宽要求[*] [*]按最大占用50%算 http://gate.hep.anl.gov/lprice/TAN
主干网与各国连接的进展 • 欧洲 GEANT 主干网 • 联结31个国家,速率 2.5 and 10 Gbps • 英国: JANET 网,速率10 Gbps • 2.5 Gbps NY-London, with 622 Mbps to ESnet and Abilene • 法国 (IN2P3): 2.5 Gbps RENATER • 里昂-日内瓦(CERN)的连接千兆以太网1.0G • 计划2003年改用光纤 • SuperSINET (日本):10 Gbps IP and 10 Gbps Wavelength Core • 东京-纽约的连接: 2 x 2.5 Gbps; 需要到Starlight • CA*net4 (加拿大):国内光纤,速率10 Gbps • “Lambda-Grids”计划2004年5月实现 • GWIN (德国):2.5 Gbps 骨干; 到美国 2 x 2.5 Gbps; • 俄罗斯: 155 Mbps连到莫斯科 • 到GEANT 155 Mbps
(续) • 美国Abilene (Internet2) 从2.5G 正升级到10 Gbps • Encourage high throughput use for targeted applications • 美国能源部ESNET: 升级到10 Gbps • 美国与西欧中心(CERN) • 622 Mbps; 到STARLIGHT • 2.5G 三地STARLIGHT-CERN-NL连接2003年到10G • 美国SLAC到法国IN2P3 (BaBar) • ~100 Mbps通过US-CERN到Renater • 600 Mbps 今年BaBar的目标 • 美国费米实验室 (FNAL) • 与Esnet 连接升级到622 Mbps • 用光纤连到STARLIGHT • 纽约到阿母斯特丹由Tyco公司捐助(IEEAF)计划, 2002年由IEEAF安排 622 Gbps+10 Gbps Research Wavelength
IEEAF网络带宽基金计划 A. 受益的已有头15个国家高能物理机构(见下图) B. 包括了加速器/对撞机实验室和参与实验合作的大学。 C. 除了俄罗斯联邦外,所有的申请机构获得了批准。这项申请依然对其它国家高能物理机构开放。 联系人: Joseph A. VigoritoEnergy SolutionsGeographic Network Affiliates-International, Inc. 262 Harbor DriveStamford, CT 06902Tel: 203-324 8803 x 7915Mobile: 203-209 2805Fax: 203 324 9576
俄罗斯明年开通高能物理高速网 俄罗斯科技部宣布从明年(2003年)起免费连入欧洲科研网GEANT,使俄罗斯的科研网国际接入的速率达到155 Mbps,其中提供 30-50 Mbps专门接到CERN、 DESY 和其他欧洲高能物理重要实验室。
高能核物理网格新发展 • 下一代10 Gbps网络主干网已基本贯穿美国、欧洲和日本。 • 海底连接在2002-2003年达到2.5 - 10 Gbps。 ——意味着网格技术应用的可能。 • 高速网络的建设尤其需要,包括欧洲、北美、亚洲和非洲: • — Key Examples: India, Pakistan, China; Brazil; Romania (—特别是中国等国家) • 消除最后一公里的连接瓶颈在全球都是一个关键。
高能物理与核物理的主干网带宽(Gbps)-ICHEP2002会议提供高能物理与核物理的主干网带宽(Gbps)-ICHEP2002会议提供
飞速发展的网络技术 在今后一至两年内 • 与10 Gbps 以太网相连的交换机和服务器在 10 Gbps水平的局域网与广域网里进行网络集成。 • Intel 10 GbE 服务器 NICs 在Beta测试。 • 40 Gbps Wavelengths已推出演示。 • 新一代路由器: 100 Mpps 转发功能, 4口和每口多于10 Gbps; 背板达到Terabit/秒 等. • 推出宽带无线 [Multiple 3G/4G alternatives]:克服最后一公里的驱动设备 • 802.11 ab, UWB; Mobile: CDMA2000/1xEV-DO
ICFA-SCIC的近期活动 1) 2002年12月13日ICFA-SCIC会议在 日本KEK举行。 2)此外,亚太地区网络大会在2003年1月22日举行。 这次大会也是ICFA-SCIC的亚洲网络工作会议。会议将讨论高能物理界对亚太地区IEEAF网络主干网 的需求。目前,已有诸多的亚太地区国家如印度、巴基斯坦、马来西亚、越南、菲律宾、澳大利亚、俄罗斯、中国、台湾地区、韩国和日本参加欧洲(CERN, DESY)、美国(SLAC、FNAL、BNL)和日本(KEK)的高能物理实验,他们都需要带宽从这些实验室传输数据进行合作研究。
目前被ICFA组织登计的中国相关机构 • 高能所IHEP (Institute of High Energy Physics) ihep.ac.cn AS3460 202.38.128.0/23,202.122.32.0/21 • 理论所ITP (Institute of Theoretical Physics) itp.ac.cn AS3460 202.38.138.0/24 • 近代物理所IMP (Institute of Modern Physics) • 清华大学Tsinghua Univ. tsinghua.edu.cn AS4538 166.111.0.0 /16 5. 北京大学Peking Univ. pku.edu.cn AS4538 202.112.7.0/24 • 山东大学Shandong Univ. • 浙江大学Zhejiang Univ. • 中国科大Univ. of Science and Technology ----------------------------------------------------------------
CHEP2003在加州La Jolla召开 1)Grid 结构、基础设施和中间件 (特别是标准问题和安全问题,包括传输等) 2) 高能核物理Grid 应用、实验床和示范演示 3) 高能核物理的计算系统和基础设施 (包括地区的CPU与存贮优化问题) 4) 网络的高性能运行 (网络测试与改进;新标准、新技术;跨国连 网工程)
CHEP2003在加州La Jolla召开(续) 5) 数据获取,触发和控制6) 格点规范场计算7) 高能物理软件结构与软件工程 8) 数据的管理与保存技术 9) 数据分析环境与可视化(分布计算)10) 模拟与模型 11) 合作工具与信息系统 (会议电视、物理学家的远程连接)
国内现有的部署 • 863计划重点部署了高性能计算领域的研究 • 863“国家高性能计算环境”重大项目 • 曙光3000、神威、银河、 • 近10个高性能计算中心(网格结点) • 初步功能的网格系统软件和一批网格应用软件 • 中科院计算所、国防科技大学、江南计算所、清华大学、西安交通大学、中国科技大学、华中科技大学等单位,都开展了网格技术的研究 • 与网络部门、应用部门、地方政府的合作关系
北京 西安 大连 成都 武汉 上海 合肥 国家高性能计算环境建设
促进国内GRID的发展 • 国内GRID计划急待高能核物理领域的加入; • 各高能物理、核物理、理论物理研究所必须首先高速联网 (100MB、500MB、1.0GB等); • 引进国际高能核物理GRID先进经验; • 自主进行国内用户中间件的开发; • 参与国内GRID活动,并作出贡献。
高能所GRID可行的几条路线建议 • 扩容到2MB或更高与日本KEK连接 (国际高能物理GRID亚洲中心,Yokio Karita) • 开通高速专线100MB与中关村的中科院网络中心连接 (国家863计划的GRID设施,计算所牵头) • 开通1G以上高速专线与上海大学连接 (上海政府的GRID设施,李三立院士牵头)
网格技术 • 网格技术本质上是分布式计算技术,与OSF、CORBA、DCOM、CSCW等技术有密切联系。 • 网格是机群(Cluster)系统的分布式扩展。 • 网格是Server-oriented结构,基于C/S思想,Peer-oriented 系统是与网格互补的思想。 • 网格技术的安全保证目前主要是传输加密与认证,尚有更多的问题需研究。 • 全世界现有132个Grid网站,333万Grid网页;73个Web Service网站,35万Web Service网页。5990网页同时涉及Grid 和 Web Service 。 (2002年6月统计)
亚太地区网络动态 Asia: to set Gbps connectivity to the end points (universities and institutes) as a general goal in the Asia-Pacific region. This means 2.5 Gbps backbones and then 10 Gbps backbones "as soon as possible".
PingER PingER deployment • Measurements from • 34 monitors in 14 countries • Over 600 remote hosts • Over 72 countries • Over 3300 monitor-remote site pairs • Measurements go back to Jan-95 • Reports on RTT, loss, reachability, jitter, reorders, duplicates … • Countries monitored • Contain 78% of world population • 99% of online users of Internet Monitoring Sites Remote Sites
History - Round Trip Time (RTT) • Improving by 10-20% year • More direct paths • Replacing satellites with land lines • Satellite >~550ms • Faster lines & network equipment • Lower limit speed of light in fiber Speed of light in fiber Typical lower limit today ~ distance/(0.3 * (0.6 * c))
History – one Research ISP 100% growth in traffic/yr for last 12 years Continuous upgrades Increase packet size (bulk throughput apps)
CERN计算模式 1)How the Atlas group people use computers for their jobs, do they need C.C.?>Most people use the Linux cluster called lxplus (not just Atlas, all experiments do, and Theory dept. also) 2)Does Atlas store Data on C.C? or just in Atlas group office?> Yes, the large Monte Carlo files are stored in part at the Cern computing center (look at the Atlas web page for Grid data storage, much data is also at other sites) 3)What is the main work for C.C.?> They don't specifically work for Atlas, they just make sure that the infrastructure works for all. Computing Center's is giving technical support to ATLAS, help them build and upgrade their cluster.
BES实验的数据处理 • 高亮度对撞与较高分辨率探测记录; • 计算机数字化在线取数; • 大数据量的离线处理; • 刻度—提取参数 • 重建—计算物理量 • 物理分析—事例统计 • Monte Carlo 模拟配合 • 探测器设计模拟计算 • 物理事例模拟及分析
BESIII数据处理 • 100倍于现在的实验; • 在线取数的实时性,要求存带; • 离线处理的及时性,要求宽带传输;>GB • 刻度—Farm-1 + Robot • 重建—Farm-2 + Robot • 物理—Farm-3 + SAN • 合作—Internet + GRID