350 likes | 521 Views
早期计算机 昂贵、独立、无法互联. 两种技术的进步改变了这一现象: 功能更强的微处理器的开发; Microprocessor - Central Processor Unit (Single Chip) Microcomputer – Microprocessor + Memory + I/O system (Multiple Chips) Microcontroller – A single-chip microcomputer 高速计算机网络的出现 今天不敢梦想的事情 明天变成现实.
E N D
早期计算机昂贵、独立、无法互联 • 两种技术的进步改变了这一现象: • 功能更强的微处理器的开发; Microprocessor - Central Processor Unit (Single Chip) Microcomputer – Microprocessor + Memory + I/O system (Multiple Chips) Microcontroller – A single-chip microcomputer • 高速计算机网络的出现 今天不敢梦想的事情 明天变成现实
1.2.7 多处理机操作系统(Multiple processor Operating System)高性能计算High Performance Computing • single-processor system - Has one general-purpose processor -but almost all systems have other special-purpose processorse.g. disk-controller, network processor…
多处理机系统的特点 提高性能有两条途径: (1) 提高各个组成部分的速度 器件的速度 (2) 增大处理的并行程度 改进体系结构 1975年前后,出现多处理机系统(multi-processor) • 多处理机系统的特点 • 提高系统的性能:增加系统的吞吐量 Throughput N个处理器加速能达到N倍? NO(额外的调度开销,算法的并行化) • 提高系统可靠性:故障时系统降级运行 Reliability , Fault Tolerant • 提高系统经济性:同样性能更便宜 Economy
多处理机系统和多计算机系统 并行 分布式 紧耦合 松耦合 多计算机 (私有内存) 多处理机 (共享内存) 总线型 交换型 总线型 交换型
多处理机系统: 一组具有共享内存的处理 • 多计算机系统: 一组没有共享内存的处理机 多计算机的一个实例: 计算机网络连接起来的一组个人计算机
多处理机系统的类型 • 紧密耦合(tightly-coupled):各处理机之间通过快速总线或开关阵列相连,共享内存,整体系统由一个统一的OS管理(一个OS核心)。 • 松散耦合(loosely-coupled):各处理机带有各自的存储器、I/O设备和操作系统,通过通道或通信线路相连。每个处理机上独立运行OS。
多处理机系统: 连接在一起的、 一组具有共享内存的处理机 • 多计算机系统: 连接在一起的、 一组没有共享内存的处理机 多计算机的一个实例: 计算机网络连接起来的一组个人计算机
多处理机OS类型 • 非对称式多处理(Asymmetric Multiprocessing, ASMP):又称主从模式(Master-slave mode)。 • 主处理器(Master):只有一个,运行OS。管理整个系统的资源,为从处理器分配任务; • 从处理器(slaver):可有多个,执行应用程序或I/O处理。 • 特点:不同性质任务的负载不均,可靠性不够高,不易移植(通常要求硬件也是“非对称”)。 • More common in extremely large systems • SunOS version 4.0
对称式多处理机系统Symmetric Multiprocessing • OS交替在各个处理器上执行。任务负载较为平均,性能调节容易 • All processors are peers (平等), no master-slave relationship • Many processes can run simultaneously (must control I/O to ensure data to reach proper processor) • Solaris, Linux, Windows NT/2000
Recent Trend • Multi-core CPUMultiple processors into one single chip
Why do we need Multi-core CPU? -In the early 2000’s, CPU clock speeds finally accelerate past the 1 GHz mark. -Some folks (including Intel itself) predicted that CPU clock speeds would reach 10 GHz in the future. -PC enthusiasts looked forward to a new world where CPU clocks kept increasing at an accelerating pace. Moore’s Law(摩尔定律) -It just Needs more power, Just adds clock speed. Is that true ? NO !
Physics doesn’t allow for exponential increases in clock rate without exponential increases in heat, and there were a number of other challenges to consider, such as manufacturing technology. • Indeed, the fastest commercial CPUs have been hovering between 3 GHz and 4 GHz for a number of years now. • But it is difficult to be higher. • if you can’t make the CPU faster, why not add additional computing resources ?
Why do we need Multi-core CPU? • On-chip communication is fasterthan between-chip communication • Use significantly less power • Produce less heat and disturbing • Multicore systems are well suited forserver systems such as database andWeb servers • Multicore CPUs appear to the OS as N standard processors
Multi-core CPU Effects -software has to be specifically written to run in multiple threads -it doesn't offer an immediate Effects on Multi-core -Back in 2005, when the first dual-core CPUs were seeing the light of day, they didn’t offer much in the way of tangible performance increases because there was so little desktop software available properly supporting them. -In fact, most dual-core CPUs were slower than single-core CPUs in a great majority of tasks because single-core CPUs were available at higher clock speeds.
NOW, a lot has changed. • Many software developers have been hard at work optimizing their applications to take advantage of multiple cores. • Single-core CPUs are actually hard to find and two-, three-, and four-core CPUS are now normal.
From Multi-core to Many-core CPU • Intel在2006年秋展示了80核处理器原型,标志着业界开始从多核向众核方向发展, • Tilera公司在2007年发布的64核处理器更是已投入实际应用。 • Intel展示的80核处理器的峰值计算能力可达1T Flop,不仅证明了当前的多核架构不再是短暂的时尚,而且表明业界已为未来的众核发展制定了切实可行的计划。 • 在双核、4核、8核处理器不断进入市场的同时,众核处理器正在浮出水面
High Performance ComputingSuper computers超级计算机 • 超级计算机的发展5个阶段或5代: • 早期的单处理器巨型机 • 向量处理系统 • 大规模并行处理系统 • 共享内存处理系统 • 机群/集群系统。
Super computers are near to usor far away from us It is really near to us 天河一号超级计算机 It is located in Tanjin
Application • 气象预报 • 图形图像处理 • 石油勘探数据处理 • 核武器模拟 • 游戏服务器 • 生物信息 • 云计算服务器
High Performance Computing 当前高性能计算机的体系结构主要有: • 集群(C l u s t e r ) • 大规模并行处理系统(MPP) • 星群(Constellations) • 向量机 其中,集群已逐渐成为市场主流。在世界高性能计算机To p500排名中,无论是系统数目还是性能比重,集群所占份额都在逐年上升 在2 0 0 8 年6 月份发布的世界高性能计算机, Top500中,集群体系结构占了总系统数目的80%
并行向量处理系统(Parallel Vector Processing,PVP) • 向量处理器(Vector Processor)的一条指令能够同时对多个数据项(向量矩阵)执行运算,而一般的通用CPU属于标量处理器(Scalar Processor),每次只能对一个数据项进行处理。 • 其代表机型有Cray XMP、Cray YNP、NEC SX2、我国的银河一号和二号等。
大规模并行处理系统(Massive Parallel Processing,MPP) • 由成百上千计算节点组成的并行处理计算机系统 • 每个计算节点配置一个或多个处理器,各个节点相对独立,有各自独立的内存模块和操作系统。
星群(Constellation) • 星群的每一个节点都很强,这样汇聚起来就像一个灿烂的光球。 • 例如:采用SMP并行机作为计算节点的SMP机群------星群(Constellation)。
Clustered system(集群/机群系统) • Another type of multiple-CPU system • Composed of two or more individual systems coupled together • Clustered computers share storage and are closely linked via a local-area network (or fast interconnect) • High availability: service will continue even if one or more systems in the cluster fail
Clustered system Special Advantage • 易于扩展 机群系统由于采用了分布式内存(DM)结构因而具有很高的可扩展性,理论上只要以高带宽的网络互连技术为基础,增加节点数量就能提高并行处理能力或计算速度。 • 高性价比 机群系统可以采用低成本的微型机组件、免费的Linux操作系统和并行编程平台来构建,因而具有非常高的性价比
Clustered system Special Disadvantage • 当机群节点数量过于庞大时,就不可避免地会遭遇到网络延迟加剧和并行处理环境等方面的瓶颈, • 当机群节点数量过于庞大时,系统的可靠性会大打折扣且维护的难度明显增加,同时占地面积和耗电量也将十分惊人
Clustered system(集群系统) • Asymmetric clustering(非对称集群) • One machine is in hot-standby mode(待命); the other is running applications • Hot-standby machine does nothing but monitor the active server • If that server fails, the hot-standby host becomes the active server • Symmetric clustering (对称集群) • Two or more hosts run applications and monitor each other • This mode is more efficient (∵uses all of the available hardware)
高性能计算的OS -在Top500关于操作系统的统计结果清晰地凸现了Linux的优势,近两年占有率都在七成以上,且仍在继续攀升。 -相比较而言,Unix所占份额在不断衰退,在Top500中的占有率已从2007年6月的12%降至2007年11月的6%。 -Windows只有极少份额,但有多种迹象表明,微软准备利用集群在高性能计算方面取得突破。例如2007年11月Top500中有6套系统采用了微软专门为高性能计算设计的Windows Compute Cluster Server。