1 / 23

并行面向对象语言技术进展

并行面向对象语言技术进展. 于勐 2001 年 3 月 26 日 （一教讨论班）. 需求背景. 并行计算的软件进展落后于并行计算机的硬件进展约一代（ K. Hwang & Z. Xu ） HPF ，并行编译器的成功应用 面向对象技术所获得的成功（ Java, CORBA, DCOM, OOA, OOP ） 高性能和易于使用的发展趋势 并行的面向对象语言？. 并行面向对象语言. Mentat --- University of Virginia pC++ --- portable paralle C++ Indiana

richard-dejesus
Download Presentation

并行面向对象语言技术进展

An Image/Link below is provided (as is) to download presentation Download Policy: Content on the Website is provided to you AS IS for your information and personal use and may not be sold / licensed / shared on other websites without getting consent from its author. Content is provided to you AS IS for your information and personal use only. Download presentation by click this link. While downloading, if for some reason you are not able to download a presentation, the publisher may have deleted the file from their server. During download, if you can't get a presentation, the file might be deleted by the publisher.

E N D

Presentation Transcript

  1. 并行面向对象语言技术进展 于勐 2001年3月26日 （一教讨论班）

  2. 需求背景 • 并行计算的软件进展落后于并行计算机的硬件进展约一代（K. Hwang & Z. Xu） • HPF，并行编译器的成功应用 • 面向对象技术所获得的成功（Java, CORBA, DCOM, OOA, OOP） • 高性能和易于使用的发展趋势 • 并行的面向对象语言？

  3. 并行面向对象语言 • Mentat --- University of Virginia • pC++ --- portable paralle C++ Indiana • CC++ --- Concurrent C++ ISI of USC • HPC++ --- High Performance C++ Consortium at Indiana University • Concert (ICC++) --- Illinois • Javar --- Indiana University

  4. 并行模型 • 图模型 • Macro Data flow Graph of Mentat • Multiple Objects Multiple Data flow • 线程模型 • pC++ SPMD • HPC++ 异构计算节点，多上下文，多级并行性 • 对象交互规范JAVA RMI, Nexus RMI, CORBA, DCOM和OLE等

  5. 并行面向对象语言的并行设施 • 并行程序块 • Mentat对象 • 处理器对象和全局对象指针 • 对象聚集 • 对象分布

  6. 并行面向对象语言的并行设施 • 同步和互斥 • 隐式粒度控制 • 函数调用 • 全局名字空间

  7. 并行程序块 • CC++中的并行程序块用par {statementsopt}表示。 • CC++中用parfor (for-init-statement expressionopt;expressionopt) statement标识一个并行循环。 • ICC++用conc关键字来标识并行程序块和并行循环。与CC++不同，ICC++中的并行块和并行循环中的迭代由编译器检查并保证语句间的依赖关系。

  8. 并行程序块 • HPC++采用和Javar相同的方式对循环进行并行化。程序员为需要并行化的循环标明#pragma HPC_INDEPENDENT，由编译器为该循环生成多个并行执行的线程副本，每个线程完成部分循环计算。在循环中，程序员还可以用#pragma HPC_REDUCE指出归约变量，用#pragma HPC_INDEPENDENT,PRIVATE指出可私有化的变量。

  9. Mentat对象 • mentat关键字定义的Mentat对象占据独立的，互不相交的存储空间。其成员函数调用都是传值调用，函数返回结果也是传值的。 • persistent mentat对象会保持对象调用间的状态，regular mentat对象则不保持对象调用间的状态，其成员函数更像一个纯函数。 • 对象在使用时实例化。

  10. 处理器对象和全局对象指针 • CC++在类说明中用global来说明一个处理器对象(Processor Object)类。处理器对象的公共成员函数和成员数据的作用域为对象所在的处理器。 • pC++中的处理器对象的概念与上述不同，而与HPF中的处理器模板相似。pC++中用类似Processor P(m,n)的语法说明处理器结构，实际上对应于目标SPMD程序的线程结构。

  11. 对象聚集 • 对象聚集(aggregate)指的是需要并行执行相同操作的一组对象。我们认为对象聚集是用于高性能计算的并行面向对象语言的一个必备的语言设施。 • pC++用Collection关键字采用和类相同的语法定义对象聚集。

  12. 对象聚集 • Collection被编译器自动处理为模板(Template)。程序员还可以用定义Template TEClass的方法定义Collection，并可以用下面引用子向量的形式使用Collection。 • p[i:j:k].f(); • 表示对Collection p中标识从i到j，步长k的所有元素调用函数f()。

  13. 对象分布 下面的例子建立了一个复数元素的分布数组，数组元素在处理器的分布由分布对象myDist和对齐对象myAlign共同确定。 Processors P; Distribution myDist(7,7,&P,CYCLIC,WHOLE); Align myAlign(5,5,"[ALIGN(dummy[i][j],myDist[i][j]"); DistributedMatrix<Complex> A(&myDist, &myAlign); 因为C++中已经有Template关键字，所以pC++采用Distribution作为描述数据模板的关键字，以免混淆。模板和对齐的定义与HPF相同。

  14. 同步和互斥 • 单赋值同步变量。 • 计数信号量。 • 协同操作和通信。 • 对象级同步。 • 函数级同步。 • 语句块的同步。

  15. 隐式粒度控制 • ICC++中的粒度是由编译器来动态分析控制的。ICC++编译器在编译时刻生成多个可执行的并行线程版本，由于线程的开销也不相同(在ICC++中堆线程有1种，栈线程有3种)，编译器生成的目标代码在运行时刻根据当时的动态绑定，对象分布情况选择具有最小执行开销的线程版本运行。

  16. 函数调用 • Mentat中对函数返回值采用了return-to-future机制，其函数名为rtf()。 • .它可以返回另外的刚刚启动或正在运行的Mentat对象的函数值。 • .rtf()不表明函数运行结束，只表示结果已经可用。函数可以继续进行其它处理，例如保存计算状态，和其它对象通信等。 • 依据编译器发现的依赖关系，rtf()返回值送给MDF中所有使用该值的后继结点。

  17. 函数调用 • HPC++中不同上下文之间的函数调用需要上下文标识和全局函数。需要远程引用的函数要先进行登记，使用者首先获取登记标识，在使用远程上下文标识和函数标识进行调用。调用者随即获得控制权继续执行，返回值用单赋值同步变量保存，仅当调用者读该变量并且返回结果尚未返回时调用者阻塞。

  18. 全局名字空间 • 全局对象名字空间是指在系统中的对象都有唯一的标识，以便用该标识进行对象间的操作。全局对象名字空间允许数据一致的存取，并将数据和任务的位置分配和函数说明分离开。

  19. 优化技术 • 内嵌(inlining) • 访问区域扩张(access region expansion) • 局部性优化 • 动态指针对齐(dynamic pointer alignment) • 视图缓冲(view caching)

  20. 运行时支持 • MDF虚拟机 • 自动存储管理 • NexusRMI或CORBA IDL

  21. 几种并行面向对象语言的比较

  22. 目前的问题 • 什么样的并行设施是必需的，编译器和程序员所分担的并行性的描述和实现进行怎样的折衷。 • 针对分布式对象计算环境的目标程序的优化技术的开发。 • 用于高性能计算的通用和专用并行类库的构造。 • 同时提供对UMA和NUMA的支持

  23. 总结 • 易于使用的并行性都是这些研究的主要目标之一。 • 并行化的语言主要集中于C++和Java两种语言。这是因为这两种语言具有比较广泛的应用基础。在将这两种语言和基于这两种语言所做的并行扩展应用于科学计算方面也获得了许多成果。 • 采用面向对象技术的并行计算是高性能计算发展的必然趋势之一。

More Related