并行程序设计不但包含了串行程序设计，而且还包含了更多的富有挑战性的问题。

基本介绍

目前并行程序设计的状况是:①并行软件的发展落后于并行硬件;②和串行系统的应用软件相比，现今的并行系统应用软件甚少且不成熟;③并行软件的缺乏是发展并行计算的主要障碍;④而且这种状态仍在继续.

其原因是:①并行程序设计不但包含了串行程序设计，而且还包含了更多的富有挑战性的问题;②串行程序设计仅有一个普遍被接受的冯*诺依曼模型，而并行计算模型虽有好多，但没有一个被共同认可;③并行程序设计对环境工具的要求远比串行程序设计先进得多;④串行程序设计比较适合于自然习惯，且人们在过去积累了大量的编程知识和宝贵的软件财富.

并行程序设计

:对于所希望的应用，很多并行代码似乎不存在的；即使有，也常不能用于用户的并行机上。因为并行代码原来都是为不同的并行结构写的.

它的问题是：至今并行算法范例不能被很好地理解和广泛地接受；并行程序设计是建立在

不同的计算模型

上的，而它们没有能像冯*诺依曼模型那样被普遍的接受和认可。绝大部分被使用的并行程序设计语言都是Fortran和C的推广，他们都不能够充分地表达不同并行结构的特点，既不成熟也

不通用

.并行程序设计工具依赖于具体的并行结构和计算机代的更迭，既不通用也不稳定，在某个并行平台上开发的并行程序很难移植到别的或将来的并行机上.

目前并行编程类型逐渐汇聚于两类：用于PVP,SMP和DSW的

共享变量

的单地址空间模型和用于MPP和机群的消息传递的多地址空间模型.

并行编程模型逐渐汇聚于三类标准模型：数据并行(如:HPF),消息传递(如:MPI和PVM),和共享变量(如OpenMp).

现在人们希望高性能的并行机应是 具有单一系统映像的巨大的工作站，使得很多用户都能利用增强处理能力和储存容量来运行多个串行作业，这就是所谓的串行程序并行系统spps.

当我们在实际的并行机上设计并行程序时，绝大部分均是采用扩展Fortran和C语言的办法，目前有三种扩展的办法：一是库函数法：除了串行语言所包含的库函数外，一组新的支持并行性和交互操作的库函数(如MPI消息传递库和POSIXPthreads多线程库)引入到并行程序设计中。二是新语言结构法：采用某些新的语言结构来帮助并行程序设计以支持并行性和交互操作(如Fortran 90 中的聚集数组操作); 三是编译制导法：程序设计语言保持不变，但是将称之为编译制导的格式注释引入到并行程序中.