（一）并行性
指同一时刻或同一时间间隔内可完成两种以上性质相同或不同的工作特性。
包括同时性和并发性。
①同时性：强调多个任务在同一时间点上真正并行执行；
②并发性：侧重于一个处理器通过快速切换来模拟多任务同时运行的效果。
（二）并行处理
从计算机信息处理的步骤和阶段的角度分类：
①存储器操作并行。
②处理器操作步骤并行（流水线处理机）。
③处理器操作并行（阵列处理机）。
④指令、任务、作业并行（多处理机、分布处理系统、计算机网络）
（三）处理机
处理机是处理计算机系统中存储的程序和数据，并按照程序规定的步骤执行指令的部件。
组成：中央处理器（CPU）、主存储器、输入/输出接口、外围设备。
能力：数据处理、指令执行、程序控制、并行处理
（四）处理机与处理器
定义 | 构成 | 操作方式 | |
处理器 | 通常指中央处理器（CPU），是计算机系统的运算和控制核心 | 主要由运算器和控制器两个核心部分组成，还包括高速缓冲存储器及实现它们之间联系的数据、控制的总线。 | 包括取指令、指令译码、执行指令、访存取数和结果写回五个阶段 |
处理机 | 是处理系统中存储的程序和数据，并按照程序规定的步骤执行指令的部件。 | 包括中央处理器（CPU）、主存储器、输入/输出接口以及可能的外围设备。 | 将用户程序和数据通过输入/输出设备输入到主存储器或辅助存储器中 |
备注：PU（Processing Unit）：即处理单元，是硬件的重要组成部分，负责对计算机中的数据和指令进行处理。比如CPU、GPU、NPU等
（五）处理机分类
处理机 | 描述 | |
1 | 阵列处理机 | 将重复设置的多个处理单元（PU）按一定方式连成阵列，在单个控制部件（CU）控制下，对分配给自己的数据进行处理，并行地完成一条指令所规定的操作。 是一种单指令流多数据流计算机，通过资源重复实现并行性。 多用于科学计算 |
2 | 并行处理机 | SIMD和MIMD是典型的并行计算机。 SIMD有共享存储器和分布存储器两种形式。具有共享存储器的SIMD结构（如图1-7所示）中，将若干个存储器构成统一的并行处理机存储器，通过互联网络ICN为整个并行系统的所有处理单元共享。其中，PE为处理单元，CU为控制部件，M为共享存储器，ICN为互联网络。 分布式存储器的SIMD处理机如图1-8所示，其中PE为处理单元，CU为控制部件，PEM为局部存储器，ICN为互联网络。含有多个同样结构的处理单元，通过寻径网络ICN以一定方式互相连接。 分布式存储器的并行处理机结构中有两类存储器： 一类存储器附属于主处理机，主处理实现整个并行处理机的管理，在其附属的存储器内常驻操作系统； 另一类是分布在各个处理单元上的存储器（即PEM），这类存储器用来保存程序和数据。在阵列控制部件的统一指挥下，实现并行操作。 程序和数据通过主机装入控制存储器。通过控制部件的是单指令流，所以指令的执行顺序还是和单处理机一样，基本上是串行处理。指令送到控制部件进行译码。划分后的数据集合通过向量数据总线分布到所有PE的本地存储器PEM。PE通过数据寻径网络互联。数据寻径网络执行PE间的通信。控制部件通过执行程序来控制寻径网络。PE的同步由控制部件的硬件实现。 |
3 | 多处理机 | 多处理机系统是由多台处理机组成的系统，每台处理机有属于自己的控制部件，可以执行独立的程序，共享一个主存储器和所有的外部设备。 它是多指令流多数据流计算机。 在多处理机系统中，机间互连技术决定着多处理机的性能。多处理机之间的互连，要满足高频带、低成本、连接方式的多样性以及在不规则通信情况下连接的无冲突性。 |
4 | 其他计算机 | 集群一般是指连接在一起的两个或多个计算机（节点）。 集群计算机是一种并行或分布式处理系统，由很多连接在一起的独立计算机组成，像一个单集成的计算机资源一样协同工作，主要用来解决大型计算问题。 计算机节点可以是一个单处理器或多处理器的系统，拥有内存、I/O设备和操作系统。连接在一起的计算机集群对用户和应用程序来说像一个单一系统，可以提供一种价格合理且可获得所需性能和快速而可靠的服务的解决方案。 |
（六）处理机图示
