并行架构-硬件篇

为什么32位计算机的运行速度比8位的计算机更快呢？因为并行，对于两个32位数的加法，8位计算机必须进行多次8位计算，而32位计算机可以一步到位，即并行地处理32位的4字节。

计算机的发展经历了8位、16位、32位，现在正处于64位时代。然而由位升级带来的性能改善是存在瓶颈的，这也正是短期内我们无法步入128位时代的原因。

现代CPU的并行度很高，其中使用的技术包括流水线、乱序执行和猜测执行等。

图形处理就是一种适合进行数据级并行的场景。

终于来到了大家所认为的并行形式——多处理器。从程序员的角度来看，多处理器系统最明显的分类就是其内存模型（共享内存和分布式内存模型）

目前来看，摩尔定律已经失效，出于几个理由，元器件的集成程度已经接近了极限。

芯片厂商基于技术和成本的考虑，向多核心方向发展，8核心、32核心、64核心等，但是内存访问还是使用共享总线的方式，这样就限制的CPU处理数据的带宽

为了解决内存带宽的问题，引入了NUMA。只有当CPU访问自身直接attach内存对应的物理地址时，才会有较短的响应时间（后称Local Access）。而如果需要访问其他CPU attach的内存的数据时，就需要通过inter-connect通道访问，响应时间就相比之前变慢了（后称Remote Access）。所以NUMA（Non-Uniform Memory Access）就此得名。

参照Hadoop集群的运行方式

以上。

并行结构又称为收敛结构，是指由两个或两个以上前提分别独立支持统一结论的结构。

并行结构一般是指并行体系结构和软件架构采取并行编程。主要目的是使更多任务或数据同时运行。并行体系结构是指许多指令能同时进行的体系结构；并行编程一般有以下模式：>共享内存模式；消息传递模式；数据并行模式。

在>数据库中，为了提高存取和查询速率，会同时采用以上两种并行结构。并行性有两种解释，同时性：两个或两个以上的事件在同一时刻发生。并发性：两个或两个以上的事件在同一时间间隔发生。

从处理数据的角度看，并行性等级从低到高可分为四类。字串位串：同时只对一个字的一位进行处理。这是最基本的串行处理方式，不存在并行性。字串位并：同时对一个字的全部位进行处理，不同字之间是串行的。这里已开始出现并行性。

字并位串：同时对许多字的同一位进行处理。这种方式有较高的并行性。全并行：同时对许多字的全部位进行处理。这是最高一级的并行。在数据库中，并行结构主要是处理数据来分析的，具体采用哪一级并行性，主要与数据规模、机器设备和程序架构有关。

并行体系结构：

1、数据级并行它的出现是因为可以同时 *** 作许多数据项。

2、任务级并行它的出现是因为创建了一些能够单独处理但大量采用并行方式执行的工作任务。

3、指令级并行在编译器的帮助下，利用流水线之类的思想适度开发数据级并行，利用推理执行之类的思想以中等水平开发数据级并行。

4、向量体系结构和图形处理器将单条指令并行应用于一个数据集，以开发数据级并行。

5、线程级并行在一种紧耦合硬件模型中开发数据级并行或任务级并行，这种模型允许在并行线程之间进行交互。

6、请求级并行在程序员或 *** 作系统指定的大量去耦合任务之间开发并行。

题主是否想询问“并行结构”？是Google提出的一个软件架构，用于大规模数据集（大于1TB）的并行运算。软件并行开发的软件生存周期模型，需要把视野集中到软件开发过程中。把软件系统的开发过程划分为若干个可以并行的成分，这个成分称之为子开发过程。

---