高并发（ High Concurrency）是互联网 分布式系统 架构设计中必须考虑的因素之一，它通常是指，通过设计保证系统能够同时并行处理很多请求。高并发相关常用的一些指标有响应时间（Response Time），吞吐量（Throughput），每秒查询率QPS（Query Per Second） ， 并发用户数等。高并发 它是互联网分布式系统架构设计中必须考虑的因素之一，通常是指，保证系统能够同时并行化处理海量请求 。

1. 并发和并行

并发和并行就是 单核 CPU(单处理器)上，只可能存在并发而不可能存在并行。 并行在多处理器系统中存在，而并发可以在单处理器和多处理器系统中都存在，并发能够在单处理器系统中存在是因为并发是并行的假象，并行要求程序能够同时执行多个操作，而并发只是要求程序假装同时执行多个操作每个小时间片执行一个操作，多个操作快速切换执行 。

2. 同步和异步

·

同步：发送一个请求，等待返回，然后再发送下一个请求。提交请求 ， 等待服务器处理 ， 处理完返回，此期间客户端浏览器不能干任何事 。

·

异步：发送一个请求，不等待返回，随时可以再发送下一个请求。提交请求 ， 服务器处理 ， 这时浏览器仍然可以作其他事情 ， 处理完毕 。

·

同步和异步就是 随着实时间的轨迹，同步一步一步的执行着，在异步中，当一个异步过程调用发出后，调用者不能立即得到结果，实际上会开启一个 线程 执行这部分内容，这个线程处理完了之后，通过状态，通知和回调来通知调用者来处理。

3. 阻塞和非阻塞

阻塞 (Blocking)和非阻塞(Non-Blocking)通常用来形容多线程间的相互影响，比如一个线程占用临界区资源，那么其他所有需要这个资源的线程就必须在这个临界区中进行等待，等待会导致线程挂起，这种情况就是阻塞。如果占用资源的线程一直不愿意释放资源，那么其它所有阻塞在这个临界区上的线程都不能工作。非阻塞允许多个线程同时进入临界区。

4. 临界区

临界区用来表示一种公共资源或者说是共享数据，可以被多个线程使用，但是每一次，只能有一个线程使用它，一旦临界去资源被占用，其他线程想要使用这个资源，就必须等待。这就是我们编程中经常要加锁的地方，如 synchronized 关键字，或是 Lock 接口 等 。

5.并发级别

分为 阻塞 和 非阻塞 ， 非阻塞分为 无障碍 、 无锁 、 无等待 。 阻塞 ， 当一个线程进入临界区后，其他线程必须等待 。 无障碍 ， 无障碍是一种最弱的非阻塞调度 ， 可自由出入临界区 ， 无竞争时，有限步内完成操作 ， 有竞争时，回滚数据 。 和非阻塞调度相比呢，阻塞调度是一种悲观的策略，它会认为说一起修改数据是很有可能把数据改坏的。而非阻塞调度呢，是一种乐观的策略，它认为大家修改数据未必把数据改坏 。 但是它是一种 宽进严出 的策略，当它发现一个进程在临界区内发生了数据竞争，产生了冲突，那么无障碍的调度方式则会回滚这条数据。

无锁 ， 是无障碍的 ， 保证有一个线程可以胜出 ， 与无障碍相比，无障碍并不保证有竞争时一定能完成操作，因为如果它发现每次操作都会产生冲突，那它则会不停地尝试。如果临界区内的线程互相干扰，则会导致所有的线程会卡死在临界区，那么系统性能则会有很大的影响。而无锁增加了一个新的条件，保证每次竞争有一个线程可以胜出，则解决了无障碍的问题。至少保证了所有线程都顺利执行下去。

无等待 ， 无锁的 ， 要求所有的线程都必须在有限步内完成 ， 无饥饿的 ， 无等待的前提是无锁的基础上的 ，无锁它只保证了临界区肯定有进也有出，但是如果进的优先级都很高，那么临界区内的某些优先级低的线程可能发生饥饿，一直出不了临界区。那么无等待解决了这个问题，它保证所有的线程都必须在有限步内完成，自然是无饥饿的。

无等待是并行的最高级别，它能使这个系统达到最优状态。无等待的典型案例：只有读线程，没有写线程，那么这个则必然是无等待的。 如果既有读线程又有写线程，而每个写线程之前，都把数据拷贝一份副本，然后修改这个副本，而不是修改原始数据，因为修改副本，则没有冲突，那么这个修改的过程也是无等待的。最后需要做同步的只是将写完的数据覆盖原始数据。由于无等待要求比较高，实现起来比较困难，所以无锁使用得会更加广泛一些。

6. 关于并行的 2个重要定律

两个定律都与加速比有关 ， 阿姆达尔定律 ， Amdahl定律(阿姆达尔定律)：定义了串行系统并行化后的加速比的计算公式和理论上限（加速比=优化前系统耗时/优化后系统耗时） 。 一个程序（或者一个算法）可以按照 是否可以被并行化 分为下面两个部分： 可以被并行化的部分 ， 不可以被并行化的部 。 假设一个程序处理磁盘上的文件。这个程序的一小部分用来扫描路径和在内存中创建文件目录。做完这些后，每个文件交个一个单独的线程去处理。扫描路径和创建文件目录的部分不可以被并行化，不过处理文件的过程可以。

阿姆达尔定律 就是 增加 CPU处理器的数量并不一定能起到有效的作用，提高系统内可并行化的模块比重，合理增加并行处理器数量，才能以最小的投入，得到最大的加速比

古斯塔夫森定律 Gustafson定律(古斯塔夫森)：

说明处理器个数 ， 行比例和加速比之间的关系 。

6. 死锁 活锁饥饿

死锁 ， 指两个或两个以上的进程或线程在执行过程中，因争夺资源而造成的一种互相等待的现象，若无外力作用，它们都将无法推进下去。此时称系统处于死锁状态或系统产生了死锁，这些永远在互相等待的进程称为死锁进程。

互斥条件：线程对资源的访问是排他性的，如果一个线程对占用了某资源，那么其他线程必须处于等待状态，直到资源被释放。请求和保持条件：线程 T1至少已经保持了一个资源R1占用,但又提出对另一个资源R2请求，而此时，资源R2被其他线程T2占用，于是该线程T1也必须等待，但又对自己保持的资源R1不释放。不剥夺条件：线程已获得的资源，在未使用完之前，不能被其他线程剥夺，只能在使用完以后由自己释放。环路等待条件：在死锁发生时，必然存在一个“进程-资源环形链”，即：{p0,p1,p2,…pn},进程p0（或线程）等待p1占用的资源，p1等待p2占用的资源，pn等待p0占用的资源。（最直观的理解是，p0等待p1占用的资源，而p1而在等待p0占用的资源，于是两个进程就相互等待。

活锁 ， 指线程 T1可以使用资源，但它很礼貌，让其他线程先使用资源，线程T2也可以使用资源，但它很绅士，也让其他线程先使用资源。这样你让我，我让你，最后两个线程都无法使用资源。

在街上遇到一妹子，刚好她朝着你的反方向走，与你正面碰到，你们都想让彼此过去。你往左边移，她也往左边移，两人还是无法过去。这时你往右边移，她也往右边移，如此循环下去

饥饿 ， 指如果线程 T1占用了资源R，线程T2又请求封锁R，于是T2等待。T3也请求资源R，当T1释放了R上的封锁后，系统首先批准了T3的请求，T2仍然等待。然后T4又请求封锁R，当T3释放了R上的封锁之后，系统又批准了T4的请求……，T2可能永远等待。

有两条道 A和B上都堵满了车辆，其中A道堵的时间最长，B相对相对堵的时间较短，这时，前面道路已疏通，交警按照最佳分配原则，示意B道上车辆先过，B道路上过了一辆又一辆，A道上排队时间最长的确没法通过，只能等B道上没有车辆通过的时候再等交警发指令让A道依次通过，这也就是ReentrantLock显示锁里提供的不公平锁机制（当然了，ReentrantLock也提供了公平锁的机制，由用户根据具体的使用场景而决定到底使用哪种锁策略），不公平锁能够提高吞吐量但不可避免的会造成某些线程的饥饿。

后台私信回复 “学习” 就可以马上免费获得内部教材！