并发解决方案
00 min
2024-4-23

并发和并行区别

 
并行,parallel
同时做某些事,可以互不打扰的同一个时刻做几件事
 
并发,concurrency
也是同时做某些事情,但是强调,一个时段内有事情要处理。
 
举例:
高速公路的车道,双向4车道,所有车辆(数据)可以互不打扰的在自己的车道上奔跑(传输)。在同一时刻,每条车道上可能同时有车辆在跑,是同时发生的概念,这是并行。
在一段时间内,由这么多车要通过,这是并发。

并发的解决

“食堂打饭模型”
中午12点,开饭啦,大家都涌向食堂,这就是并发。如果人很多,就是高并发

1、队列、缓冲区

假设只有一个窗口,陆续涌入食堂的人,排队打菜是比较好的方式。
所以,排队(队列)是一种天然解决并发的办法。
排队就是把人排成队列,先进先出,解决资源使用问题
排成的队列,其实就是一个缓冲地带,就是缓冲区
假设女士优先,每次都是从这个队伍中优先选出女生出来先打饭,这就是优先队列
💡
例如queue模块的类Queue、LifoQueue、PriorityQueue(小顶堆实现)

2、挣抢

只开一个窗口,有可能没有秩序,也就是谁挤进去就给谁打饭。
挤到窗口的人占据窗口,知道打到饭菜离开
其他人继续争抢,会有一个人占据窗口,可以视为锁定窗口,窗口就不能为其他人服务了。这是一种锁机制。
谁抢到资源就上锁,排他性的独占锁,其他人只能等候。
💡
争抢也是一种高并发解决方案,但是这样可能不好,因为有可能有人很长时间抢不到

3、预处理

其实排队长不是问题,就算2万人排队一对打饭,如果能10分钟搞定也行。问题是在处理并发的速度太慢。
经过分析发现,本食堂主要是打菜等候时间太长,因为每一个都是现场点菜现做。
食堂尅提前同级大多数人最爱吃的菜品,将最爱吃的80%的热门菜,提前做好,保证供应,20%的冷门菜,现做。
这样大多数人,就算不排队采用争抢的方式锁定窗口,也可以打到饭菜走了,快速释放窗口。
💡
这是一种提前加载用于需要的数据的思路,预处理思想,缓存常用

4、并行

成百上千人同时吃饭,一个队伍搞不定的,多开打饭窗口形成多个队列,如同开多个车道一样,并行打菜。
开窗口就是扩大食堂,得多雇人在每一个窗口提供服务,造成成本上升。告诉公路的多车道是并行方案,多车道提高了通行效率,但是意味着建造维护也提高了
💡
日常可以通过购买更多的服务器,或多进程或多线程实现并行处理,来解决并发问题。
注意这些都是并发的手段之一。
注:
如果线程在单CPU上处理,就不是真并行了. 但是,现在多数服务器都是多CPU的,至少也是单颗多核CPU,服务器的部署往往是多机的、分布式的,这都是并行处理。

5、提速

提高单个窗口的打饭速度,也是解决并发的方式。
打饭人员提高工作技能,或为单个窗口配备更多的服务人员,都是提速的办法。
💡
提高单个CPU性能,或单个服务器安装更多的CPU, 这是一种垂直拓展思想

6、消息中间件

上地、西二旗地铁 站外 的九曲回肠的走廊,缓冲人流,进去之后再多口安检进站
💡
常见的消息中间件有RabbitMQ、ActiveMQ(Apache)、RocketMQ(阿里Apache)、kafka(Apache)等。
当然还有其他手段解决并发问题,但是已经举例出了最常用的解决方案,一般来说不同的并发场景不同的策略,而策略可能是多种方式的优化组合
例如多开食堂(多地),也可以把食堂建设到宿舍生活区(就近),也就是高可用(HA),所以说,技术来源于生活