C++项目高并发内存池_整体框架设计

高并发内存池相比与malloc来讲&＃xff0c;在多线程的场景下效率更高。

这个内存池主要要考虑的问题是&＃xff1a;

• 性能
• 多线程环境下&＃xff0c;锁竞争问题
• 内存碎片问题

高并发内存池主要有3层

1. 线程缓存层&＃xff08;thread cache&＃xff09;&＃xff1a;每一个线程都有一个独立的空间&＃xff0c;当线程都要申请空间&＃xff08;小于256KB&＃xff09;时直接在线程内部申请&＃xff0c;不需要加锁竞争。
2. 中心缓存层&＃xff08;central cache&＃xff09;&＃xff1a;中心缓存是所有线程共享的空间&＃xff0c;线程缓存是按需从中心缓存中获取的对象。当线程缓存的内存不够时向中心缓存申请空间&＃xff0c;中心缓存在适当的情况下要回收线程缓存&＃xff0c;避免一个线程占用太多内存。中心缓存因为是所有线程共享的&＃xff0c;所以要加锁&＃xff0c;这里为了避免锁竞争激烈采用桶锁
3. 页缓存&＃xff08; page cache&＃xff09;&＃xff1a;页缓存是在central cache缓存下面的一层缓存&＃xff0c;存储的内存是以页为单位存储及分配的&＃xff0c;当中心缓存内存不够时&＃xff0c;向页缓存申请空间。&＃xff08;从page cache分配出一定数量的page&＃xff0c;并切割成定长大小的小块内存&＃xff0c;分配给central cache&＃xff09;。同时如果中心缓存有内存被归还回来&＃xff0c;页缓存会将归还回来的内存组成更大的页来缓解内存碎片问题。