Java面试资料集合，含泪整理面经

微架构的出现&＃xff0c;很好地适应了这个时代对快速发展变化的要求。它不再提倡一体化的项目设计&＃xff0c;而是对项目进行有效的“业务区”(可以简单理解为不同的子系统〉划分&＃xff0c;并利用合理的技术对业务性能做出提升和改善&＃xff0c;同时又极大地简化了配置文件的使用与 profile配置。总而言之&＃xff0c;微架构是开发之中看起来非常简单的一种实现技术&＃xff0c;但简单的背后考究的却是开发者对于开源技术的熟练程度。

SpringBoot 作为一种Web整合开发框架&＃xff0c;很好地解决了Web程序的编写困难&＃xff0c;可以更简单、高效地实现 MVC 设计模式。更为重要的是&＃xff0c;它可以轻松地整合当前各类主流的开发项目&＃xff0c;如消息组件、SQL数据库、NoSQL数据库、邮件服务等&＃xff0c;因此能极大地缩短项目的开发周期&＃xff0c;更快地响应客户的需求变更。SpringCloud 作为SpringBoot 的延续&＃xff0c;可以基于Restful流行架构实现RPC业务中心的搭建&＃xff0c;可以基于消息组件实现远程配置动态的抓取&＃xff0c;还可以与Docker相结合&＃xff0c;采用虚拟化手段实现便捷的云服务管理。可以说&＃xff0c;微架构的出现与云时代是密不可分的。

1、初始阶段

订单中心ES初始阶段如一张白纸&＃xff0c;架设方案基本没有&＃xff0c;很多配置都是保持集群默认配置。整个集群部署在集团的弹性云上&＃xff0c;ES集群的节点以及机器部署都比较混乱。同时按照集群维度来看&＃xff0c;一个ES集群会有单点问题&＃xff0c;显然对于订单中心业务来说也是不被允许的。

2、集群隔离阶段

和很多业务一样&＃xff0c;ES集群采用的混布的方式。但由于订单中心ES存储的是线上订单数据&＃xff0c;偶尔会发生混布集群抢占系统大量资源&＃xff0c;导致整个订单中心ES服务异常。

显然任何影响到订单查询稳定性的情况都是无法容忍的&＃xff0c;所以针对于这个情况&＃xff0c;先是对订单中心ES所在的弹性云&＃xff0c;迁出那些系统资源抢占很高的集群节点&＃xff0c;ES集群状况稍有好转。但随着集群数据不断增加&＃xff0c;弹性云配置已经不太能满足ES集群&＃xff0c;且为了完全的物理隔离&＃xff0c;最终干脆将订单中心ES集群部署到高配置的物理机上&＃xff0c;ES集群性能又得到提升。

3、节点副本调优阶段

ES的性能跟硬件资源有很大关系&＃xff0c;当ES集群单独部署到物理机器上时&＃xff0c;集群内部的节点并不是独占整台物理机资源&＃xff0c;在集群运行的时候同一物理机上的节点仍会出现资源抢占的问题。所以在这种情况下&＃xff0c;为了让ES单个节点能够使用最大程度的机器资源&＃xff0c;采用每个ES节点部署在单独一台物理机上方式。

但紧接着&＃xff0c;问题又来了&＃xff0c;如果单个节点出现瓶颈了呢&＃xff1f;我们应该怎么再优化呢&＃xff1f;

ES查询的原理&＃xff0c;当请求打到某号分片的时候&＃xff0c;如果没有指定分片类型&＃xff08;Preference参数&＃xff09;查询&＃xff0c;请求会负载到对应分片号的各个节点上。而集群默认副本配置是一主一副&＃xff0c;针对此情况&＃xff0c;我们想到了扩容副本的方式&＃xff0c;由默认的一主一副变为一主二副&＃xff0c;同时增加相应物理机。

订单中心ES集群架设示意图

如图&＃xff0c;整个架设方式通过VIP来负载均衡外部请求&＃xff1a;

整个集群有一套主分片&＃xff0c;二套副分片&＃xff08;一主二副&＃xff09;&＃xff0c;从网关节点转发过来的请求&＃xff0c;会在打到数据节点之前通过轮询的方式进行均衡。集群增加一套副本并扩容机器的方式&＃xff0c;增加了集群吞吐量&＃xff0c;从而提升了整个集群查询性能。

下图为订单中心ES集群各阶段性能示意图&＃xff0c;直观地展示了各阶段优化后ES集群性能的显著提升&＃xff1a;

当然分片数量和分片副本数量并不是越多越好&＃xff0c;在此阶段&＃xff0c;我们对选择适当的分片数量做了进一步探索。分片数可以理解为MySQL中的分库分表&＃xff0c;而当前订单中心ES查询主要分为两类&＃xff1a;单ID查询以及分页查询。

分片数越大&＃xff0c;集群横向扩容规模也更大&＃xff0c;根据分片路由的单ID查询吞吐量也能大大提升&＃xff0c;但聚合的分页查询性能则将降低&＃xff1b;分片数越小&＃xff0c;集群横向扩容规模也更小&＃xff0c;单ID的查询性能也会下降&＃xff0c;但分页查询的性能将会提升。

所以如何均衡分片数量和现有查询业务&＃xff0c;我们做了很多次调整压测&＃xff0c;最终选择了集群性能较好的分片数。

4、主从集群调整阶段

到此&＃xff0c;订单中心的ES集群已经初具规模&＃xff0c;但由于订单中心业务时效性要求高&＃xff0c;对ES查询稳定性要求也高&＃xff0c;如果集群中有节点发生异常&＃xff0c;查询服务会受到影响&＃xff0c;从而影响到整个订单生产流程。很明显这种异常情况是致命的&＃xff0c;所以为了应对这种情况&＃xff0c;我们初步设想是增加一个备用集群&＃xff0c;当主集群发生异常时&＃xff0c;可以实时的将查询流量降级到备用集群。

那备用集群应该怎么来搭&＃xff1f;主备之间数据如何同步&＃xff1f;备用集群应该存储什么样的数据&＃xff1f;

考虑到ES集群暂时没有很好的主备方案&＃xff0c;同时为了更好地控制ES数据写入&＃xff0c;我们采用业务双写的方式来搭设主备集群。每次业务操作需要写入ES数据时&＃xff0c;同步写入主集群数据&＃xff0c;然后异步写入备集群数据。同时由于大部分ES查询的流量都来源于近几天的订单&＃xff0c;且订单中心数据库数据已有一套归档机制&＃xff0c;将指定天数之前已经关闭的订单转移到历史订单库。

所以归档机制中增加删除备集群文档的逻辑&＃xff0c;让新搭建的备集群存储的订单数据与订单中心线上数据库中的数据量保持一致。同时使用ZK在查询服务中做了流量控制开关&＃xff0c;保证查询流量能够实时降级到备集群。在此&＃xff0c;订单中心主从集群完成&＃xff0c;ES查询服务稳定性大大提升。

5、现今&＃xff1a;实时互备双集群阶段

期间由于主集群ES版本是较低的1.7&＃xff0c;而现今ES稳定版本都已经迭代到6.x&＃xff0c;新版本的ES不仅性能方面优化很大&＃xff0c;更提供了一些新的好用的功能&＃xff0c;所以我们对主集群进行了一次版本升级&＃xff0c;直接从原来的1.7升级到6.x版本。

集群升级的过程繁琐而漫长&＃xff0c;不但需要保证线上业务无任何影响&＃xff0c;平滑无感知升级&＃xff0c;同时由于ES集群暂不支持从1.7到6.x跨越多个版本的数据迁移&＃xff0c;所以需要通过重建索引的方式来升级主集群&＃xff0c;具体升级过程就不在此赘述了。

主集群升级的时候必不可免地会发生不可用的情况&＃xff0c;但对于订单中心ES查询服务&＃xff0c;这种情况是不允许的。所以在升级的阶段中&＃xff0c;备集群暂时顶上充当主集群&＃xff0c;来支撑所有的线上ES查询&＃xff0c;保证升级过程不影响正常线上服务。同时针对于线上业务&＃xff0c;我们对两个集群做了重新的规划定义&＃xff0c;承担的线上查询流量也做了重新的划分。

备集群存储的是线上近几天的热点数据&＃xff0c;数据规模远小于主集群&＃xff0c;大约是主集群文档数的十分之一。集群数据量小&＃xff0c;在相同的集群部署规模下&＃xff0c;备集群的性能要优于主集群。

然而在线上真实场景中&＃xff0c;线上大部分查询流量也来源于热点数据&＃xff0c;所以用备集群来承载这些热点数据的查询&＃xff0c;而备集群也慢慢演变成一个热数据集群。之前的主集群存储的是全量数据&＃xff0c;用该集群来支撑剩余较小部分的查询流量&＃xff0c;这部分查询主要是需要搜索全量订单的特殊场景查询以及订单中心系统内部查询等&＃xff0c;而主集群也慢慢演变成一个冷数据集群。

同时备集群增加一键降级到主集群的功能&＃xff0c;两个集群地位同等重要&＃xff0c;但都可以各自降级到另一个集群。双写策略也优化为&＃xff1a;假设有AB集群&＃xff0c;正常同步方式写主&＃xff08;A集群&＃xff09;异步方式写备&＃xff08;B集群&＃xff09;。A集群发生异常时&＃xff0c;同步写B集群&＃xff08;主&＃xff09;&＃xff0c;异步写A集群&＃xff08;备&＃xff09;。

MySQL数据同步到ES中&＃xff0c;大致总结可以分为两种方案&＃xff1a;

• 方案1&＃xff1a;监听MySQL的Binlog&＃xff0c;分析Binlog将数据同步到ES集群中。
• 方案2&＃xff1a;直接通过ES API将数据写入到ES集群中。

考虑到订单系统ES服务的业务特殊性&＃xff0c;对于订单数据的实时性较高&＃xff0c;显然监听Binlog的方式相当于异步同步&＃xff0c;有可能会产生较大的延时性。且方案1实质上跟方案2类似&＃xff0c;但又引入了新的系统&＃xff0c;维护成本也增高。所以订单中心ES采用了直接通过ES API写入订单数据的方式&＃xff0c;该方式简洁灵活&＃xff0c;能够很好的满足订单中心数据同步到ES的需求。

由于ES订单数据的同步采用的是在业务中写入的方式&＃xff0c;当新建或更新文档发生异常时&＃xff0c;如果重试势必会影响业务正常操作的响应时间。

所以每次业务操作只更新一次ES&＃xff0c;如果发生错误或者异常&＃xff0c;在数据库中插入一条补救任务&＃xff0c;有Worker任务会实时地扫这些数据&＃xff0c;以数据库订单数据为基准来再次更新ES数据。通过此种补偿机制&＃xff0c;来保证ES数据与数据库订单数据的最终一致性。

1、实时性要求高的查询走DB

推荐阅读&＃xff1a;ES 几十亿数据检索 3 秒返回。

对于ES写入机制的有了解的同学可能会知道&＃xff0c;新增的文档会被收集到Indexing Buffer&＃xff0c;然后写入到文件系统缓存中&＃xff0c;到了文件系统缓存中就可以像其他的文件一样被索引到。

然而默认情况文档从Indexing Buffer到文件系统缓存&＃xff08;即Refresh操作&＃xff09;是每秒分片自动刷新&＃xff0c;所以这就是我们说ES是近实时搜索而非实时的原因&＃xff1a;文档的变化并不是立即对搜索可见&＃xff0c;但会在一秒之内变为可见。

当前订单系统ES采用的是默认Refresh配置&＃xff0c;故对于那些订单数据实时性比较高的业务&＃xff0c;直接走数据库查询&＃xff0c;保证数据的准确性。

2、避免深分页查询

ES集群的分页查询支持from和size参数&＃xff0c;查询的时候&＃xff0c;每个分片必须构造一个长度为from&＃43;size的优先队列&＃xff0c;然后回传到网关节点&＃xff0c;网关节点再对这些优先队列进行排序找到正确的size个文档。

假设在一个有6个主分片的索引中&＃xff0c;from为10000&＃xff0c;size为10&＃xff0c;每个分片必须产生10010个结果&＃xff0c;在网关节点中汇聚合并60060个结果&＃xff0c;最终找到符合要求的10个文档。

由此可见&＃xff0c;当from足够大的时候&＃xff0c;就算不发生OOM&＃xff0c;也会影响到CPU和带宽等&＃xff0c;从而影响到整个集群的性能。所以应该避免深分页查询&＃xff0c;尽量不去使用。

3、FieldData与Doc Values

FieldData&＃xff1a;

线上查询出现偶尔超时的情况&＃xff0c;通过调试查询语句&＃xff0c;定位到是跟排序有关系。排序在es1.x版本使用的是FieldData结构&＃xff0c;FieldData占用的是JVM Heap内存&＃xff0c;JVM内存是有限&＃xff0c;对于FieldData Cache会设定一个阈值。

如果空间不足时&＃xff0c;使用最久未使用&＃xff08;LRU&＃xff09;算法移除FieldData&＃xff0c;同时加载新的FieldData Cache&＃xff0c;加载的过程需要消耗系统资源&＃xff0c;且耗时很大。所以导致这个查询的响应时间暴涨&＃xff0c;甚至影响整个集群的性能。针对这种问题&＃xff0c;解决方式是采用Doc Values。

Doc Values&＃xff1a;

Doc Values是一种列式的数据存储结构&＃xff0c;跟FieldData很类似&＃xff0c;但其存储位置是在Lucene文件中&＃xff0c;即不会占用JVM Heap。随着ES版本的迭代&＃xff0c;Doc Values比FieldData更加稳定&＃xff0c;Doc Values在2.x起为默认设置。

最后在出来放一波福利吧&＃xff01;希望可以帮助到大家&＃xff01;

戳此获取免费学习资料

千千万万要记得&＃xff1a;多刷题&＃xff01;&＃xff01;多刷题&＃xff01;&＃xff01;

之前算法是我的硬伤&＃xff0c;后面硬啃了好长一段时间才补回来&＃xff0c;算法才是程序员的灵魂&＃xff01;&＃xff01;&＃xff01;&＃xff01;

篇幅有限&＃xff0c;以下只能截图分享部分的资源&＃xff01;&＃xff01;

&＃xff08;1&＃xff09;多线程&＃xff08;这里以多线程为代表&＃xff0c;其实整理了一本JAVA核心架构笔记集&＃xff09;

&＃xff08;2&＃xff09;刷的算法题&＃xff08;还有左神的算法笔记&＃xff09;

&＃xff08;3&＃xff09;面经&＃43;真题解析&＃43;对应的相关笔记&＃xff08;很全面&＃xff09;

&＃xff08;4&＃xff09;视频学习&＃xff08;部分&＃xff09;

ps&＃xff1a;当你觉得学不进或者累了的时候&＃xff0c;视频是个不错的选择

其实以上我所分享的所有东西&＃xff0c;有需要的话我这边可以免费分享给大家&＃xff0c;但请一定记住获取方式&＃xff1a;点击这里前往免费获取

是个不错的选择

[外链图片转存中…(img-Y6mEWR1M-1620811324095)]

其实以上我所分享的所有东西&＃xff0c;有需要的话我这边可以免费分享给大家&＃xff0c;但请一定记住获取方式&＃xff1a;点击这里前往免费获取

在这里&＃xff0c;最后只一句话&＃xff1a;祝大家offer拿到手软&＃xff01;&＃xff01;