Hadoop详解（十二）：Yarn资源调度策略

在Yarn中有三种调度器可以选择&＃xff1a;FIFO Scheduler &＃xff0c;Capacity Scheduler&＃xff0c;Fair Scheduler。

FIFO Scheduler

FIFO Scheduler把应用按提交的顺序排成一个队列&＃xff0c;这是一个先进先出队列&＃xff0c;在进行资源分配的时候&＃xff0c;先给队列中最头上的应用进行分配资源&＃xff0c;待最头上的应用需求满足后再给下一个分配&＃xff0c;以此类推。
FIFO Scheduler它并不适用于共享集群。大的应用可能会占用所有集群资源&＃xff0c;这就导致其它应用被阻塞。

Capacity Scheduler

Capacity调度器&＃xff0c;有一个专门的队列用来运行小任务&＃xff0c;但是为小任务专门设置一个队列会预先占用一定的集群资源&＃xff0c;这就导致大任务的执行时间会落后于使用FIFO调度器时的时间。

Capacity 调度器允许多个组织共享整个集群&＃xff0c;每个组织可以获得集群的一部分计算能力。通过为每个组织分配专门的队列&＃xff0c;然后再为每个队列分配一定的集群资源&＃xff0c;这样整个集群就可以通过设置多个队列的方式给多个组织提供服务了。除此之外&＃xff0c;队列内部又可以垂直划分&＃xff0c;这样一个组织内部的多个成员就可以共享这个队列资源了&＃xff0c;在一个队列内部&＃xff0c;资源的调度是采用的是先进先出(FIFO)策略。

当队列已满&＃xff0c;Capacity调度器不会强制释放Container&＃xff0c;当一个队列资源不够用时&＃xff0c;这个队列只能获得其它队列释放后的Container资源&＃xff0c;这个称为“弹性队列”&＃xff0c;也可以设置最大值&＃xff0c;防止过多占用其他队列的资源。

Fair Scheduler

Fair调度器中&＃xff0c;我们不需要预先占用一定的系统资源&＃xff0c;Fair调度器会为所有运行的job动态的调整系统资源。如下图所示&＃xff0c;当第一个大job提交时&＃xff0c;只有这一个job在运行&＃xff0c;此时它获得了所有集群资源&＃xff1b;当第二个小任务提交后&＃xff0c;Fair调度器会分配一半资源给这个小任务&＃xff0c;让这两个任务公平的共享集群资源。

需要注意的是&＃xff0c;在下图Fair调度器中&＃xff0c;从第二个任务提交到获得资源会有一定的延迟&＃xff0c;因为它需要等待第一个任务释放占用的Container。小任务执行完成之后也会释放自己占用的资源&＃xff0c;大任务又获得了全部的系统资源。最终的效果就是Fair调度器即得到了高的资源利用率又能保证小任务及时完成。

详情请看Hadoop详解&＃xff08;十&＃xff09;&＃xff1a;Hadoop作业调度机制&＃xff0c;其中作业调度策略与Yarn中作业调度策略一致。