YARN——正确理解容量调度的capacity参数-开源中国

容量调度器中，配得最多的应该就是capacity和maximum-capacity了，一个是当前队列的资源容量，一个是队列可使用的最大容量。多个队列的容量之和为100。

maximum-capacity这个参数还好理解，即队列可使用资源的上限。

假如有多个队列，每个队列都将maximum-capacity的值设置成与capacity一样，意味着每个队列只能使用固定大小的资源，不能超额使用其他队列空闲资源，这样，也就可能出现资源浪费或利用率低的情况。

因此，通常该值会设置成比capacity大。例如都设置为100，也就是每个队列最大都可以使用集群的全部资源。

但既然最大都可以使用集群的全部资源，那么capacity参数的作用和意义到底是什么，该参数又是如何限制用户资源使用的。

查看了官方文档，网上也看了不少文章，始终觉得没有讲透capacity这个参数的意义，索性直接撸源码。

结合源码，并对照日志，确认了几个关键点后，对自己的结论很是自信，立马邮件同步给组内的小伙伴。

队列的capacity参数是单个用户在该队列中所能使用资源的上限。

由于允许多个不同的用户向同一个队列提交任务，因此多个用户的不同任务的资源叠加起来可以超过capacity，但是不能超过maximum-capacity。

然而，没过多久，就收到了同事的答复邮件，并附带如下图示：队列配置10%的资源，用户提交了一个任务，使用的资源远超10%！

收到邮件，瞬间觉得脸已被打肿，但是之前研究相关源码，确定应该是会限制的啊，难道是哪个细节没注意到，代码走了其他分支？

带着疑问再次走读相关代码，并进行一系列测试，发现该现象是可以解释的，之前给出的结论也仍旧还是成立的。

当前集群的总资源为12GB，队列容量设置为10%，因此该队列上，单个用户理论上资源使用的上限为：

12 * 1024 * 0.1 = 1228.8MB

注：该队列的父队列为root，如果父队列不是root，则需要继续乘父队列的容量百分比。

由于配置的集群资源分配最小单位为1024MB，因此需要向上取整，即2048MB。也就是单个用户使用的资源上限为2048MB。

当spark任务的driver启动时（申请的资源为2048MB），当前队列中，该用户已使用的资源为0，未超过上限，因此可以为其分配资源，即driver可以成功启动。

driver启动后继续申请启动两个executor，每个executor申请分配2048MB。yarn调度时，发现该用户当前已使用资源为2048MB（为driver分配的资源），仍旧未超过上限，因此继续为一个executor分配了资源。但轮到第二个executor时，该用户当前已使用的资源变为了4096MB，超过了上限，因此没有为该executor分配资源。

也就是说：虽然队列容量配置的是10%，但并不是严格按照10%来限制，即允许超额使用。只要用户当前已使用资源没有超过上限，就可以继续分配（即便分配后会超过上限）；但一旦当前已使用的资源超过了上限时，则不能再继续分配资源。

为了验证上面的结论，再进行如下测试：队列的容量仍旧配置为10%，同时将AM资源使用限制调高（maximum-am-resource-percent），防止因AM资源受限出现干扰。

先提交一个spark任务，情况和上面的情况一样，再次提交一个任务时，第二个任务始终处于ACCEPT状态，spark任务的driver都没有进行资源分配。