0
点赞
收藏
分享

微信扫一扫

Hadoop学习之YARN(YARN配置参数)心得

云上笔记 2022-03-15 阅读 111
hadoopyarn

Yarn的配置参数:

        1. ResourceManager相关

                yarn.resourcemanager.scheduler.class    
                
                    配置调度器,默认容量(并发度要求高,使用公平调度;否则使用容量调度)

                yarn.resourcemanager.scheduler.client.thread-count    

                    ResourceManager处理调度器请求的线程数量,默认50

        2. NodeManager相关

                yarn.nodemanager.resource.detect-hardware-capabilities    
    
                    是否让yarn自己检测硬件进行配置,默认false

                yarn.nodemanager.resource.count-logical-processors-as-cores    

                    是否将虚拟核数当作CPU核数,默认false

                yarn.nodemanager.resource.pcores-vcores-multiplier    

                    虚拟核数和物理核数乘数,例如:4核8线程,该参数就应设为2,默认1.0

                yarn.nodemanager.resource.memory-mb    

                    NodeManager 使用内存,默认8G

                yarn.nodemanager.resource.system-reserved-memory-mb    
        
                    NodeManager 为系统保留多少内存以上二个参数配置一个即可

                yarn.nodemanager.resource.cpu-vcores        
            
                    NodeManager 使用CPU核数,默认8个

                yarn.nodemanager.pmem-check-enabled    
        
                    是否开启物理内存检查限制 container(监控机制),默认打开

                yarn.nodemanager.vmem-check-enabled    
    
                    是否开启虚拟内存检查限制container,默认打开

                yarn.nodemanager.vmem-pmem-ratio        
        
                    虚拟内存物理内存比例,默认 2.1

        3. Container相关

                yarn.schedule.minimum-allocation-mb        

                    容器最最小内存,默认1G

                yarn.schedule.maximum-allocation-mb        
    
                    容器最最大内存,默认8G

                yarn.schedule.minimum-allocation-vcores    

                    容器最小CPU核数,默认1个

                yarn.schedule.maximum-allocation-vcores    

                    容器最大CPU核数,默认4个

举报

相关推荐

0 条评论