0
点赞
收藏
分享

微信扫一扫

什么是overcommit_memory?


1. 前言

在日常的工作中可能我们会经常遇到程序fork失败的问题。遇到fork失败往往有两种可能性:

  1. 进程数超标:可以通过​​cat /proc/sys/kernel/threads-max​​查看
  2. 内存不足

进程数预设值往往很大,几乎不太能超标,所以fork失败的原因大部分都是由于内存不足造成的。

我们知道,由于MMU实现了虚拟地址到物理地址的转换,所以我们在申请虚拟地址时往往可以申请一大块内存,这实际上是对资源的有效利用,毕竟只有内存真正被投入使用时(如memset)才会实际分配物理内存,这种允许内存超额commit的机制就是overcommit_memory。

虚拟内存需要物理内存作为支撑,当分配了太多虚拟内存,导致物理内存不够时,就发生了Out Of Memory。这种允许超额commit的机制就是overcommit

其调用链关系如下图所示。

什么是overcommit_memory?_linux

从图中我们可以看到,fork一步一步执行到了​​__vm_enough_memory​​,该接口是overcommit的核心。

2. 原理

Linux根据参数​​vm.overcommit_memory​​设置overcommit:

  • 0 ——默认值,启发式overcommit,它允许overcommit,但太明显的overcommit会被拒绝,比如malloc一次性申请的内存大小就超过了系统总内存。
  • 1 ——Always overcommit. 允许​​overcommit​​,对内存申请来者不拒。
  • 2 ——不允许​​overcommit​​,提交给系统的总地址空间大小不允许超过。

​include/uapi/linux/mman.h​​中声明了该宏定义:

#define OVERCOMMIT_GUESS    0
#define OVERCOMMIT_ALWAYS 1
#define OVERCOMMIT_NEVER 2

sysctl_overcommit_memory等于​OVERCOMMIT_ALWAYS​时,内核的处理方式是直接返回。

if (sysctl_overcommit_memory == OVERCOMMIT_ALWAYS)
return 0;

sysctl_overcommit_memory等于​OVERCOMMIT_GUESS​,主要代码如下:

if (sysctl_overcommit_memory == OVERCOMMIT_GUESS) {
free = global_page_state(NR_FREE_PAGES);
free += global_node_page_state(NR_FILE_PAGES);
free -= global_node_page_state(NR_SHMEM);
free += get_nr_swap_pages();
free += global_page_state(NR_SLAB_RECLAIMABLE);

if (free <= totalreserve_pages)
goto error;
else
free -= totalreserve_pages;

if (!cap_sys_admin)
free -= sysctl_admin_reserve_kbytes >> (PAGE_SHIFT - 10); /* 为root保留的页数 */

if (free > pages)
return 0;

goto error;
}

其中​​global_page_state​​负责读取vm_zone_stat数组中的各项值。

extern atomic_long_t vm_zone_stat[NR_VM_ZONE_STAT_ITEMS];

  • ​NR_FREE_PAGES​​:富足的未分配资源;
  • ​NR_FILE_PAGES​​:page cache总和;
  • ​NR_SHMEM​​:进程间的share memory;
  • ​NR_SLAB_RECLAIMABLE​​:slab可回收的页数;
  • ​totalreserve_pages​​:每个zone保留的不能被用户空间分配的页数;
  • ​get_nr_swap_pages​​:针对空闲的swap页数

所以free的计算公式如下:

​free = NR_FREE_PAGES + NR_FILE_PAGES - NR_SHMEM + swap_pages + NR_SLAB_RECLAIMABLE​

如果此时free小于​​totalreserve_pages​​​,则判定内存不足,否则 ​​free -= totalreserve_pages​​.

如果是普通进程,则还需要保留​​admin_reserve_kbytes​​(/proc/sys/vm/admin_reserve_kbytes)的free page.

此时free若大于申请的pages,则不会发生overcommit。

sysctl_overcommit_memory等于​OVERCOMMIT_NEVER​,相关代码如下:

allowed = vm_commit_limit();

if (!cap_sys_admin)
allowed -= sysctl_admin_reserve_kbytes >> (PAGE_SHIFT - 10);

if (mm) {
reserve = sysctl_user_reserve_kbytes >> (PAGE_SHIFT - 10);
allowed -= min_t(long, mm->total_vm / 32, reserve);
}

if (percpu_counter_read_positive(&vm_committed_as) < allowed)
return 0;
error:
vm_unacct_memory(pages);

return -ENOMEM;

/
unsigned long vm_commit_limit(void)
{
unsigned long allowed;

if (sysctl_overcommit_kbytes)
allowed = sysctl_overcommit_kbytes >> (PAGE_SHIFT - 10);
else
allowed = ((totalram_pages - hugetlb_total_pages())
* sysctl_overcommit_ratio / 100);
allowed += total_swap_pages;

return allowed;
}

主要看如下值:

  • ​sysctl_overcommit_kbytes​​:/proc/sys/vm/overcommit_kbytes的值
  • ​sysctl_overcommit_ratio​​:/proc/sys/vm/overcommit_ratio的值
  • ​totalram_pages​​:可分配的总页数
  • ​total_swap_pages​​:可换出的页数
  • ​hugetlb_total_pages​​:huge page相关
  • ​sysctl_user_reserve_kbytes​​:/proc/sys/vm/user_reserve_kbytes的值,用户空间保留的内存大小
  • ​vm_committed_as​​:保存了当前系统中已经申请的虚拟内存大小

由代码可知,​​vm_commit_limit​​包括两种情况:

  1. 如果​​overcommit_kbytes​​​不为0, allow值为​​overcommit_kbytes​​的一半;
  2. 如果​​overcommit_kbytes​​​为0,allow值为可管理的总内存与​​vercommit_ratio​​的乘积百分比

3. 设置

那么如何设置overcommit的值呢?有三种方法:

  1. 编辑**/etc/sysctl.conf** ,改vm.overcommit_memory=1,然后sysctl -p使配置文件生效
  2. sysctl vm.overcommit_memory=1
  3. echo 1 > /proc/sys/vm/overcommit_memory

4. 总结

本文通过分析内核代码粗略得分析了overcommit_memory的原理,也为后面的OOM-killer的原理做个铺垫。


举报

相关推荐

Memory Overcommit

0 条评论