「转」linux 内存耗尽的分析
在测试NAS性能，用fstest长时间写，分析性能变差的原因，发现server主机内存使用率很高。
1．首先查看内存
# top -M
top - 14:43:12 up 14 days, 6 min, 1 user, load average: 8.36, 8.38, 8.41
Tasks: 419 total, 1 running, 418 sleeping, 0 stopped, 0 zombie
Cpu(s): 0.0%us, 0.2%sy, 0.0%ni, 99.0%id, 0.7%wa, 0.0%hi, 0.0%si, 0.0%st
Mem: 63.050G total, 62.639G used, 420.973M free, 33.973M buffers
Swap: 4095.996M total, 0.000k used, 4095.996M free, 48.889G cached
PID USER PR NI VIRT RES SHR S %CPU %MEM TIME+ COMMAND
111 root 20 0 0 0 0 S 2.0 0.0 0:25.52 ksoftirqd/11
5968 root 20 0 15352 1372 828 R 2.0 0.0 0:00.01 top
13273 root 20 0 0 0 0 D 2.0 0.0 25:54.02 nfsd
17765 root 0 -20 0 0 0 S 2.0 0.0 0:11.89 kworker/5:1H
1 root 20 0 19416 1436 1136 S 0.0 0.0 0:01.88 init
.....?
发现内存基本用完，究竟是什么进程占用？top命令发现排名第一的%MEM才零点几。
2.通过 vmstat -m命令查看内核空间的内存使用。
Cache Num Total Size Pages xfs_dqtrx 0 0 384 10 xfs_dquot 0 0 504 7 xfs_buf 91425 213300 384 10 fstrm_item 0 0 24 144 xfs_mru_cache_elem 0 0 32 112 xfs_ili 7564110 8351947 224 17 xfs_inode 7564205 8484180 1024 4 xfs_efi_item 257 390 400 10 xfs_efd_item 237 380 400 10 xfs_buf_item 1795 2414 232 17 xfs_log_item_desc 830 1456 32 112 xfs_trans 377 490 280 14 xfs_ifork 0 0 64 59 xfs_da_state 0 0 488 8 xfs_btree_cur 342 437 208 19 xfs_bmap_free_item 89 288 24 144 xfs_log_ticket 717 966 184 21 xfs_ioend 726 896 120 32 rbd_segment_name 109 148 104 37 rbd_obj_request 1054 1452 176 22 rbd_img_request 1037 1472 120 32 ceph_osd_request 548 693 872 9 ceph_msg_data 1041 1540 48 77 ceph_msg 1197 1632 232 17 nfsd_drc 19323 33456 112 34 nfsd4_delegations 0 0 368 10 nfsd4_stateids 855 1024 120 32 nfsd4_files 802 1050 128 30 nfsd4_lockowners 0 0 384 10 nfsd4_openowners 15 50 392 10 rpc_inode_cache 27 30 640 6 rpc_buffers 8 8 2048 2 rpc_tasks 8 15 256 15 fib6_nodes 22 59 64 59 pte_list_desc 0 0 32 112 ext4_groupinfo_4k 722 756 136 28 ext4_inode_cache 3362 3728 968 4 ext4_xattr 0 0 88 44 ext4_free_data 0 0 64 59 ext4_allocation_context 0 0 136 28 ext4_prealloc_space 42 74 104 37 ext4_system_zone 0 0 40 92 Cache Num Total Size Pages ext4_io_end 0 0 64 59 ext4_extent_status 1615 5704 40 92 jbd2_transaction_s 30 30 256 15 jbd2_inode 254 539 48 77 ........
发现这两项值很高： xfs_ili xfs_inode 占用了大量的内存。
3.使用slabtop命令查看内核slab 缓冲区信息
#slabtop -s c | head Active / Total Objects (% used) : 31807723 / 35664583 (89.2%) Active / Total Slabs (% used) : 3259180 / 3259251 (100.0%) Active / Total Caches (% used) : 139 / 227 (61.2%) Active / Total Size (% used) : 11242773.43K / 12756788.05K (88.1%) Minimum / Average / Maximum Object : 0.02K / 0.36K / 4096.00K OBJS ACTIVE USE OBJ SIZE SLABS OBJ/SLAB CACHE SIZE NAME 8480676 7565420 89% 1.00K 2120169 4 8480676K xfs_inode 8351794 7565375 90% 0.22K 491282 17 1965128K xfs_ili
xfs_ili 占用1965128k xfs_inode占用8480676K，但他们究竟是什么东东？猜测是nas/rbd 卷的文件系统缓存信息。xfs_inode看字面意思是xfs文件系统的inode信息。
搜了下xfs_ili，只搜到内核代码片段。
xfs_inode_zone =
1636 kmem_zone_init_flags(sizeof(xfs_inode_t), "xfs_inode",
1637 KM_ZONE_HWALIGN | KM_ZONE_RECLAIM | KM_ZONE_SPREAD,
1638 xfs_fs_inode_init_once);
1639 if (!xfs_inode_zone)
1640 goto out_destroy_efi_zone;
1641
1642 xfs_ili_zone =
1643 kmem_zone_init_flags(sizeof(xfs_inode_log_item_t), "xfs_ili",
1644 KM_ZONE_SPREAD, NULL);
28 typedef struct xfs_inode_log_item {
29 xfs_log_item_t ili_item; /* common portion */
30 struct xfs_inode *ili_inode; /* inode ptr */
31 xfs_lsn_t ili_flush_lsn; /* lsn at last flush */
32 xfs_lsn_t ili_last_lsn; /* lsn at last transaction */
33 unsigned short ili_lock_flags; /* lock flags */
34 unsigned short ili_logged; /* flushed logged data */
35 unsigned int ili_last_fields; /* fields when flushed */
36 unsigned int ili_fields; /* fields to be logged */
37 struct xfs_bmbt_rec *ili_extents_buf; /* array of logged
38 data exts */
39 struct xfs_bmbt_rec *ili_aextents_buf; /* array of logged
40 attr exts */
41 xfs_inode_log_format_t ili_format; /* logged structure */
42 } xfs_inode_log_item_t;
分析加估计是文件系统的日志缓存。究竟是不是？目前nfs-server有14个卷，每个卷的在格式化xfs的时指定的参数(即日志大小)-l=128m 14*128*1024 约等于1965128。
4.但是xfs_ili xfs_inode两者加起来才10G，还有50G去哪儿了呢？查资料说linux将用过的文件缓存到内存中。
执行下面的命令就释放了内存
#sync # 刷到磁盘 #echo 3 > /proc/sys/vm/drop_caches
5.总结：是不是由于内存少导致的性能变差，还在测试。不过以后在优化nfs-server端有一定的指导意义。卷越多，必然占用的内存越多。做机头的内存配置要高。
