- 第十一章、深入理解linux文件系统与日志分析
- 一、inode与block
- 二、inode的内容
- 1）inode包含文件的元信息
- 2）用命令可以查看某个文件的inode信息
- stat
- 3）Linux系统文件三个主要的时间属性
- ==面试题：==
- 三、inode的号码
- 四、inode的大小
- 1、inode也会消耗硬盘空间
- 2、硬盘分区后的结构
- 3、特有的现象：
- ==面试题==
- 五、链接文件
- 六、inode节点耗尽故障处理
- 七、文件误删恢复
- 1.EXT文件类型恢复–extundelete
- 八、日志文件
- 1.日志文件的分类
- 2.主要日志保存文件介绍
- 3.日志消息级别及格式
- 九、用户日志分析
- 十、程序日志分析
- 十一、日志管理策略
- 总结
inode和block概述
文件数据包括元信息与实际数据
文件存储在硬盘上，硬盘最小存储单位是"扇区"，每个扇区存储512字节
block（块）
-
连续的八个扇区组成一个 block（4K）
-
是文件存取的最小单位
inode （索引节点）
- 中文译名为"索引节点"，也叫i节点
- 用于存储文件元信息
知识拓展
文件是存储在硬盘上的，硬盘的最小存储单位叫做"扇区"（sector），每个扇区存储512字节。
一般连续八个扇区组成一个"块"（block），一个块是4K大小，是文件存取的最小单位。操作系统读取硬盘的时候，是一次性连续读取多个扇区，即一个块一个块的读取的。
文件数据包括实际数据与元信息（类似文件属性）。文件数据存储在"块"中，存储文件元信息（比如文件的创建者、创建日期、文件大小、文件权限等）的区域就叫做inode。因此，一个文件必须占用一个 inode，并且至少占用一个 block。 inode不包含文件名。文件名是存放在目录当中的。Linux 系统中一切皆文件，因此目录也是一种文件。
每个inode都有一个号码，操作系统用inode号码来识别不同的文件。Linux系统内部不使用文件名，而使用inode号码来识别文件。对于系统来说，文件名只是inode号码便于识别的别称，文件名和inode号码是一一对应关系，每个inode号码对应一个文件名。
所以，当用户在Linux系统中试图访问一个文件时，系统会先根据文件名去查找它对应的inode号码; 通过inode号码，获取inode信息; 根据inode信息，看该用户是否具有访问这个文件的权限;如果有，就指向相对应的数据block，并读取数据。
注：一个文件必须占用一个inode，但至少也占用一个block
二、inode的内容 1）inode包含文件的元信息- 文件的字节数
- 文件拥有者的User ID
- 文件的Group ID
- 文件的读、写、执行权限
- 文件的时间戳
- 文件类型、连接数、其它文件属性信息
##两种方法 ls -i 文件名 stat 文件名3）Linux系统文件三个主要的时间属性
- atime (accesstime):当使用这个文件的时候就会更新这个时间。
- mtime (modification time) :当修改文件的内容数据的时候，就会更新这个时间，而更改权限或者属性，mtime不会改变，这就是和ctime的区别。
- ctime (status time) :当修改文件的权限或者属性的时候，就会更新这个时间，ctime并不是create time，更像是change time，只有当更新文件的属性或者权限的时候才会更新这个时间，但是更改内容的话是不会更新这个时间。
touch /opt/abc.txt文件，提示空间满了，用df -hT查看磁盘空间，发现磁盘空间并没有满，甚至只用了50%，问有哪些原因可能导致这个现象。==
1、有删除的进程占用磁盘空间 2、inode节点满了三、inode的号码
1、用户通过文件名打开文件时，系统内部的过程
- 系统找到这个文件名对应的inode号码
- 通过inode号码，获取inode信息
- 根据inode信息，找到文件数据所在的block，读出数据
2、访问文件的简单流程
四、inode的大小 1、inode也会消耗硬盘空间- 每个inode的大小一般是128字节或256字节
格式化文件系统时确定inode的总数
使用df -i命令可以查看每个硬盘分区的inode总数和已经使用的数量
2、硬盘分区后的结构每个inode节点的大小，一般是128字节或256字节。inode节点的总数，在格式化时就给定了，一般是每1KB或每2KB就设置一个inode。假定在一块1GB的硬盘中，每个inode节点大小为128字节，每1KB就设置一个inode，那么inode table的大小就会达到128MB，占整块硬盘12.8%。
3、特有的现象：由于inode号码与文件名分离，导致Linux系统具备以下几种特有现象
1.文件名包含特殊字符，可能无法正常删除。这时直接删除inode，能够起到删除文件的作用；
2.移动文件或重命名文件，只是改变文件名，不影响inode号码；
3.打开一个文件以后，系统就以inode号码来识别这个文件，不再考虑文件名。
4.文件数据被修改保存后，会生成一个新的inode号码。
find ./ -inum 52305140 -exec rm -i{};
find ./ -inum 50464299 -delete
注：如果你移动到挂载目录下，会发现inode号也会改变
面试题首先，监控告警磁盘利用率大于80号，df-hT发现/目录的磁盘占比最高->cd到/目录，然后使用du /find尝试删除，问题来了现象：删除了一个10G文件之后，使用df-hT发现磁盘使用率依然为80号以上，你会怎么解决
top/lsof查看僵尸进程kill杀死五、链接文件 六、inode节点耗尽故障处理
当inode号占满无可用时，可删除无用文件腾出空间，在系统最大inode节点上还有一定冗余空间。
七、文件误删恢复 1.EXT文件类型恢复–extundelete 八、日志文件日志保存位置默认位于：/var/log目录下
日志的功能： 用于记录系统、程序运行中发生的各种事件；通过阅读日志，有助于诊断和解决系统故障。
内核及系统日志:由系统服务rsyslog统一管理，格式基本相似；主要配置文件为：/etc/rsyslog.conf
用户日志：记录系统用户登录及退出系统的相关信息
程序日志:由各应用程序独立管理的日志文件，格式不统一
vim /etc/rsyslog.conf查看rsyslong系统管理的日志文件信息
内核及公共消息日志： /var/log/messages
记录Linux内核消息及各种应用程序的公共日志信息，包括启动、Io错误、网络错误、程序故障等。对于未使用独立日志文件的应用程序或服务，一般都可以从该日志文件中获得相关的事件记录信息
计划任务日志： /var/log/cron
记录crond计划任务产生的事件信息
系统引导日志： /var/log/dmesg
记录Linux系统在引导过程中的各种事件信息
邮件系统日志： /var/log/maillog
记录进入或发出系统的电子邮件活动
用户登录日志： /var /log/lastlog
记录每个用户最近的登录事件,二进制格式
/var/log/secure：
记录用户认证相关的安全事件信息
/var/log/wtmp：
记录每个用户登录、注销及系统启动和停机事件,二进制格式
/var/run/btmp：
记录失败的、错误的登录尝试及验证事件,二进制格式
Linux系统内核日志消息的优先级别(数字等级越小，优先级越高，消息越重要)
| 级号 | 消息 | 级别 | 说明 |
|---|---|---|---|
| 0 | EMERG | 紧急 | 会导致主机系统不可用的情况 |
| 1 | ALERT | 警告 | 必须马上采取措施解决的问题 |
| 2 | CRIT | 严重 | 比较严重的情况 |
| 3 | ERR | 错误 | 运行出现错误 |
| 4 | WARNING | 提醒 | 可能影响系统功能，需要提醒用户的重要事件 |
| 5 | NOTICE | 注意 | 不会影响系统但值得注意 |
| 6 | INFO | 信息 | 一般信息 |
| 7 | DEBUG | 调试 | 程序或系统调试信息等 |
日志文件基本格式
more /var/log/messages
时间标签+主机名+产生日志的服务或程序名+事件信息
时间标签: 消息发出的日期和时间
主机名: 生成消息的计算机的名称
子系统名称: 发出消息的应用程序的名称
消息: 消息的具体内容
九、用户日志分析1、保存了用户登录、退出系统等相关信息
-
/var/log/lastlog∶ 最近的用户登录事件
-
/var/log/wtmp∶ 用户登录、注销及系统开、关机事件
-
/var/run/utmp∶ 当前登录的每个用户的详细信息
-
/var/log/secure: 与用户验证相关的安全性事件
2、分析工具
- users、who、w、last、lastb
- last 命令用于查询成功登录到系统的用户记录
- lastb 命令用于查询登录失败的用户记录
1、保存了用户登录、退出系统等相关信息
-
程序日志由相应的应用程序独立进行管理
-
Web服务: /var/log/httpd/
- access_log 记录用户访问事件
error_log 记录错误事件
- access_log 记录用户访问事件
-
代理服务: /var/log/squid/
- access.log、cache.log
-
ftp服务：/var/log/xferlog
2、分析工具
- 文本查看(cat、more、head、less等)、Webmin管理套件中查看
- grep、awk、sed等文本过滤、格式化编辑工具
- Webalizer、Awstats等专用日志分析工具
1、及时作好备份和归档
2、延长日志保存期限
3、控制日志访问权限
- 日志中可能会包含各类敏感信息，如账户、口令等
4、集中管理日志
- 将服务器的日志文件发到统一的日志文件服务器
- 便于日志信息的统一收集、整理和分析
- 杜绝日志信息的意外丢失、恶意篡改或删除
1.硬盘最小存储扇区为512字节，一个block块由8个扇区组成，block块是文件存取最小单位=4k
2.一个文件对应一个inode号，分区中inode号总数等于文件最大存储数
3.inode用于存储元信息，元信息包含除文件名以外，文件的所有属性信息
4.一个inode对应至少一个block块；文件数据存储在block块中，文件属性存在inode
5.ext文件恢复时一定要对分区进行卸载，防止数据覆盖无法找回
6.XFS文件恢复需要提前备份，建议使用计划任务，定时备份重要文件
7.日志文件利于诊断和解决系统故障
8.日志文件每天都在生产，需要注意及时清理，合理安排日志保存期限并备份日志信息
节，一个block块由8个扇区组成，block块是文件存取最小单位=4k
2.一个文件对应一个inode号，分区中inode号总数等于文件最大存储数
3.inode用于存储元信息，元信息包含除文件名以外，文件的所有属性信息
4.一个inode对应至少一个block块；文件数据存储在block块中，文件属性存在inode
5.ext文件恢复时一定要对分区进行卸载，防止数据覆盖无法找回
6.XFS文件恢复需要提前备份，建议使用计划任务，定时备份重要文件
7.日志文件利于诊断和解决系统故障
8.日志文件每天都在生产，需要注意及时清理，合理安排日志保存期限并备份日志信息
