知识大全 用于Linux的日志文件系统
Posted 文件
篇首语:尺有所短;寸有所长。物有所不足;智有所不明。本文由小常识网(cha138.com)小编为大家整理,主要介绍了知识大全 用于Linux的日志文件系统相关的知识,希望对你有一定的参考价值。
用于Linux的日志文件系统 以下文字资料是由(全榜网网www.cha138.com)小编为大家搜集整理后发布的内容,让我们赶快一起来看一下吧!
最近 个月以来 Linux已经巩固了其作为服务器操作系统的地位 就像集群(cluster)对于企业级的应用很重要那样 日志文件系统(journaling file system)也是同样重要的 为什么日志文件系统很重要呢?它是怎样工作的呢?有哪些日志文件系统可以用于Linux? 日志文件系统比传统的文件系统安全 因为它用独立的日志文件跟踪磁盘内容的变化 就像关系型数据库(RDBMS) 日志文件系统可以用事务处理的方式 提交或撤消文件系统的变化 Ext 不能满足要求 尽管Linux可以支持种类繁多的文件系统 但是几乎所有的Linux发行版都用ext 作为默认的文件系统 Linux可以支持的文件系统有 FAT VFAT HPFS(OS/ ) NTFS(Windows NT) Sun的UFS 等等 ext 的设计者主要考虑的是文件系统的效率和性能方面的问题 ext 在写入文件内容的同时并没有同时写入文件的meta data(和文件有关的信息 例如 权限 所有者以及创建和访问时间) 换句话说 Linux先写入文件的内容 然后等到有空的时候才写入文件的meta data 如果在写入文件内容之后但在写入文件的meta data之前 突然断电了 文件系统就会处于不一致的状态 在一个需要大量文件操作的系统中(例如 像Hotmail这样的免费的Web e mail) 出现这种情况会导致很严重的后果 日志文件系统可以帮助解决这个问题 假定你正在更新一个目录项(directory entry) 你已经在这个巨大的目录项的第五个文件块(block)中改变了 个文件项(file entry) 当正在写这个文件块的时候突然间断电了 这个文件块还没有写完 也就是被损坏了 重新启动的时候 Linux(就像其它的Unix)会运行一个叫做 fsck (file system check)的程序 扫描整个文件系统 保证所有的文件块都被正确地分配或使用 它将找到这个被损坏的目录项并试图修复它 但是不能够保证fsck一定能够修复损坏 修复不了是经常的事 所以 当出现上面那种情况 目录项中所有的文件项可能会丢失 也就造成文件的丢失 如果文件系统很大 fsck扫描要费很长时间 在一个有数十亿个文件的计算机上 fsck可能要运行 个小时以上 在这段时间内 系统是不可用的 也就是导致了很长的当机时间 日志文件系统可以避免这种情况 文件系统是怎样工作的? 文件系统通过为每个文件分配文件块的方式把数据存储在存储设备中 这样就要维护每一个文件的文件块的分配信息 而分配信息本身也要存在磁盘上 DOS和Windows的用户可能还记得FAT这种文件系统吧 不同的文件系统用不同的方法分配和读取文件块 有两种常用的文件系统的分配策略 块分配(block allocation)和扩展分配(extent allocation) 块分配当文件变大的时候每一次都为这个文件分配磁盘空间 而扩展分配则是当某个文件的磁盘空间不够的时候 一次性为它分配一连串连续的块 传统的Unix文件系统使用的块分配的机制提供了一个灵活而高效的文件块分配策略 磁盘上的文件块根据需要分配给文件 这样可以减少存储空间的浪费 当一个文件慢慢变大的时候 就会造成文件中文件块的不连续 这就导致了过多的磁盘寻道时间 当读取一个文件的时候有可能要随机而不是连续地读取文件块 这样的效率很低 可以通过优化文件块的分配策略(尽可能为文件分配连续的块)来避免文件块的随机分配 通过使用聪明的块分配策略 可以实现块的连续分配 这样就可以减少磁盘的寻道时间 但是 当整个文件系统的文件块的分配形成碎片的时候 就再也不可能连续分配了 每一次当文件扩展的时候 块分配的算法就要写入一些关于新分配的块所在位置的信息 如果每一次文件扩展的时候只增加一个块 那么就需要很多额外的磁盘I/O用来写入文件块的结构信息 文件块的结构信息也就是上面说的meta data meta data总是一起同时地写入存储设备的 这就意味着改变文件大小的操作要等到所有的meta data的操作都完成之后才能进行 因此 meta data的操作会显著地降低整个文件系统的性能 基于扩展(Extent based)的分配方式 扩展分配方式一次性为文件分配很多连续的块 当创建一个文件的时候 很多文件块同时被分配 当文件扩展的时候 也一次分配很多块 文件系统的meta data在文件创建的时候被写入 当文件的大小没有超过所有已分配的文件块的大小 就不用写入meta data (直到需要再分配文件块的时候) 这样可以优化磁盘寻道的方式 可以成组地分配块 有利于一次写一大批数据到存储设备中 这样就可以减少SCSI设备写数据的时间 基于扩展分配的文件系统在读取顺序文件的时候有很好的性能 因为文件块都是成组连续分配的 但是 如果I/O操作是随机的 基于扩展分配的文件系统的好处就非常有限了 例如 当我们要连续地读取一个基于扩展分配的文件的时候 我们只要读起始块号和文件长度就行了 然后 就可以连续地读取所有的文件块了 这样在顺序读取文件的时候 读meta data的开销就很小 反之 如果随机地读取文件 我们就要先查找每一个所需块的块地址然后再读取块的内容 这样就和块分配方式很象了 在ext 文件系统中 对写性能的增强是通过尽量延迟写的时间 这样就能一次写一大批数据而不是每次写一小点 随之而来的就是系统效率的提高 同样 当读的时候 ext 也是一次读取一整组的块 也就是采用预读策略 这样就能提高ext 文件系统的读性能 大量减少每次读取少量数据的I/O操作 文件块的组或块簇(block cluster)的大小是在编译的时候确定的 怎样设定簇的大小不是这篇文章所要介绍的内容 但是 可以这么说 簇的大小对文件系统的性能确实有很大的影响 而且簇的大小也是文件系统设计的时候需要考虑的一个很重要的方面 象Veritas这样的扩展分配的文件系统和象ext 这样的 成簇写 (write clustering)的文件系统 在默认情况下都使用 字节的块而不用 k字节的块 如果ext 用 k而不是 k字节的块 大概会有 %的性能提升 但是 为了减少被浪费的空间ext 文件系统的设计者建议使用 k字节的块 日志文件系统是怎样解决问题的? 先提醒你一下 这节标题可能容易导致误解 日志文件系统确实解决了上面提到的一些问题 但是又带来了新问题 日志文件的设计思想是跟踪文件系统的变化而不是文件系统的内容 为了更好地解释这个问题 下面我用ext 文件系统和日志文件系统举一个例子 当我们改变文件 test file 的内容的时候会出现什么情况?先假定 test file 的inode有四个数据块 用来保存 test file 文件的数据块的块号分别为 和 (因为在 和 之间的块已经分配给其它文件了 所以这些块不连续) 当硬盘要先找到 读两块 在跳到 再读两块 才能读取整个文件 假定你改变了第三块 文件系统会读取第三块 改变它 然后重新写入第三块 这一块还在 这个位置 如果你往文件中添加了一些内容 就要从别的地方另外分配一些空余的块 如果在日志文件系统中 情况就有所不同 日志文件系统不会改变第 块的内容 它会把 test file 的inode的一个拷贝和新的第三块保存到磁盘上 在内存中的inode列表需要更新 让 test file 使用新的inode 所有的变化 添加和改变需要被记录到一个文件系统中被称为 日志 的那部分中去 每隔一段时间 文件系统在 检查点 (check point)回更新在磁盘上的inode 并且释放文件中用不到的那些旧块(例如 test file 文件最初的第三块) 在系统崩溃之后 日志文件系统很快就能恢复 它需要恢复的只是日志中记录下来的很少的几块 当断电之后 fsck 只要用几秒钟的扫描时间 这就是我所说的解决了一些问题! 但是 文件系统为得到额外的安全也是要付出代价的 这就是系统开销 每一次更新和大多数的 日志 操作都需要写同步 这样就需要更多的磁盘I/O操作 系统管理员就面临这样一个问题 为了有一个更安全的文件系统值不值得牺牲一部分性能? 大多数系统管理员会根据实际情况作出决定 没有必要把 /usr 目录放在日志文件系统上因为 /usr 目录大部分是只读的操作 但是 可以考虑把 /var 或包含e mail spool文件的目录放在日志文件系统上 幸运的是在Linux系统中可以根据需要混合使用这些文件系统 日志文件系统还有一个问题就是更容易产生碎片 因为它的文件分配方式与众不同 很容易在文件系统中到处产生碎片 ext 文件系统也会产生碎片但是可能不会有这么严重 每个月定期把文件系统备份到磁带中然后重新恢复 不仅可以解决这问题 而且可以检查备份/恢复的过程是否正确 想得到一些好处 总是要付出一些代价的 不是吗? 可供选择的Linux日志文件系统 当我写这篇文章的时候 有两个日志文件系统还在开发 有三个日志文件系统可供使用 SGI的xfs()日志文件系统和Veritas()的文件系统和卷管理(volume manager) 这两个文件系统在五个月前就发布了 但是现在还不能得到源代码 SGI的xfs是基于Irix(SGI的Unix)上已经实现的xfs SGI已经宣布xfs为Open Source的软件 两个马上就可以得到的日志文件系统是reiserfs和IBM的jfs 这两文件系统都是开放源代码的而且很多有天赋的人在开发这两个文件系统 jfs(Journaled File System Technology for Linux)的开发者包括AIX(IBM的Unix)的jfs的主要开发者 在A cha138/Article/program/Oracle/201311/16650相关参考
Linux系统怎么隐藏文件夹和文件 以下文字资料是由(本站网www.cha138.com)小编为大家搜集整理后发布的内容,让我们赶快一起来看一下吧!Linux系统怎么隐
RedHat日志文件 以下文字资料是由(全榜网网www.cha138.com)小编为大家搜集整理后发布的内容,让我们赶快一起来看一下吧! 系统的那些讯息以及应该记录在
系统环境 操作系统WindowsServer机器内存M 数据库 OracleiR()forNT企业版 安装路径C:\\ORACLE 模拟现象 可通过重建数据文件来恢复前提是归档日
扫盲行动之:Linux下其它格式文件系统的自动挂装 以下文字资料是由(全榜网网www.cha138.com)小编为大家搜集整理后发布的内容,让我们赶快一起来看一下吧!
本篇文章是对php中将日志写进syslog的方法进行了详细的分析介绍需要的朋友参考下 在做项目的时候们为了方便运维我们经常需要将系统日志写入系统syslog下边我们就介绍一下在linux
很多时候由于种种原因数据库的警告日志(alert_<sid>log)文件会变得很大不方便查看在Unix/Linux上我们可以通过split命令把alert文件分割为较小的文件便于查看以上用
改默认编码 /etc/initd/mysqlstart(stop)为启动和停止服务器 /etc/mysql/主要配置文件所在位置f /var/lib/mysql/放置的是数据库表文件夹这里的
和sparc上的solaris相比Intelx上的solaris的另一个优点是在Intel架构的计算机之间有更加优良的互操作能力 由于嵌入Linux的软件二进制文件的系统调用被从新设计来和S
MSSQL清空日志删除日志文件 以下文字资料是由(全榜网网www.cha138.com)小编为大家搜集整理后发布的内容,让我们赶快一起来看一下吧! 最近的项目主要做数
SQLServer日志文件总结及日志满的处理 以下文字资料是由(全榜网网www.cha138.com)小编为大家搜集整理后发布的内容,让我们赶快一起来看一下吧! 交易