测试 Linux 的可靠性——Linux Technology Center 评估 Linux 的长期可靠性

Li Ge (lge@us.ibm.com), 助理软件工程师, Linux Technology Center, IBM
Linda Scott (lindajs@us.ibm.com), 高级软件工程师, Linux Technology Center, IBM
Mark VanderWiele (markv@us.ibm.com), 高级技术人员, Linux Technology Center, IBM

2004 年 2 月

本文记录了 Linux 内核和其他核心 OS 组件的测试结果与分析，从库和设备驱动程序到文件系统和网络，测试范围无所不含，所有的测试都是在相当不利的条件下进行，并且经历了很长的时间。IBM Linux Technology Center 刚刚结束了这次长达三个多月的全面测试，并将他们的 LTP (Linux Test Project) 测试结果与 developerWorks 的读者共享。

IBM Linux Technology Center (LTC) 成立于 1999 年 8 月，想让 Linux 成功的共同梦想使其与 Linux 开发团体直接合作。它的 200 多名员工使之成为开放源代码开发者的较大团队组织之一。他们提供的代码范围包括，从补丁到结构化的内核改变，从文件系统和国际化工作到 GPL'd 驱动程序。他们还致力于追踪 IBM 内部进行的 Linux 相关开发。

LTC 尤其感兴趣的领域是 Linux 可扩展性、适用性、可靠性和系统管理 —— 所有的目的都是为了使 Linux 更适用于企业。他们为 Linux 团体所做出了诸多贡献，包括使 Linux 可以工作于 S/390 主机，将 JFS 日志文件系统移植到 Linux，等等。

LTC 的另一项核心任务是，以测试商业项目的方式在实验室条件下对 Linux 进行专业的测试。LTC 与 SGI、OSDL、Bull 和 Wipro Technologies 一道促成了 LTP Linux 测试项目（LTP）。下面是经过 LTP 套件在 Linux 内核上超长时间全面测试得到的结果。如您所猜，Linux 极好地承受了持续的压力的考验。

Linux 可靠性度量

目标
对 IBM Linux Technology Center 来说，Linux 可靠性工作的目标是，使用 LTP 测试套件对 Linux 操作系统进行超长时间的测试，重点在于 Linux 用户环境相关的工作负荷（参阅 参考资料 以深入了解 LTP）。而并不是致力于证明缺陷。

测试环境概述
本文描述的是使用 LTP 测试套件进行的 30 天与 60 天的 Linux 可靠性度量测试的测试结果和分析。测试以 SuSE Linux Enterprise Server v8 (SLES 8) 作为测试内核，以 IBM pSeries 服务器作为测试硬件。使用的是一个特别设计的 LTP 压力测试场景，在使用网络与内存管理的同时并行地运行大范围的内核组件，并在测试系统上生成高工作负荷压力。Linux 内核、TCP、NFS 和 I/O 测试组件以重工作负荷压力为目标。

测试

30 天
pSeries 30 天 LTP 压力执行结果

• 机器：p650 LPAR
• CPU：(2) Power4- 1.2 GHz
• 内核：Linux 2.4.19-ull-ppc64-SMP (SLES 8 SP 1)
• LTP 版本：20030514
• 99.00% 平均 CPU 利用率（用户：48.65%，系统：50.35%）
• 80.09% 平均内存利用率（8GB）

观测结果：

• 在 p650 LPAR 上 SLES 8 PPC64 30 天压力运转成功完成。
• 测试工具是 LTPstress。测试用例以并行和串行方式执行。
• 内核、TCP、NFS 和 I/O 测试组件都以重工作负荷压力为目标。
• 成功率：97.88%。
• 没有严重的系统故障。

图 1. 30 天 LTP 压力执行结果

60 天
60 天 LTP 压力执行结果：pSeries

• 机器：B80
• CPU：(2) Power3- 375 MHz
• 内核：Linux 2.4.19-ull-ppc64-SMP (SLES 8 SP 1)
• LTP 版本：20030514
• 99.96% 平均 CPU 利用率（用户：75.02%，系统：24.94%）
• 61.69% 平均内存利用率（8GB）
• 3.86% 平均交换分区利用率（1GB）

观测结果：

• 在 pSeries B80 上 SLES 8 PPC64 60 天压力运转成功完成。
• 测试工具是 LTPstress。测试用例以并行和串行方式执行。
• 内核、TCP、NFS 和 I/O 测试组件以重工作负荷压力为目标。
• 成功率：95.12%。
• 没有严重的系统故障。

图 2. 60 天 LTP 压力执行结果

测试基础设施

硬件与软件环境
表 1 列出了硬件环境。

表 1. 硬件环境

pSeries 630 Model 7026-B80 和 pSeries 650 (LPAR) Model 7038-6M2 上的软件环境是相同的。表 2 列出了软件环境。

表 2. 软件环境

方法学
系统的稳定性和可靠性通常以连续运转时间和系统的可靠运行时间来度量。

最初运行的是一组为期 30 天的基线运转，然后增加到 60 天和 90 天的 xSeries 和 pSeries 服务器上的 Linux 测试运转。初始重点在于内核、网络和 I/O 测试。

测试工具
Linux Test Project（即 LTP；参考资料 中有链接和更多信息）是 SGI、IBM、OSDL、Bull 和 Wipro Technologies 合作的项目，目的是为开放源代码团体提供测试套件，以测试 Linux 的可靠性、健壮性和稳定性。Linux Test Project 是测试 Linux 内核和相关部件的工具的集合。目的是通过使内核测试工作自动化来帮助改进 Linux 内核。

当前，在 LTP 套件中有超过 2000 个测试用例，涵盖了内核的大多数接口，比如系统调用、内存、IPC、I/O、文件系统和网络。测试套件每月都会更新发布，可以运行于多种体系结构上。已知的 LTP 测试套件测试过的体系结构有 11 种，包括 i386、ia64、PowerPC、PowerPC 64、S/390、S/390x (64bit)、MIPS、mipsel、cris、AMD Opteron 和嵌入式体系结构。我们的可靠性测试中使用的 LTP 版本是 20030524，这是当时可以获得的最新版本。

测试策略
在基线运转中有两个特别的阶段：一个 24 小时的“初始测试”，接下来是压力可靠性运转阶段，或者说是“压力测试”。

通过初始测试是开始测试的必要条件。初始测试包括 LTP 测试套件在硬件和操作系统上 24 小时的成功运转，这些硬件和操作系统将用于可靠性运转。LTP 测试套件包附带的驱动程序脚本 runalltest.sh 用于验证内核。这个脚本串行地运行一组成包的测试，并报告全部结果。也可以选择同时并行地运行几个实例。默认地，这个脚本执行：

• 文件系统压力测试。
• 硬盘 I/O 测试。
• 内存管理压力测试。
• IPC 压力测试。
• 调试器测试。
• 命令功能的验证测试。
• 系统调用功能的验证测试。

压力测试可以验证产品在系统高使用率时的健壮性。作为 runalltest.sh 的补充，特别设计了一个名为 ltpstress.sh 的测试场景，在使用网络与内存管理的同时并行地运行大范围的内核组件，并在测试系统上生成高压力负荷。ltpstress.sh 也是 LTP 测试套件的一部分。这个脚本并行地运行相似的测试用例，串行地运行不同的测试用例，这样做是为了避免由于同时访问同一资源或者互相干扰而引起的间歇性故障。默认地，这个脚本执行：

• NFS 压力测试。
• 内存管理压力测试。
• 文件系统压力测试。
• 数学 (浮点) 测试。
• 多线程压力测试。
• 硬盘 I/O 测试。
• IPC (pipeio, semaphore) 测试。
• 系统调用功能的验证测试。
• 网络压力测试。

系统监控
LTP 测试套件附带的修改过的 top 工具用作系统监控工具。使用 top 可以实时地观察处理器的行为。改进的 top 工具具有附加的功能，可以将 top 结果的快照保存到文件中，并给出结果文件的平均总结，包括 CPU、内存和交换空间利用率等信息。

在我们的测试中，每 10 秒钟截取一次系统利用率（或者 top 输出文件）的快照，并保存到结果文件。另外，每天或每周要处理系统利用率的快照和 LTP 测试输出文件并得到数据分数，以确定系统在长时间运转中性能是否下降。此功能由 cron 作业和脚本控制。

测试之前
所有选定的测试系统的硬件配置尽可能相同。去掉了额外的硬件以减少潜在的硬件故障。在映像安装过程中选择最低的安全选项。预留至少 2 GB 的硬盘空间以保存 top 数据文件和 LTP 日志文件。

注意，这是一个测试场景；现实生活中，最好建议用户保持安全设置远高于最低设置。

测试期间
在测试期间系统不要受到干扰。偶尔访问一下系统以确认测试仍在进行是可以接受的。确认的手段包括使用 ps 命令、检查 top 数据和检查 LTP 日志数据。

测试之后
当测试结束后，系统监控工具 top 立刻停止。所有的 top 数据文件，包括每天或每周的快照和 LTP 日志文件，都被保存并处理，以便为分析提供数据。

结束语
本文论述的结果基于一个在实验室环境下创建并测试的解决方案。这些结果可能并不是在所有的环境中都可以得到，而且在这种环境中实现可能还需要另外的步骤、配置和性能分析。

然而，由于大部分的 Linux 内核测试工作历时都比较短，因此本系列测试为我们提供了长时间运转的第一手数据和结果。本系列测试还提供了高工作负荷压力下 Linux 内核组件以及 TCP、NFS 和其他测试组件的数据。测试证明，Linux 系统在长时间内是可靠的和稳定的，可以提供一个健壮的、企业级的环境。

参考资料

• 在 SourceForge 的 LTP Linux Test Project 主页 和 LTP 项目主页 可以找到有用的信息和链接。
  
  
• 项目的文档包括 LTP HowTo 和 LTP man pages（还有其他文档）。
  
  
• LTP 网页还提供了关于其他 Linux 测试工具 的摘要和链接。
  
  
• 访问 IBM Linux Technology Center 主页 以阅读他们最新的新闻和声明。
  
  
• IBM Linux Technology Center 项目主页 列出了工作组当前正在进行的项目。
  
  
• “Inside IBM's Linux Technology Center”（ITworld.com）和“Inside IBM: Dan Frye and the Linux Technology Center”（Consulting Times） 两篇文章更深入地介绍了 IBM LTC 的背景。
  
  
• IBM developerWorks 文章“Behind the scenes at the IBM Linux Technology Center” 也对 IBM Linux Technology Center 进行了描述。
  
  
• 在 IBM developerWorks Linux 专区 可以找到更多的关于 Linux 的开发资料。