轻松掌握Linux文本处理三剑客grep、awk 和sed

liuian 2025-05-23 18:30 66 浏览

为什么要学习 Shell 脚本语言？

现代的互联网架构底层系统几乎都是基于 Linux 操作系统构建的，Linux 的核心价值在于提供了强大的系统内核功能进行文件管理和信息交互管理。

而 Shell 则是软件研发人员高效控制和使用 Linux 的工具和桥梁。Shell 本身是 C 语言编写的系统软件，通常也叫命令行工具。它具有一个基础的界面，用户在这个界面通过 Shell 脚本语言（Shell Script）来访问 Linux 操作系统内核服务。

Tips：尽管通常我们把「Shell」和「Shell 脚本语言」都叫做 “Shell”，但其实这两者是有本质区别的。

在科幻电影里，我们经常看到在暗色调的屏幕上 Shell 脚本代码在快速滚动，这简直成为了 Geek／Hacker 的一个形象标签。而实际工作中，Shell 也备受开发、运维、测试人员甚至运营人员的青睐，几乎是 IT 技术人员的必备技能。在软件测试技术领域，Shell 脚本编程更是自动化测试技术的基石，是测试开发工程师的必备技能。

Shell 脚本语言编程有哪些优势呢？

Shell 脚本语言的优势在于能够以最轻量级最快捷的速度处理 Linux 操作系统偏底层的业务。比如软件的自动化安装、更新版本，监控报警，日志分析等。虽然其他高级编程语言如 PHP、Python、Ruby 等语言也能做到，但是效率和开发成本上会大打折扣，所谓“杀鸡用牛刀”，有点得不偿失。

成熟的技术人会摒弃华而不实的方法，而会根据不同的场景选择最合适的工具去解决问题，朴实而高效。比如本文着重介绍的 Linux 三剑客：grep、awk 和 sed 就是 Linux 文本处理问题的最高效工具。

下面，我们将依次介绍 Linux 文本处理三剑客的基础语法，使用场景和特性，以及给出对应的实战演练题目。

Shell 编程环境安装

Windows 用户，建议安装 Git Bash 软件。
Mac 用户，建议安装 iterm2 软件。
ssh 工具

霍格沃兹测试学院的学员可以用自己的帐号登录
ssh 手机号码后8位@shell.testing-studio.com
没有 ssh 账号的可以临时用
ssh hogwarts2019@shell.testing-studio.com

演练文档：http://testerhome.com/tmp/nginx.log 保存了一份一天的 Nginx 访问 log。

Linux 三剑客介绍

grep：主要用于文本内容查找，支持正则表达式。
awk：主要用于文本内容的分析处理，也常用于处理数据，生成报告，非常适用于需要按列处理的数据。（现在很多Linux使用gawk）
sed：全称为 Stream editor ，主要用于文本内容的编辑，默认只处理模式空间，不改变原数据，而且 sed 使用逐行读取的方式处理数据。

grep

grep 示例 Shell 脚本代码

grep 实战演练题目

找出 nginx.log 中所有 404 和 503 报错的 log 数据，取出前 3 条数据，把命令贴到回复里。
找出 testerhome 首页的所有 http 和 https 的链接。

awk

awk 示例 Shell 脚本代码

ps | awk 'BEGIN{print "start"}{print $0}END{print "end"}' awk '/ 404 | 500 /' /tmp/nginx.log echo '1 2 3 4 5' | awk '/2/,/4/' echo '1 2 3 4 5' | awk '$0>3' ps | awk 'NR>1' ps | awk '{print $NF}' echo $PATH | awk 'BEGIN{RS=":"}{print $0}' | grep -v "^#34; | awk 'BEGIN{FS="\n";ORS=":"}{print $0}END{printf "\n" }' echo '1,10 2,20 3,30' | awk 'BEGIN{a=0;FS=","}{a+=$2}END{print a,a/NR}' awk 'BEGIN{print 33*20*76/200/3}' echo "123|456_789" | awk 'BEGIN{FS="\\||_"}{print $2}' echo "123|456_789" | awk "BEGIN{FS=\"\\\\||_\"}{print \$2}" #尽量使用单引号

awk 实战演练题目