Linux三剑客grep、awk和sed

news/2024/2/22 19:18:28

grep,sed 和 awk是Linux/Unix 系统中常用的三个文本处理的命令行工具,称为文本处理三剑客。本文将简要介绍这三个命令的基本用法以及它们在Windows系统中的使用方法。

目录

  • 管道
  • grep
    • 定义
    • 选项参数
    • 实例1:查找文件内容,显示行号
    • 实例2:查找文件内容,不包含test1的行
    • 实例3:grep 正则表达式
    • 实例4:判断或者提取数字
    • 查看进程
  • sed
    • 定义
    • 选项
    • 常用命令
    • 实例1:打印并输出数据
    • 实例2:将匹配的行数据输出到指定文件
    • 实例3:新增、插入字符串
    • 实例4:删除匹配到的行或者匹配行后的n行
    • 实例5:全局替换
    • 实例6:修改文件
    • 实例7:横向连接
  • awk
    • 定义
    • 常用参数
    • 实例1:查找、打印
    • 实例2:BEGIN、END制表
    • 实例3:自定义分割符
  • 综合实例
    • 1、读取方括号里面的内容
  • 在Windows中grep、awk和sed

管道

在介绍这两个命令之前,有必要介绍一下Unix/Linux中管道(pipe)的概念。管道将一个命令/程序/进程的输出发送到另一个命令/程序/进程,以进行进一步处理。是一种进程间通信机制,使用管道符"|”将两个命令隔开,管道符左边命令的输出就会作为管道符右边命令的输入。

管道实现了数据在多个命令之间传递,不需要创建临时文件来传递,它是单向的,数据通过管道从左向右流动。

实例1:
cat test.txt | grep test1

$ cat test.txt | grep test1
test1
test111
test3 test1
test111
$ cat test.txt | grep test1 | grep test3
test3 test1
$

实例2:

$ cat test.txt | head -3
test1
test2
test3
$ cat test.txt | tail -5
test
testtest
rrrr
$ 

grep

定义

grep(Global Regular Expression Print) 命令用于搜索文件的特定模式,它不能增加、修改、删除文本内容,通常用于搜索过滤文本,显示被模式匹配到的行。使用正则表达式进行文本匹配(正则表达式参考文章《Python正则表达式》),它的使用权限是所有用户。

命令形式:
grep [OPTIONS] PATTERN [FILE...]

  • 扩展正则表达式(egrep)添加 -E 参数:grep -E [OPTIONS] PATTERN [FILE...]
  • -P参数可以让grep使用perl的正则表达式语法

选项参数

  • -v 或 --invert-match : 显示不被 pattern匹配到的行
  • -n 或 --line-number : 显示匹配的行号
  • -o 或 --only-matching :仅显示匹配到的字符串
  • -c 或 --count : 统计匹配的行数
  • -i 或 --ignore-case :忽略字符大小写
  • -m或–max-count:-m 1 : 匹配到1行后停止匹配
  • -A<显示行数> 或 --after-context=<显示行数> : 除了显示符合范本样式的那一列之外,并显示该行之后的内容。
  • -B<显示行数> 或 --before-context=<显示行数> : 除了显示符合样式的那一行之外,并显示该行之前的内容。
  • -C<显示行数> 或 --context=<显示行数> : 除了显示符合样式的那一行之外,并显示该行之前和之后的内容。

or操作:

  • grep 'pattern1\|pattern2'
  • grep -E 'pattern1|pattern2'
  • egrep 'pattern1|pattern2'

实例1:查找文件内容,显示行号

查找文件内容包含’test1’的行,显示行数

$ grep -n test1 test.txt 
1:test1
7:test111
9:test3 test1
11:test111
$ grep -o test1 test.txt  
test1
test1
test1
test1
$ grep -no test1 test.txt
1:test1
7:test1
9:test1
11:test1

实例2:查找文件内容,不包含test1的行

$ grep -nv test1 test.txt
2:test2
3:test3
4:test4
5:test5
6:test6
8:test2
10:test

实例3:grep 正则表达式

查找test1开头的行

$ grep -n ^test1 test.txt
1:test1
7:test111
11:test111

查找以1结尾的行

$ grep -n 1$ test.txt    
1:test1
7:test111
9:test3 test1
11:test111

实例4:判断或者提取数字

提取文本中的数字

$ cat test.txt
test123
456test
66
$ grep -Eo '[0-9]{1,}' test.txt
123
456
66
$ grep -o '[[:digit:]]*' <<< cat test.txt
123
456
66
$ cat test.txt | grep -o '[[:digit:]]*'
123
456
66

打印全为数字的行:

$ grep -Eo '^[0-9]{1,}*$' test.txt
66
$ grep -o '^[[:digit:]]*$' <<< cat test.txt
66
$ cat test.txt | grep -o '^[[:digit:]]*$'
66

判断某个变量是否为数字:

$ num='123'
$ grep '^[[:digit:]]*$' <<< $num
123

查看进程

$ ps -aux | grep chrome
root       5425  0.4  1.8 869280 34200 pts/0    Sl   Dec22  11:31 /opt/google/chrome/chrome --no-sandbox
root       5439  0.0  0.0 563592  1132 pts/0    S    Dec22   0:00 /opt/google/chrome/chrome --type=zygote --no-zygote-sandbox --no-sandbox
root       5440  0.0  0.1 563592  2836 pts/0    S    Dec22   0:06 /opt/google/chrome/chrome --type=zygote --no-sandbox
root       5441  0.0  0.0  26452   208 pts/0    S    Dec22   0:00 /opt/google/chrome/nacl_helper --no-sandbox
root       5442  0.0  0.0  26452   144 pts/0    S    Dec22   0:00 /opt/google/chrome/nacl_helper --no-sandbox

sed

定义

sed(Stream Editor)是一种流编辑器,一次处理一行内容,将行存储在模式空间(临时缓冲区),然后用sed命令处理模式空间中的内容,处理完成后将内容送入屏幕,然后清除模式空间,继续读入下一行,执行下一个循环,直到文件末尾。这个过程中不会改变文件内容(除了 -i 选项)。

命令形式:
sed [选项] [sed命令] [-f <script FILE>] [FILE]
查看帮助文档:

man sed
sed -h

选项

  • -h: 显示帮助信息
  • -n: 仅显示 script处理后的结果,常与sed命令p连用:sed -n 'p' test.txt 打印test.txt文件内容
  • -e:直接在指令列模式上进行 sed 的动作编辑,不修改原文件,输出到终端
  • -i:修改文件内容,而不输出到终端
  • -f filename : sed 动作写在filename 内,执行 filename 内的sed 动作
  • -r∶扩展正规表达式

常用命令

  • a:append,新增: sed -e '4 a newline' test.txt
  • c:change,取代: sed -e '2,5c No 2-5 number' test.txt
  • d:delete,删除: sed -e '2,5d' test.txt
    • sed -e '/^$/d' test.txt:删除test.txt文件空行
  • i:insert,插入: sed -e '2i newline' test.txt
  • p:print,打印:sed -n 'p' test.txt
  • s:substitute,替换: sed -e 's/old/new/g' test.txt
    • sed -e 's/$/%/' test.txt:在每行末尾添加%
    • sed -e 's/ *//g' test.txt: 删除test.txt文件空格
    • sed -e "4s;old;new;g" test.txt 或者 sed -e '4s/old/new/g' test.txt:替换第4行
  • N:将下一行添加到pattern space中,将当前读入行和用N命令添加的下一行看成“一行”

注意:

  1. 在替换操作中,替换时用的分割符 ‘/’ 可以使用其它符号代替,特别是替换的内容中有 ‘/’ 时,可以使用@、#、%等符号代替。
  2. grep和sed命令的正则表达式中不支持 \d ,可使用如下方式匹配数字:
    • sed -re 's/[0-9]+//g' test.txt
    • egrep '[0-9]+' test.txt grep -E '[0-9]+' test.txt

实例1:打印并输出数据

打印并输出第5行数据

$ sed -n '5p' test.txt
test5
$ cat -n test.txt | sed -n '5p' 5	test5
$ 

打印并输出第3-5行数据

$ sed -n '3,5p' test.txt
test3
test4
test5

取反,不选择第3到5行数据

$ sed -n '3,5!p' test.txt
test1
test2

隔行输出

$ sed -n '1~2p' test.txt
test1
test3
test5
$ sed -n '1~3p' test.txt
test1
test4
$ 

实例2:将匹配的行数据输出到指定文件

$ 累加
sed -n '1~2p' test.txt >> a.log
$ 覆盖
sed -n '1~3p' test.txt > a.log 
$ sed -n '1~2p' test.txt>> a.log
$ cat a.log
test1
test3
test5
$ sed -n '1~3p' test.txt > a.log 
$ cat a.log
test1
test4
$ 

实例3:新增、插入字符串

在第2行后加上 newLine

$ sed '2 a newline' test.txt
test1
test2
newline
test3
test4
test5
$ 

在第2行前加上 newline

$ sed '2 i newline' test.txt
test1
newline
test2
test3
test4
test5

实例4:删除匹配到的行或者匹配行后的n行

介绍两种方法来删除某一行的内容,一种是使用替代(substitute)的方法:
删除匹配到test3的那一行

$ sed -e 's/test3.*//g' test.txt
test1
test2test4
test5

删除匹配行及后一行

$ sed -e 'N;s/test3.*//g' test.txt
test1
test2test5

这种方法会留一个空行,可以进一步使用命令sed -e '/^$/d' test.txt命令删除空行。

第二种方法是使用删除(delete)命令:

$ sed -e '/test3.*/d' test.txt
test1
test2
test4
test5

也可以删除匹配到的行及匹配行后的n行

$ sed -e '/test2.*/,+2d' test.txt
test1
test5

实例5:全局替换

将所有的test2替换为test222

$ sed -e 's/test2/test222/g' test.txt
test1
test222
test3
test4
test5
$ sed -e 's/test2/test222/' test.txt
test1
test222
test3
test4
test5

替换某一行:替换test1开头的所在行
test2.txt内容:

$ cat test2.txt
hello world !
test1 test2 test2
test1
test2
test3 
# 方法1:c参数,替换某一行
$ sed "2c hello" test2.txt
hello world !
hello
test1
test2
test3 
$ sed "3c hello" test2.txt
hello world !
test1 test2 test2
hello
test2
test3 
# 方法2:s参数替换
$ sed 's/^test1.*$/hello/' test2.txt
hello world !
hello
hello
test2
test3 

获取第1个括号匹配的内容:

$ cat test.txt
<argument>e001b3fc14e3f3c1278b45fad750361b64d955841b795245adb1b61a013b749f</argument>

获取argument标签中的内容

$ sed -e 's/.*<argument>\([a-z0-9]*\).*/\1/' test.txt
e001b3fc14e3f3c1278b45fad750361b64d955841b795245adb1b61a013b749f

实例6:修改文件

前面的新增、替换操作都没有改变文件内容,如果要使文件修改生效,需要使用 -i 选项。

$ sed -i 's/test2/test222/' test.txt
$ cat test.txt 
test1
test222
test3
test4
test5
$ 

实例7:横向连接

将匹配到的对象横向连接

比如我们需要杀掉某个服务有多个进程:

[root@Server ~]# ps -ef | grep named | grep -v grep
root       7136      1  0 1月22 ?       00:00:54 /var/bin/named -c /var/named/named.conf
root       7690      1  0 1月21 ?       00:01:02 /var/bin/named -c /var/named/named.conf

使用命令 kill -9 7136 7690来杀掉这两个进程,使用如下命令实现连接这两个进程的ID:

kill -9 $(ps -ef | grep named | grep -v grep | awk '{print $2}') | sed ':1;N;s/\n/ /g;t1'

关键命令为 sed ':1;N;s/\n/ /g;t1',将换行替换为空格。

awk

定义

awk是一种文本模式扫描和处理的编程语言,由 Aho, Weinberger 和 Kernighan开发。awk功能强大,可用于数据提取和统计,常用在shell脚本中。awk逐行读入文件,以空格为默认分隔符将每行切片,切开的部分再进行后续处理。

命令形式:
awk [options] 'pattern action' [FILE(s)]

  • pattern:正则表达式
  • action:对匹配到的内容执行的命令(默认为输出每行内容)

常用参数

  • $0: 整条记录(当前行)
  • $1 - $n: 表示当前行的第n个域
  • FILENAME: awk浏览的文件名
  • BEGIN: 处理文本之前要执行的操作
  • END: 处理文本之后要执行的操作
  • FS: 设置输入域分隔符,等价于命令行 -F 选项,默认为空格“ ”
    • awk -F: '{print $1}' test.txt
    • 或者 awk 'BEGIN {FS = ":"} {print $1}' test.txt
  • NF: 浏览记录的域的个数/列数
  • NR: 已读的记录数/行数
  • FNR: 当前输入文件的记录数
  • OFS: 输出域分隔符,默认为空格“ ”
  • ORS: 输出记录分隔符,默认为“\n”
  • RS: 控制记录分隔符
  • exit:匹配到第一行内容后退出:awk -F: '{print $2;exit}' test.txt ,grep使用 -m 参数

实例1:查找、打印

搜索/etc/passwd有root关键字的所有行

$ awk -F : '/root/ {print $0}' /etc/passwd
root:x:0:0:root:/root:/bin/bash
operator:x:11:0:operator:/root:/sbin/nologin
$
$ awk -F : '/root/ {print $7}' /etc/passwd
/bin/bash
/sbin/nologin

打印etc/passwd/的第二行信息

$ awk -F : 'NR==2 {print $0}' /etc/passwd
bin:x:1:1:bin:/bin:/sbin/nologin
$

实例2:BEGIN、END制表

使用 begin加入标题

$ awk -F : 'BEGIN {print "No", "User", "Auth"} {print NR "|" $1 "|" $2} END {print FILENAME}' /etc/passwd
No User Auth
1|root|x
2|bin|x
3|daemon|x
4|adm|x
5|lp|x
6|sync|x
7|shutdown|x
8|halt|x
9|mail|x
.................
28|nscd|x
29|exim|x
/etc/passwd

实例3:自定义分割符

$ echo "123|456|789"
123|456|789
$ echo "123|456|789" | awk 'BEGIN{RS="|"}{print $0}'
123
456
789

综合实例

1、读取方括号里面的内容

# 读取方括号内的字符
$ echo "[apple][xiaomi][华为][123]" | sed -e 's/]//g' | awk 'BEGIN{RS="["}{print $0}' | sed -e '/^$/d'
apple
xiaomi
华为
123
# 计数
$ echo "[apple][xiaomi][华为][123]" | sed -e 's/]//g' | awk 'BEGIN{RS="["}{print $0}' | sed -e '/^$/d' | wc -l
4
# 读取匹配到的第三个值
$ echo "[apple][xiaomi][华为][123]" | sed -e 's/]//g' | awk 'BEGIN{RS="["}{print $0}' | sed -e '/^$/d' | sed -n '3p'
华为
$

在Windows中grep、awk和sed

在Windows系统中也可以使用这3个命令,然而,windows cmd不支持这3个命令,因此需要下载对应的Win32版本文件,下面提供几种下载方法:

  1. 开源软件平台SourceForge:https://sourceforge.net/projects/gnuwin32/files/
  2. 安装Git Bash:安装方法可参考Git简易教程-安装及简单使用,Git Bash的安装目录~\Git\usr\bin\下有很多GNU工具。
  3. 我把这三个工具放到了Github上:hiyongz/ShellNotes,可以在上面下载,注意对应的dll文件也需要下载。

安装使用:

  1. 在SourceForge上下载对应的setup文件安装,并添加到环境变量
  2. 或者直接下载对应的二进制文件,解压并添加到环境变量

测试文件test.log的内容:

log
log2
test
666 log

使用awk和grep命令查询log出现的行:

$ awk -F ' ' "/^log/ {print $0}" test.log
log
log2$ grep -n "^log" test.log
1:log
2:log2

注意:正则表达式要用双引号。

使用bat脚本进行文本处理:

@echo offset grep="D:/ProgramWorkspace/ShellNotes/grep/grep.exe"
set wc="D:/ProgramWorkspace/ShellNotes/wc/wc.exe"
set awk="D:/ProgramWorkspace/ShellNotes/awk/awk.exe"
set sed="D:/ProgramWorkspace/ShellNotes/sed/sed.exe"%grep% -n "^log" test.log | %wc% -l > esult.log
%awk% -F ' ' "/^log/ {print $0}" test.log  >> result.log
%sed% -n '1,3p' test.log  >> result.logpause

参考资料:

  1. 正则表达式30分钟入门教程:https://deerchao.cn/tutorials/regex/regex.htm
  2. Python正则表达式
--THE END--

https://dhexx.cn/news/show-25399.html

相关文章

基于html的旅游网站的设计与实现

目 录 第一章 绪论 1 1.1. 选题背景及意义 1 1.2. 国内外研究现状 1 1.3. 研究主要内容 2 第二章 开发工具的选用及介绍 3 2.1. 网页开发技术 3 2.1.1. HTML简介 3 2.1.2. DIVCSS简介 3 2.1.3. bootstrap 3 2.2. 网页制作工具 4 2.2.1. Photoshop 4 2.2.2. Dreamweaver 4 2.2.3…

Appium控件交互

与Web元素操作一样&#xff08;参考Selenium Web元素操作&#xff09;&#xff0c;定位到APP控件元素后&#xff0c;可以对控件进行一系列的操作&#xff0c;实现与APP交互&#xff0c;比如点击、文本输入、元素属性获取等。 目录元素操作元素常用操作方法Python测试实例元素属…

基于PLC的棒料自动上料车削加工装置设计

目 录 1 绪论 1 1.1自动上下料机现状 1 1.2设计目的 1 1.3 国内外研究方向 2 1.4 设计原则 2 2 棒料自动上料车削加工装置方案设计 3 2.1自动上料车削加工装置的总体设计 3 2.1.1 车削加工装置总体结构的类型 3 2.1.2 设计具体采用方案 4 2.2 车削加工装置腰座结构的设计 4 2.…

Android WebView测试

混合应用中包含 Web 视图的应用&#xff0c;在 Appium 介绍及环境安装 中介绍了appium支持WebView测试&#xff0c;本文将分享Android 混合页面的测试方法。 目录WebView测试环境准备手机端PC端查看手机浏览器版本查看手机webview版本客户端代码WebView元素定位Android混合页面…

人脸识别(四)

源码位置&#xff1a;https://github.com/comhaqs/face_find.git 分支&#xff1a; develop_face_recognition opencv的人脸识别模块现在是放在另外一个库opencv_contrib里&#xff0c;需要编译到opencv里才可以使用&#xff0c;故这里将opencv和opencv_contrib的源码都下下来…

基于RFID的学生一卡通管理系统的设计与实现

目 录 摘 要 I ABSTRACT II 第1章 绪论 1 1.1选题背景及意义 1 1.2国内外研究现状 1 1.3研究主要内容 2 第2章 系统设计 4 2.1需求分析 4 2.1.1可行性分析 4 2.1.2功能需求概述 5 2.1.3 UML用例图 5 2.2学生一卡通的基本组成结构 7 2.2.1天线 7 2.2.2阅读器 7 2.2.3电子标签 11…

自动遍历测试之Monkey工具

某些移动APP业务线多&#xff0c;流程复杂&#xff0c;且产品迭代速度快&#xff0c;在回归测试中涉及到大量用例&#xff0c;工作量大&#xff0c;解决这个问题的一个可行方法是使用自动遍历测试&#xff0c;可以降低用例维护成本&#xff0c;尽可能的自动化覆盖回归业务。 目…

平昌县网上书城系统设计与实现

目 录 第一章 概述 1 1.1 开发背景 1 1.2 开发环境 2 1.3 开发工具 2 1.3.1 MyEclipse 2 1.3.2 Navicat 3 1.3.3 MySQL 3 第二章 需求分析 5 2.1 总体需求 5 2.3 功能需求 6 2.4 性能需求 6 2.5 运行需求 6 2.6 其他需求 7 2.7 可行性分析 7 2.7.1技术可行性 7 2.7.2 经济可行性…

Linux系统介绍:内核、shell及软件包管理

目录Linux内核版本查看系统版本shell常见 shell运行 shell查看Linux系统信息查看系统位数查看内存信息查看CPU信息Linux软件包管理源码编译安装RPMRPM包安装rpm命令其它用法yumDPKGDPKG 命令安装apt查看历史命令historyLinux 文件句柄Linux系统主要包括3层&#xff0c; 硬件&am…

基于MATLAB虚拟仿真的四杆机构运动分析

目 录 1 绪论 (1) 1.1 本文研究的目的意义 (1) 1.2 四杆机构的发展与应用 (1) 1.3 本文研究的主要内容 (2) 2 平面四杆机构运动学分析 (3) 2.1 四杆机构自由度的计算 (3) 2.2 角位移分析 (3) 2.3 角速度分析 (3) 2.4 角加速度分析 (3) 2.5 计算仿真前四杆机构的初始参数值 (4) …