Linux 基础之文本过滤 grep

在 linux 中经常需要对文本或输出内容进行过滤,最常用的过滤命令是 grep

1
grep [OPTIONS] PATTERN [FILE...]

grep 按行检索输入的每一行,如果输入行包含模式 PATTERN,则输出这一行。这里的 PATTERN 是正则表达式 (参考前一篇,本文将结合 grep 一同举例)。

输出文件 /etc/passwd 中包含 root 的行:

1
2
3
$ grep root /etc/passwd
root:x:0:0:root:/root:/bin/bash
operator:x:11:0:operator:/root:/sbin/nologin

或者从标准输入获得:

1
2
3
$ cat /etc/passwd | grep root
root:x:0:0:root:/root:/bin/bash
operator:x:11:0:operator:/root:/sbin/nologin

需要注意的地方是:当 grep 的输入既来自文件也来自标准输入时,grep 将忽略标准输入的内容不做处理,除非使用符号 - 来代表标准输入:

1
2
3
4
5
$ cat /etc/passwd | grep root /etc/passwd -
/etc/passwd:root:x:0:0:root:/root:/bin/bash
/etc/passwd:operator:x:11:0:operator:/root:/sbin/nologin
(标准输入):root:x:0:0:root:/root:/bin/bash
(标准输入):operator:x:11:0:operator:/root:/sbin/nologin

此时,grep 会标明哪些结果来自于文件哪些来自于标准输入。

输出文件 /etc/passwd 和文件 / etc/group 中以 root 开头的行:

1
2
3
$ grep "^root" /etc/passwd /etc/group
/etc/passwd:root:x:0:0:root:/root:/bin/bash
/etc/group:root:x:0:

输出文件 /etc/passwd 中以 / bin/bash 结尾的行:

1
2
3
$ grep "/bin/bash$" /etc/passwd
root:x:0:0:root:/root:/bin/bash
learner:x:1000:1000::/home/learner:/bin/bash

注意以上两个例子中 PATTERN 被双引号引用起来以防止被 shell 解析。

输出文件 / etc/passwd 中不以 a-s 中任何一个字母开头的行:

1
2
3
$ grep "^[^a-s]" /etc/passwd
tss:x:59:59:Account used by the trousers package to sandbox the tcsd daemon:/dev/null:/sbin/nologin
tcpdump:x:72:72::/:/sbin/nologin

这里需要理解两个 ^ 间不同的含义,第一个 ^ 表示行首,第二个在 [] 内部的首个字符 ^ 表示取反。

输出文件 / etc/passwd 中字符 0 连续出现 3 次及以上的行 (注意转义字符’\’):

1
2
$ grep "0\{3,\}" /etc/passwd
learner:x:1000:1000::/home/learner:/bin/bash

如输出文件 /etc/passwd 中以字符 rl 开头的行:

1
2
3
4
$ grep "^[r,l]" /etc/passwd
root:x:0:0:root:/root:/bin/bash
lp:x:4:7:lp:/var/spool/lpd:/sbin/nologin
learner:x:1000:1000::/home/learner:/bin/bash

选项 -i 使 grep 在匹配模式时忽略大小写:

1
2
3
$ grep -i abcd file
ABCD
function abcd() {

选项 -o 表示只输出匹配的字符,而不是整行:

1
2
3
$ grep -oi abcd file
ABCD
abcd

选项 -c 统计匹配的行数:

1
2
$ grep -oic abcd file
2

选项 -v 表示取反匹配,如输出 / etc/passwd 中不以 / sbin/nologin 结尾的行:

1
2
3
4
5
6
$ grep -v "/sbin/nologin$" /etc/passwd
root:x:0:0:root:/root:/bin/bash
sync:x:5:0:sync:/sbin:/bin/sync
shutdown:x:6:0:shutdown:/sbin:/sbin/shutdown
halt:x:7:0:halt:/sbin:/sbin/halt
learner:x:1000:1000::/home/learner:/bin/bash

选项 -f FILE 表示以文件 FILE 中的每一行作为模式匹配:

1
2
3
4
5
6
$ cat test
abcd
ABCD
$ grep -f test file
ABCD
function abcd() {

选项 -x 表示整行匹配:

1
2
$ grep -xf test file
ABCD

选项 -w 表示匹配整个单词:

1
2
3
4
5
$ grep here file
here
there
$ grep -w here file
here

选项 -h 表示当多个文件时不输出文件名:

1
2
3
$ cat /etc/passwd|grep ^root - /etc/passwd -h
root:x:0:0:root:/root:/bin/bash
root:x:0:0:root:/root:/bin/bash

选项 -n 表示显示行号:

1
2
3
4
$ grep -n "^[r,l]" /etc/passwd
1:root:x:0:0:root:/root:/bin/bash
5:lp:x:4:7:lp:/var/spool/lpd:/sbin/nologin
24:learner:x:1000:1000::/home/learner:/bin/bash

选项 -A N-B N-C N 表示输出匹配行和其’周围行’

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
-A N 表示输出匹配行和其之后 (after) 的 N 行
-B N 表示输出匹配行和其之前 (before) 的 N 行
-C N 表示输出匹配行和其之前之后各 N 行
$ grep -A 2 ^operator /etc/passwd
operator:x:11:0:operator:/root:/sbin/nologin
games:x:12:100:games:/usr/games:/sbin/nologin
ftp:x:14:50:FTP User:/var/ftp:/sbin/nologin
$ grep -B2 ^operator /etc/passwd
halt:x:7:0:halt:/sbin:/sbin/halt
mail:x:8:12:mail:/var/spool/mail:/sbin/nologin
operator:x:11:0:operator:/root:/sbin/nologin
$ grep -C1 ^operator /etc/passwd
mail:x:8:12:mail:/var/spool/mail:/sbin/nologin
operator:x:11:0:operator:/root:/sbin/nologin
games:x:12:100:games:/usr/games:/sbin/nologin

选项 -FPATTERN 为它的字面意思匹配 (忽略字符的特殊含义),等同于执行命令 fgrep

1
$ grep -F ^root /etc/passwd

命令无输出

选项 -E 可以使用扩展的正则表达式,如同执行 egrep 命令:

1
2
3
$ egrep "^root|^learner" /etc/passwd
root:x:0:0:root:/root:/bin/bash
learner:x:1000:1000::/home/learner:/bin/bash

使用扩展正则表达式意味着不需要转义就能表示字符的特殊含义,包括?,+,{,|,()

选项 -P 表示使用 perl 的正则表达式进行匹配
如:

1
2
$ echo "helloworld123456"| grep -oP "\d+"
123456

perl 正则中 “\d” 表示数字,+ 表示匹配一到多次 (同 vim)。

选项 -a 将二进制文件当成文本文件处理:

1
2
$ grep -a online /usr/bin/ls
%s online help: <%s>

选项 --exclude=GLOB--include=GLOB 分别表示排除和包含匹配 GLOB 的文件,GLOB 表示通配符 (find 及 xargs 用法见基础命令介绍三):

1
2
$ find . -type f | xargs grep --exclude=*.txt --include=test* bash
./test.sh:#!/bin/bash

grep 强大的过滤能力来自于各种选项以及正则表达式的配合,在今后的文章中还有更多的例子。

热评文章