regular expression and gnu grep

linux下的命令

1.	grep简介

grep （global search regular expression(RE) and print out the line,全面搜索正则表达式并把行打印出来）是一种强大的文本搜索工具，它能使用正则表达式搜索文本，并把匹配的行打印出来。Unix的grep家族包括grep、egrep和fgrep。egrep和fgrep的命令只跟grep有很小不同。egrep是grep的扩展，支持更多的re元字符， fgrep就是fixed grep或fast grep，它们把所有的字母都看作单词，也就是说，正则表达式中的元字符表示回其自身的字面意义，不再特殊。linux使用GNU版本的grep。它功能更强，可以通过-E、-F命令行选项来使用egrep和fgrep的功能。

grep的工作方式是这样的，它在一个或多个文件中搜索字符串模板。如果模板包括空格，则必须被引用，模板后的所有字符串被看作文件名。搜索的结果被送到屏幕，不影响原文件内容。

grep可用于shell脚本，因为grep通过返回一个状态值来说明搜索的状态：
a.如果模板搜索成功，则返回0；
b.如果搜索不成功，则返回1；
c.如果搜索的文件不存在，则返回2；
我们利用这些返回值就可进行一些自动化的文本处理工作。

a.在grep命令中输入字符串参数时，最好将其用双引号括起来。例如: “mystring”。
这样做有两个原因,一是以防被误解为 shell命令;二是可以用来查找多个单词组成的字符串,例如:“jet plane",如果不用双引号将其括起来,那么单词 plane将被误认为是一个文件,查询结果将返回“文件不存在”的错误信息。
b.在调用变量时,也应该使用双引号,诸如: grep “$MYVAR”文件名,如果不这样,将没有返回结果。
c.在调用模式匹配时,应使用单引号。

以下是可用字符类的相当完整的列表：
字符类			描述
[:alnum:]	字母数字 [a-z A-Z 0-9]
[:alpha:]	字母 [a-z A-Z]
[:blank:]	空格或制表键
[:cntrl:]	任何控制字符
[:digit:]	数字 [0-9]
[:graph:]	任何可视字符（无空格）
[:lower:]	小写 [a-z]
[:print:]	非控制字符
[:punct:]	标点字符
[:space:]	空格
[:upper:]	大写 [A-Z]
[:xdigit:]	十六进制数字 [0-9 a-f A-F]

尽可能使用字符类是很有利的，因为它们可以更好地适应非英语 locale（包括某些必需的重音字符等等)

*			匹配前面的子表达式零次或多次。例如，zo* 能匹配 "z" 以及 "zoo"。 * 等价于{0,}。
+			匹配前面的子表达式一次或多次。例如，'zo+' 能匹配 "zo" 以及 "zoo"，但不能匹配 "z"。+等价于 {1,}。
?			匹配前面的子表达式零次或一次。例如，"do(es)?" 可以匹配 "do" 或 "does" 中的"do" 。? 等价于 {0,1}。
{n}		n 是一个非负整数。匹配确定的 n 次。例如，'o{2}' 不能匹配 "Bob" 中的 'o'，但是能匹配 "food" 中的两个 o。
{n,}		n 是一个非负整数。至少匹配n 次。例如，'o{2,}' 不能匹配 "Bob" 中的 'o'，但能匹配 "foooood" 中的所有 o。'o{1,}' 等价于 'o+'。'o{0,}' 则等价于 'o*'。
{n,m}		m 和 n 均为非负整数，其中n <= m。最少匹配 n 次且最多匹配 m 次。 "o{1,3}" 将匹配 "fooooood" 中的前三个 o。'o{0,1}' 等价于 'o?'。请注意在逗号和两个数之间不能有空格。
?			当该字符紧跟在任何一个其他限制符 (*, +, ?, {n}, {n,}, {n,m}) 后面时，匹配模式是非贪婪的。非贪婪模式尽可能少的匹配所搜索的字符串，而默认的贪婪模式则尽可能多的匹配所搜索的字符串。例如，对于字符串 "oooo"，'o+?' 将匹配单个 "o"，而 'o+' 将匹配所有 'o'。
.			匹配除 "\n" 之外的任何单个字符。要匹配包括 '\n' 在内的任何字符，请使用象 '[.\n]' 的模式。
x|y		匹配 x或y。例如，'z|food' 能匹配 "z" 或 "food"。'(z|f)ood' 则匹配 "zood" 或 "food"。
[xyz]		字符集合，匹配所包含的任意一个字符。例如， '[abc]' 可以匹配 "plain" 中的 'a'。
[^xyz]	负值字符集合。匹配未包含的任意字符。例如， '[^abc]' 可以匹配 "plain" 中的'p'。
[a-z]		字符范围。匹配指定范围内的任意字符。例如，'[a-z]' 可以匹配 'a到 'z'范围内的任意小写字母字符。
[^a-z]	负值字符范围。匹配任何不在指定范围内的任意字符。例如，'[^a-z]' 可以匹配任何不在 'a'到 'z'范围内的任意字符。
\b			匹配一个单词边界，也就是指单词和空格间的位置。例如， 'er\b' 可以匹配"never" 中的 'er'，但不能匹配 "verb" 中的 'er'。
\B			匹配非单词边界。'er\B' 能匹配 "verb" 中的 'er'，但不能匹配 "never" 中的 'er'。
\cx		匹配由x指明的控制字符。例如， \cM 匹配一个 Control-M 或回车符。 x 的值必须为 A-Z 或 a-z 之一。否则，将 c 视为一个原义的 'c' 字符。
\d			匹配一个数字字符。等价于 [0-9]。
\D			匹配一个非数字字符。等价于 [^0-9]。
\f			匹配一个换页符。等价于 \x0c 和 \cL。
\n			匹配一个换行符。等价于 \x0a 和 \cJ。
\r			匹配一个回车符。等价于 \x0d 和 \cM。
\s			匹配任何空白字符，包括空格、制表符、换页符等等。等价于 [ \f\n\r\t\v]。
\S			匹配任何非空白字符。等价于 [^ \f\n\r\t\v]。
\t			匹配一个制表符。等价于 \x09 和 \cI。
\v			匹配一个垂直制表符。等价于 \x0b 和 \cK。
\w			匹配包括下划线的任何单词字符。等价于'[A-Za-z0-9_]'。
\W			匹配任何非单词字符。等价于 '[^A-Za-z0-9_]'。
\xn		匹配 n，其中 n为十六进制转义值。十六进制转义值必须为确定的两个数字长。例如， '\x41' 匹配 "A"。'\x041' 则等价于 '\x04' & "1"。正则表达式中可以使用 ASCII编码。.
\num		匹配 num，其中 num 是一个正整数。对所获取的匹配的引用。例如，'(.)\1' 匹配两个连续的相同字符。
\n			标识一个八进制转义值或一个后向引用。如果 \n 之前至少 n 个获取的子表达式，则 n 为后向引用。否则，如果 n 为八进制数字 (0-7)，则 n 为一个八进制转义值。
\nm		标识一个八进制转义值或一个后向引用。如果 \nm 之前至少有is preceded by at least nm个获取得子表达式，则 nm 为后向引用。如果 \nm 之前至少有 n 个获取，则 n 为一个后跟文字 m 的后向引用。如果前面的条件都不满足，若 n 和 m 均为八进制数字 (0-7)，则 \nm 将匹配八进制转义值 nm。
\nml		如果 n 为八进制数字 (0-3)，且 m 和 l 均为八进制数字 (0-7)，则匹配八进制转义值 nml。
\un		匹配 n，其中 n 是一个用四个十六进制数字表示的 Unicode 字符。例如， \u00A9 匹配版权符号 (?)。

2.	grep正则表达式元字符集（基本集：共15个）

^    锚定行的开始 如：'^grep'匹配所有以grep开头的行。 

$   锚定行的结束 如：'grep$'匹配所有以grep结尾的行。 

.    匹配任何单个字符（非换行符） 如：'gr.p'匹配gr后接一个任意字符，然后是p。 

*    匹配零个或多个先前字符 如：'*grep'匹配所有一个或多个空格后紧跟grep的行。 .*一起用代表任意字符。

[]   匹配一个指定范围内的字符，如'[Gg]rep'匹配Grep和grep。 

[^]    匹配一个不在指定范围内的字符，如：'[^A-FH-Z]rep'匹配不包含A-R和T-Z的一个字母开头，紧跟rep的行。 

\(..\)    标记匹配字符，如'\(love\)'，love被标记为1。 

\<    锚定单词的开始，如:'\<grep'匹配包含以grep开头的单词的行。 

\>    锚定单词的结束，如'grep\>'匹配包含以grep结尾的单词的行。 

x\{m\}    		重复字符x，m次，如：'0\{5\}'匹配包含5个o的行。 

x\{m,\}    		重复字符x,至少m次，如：'o\{5,\}'匹配至少有5个o的行。 

x\{m,n\}    	重复字符x，至少m次，不多于n次，如：'o\{5,10\}'匹配5--10个o的行。

\w    			匹配文字和数字字符，也就是[A-Za-z0-9]，如：'G\w*p'匹配以G后跟零个或多个文字或数字字符，然后是p。

\W    			\w的反置形式，匹配一个或多个非单词字符，如点号句号等。

\b    			单词锁定符，如: '\bgrep\b'只匹配grep。


3. 	用于egrep和 grep -E的元字符扩展集

+    匹配一个或多个先前的字符。如：'[a-z]+able'，匹配一个或多个小写字母后跟able的串，如enable,disable等。

?    匹配零个或多个先前的字符。如：'gr?p'匹配gr后跟一个或没有字符，然后是p的行。

a|b|c    匹配a或b或c。如：grep|sed匹配grep或sed

()    			分组符号，如：love(able|rs)ov+匹配loveable或lovers，匹配一个或多个ov。

x{m},x{m,},x{m,n}    作用同x\{m\},x\{m,\},x\{m,n\}


4.	POSIX字符类

为了在不同国家的字符编码中保持一至，POSIX(The Portable Operating System Interface)增加了特殊的字符类，如[:alnum:]是A-Za-z0-9的另一个写法。要把它们放到[]号内才能成为正则表达式，如[A- Za-z0-9]或[[:alnum:]]。在linux下的grep除fgrep外，都支持POSIX的字符类。

[:alnum:]    文字数字字符

[:alpha:]    文字字符

[:digit:]    数字字符

[:graph:]    非空字符（非空格、控制字符）

[:lower:]    小写字符

[:cntrl:]    控制字符

[:print:]    非空字符（包括空格）

[:punct:]    标点符号

[:space:]    所有空白字符（新行，空格，制表符）

[:upper:]    大写字符

[:xdigit:]    十六进制数字（0-9，a-f，A-F）


5.	Grep命令选项

-?    同时显示匹配行上下的？行，如：grep -2 pattern filename同时显示匹配行的上下2行。

-b，--byte-offset    		在匹配行前面打印该行所在的块号码。

-c,--count    				只打印匹配的行数，不显示匹配的内容。

-f File，--file=File    从文件中提取模板。空文件中包含0个模板，所以什么都不匹配。

-h，--no-filename    		当搜索多个文件时，不显示匹配文件名前缀。

-i，--ignore-case    		忽略大小写差别。

-q，--quiet    				取消显示，只返回退出状态。0则表示找到了匹配的行。

-l，--files-with-matches    	打印匹配模板的文件清单。

-L，--files-without-match    	打印不匹配模板的文件清单。

-n，--line-number    				在匹配的行前面打印行号。

-s，--silent    					不显示关于不存在或者无法读取文件的错误信息。

-v，--revert-match    			反检索，只显示不匹配的行。

-w，--word-regexp    				如果被\<和\>引用，就把表达式做为一个单词搜索。

-V，--version    					显示软件版本信息。

-C NUM, --context=NUM			Print  NUM lines of output context.  Places a line containing --between contiguous groups of matches.

6. 	实例

要用好grep这个工具，其实就是要写好正则表达式，所以这里不对grep的所有功能进行实例讲解，只列几个例子，讲解一个正则表达式的写法。

$ ls -l | grep '^a'
通过管道过滤ls -l输出的内容，只显示以a开头的行。

$ grep 'test' d*
显示所有以d开头的文件中包含test的行。

$ grep 'test' aa bb cc
显示在aa，bb，cc文件中匹配test的行。

$ grep '[a-z]\{5\}' aa
显示所有包含每个字符串至少有5个连续小写字符的字符串的行。

$ grep 'w\(es\)t.*\1' aa
如果west被匹配，则es就被存储到内存中，并标记为1，然后搜索任意个字符（.*），这些字符后面紧跟着另外一个es（\1），找到就显示该行。如果用egrep或grep -E，就不用"\"号进行转义，直接写成'w(es)t.*\1'就可以了。