目录

文本三剑客之 sed

文本处理三剑客之SED

  • Stream EDitor, 流编辑器
  • sed是一种流编辑器,它一次处理一行内容。处理时,把当前处理的行存储在临时缓冲区中,称为"模式空间"(pattern space),接着用sed命令处理缓冲区中的内容,处理完成后,把缓冲区的内容送往屏幕。然后读入下行,执行下一个循环。如果没有使诸如‘D’的特殊命令,那会在两个循环之间清空模式空间,但不会清空保留空间。这样不断重复,直到文件末尾。文件内容并没有改变,除非你使用重定向存储输出。
  • 功能:主要用来自动编辑一个或多个文件,简化对文件的反复操作,编写转换程序等
  • 参考: http://www.gnu.org/software/sed/manual/sed.html

简单的说sed主要是用来编辑文件,那么可以从四个角度来学这个命令,增删查改

初体验

在行首添加一行

1
sed '1i\AAA' aa.txt

在行尾添加一行

1
sed '$a\AAA' aa.txt  

基础

用法

用法:
sed [option]... 'script' inputfile...

常用选项:

1
2
3
4
5
-n 不输出模式空间内容到屏幕,即不自动打印
-e 多点编辑
-f /PATH/SCRIPT_FILE 从指定文件中读取编辑脚本
-r 支持使用扩展正则表达式
-i.bak 备份文件并原处编辑

地址定界

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
(1) 不给地址:对全文进行处理  
(2) 单地址:  
	#:指定的行,$:最后一行  
	/pattern/:被此处模式所能够匹配到的每一行  
(3) 地址范围:  
	#,#  
	#,+#  
	/pat1/,/pat2/  
	#,/pat1/
(4) ~:步进
	1~2 奇数行
	2~2 偶数行

编辑命令

命令 说明
d 删除模式空间匹配的行,并立即启用下一轮循环
p 打印当前模式空间内容,追加到默认输出之后
a [\]text 在指定行后面追加文本,支持使用\n实现多行追加
i [\]text 在行前面插入文本
c [\]text 替换行为单行或多行文本
w /path/file 保存模式匹配的行至指定文件
r /path/file 读取指定文件的文本至模式空间中匹配到的行后
= 为模式空间中的行打印行号
! 模式空间中匹配行取反处理

查找替换

s/// 查找替换,支持使用其它分隔符,s@@@,s### 替换标记:

  • g 行内全局替换
  • p 显示替换成功的行
  • w /PATH/FILE 将替换成功的行保存至文件中

示例

命令 介绍
cp /etc/passwd /tmp/passwd 样本文件
sed ‘2p’ /tmp/passwd 打印第二行
sed -n ‘2p’ /tmp/passwd 打印第二行静默输出第二行
sed -n ‘1,4p’ /tmp/passwd 静默输出一至四行
sed -n ‘/root/p’ /tmp/passwd 静默输出匹配包含root字符串的行
sed -n ‘2,/root/p’ /tmp/passwd 从2行开始,静默输出匹配包含root字符串的行
sed -n ‘/^$/=’ file 显示空行行号
sed -n -e ‘/^$/p’ -e ‘/^$/=’ file
sed ‘/root/a\superman’ /tmp/passwd 在匹配root字符串行后追加superman
sed ‘/root/i\superman’ /tmp/passwd 在匹配root字符串行前追加superman
sed ‘/root/c\superman’ /tmp/passwd 重写匹配root字符串的行
sed ‘/^$/d’ file 清空文件
sed ‘1,10d’ file 删除文件的1-10行
nl /tmp/passwd sed ‘2,5d’
nl /tmp/passwd sed ‘2a tea’
sed ’s/test/mytest/g’ example 文件替换
sed -n ’s/root/&superman/p’ /tmp/passwd 在匹配的单词后添加内容
sed -n ’s/root/superman&/p’ /tmp/passwd 在匹配的单词前添加内容
sed -e ’s/dog/cat/’ -e ’s/hi/lo/’ pets 多个正则匹配
sed –i ’s/dog/cat/g’ pets 替换生效

总结

添加使用append,insert命令,删除使用delete,修改使用copy,subsitute命令,查看print 结合-n 静默输出,可以覆盖百分之八十以上的场景

高级编辑命令

  • P: 打印模式空间开端至\n内容,并追加到默认输出之前
  • h: 把模式空间中的内容覆盖至保持空间中
  • H:把模式空间中的内容追加至保持空间中
  • g: 从保持空间取出数据覆盖至模式空间
  • G:从保持空间取出内容追加至模式空间
  • x: 把模式空间中的内容与保持空间中的内容进行互换
  • n: 读取匹配到的行的下一行覆盖至模式空间
  • N:读取匹配到的行的下一行追加至模式空间
  • d: 删除模式空间中的行
  • D:如果模式空间包含换行符,则删除直到第一个换行符的模式空间中的文本,并不会读取新的输入行,而使用合成的模式空间重新启动循环。如果模式空间 不包含换行符,则会像发出d命令那样启动正常的新循环

练习

  • 1、删除centos7系统/etc/grub2.cfg文件中所有以空白开头的行行首的空白字符
  • 2、删除/etc/fstab文件中所有以#开头,后面至少跟一个空白字符的行的行首的#和空白字符
  • 3、在centos6系统/root/install.log每一行行首增加#号
  • 4、在/etc/fstab文件中不以#开头的行的行首增加#号
  • 5、处理/etc/fstab路径,使用sed命令取出其目录名和基名
  • 6、利用sed 取出ifconfig命令中本机的IPv4地址
  • 7、统计centos安装光盘中Package目录下的所有rpm文件的以.分隔倒数第二个字段的重复次数
  • 8、统计/etc/init.d/functions文件中每个单词的出现次数,并排序(用grep和sed两种方法分别实现)
  • 9、将文本文件的n和n+1行合并为一行,n为奇数行

思维导图

/images/linux/sed-1.jpg
sed

参考

  1. linux-sed-command
  2. sed常用命令