快速入门Shell脚本(5)——Shell的这些工具你都知道了吗？qq43791724的博客-

        上一篇博客已经给大家讲了计较复杂的操作（常用的函数操作）。 本篇博客，给讲一下shell的工具，学会写工具会让你的面试加分的偶。（喜欢shell脚本的可以关注专栏）

1.Shell中的cut

1.1介绍

cut的工作就是“剪”，具体的说就是在文件中负责剪切出数据用的。cut命令从文件的每一行剪切出字节、字符和字段将这些字节、字符和字段输出。

1.2 基本用法

cut[参数] filename
说明：默认分割符是制表符

1.3 选项参数说明

• -f：列行,提取第几列
• -d: 分割符，按照指定分隔符列分割列

1.4 案例实操

数据准备

[root@node01 shell]# vim cut.txt
hello word
hello Hadoop
hello spark
hello flink
hello flume
hello kafka
hello java

切割cut.txt 第一列

[root@node01 shell]# cut -d " " -f 1 cut.txt  hello hello hello hello hello hello hello 

切割cut.txt第二、三列

[root@node01 shell]# cut -d " " -f 2,3 cut.txt  word Hadoop  spark flink flume kafka java 

在cut.txt 文件中切割出spark

[root@node01 shell]# cat cut.txt | grep "spark"  hello spark [root@node01 shell]# cat cut.txt | grep "spark" | cut -d " " -f 2 spark 

选取系统PATH的变量值，第2个“：”开始后的所有路径

[root@node01 shell]# echo  $PATH /usr/lib64/qt-3.3/bin::/export/servers/kafka-eagle-bin-1.3.2/kafka-eagle-web-1.3.2/bin:/sbin:/bin:/export/servers/hbase-1.1.1/bin::/export/servers/hadoop-2.6.0-cdh5.14.0/bin:/export/servers/hadoop-2.6.0-cdh5.14.0/sbin:/usr/local/sbin:/usr/local/bin:/sbin:/bin:/usr/sbin:/usr/bin:/export/servers/hive-1.1.0-cdh5.14.0/bin:/export/servers/jdk1.8.0_144/bin:/export/servers/spark-2.2.0-bin-2.6.0-cdh5.14.0/bin:/export/servers/zookeeper-3.4.5-cdh5.14.0/bin:/root/bin [root@node01 shell]# echo  $PATH | cut -d : -f 2- :/export/servers/kafka-eagle-bin-1.3.2/kafka-eagle-web-1.3.2/bin:/sbin:/bin:/export/servers/hbase-1.1.1/bin::/export/servers/hadoop-2.6.0-cdh5.14.0/bin:/export/servers/hadoop-2.6.0-cdh5.14.0/sbin:/usr/local/sbin:/usr/local/bin:/sbin:/bin:/usr/sbin:/usr/bin:/export/servers/hive-1.1.0-cdh5.14.0/bin:/export/servers/jdk1.8.0_144/bin:/export/servers/spark-2.2.0-bin-2.6.0-cdh5.14.0/bin:/export/servers/zookeeper-3.4.5-cdh5.14.0/bin:/root/bin 

切割ifconfig后打印的IP地址

[root@node01 shell]# ifconfig eth0 | grep "inet addr" | cut -d: -f 2 |cut -d" " -f 1 192.168.100.201 

2.shell中的sed

2.1介绍

        sed是一种流编辑器，他一次处理一行内容。处理时，把当前处理的行存储在临时缓冲区中，称为“模式空间”,接着用sed命令处理缓冲区的内容，处理完成后，吧缓冲区的内容送往屏幕。接着处理下一行，这样不断重复，直到文件的末尾。文件内容并没有改变，除非你是用重定向存储输出。

2.2 基本用法

sed[选项参数] ’command‘ filename

2.3选项参数说明

• -e 直接在指令列模式进行sed的动作编辑。
• a 新增，a的后面可以接字符串，在下一行出现
• d 删除
• s 查找并替换

2.4 案例实操

数据准备

[root@node01 shell]# vim sed.txt hello word hello Hadoop hello spark hello flink hello flume hello kafka hello java 

将’hello sed’ 这个单词插入到sed.txt第二行，打印。

[root@node01 shell]# sed '2a hello sed' sed.txt  hello word hello Hadoop hello sed hello spark hello flink hello flume hello kafka hello java [root@node01 shell]# cat sed.txt  hello word hello Hadoop hello spark hello flink hello flume hello kafka hello java # 发现文件并没有修改 

删除sed.txt文件所有包含fl的行

[root@node01 shell]# sed '/fl/d' sed.txt  hello word hello Hadoop hello spark hello kafka hello java 

将sed.txt文件中fl替换为 FL

[root@node01 shell]# sed  's/fl/FL/g' sed.txt  hello word hello Hadoop hello spark hello FLink hello FLume hello kafka hello java # 'g' 表示global 全部替换 

将sed.txt 文件中的第二行删除并将fl替换为FL

[root@node01 shell]# sed -e '2d' -e 's/fl/FL/g' sed.txt  hello word hello spark hello FLink hello FLume hello kafka hello java 

3.Shell中的awk

一个强大的文本分析工具，把文件逐行的读入，以空格为默认分隔符将每行切片，切开的部分再进行分析处理。

3.1. 基本用法

awk [选项参数] ‘pattern1{action1} pattern2{action2}…’ filename

• pattern：表示AWK在数据中查找的内容，就是匹配模式
• action：在找到匹配内容时所执行的一系列命令

3.2. 选项参数说明

• -F: 指定输入文件折分隔符
• -v: 赋值一个用户定义变量

3.3. 案例实操

(0)数据准备

[root@node01 shell]# cp /etc/passwd . 

(1)搜索passwd文件已root关键字开头的所有行,并输出该行第6列

[root@node01 shell]# awk -F: '/^root/{print $6}' passwd /root 

(2)搜索passwd文件以root关键字开头的所有行，并输出该行的第1列和第7列，中间以“，”号分割。

[root@node01 shell]# awk -F: '/^root/{print $1","$7}' passwd  root,/bin/bash 

注意：只有匹配了pattern的行才会执行action

(3)只显示/etc/passwd的第一列和第七列，以逗号分割，且在所有行前面添加列名user，shell在最后一行添加”dashuju，/bin/NB”。

[root@node01 shell]# awk -F: 'BEGIN{print"user,shell"}{print $1","$7}END{print "dashuju,/bin/NB"}' passwd  user,shell root,/bin/bash bin,/sbin/nologin daemon,/sbin/nologin 

注意：BEGIN 在所有数据读取行之前执行；END 在所有数据执行之后执行。
(4)将passwd文件中的用户id增加数值1并输出(-v v=1 赋值一个用户定义变量，将外部变量传递给awk)

[root@node01 shell]# awk -v i=1 -F: '{print $3+1}' passwd  1 2 3 4 

3.4. awk的内置变量

• FILENAME :文件名
• NR: 已读的记录数
• NF:浏览记录的域的个数（切割后，列的个数）

3.4.1案例实操

（1）统计passwd文件名，每行的行号，每行的列数

[root@node01 shell]# awk -F: '{print "filename:" FILENAME ",linenumber: " NR ",columns:" NF}' passwd  filename:passwd,linenumber: 1,columns:7 filename:passwd,linenumber: 2,columns:7 filename:passwd,linenumber: 3,columns:7 filename:passwd,linenumber: 4,columns:7 

（2）切割IP

[root@node01 shell]# ifconfig  eth0 | grep "inet addr" | awk -F: '{print $2}' | awk -F " " '{print $1}' 192.168.100.201 

（3）查询sed.txt中空行所在的行号

[root@node01 shell]# awk '/^$/{print NR}' sed.txt  8 

4.Shell中的sort

4.1介绍

        sort命令是在Linux里非常有用，它将文件进行排序，并将排序结果标准输出。

4.2. 基本语法

sort(选项)(参数)

• -n: 依照数值的大小排序
• -r: 以相反的顺序来排序
• -t:设置排序时所用的分隔字符
• -k:指定需要排序的列

4.3. 案例实操

（0）数据准备

[root@node01 shell]# vim sort.sh  bb:40:5.4 bd:20:4.2 xz:50:2.3 cls:10:3.5 ss:30:1.6 

（1）按照“：”分割后的第三列倒序排序。

[root@node01 shell]# sort  -t : -nrk 3 sort.sh bb:40:5.4 bd:20:4.2 cls:10:3.5 xz:50:2.3 ss:30:1.6