-
007 Linux 命令三剑客之-awk
01 一起来认识 awk!
Linux 命令三剑客,sed、grep、awk。
- sed:擅长数据修改。
- grep:擅长数据查找定位。
- awk:擅长数据切片,数据格式化,功能最复杂。
awk 更适合格式化文本,对文本进行较复杂格式处理,awk 程序对输入文件的每一行进行操作。awk 是一门解释型的编程语言。文本处理、输出格式化的文本报表、执行算数运算、执行字符串操作等等。
02 awk 完整命令格式
BEGIN { …. initialization awk commands …}{ …. awk commands for each line of the file…}END { …. finalization awk commands …}
- BEGIN{} 语句块在程序的开头执行,它只执行一次,在这里可以初始化变量。BEGIN 是 awk 的关键字,因此它必须为大写,注意,这个语句块是可选的;
- 主{ }部分,没有关键字,运行处理文件的每一行执行的命令;
- END 语句块在程序的最后执行,END 是 awk 的关键字,因此必须为大写,它也是可选的。
03 awk 间隔符(分隔符)
- awk 将每一行视为由多个字段组成,每个字段由"间隔符"分隔。默认情况下"间隔符" 是一个或多个空格字符,因此行:this is a line of text 包含6个字段。在 awk 中,第一个字段称为 $1,第二个字段称为 $2,以此类推,整行称为 $0。
- awk 内置变量 FS 可以设置间隔符,如设置 FS=":",则它将根据':'作为间隔符。
04 awk 内置变量及可选参数
【内置变量】
- FS # 输入字段的分隔符
- NR # 当前行号,已读的记录数
- NF # 当前行中的字段数量
- $NF # NF 当前行中的字段数量(行参数数量),假如行参数有六个,那么NF=6,重点来了,如果我要取当前行的最后一个参数,使用 "$6" 和 "$NF" 都能取到最后一个参数,也就是说 $6=$NF=第6个参数值。
【常用可选参数】
- -v # 赋值一个用户定义变量
- -f # 从脚本文件中读取 awk 命令
- -F # 相当于内置变量 FS
05 awk 模式匹配
- awk 可以对任何文件进行操作,包括 std-in,在这种情况下,它通常与 '|' 命令一起使用,例如,结合 grep,cat 或其他命令。
- awk 是一种面向行的语言。首先是模式,然后是动作。操作语句用" {} "括起来。
- awk 模式包括正则表达式 (使用与“grep -E”相同的语法) 和使用的组合特殊符号 “&&” 表示“逻辑AND ”,“||”表示“逻辑或”,“!” 的意思是“逻辑不”。
06 awk 控制语句
awk 'BEGIN{ commands } pattern{ commands } END{ commands }'
eg:统计指定ip和端口号,各种 tcp 连接状态的数量
netstat -n | grep 1.2.3.4:22 | awk '/^tcp/ {++State[$NF]} END {for (i in State) print i, State[i]}'
- 命令中,^tcp用于匹配开头包含tcp字符的文本行;
- $NF 指的是每行最后一个字段,数组State[$NF]就是以最后一个字段为下标指向一个存储单元或者说变量,此处代表该字段的统计结果, 也就是++的意义所在, 统计值自增一。
- END不能缺少表示END符号之后的指令于处理所有行结束时执行。
- i是字段,State[i]即为统计结果,每行处理完成则State[$NF] 加1。
07 awk 常用实践
- 统计文本行数
awk 'END {print NR}' warn.log #统计 warn.log 文件行数。
-
指定以 , 为分隔符;输出为 hello world。
文本内容如下:
hello,world,awk,!
awk -F, '{print $1,$2}' info.log # -F, 指定以逗号分隔。
- 实现计算表达式
awk 'BEGIN{print 115+100}'
08 小结
awk 命令,擅长文本格式化处理,这里只是起到一个抛砖引玉的作用,awk 语法较为复杂,感兴趣的可以深入学习,当然你也可以用 python 等语言来做一些脚本任务的处理。
出处:https://www.cnblogs.com/bilahepan/p/15848046.html
栏目列表
最新更新
nodejs爬虫
Python正则表达式完全指南
爬取豆瓣Top250图书数据
shp 地图文件批量添加字段
爬虫小试牛刀(爬取学校通知公告)
【python基础】函数-初识函数
【python基础】函数-返回值
HTTP请求:requests模块基础使用必知必会
Python初学者友好丨详解参数传递类型
如何有效管理爬虫流量?
SQL SERVER中递归
2个场景实例讲解GaussDB(DWS)基表统计信息估
常用的 SQL Server 关键字及其含义
动手分析SQL Server中的事务中使用的锁
openGauss内核分析:SQL by pass & 经典执行
一招教你如何高效批量导入与更新数据
天天写SQL,这些神奇的特性你知道吗?
openGauss内核分析:执行计划生成
[IM002]Navicat ODBC驱动器管理器 未发现数据
初入Sql Server 之 存储过程的简单使用
这是目前我见过最好的跨域解决方案!
减少回流与重绘
减少回流与重绘
如何使用KrpanoToolJS在浏览器切图
performance.now() 与 Date.now() 对比
一款纯 JS 实现的轻量化图片编辑器
关于开发 VS Code 插件遇到的 workbench.scm.
前端设计模式——观察者模式
前端设计模式——中介者模式
创建型-原型模式