热门标签 | HotTags
当前位置:  开发笔记 > 编程语言 > 正文

awk从入门至放弃

什么是awk?awk:Aho,Weinberger,Kernighan,报告生成器,格式化文本输出有多种版本:Newawk(nawk),GNUawk(gawk)gawk:模式扫描的

什么是awk?
awk:Aho,Weinberger,Kernighan,报告生成器,格式化文本输出
有多种版本:New awk(nawk),GNU awk(gawk)
gawk:模式扫描的处理语言
基本用法:
awk [options] ‘program‘ var=value file...
awk [POSIX or GNU style options] -f programfile [--] file ...

基本格式:
awk [options] ‘program‘ file...
program:pattern{action statements;...}
读入文件一行,检查是否符合pattern,是就执行action statments
BEGIN:没有读取文件前,先执行BEGIN
END:读取完成文件后,执行END
省略action,则默认执行 print $0 的操作
在{}中,$1 $2要用,才可以分割,用空格不行,可以用"\t"
分割符:
读入行分割成$1 $2,默认是空格,不管几个空格都压缩成一个,-F设置分隔符
域:
行的所有字段$0为所有域
记录:
文件的每一行称为记录,可以把多选,一行中的一部分作为记录,可以利用-v RS=“”来定义记录分隔符

-F 列分隔符
-v 变量赋值,变量可以延伸到下一行
FS=":" 列分隔符,FS=$PATH,可以引用shell中的变量 field space
awk -v FS=$S ‘{pirnt $1,$3}‘ /etc/passwd
OFS=":" 输出时列分隔符
awk -v OFS=*** ‘{print $1OSF$3}‘ /etc/passwd
RS="" 输入记录分隔符,指定输入时的换行符 record space
awk -v RS="" ‘‘
ORS="" 输出记录分隔符,指定时不用在action中引用有有
awk -v ORS=""
自定义变量:
awk -v var=123
awk -F: ‘{title="hello"; print $1,title}‘ /etc/passwd
NF 字段数 number field
awk -F: ‘{print NF}‘ /etc/passwd
awk -F: ‘{print $NF}‘ /etc/passwd 最后一段
awk -F: ‘{print $(NF-1)}‘ /etc/passwd 倒数第二段
NR 记录数 number record
awk -F: ‘{print NR,$1}‘ /etc/passwd 打印第一行的行号
FNR 各文件分别计数,记录号
awk ‘{print FNR}‘ /etc/fstab /etc/inittab
FILENAME 当前文件名
awk ‘{print FILENAME}‘ /etc/fstab
ARGC 命令行参数的个数
awk ‘{print ARGC}‘ /etc/fstab
ARGV 数组,保存的是命令行所给定的各参数
awk ‘BEGIN {print ARGV[0]}’ /etc/fstab /etc/inittab
-f awkScript
使用扩展正则表达式来定义-F后的分隔符
df | grep "/dev/sd" | awk -F"[[:space:]]+|%" ‘{print $5}‘ (以多个连续空格或%为分隔符)
![](https://s1.51cto.com/images/blog/201904/13/84d9d679c39c027aa452d3a4dea80eb1.png?x-oss-process=image/watermark,size_16,text_QDUxQ1RP5Y2a5a6i,color_FFFFFF,t_100,g_se,x_10,y_10,shadow_90,type_ZmFuZ3poZW5naGVpdGk=)
df | awk -F" +|%" ‘/^\/dev\/sd/{print $1,$5}‘
![](https://s1.51cto.com/images/blog/201904/13/fde44b4f735edf5c63a437d4b247b1b9.png?x-oss-process=image/watermark,size_16,text_QDUxQ1RP5Y2a5a6i,color_FFFFFF,t_100,g_se,x_10,y_10,shadow_90,type_ZmFuZ3poZW5naGVpdGk=)

printf命令
printf "FORMAT",item1,item2,...
1、必须指定FORMAT
2、不会自动换行,需要显示给出换行控制符,\n1
3、FORMAT中需要分别为后面每个item指定格式符
格式符:与item一一对应
%c:显示字符的ASCII码
%d, %i:显示十进制整数
%e, %E:显示科学计数法数值
%f:%.2f,右对齐%10.2f,右对齐%-10.2f,显示为浮点数
%g, %G:以科学计数法或浮点形式显示数值
%s:显示字符串
%u:无符号整数
%%:显示%自身
修饰符
#[.#] 第一个数字控制显示的宽度;第二个#表示小数点后精度,%3.1f


  • 左对齐(默认右对齐) %-15s

  • 显示数值的正负符号 %+d
    echo "100.123" | awk ‘{printf "The is a %d"kk,$0}‘
    awk的操作符
    算术操作符:x+y x%y +x -x
    字符串操作符:没有符号的操作符,字符串连接
    赋值操作符:= += -= *= /= %= ^= ++ --
    比较操作符:==, !=, >, >=, <, <=
    模式匹配符:~ !~
    awk -F: ‘$3 ~ /107/{print $1}‘ /etc/passwd 匹配第3列中等于107的行的用户名
    技术分享图片
    df | awk ‘$0 ~ "^/dev/sd" {print $0}‘ 打印匹配df命令以^/dev/sd开头的行
    技术分享图片
    逻辑操作符:与&&,或||,非!
    awk -F: ‘$3>=0 && $3<=1000 {print $1}‘ /etc/passwd
    技术分享图片
    awk -F: ‘$3==0 || $3>=1000 {print $1}‘ /etc/passwd
    技术分享图片
    awk -F: ‘!($3==0) {print $1}‘ /etc/passwd
    技术分享图片
    条件表达式(三目表达式)
    selector?if-true-expression:if-false-expression
    awk -F: ‘{$3>=1000?usertype="Common User":usertype=" SysUser";printf "%15s:%-s\n",$1,usertype}‘ /etc/passwd
    技术分享图片
    PATTERN:根据pattern条件,过滤匹配的行,再做处理
    (1)如果未指定:空模式,匹配每一行
    (2) /regular expression/:仅处理能够模式匹配到的行,需要用/ /括起来
    awk ‘/^UUID/{print $1}‘ /etc/fstab
    awk ‘!/^UUID/{print $1}‘ /etc/fstab
    (3) relational expression: 关系表达式,结果为“真”才会被处理
    只要是awk -F: ‘""{print $1,$3}‘ /etc/passwd中{print $1,$3}前""是空就是,只要有内容都是真
    字符串不空为真,数值不为0为真
    真:结果为非0值,非空字符串
    假:结果为空字符串或0值
    (4) line ranges:行范围
    startline,endline:/pat1/,/pat2/ 不支持直接给出数字格式
    awk -F: ‘/^root\>/,/^nobody\>/{print $1}‘ /etc/passwd
    awk -F: ‘(NR>=10&&NR<=20){print NR,$1}‘ /etc/passwd
    seq 10 | awk ‘NR>2;NR<=5‘
    打印全部行,且3 4 5 打印两遍
    (5) BEGIN/END模式
    BEGIN{}:仅在开始处理文件中的文本之前执行一次
    END{}:仅在文本处理完成之后执行一次

    seq 10 | awk ‘i=0‘ 这个awk是默认省略了{print $0}
    seq 10 | awk ‘i=!i‘ 1、对空i取反为非空,打印 2、对非空i取反,不打印,这样循环,打印奇数行
    seq 10 | awk ‘!(i=!i)‘

    常用的action分类
    ?(1) Expressions:算术,比较表达式等
    ?(2) Control statements:if, while等
    ?(3) Compound statements:组合语句
    ?(4) input statements
    ?(5) output statements:print等

    { statements;… } 组合语句
    ?if(condition) {statements;…}
    ?if(condition) {statements;…} else {statements;…}
    ?while(conditon) {statments;…}
    ?do {statements;…} while(condition)
    ?for(expr1;expr2;expr3) {statements;…}
    ?break
    ?continue
    ?delete array[index]
    ?delete array
    ?exit

    if-else语句
    awk -F: ‘{if($3>=1000)print $1,$3}‘ /etc/passwd
    awk -F: ‘{if($3>=1000) {printf "Common user: %s\n",$1} else {printf "root or Sysuser: %s\n",$1}}‘ /etc/passwd
    df -h|awk -F% ‘/^\/dev/{print $1}‘|awk ‘$NF>=80{print $1,$5}‘

    while语句
    awk ‘/^[[:space:]]linux16/{i=1;while(i<=NF){print $i,length($i); i++}}‘ /etc/grub2.cfg
    awk ‘/^[[:space:]]
    linux16/{i=1;while(i<=NF) {if(length($i)>=10) {print $i,length($i)}; i++}}‘ /etc/grub2.cfg

    do-while语句
    awk ‘BEGIN{ total=0;i=0;do{ total+=i;i++;}while(i<=100);print total}‘

    for循环语句
    语法:for(expr1;expr2;expr3) {statement;…}
    awk ‘/^[[:space:]]*linux16/{for(i=1;i<=NF;i++) {print $i,length($i)}}‘ /etc/grub2.cfg

    switch语句
    语法:switch(expression) {case VALUE1 or /REGEXP/: statement1; case VALUE2 or /REGEXP2/: statement2; ...; default: statementn}
    break和continue
    awk ‘BEGIN{sum=0;for(i=1;i<=100;i++){if(i%2==0)continue;sum+=i}print sum}‘
    awk ‘BEGIN{sum=0;for(i=1;i<=100;i++){if(i==66)break;sum+=i}print sum}‘

    awk ‘!line[$0]++‘ fl.txt 忽略重复行,第一次f1.txt的第一行为line["123"]为空,line["123"]++=line["123"]=1
    awk ‘!line[$0]++{pirint $0 line[$0]}‘ f1.txt 查看
    awk ‘{!line[$0]++; pirint $0 line[$0]}‘ f1.txt

    awk数组
    关联数组:array[index-expression]
    index-expression
    (1)、可使用任意字符串,字符串要使用双引号括起来
    (2)、如果某数组元素事先不存在,在引用时,awk会自动创建此元素,并将某值初始化为"空串"
    (3)、若要判断数组中是否存在某元素,要使用"index in array",格式进行遍历
    若要遍历数组中的每个元素,可使用for循环
    for(var in array) {for-body}
    注意:var会遍历array的每个索引
    awk‘BEGIN{weekdays["mon"]="Monday";weekdays["tue"]="Tuesday"; for(i in weekdays) {print weekdays[i]}}‘
    netstat -tan | awk ‘/^tcp/{state[$NF]++}END{for(i in state) { print i,state[i]}}‘
    awk ‘{ip[$1]++}END{for(i in ip) {print i,ip[i]}}‘ /var/log/httpd/access_log

    利用函数求男女的平均数
    name score gender
    a 100 m
    b 99 f
    c 80 f
    awk ‘NR!=1{sum[$3]+=$2;num[$3]++}END{for(i in sum)print i,num[i];or(i in sum)print i,num[i];}‘

    函数
    rand():返回0和1之间的一个随机数
    srand()有种子才能造成随机数
    awk ‘BEGIN{srand();print rand()}‘
    awk ‘BEGIN{srand();print int(rand()*100)}‘
    字符串处理:
    length([s]):返回指定字符串的长度
    sub(r,s,[t]):对t字符串搜索r表示模式匹配的内容,并将第一个匹配内容替换为s
    echo "2008:08:08 08:08:08" | awk ‘sub(/:/,"-",$1)‘
    gsub(r,s,[t]):对t字符串进行搜索r表示的模式匹配的内容,并全部替换为s所表示的内容
    split(s,array,[r]):以r为分隔符,切割字符串s,并将切割后的结果保存至array所表示的数组中,第一个索引值为1,第二个索引值为2,…
    array[1]切割的第一列,array[2]切割后...
    ss -tn | awk ‘/^ESTAB{split($NF,ip,":");count[ip[1]]++};END{for(i in count)print i,count[i]}‘
    自定义函数
    格式:
    function name ( parameter, parameter, ... ) {
    statements
    return expression
    }
    ?示例:
    cat fun.awk
    function max(x,y) {
    x>y?var=x:var=y
    return var
    }
    BEGIN{a=3;b=2;print max(a,b)}
    awk -f fun.awk
    调用shell中的命令
    awk ‘BEGIN{system("hostname")}‘
    awk ‘BEGIN{score=100;system("echo your score is " score)}‘



推荐阅读
  • 本文深入探讨了Java多线程环境下的同步机制及其应用,重点介绍了`synchronized`关键字的使用方法和原理。`synchronized`关键字主要用于确保多个线程在访问共享资源时的互斥性和原子性。通过具体示例,如在一个类中使用`synchronized`修饰方法,展示了如何实现线程安全的代码块。此外,文章还讨论了`ReentrantLock`等其他同步工具的优缺点,并提供了实际应用场景中的最佳实践。 ... [详细]
  • 将解压缩版Tomcat集成至系统服务
    将解压缩版Tomcat集成至系统服务的方法如下:首先,在命令行中导航至Tomcat的`bin`目录,运行`service.bat install`命令以安装服务。需要注意的是,服务名称和显示名称已在`service.bat`脚本中预设,默认情况下会随不同版本有所变化。此外,建议检查并配置相关参数,确保服务能够稳定运行。 ... [详细]
  • ButterKnife 是一款用于 Android 开发的注解库,主要用于简化视图和事件绑定。本文详细介绍了 ButterKnife 的基础用法,包括如何通过注解实现字段和方法的绑定,以及在实际项目中的应用示例。此外,文章还提到了截至 2016 年 4 月 29 日,ButterKnife 的最新版本为 8.0.1,为开发者提供了最新的功能和性能优化。 ... [详细]
  • 在 CentOS 6.5 系统上部署 VNC 服务器的详细步骤与配置指南
    在 CentOS 6.5 系统上部署 VNC 服务器时,首先需要确认 VNC 服务是否已安装。通常情况下,VNC 服务默认未安装。可以通过运行特定的查询命令来检查其安装状态。如果查询结果为空,则表明 VNC 服务尚未安装,需进行手动安装。此外,建议在安装前确保系统的软件包管理器已更新至最新版本,以避免兼容性问题。 ... [详细]
  • 如何高效地安装并配置 PostgreSQL 数据库系统?本文将详细介绍从下载到安装、配置环境变量、初始化数据库、以及优化性能的全过程,帮助读者快速掌握 PostgreSQL 的核心操作与最佳实践。文章还涵盖了常见问题的解决方案,确保用户在部署过程中能够顺利解决遇到的各种挑战。 ... [详细]
  • iOS 设备唯一标识获取的高效解决方案与实践
    在iOS 7中,苹果公司再次禁止了对MAC地址的访问,使得开发者无法直接获取设备的物理地址。为了在开发过程中实现设备的唯一标识,苹果推荐使用Keychain服务来存储和管理唯一的标识符。此外,还可以结合其他技术手段,如UUID和广告标识符(IDFA),以确保设备的唯一性和安全性。这些方法不仅能够满足应用的需求,还能保护用户的隐私。 ... [详细]
  • 深入解析InnoDB中的多版本并发控制机制
    多版本并发控制(MVCC)是InnoDB存储引擎中的一项关键技术,通过维护数据在不同时间点的多个版本,确保了事务的隔离性和一致性。每个读取操作都能获得一个与事务启动时一致的数据视图,从而提高了并发性能并减少了锁竞争。此外,MVCC还支持多种隔离级别,如可重复读和读已提交,进一步增强了系统的灵活性和可靠性。 ... [详细]
  • 如何高效利用Hackbar插件提升网页调试效率
    通过合理利用Hackbar插件,可以显著提升网页调试的效率。本文介绍了如何获取并使用未包含收费功能的2.1.3版本,以确保在不升级到最新2.2.2版本的情况下,依然能够高效进行网页调试。此外,文章还提供了详细的使用技巧和常见问题解决方案,帮助开发者更好地掌握这一工具。 ... [详细]
  • 这是一道涉及数学计算的问题。假设步行速度为 \(a\),车速为 \(b\),总距离为 \(c\)。Teddy 的步行时间为 \(T_1\),WhereIsHeroFrom 的步行时间为 \(T_2\),总时间为 \(T\)。通过分析不同时间段内的速度变化,可以得出最优的车辆使用策略,以最小化总的旅行时间。具体来说,需要计算在不同情况下步行和乘车的时间分配,以确保整体效率最大化。 ... [详细]
  • NOIP2000的单词接龙问题与常见的成语接龙游戏有异曲同工之妙。题目要求在给定的一组单词中,从指定的起始字母开始,构建最长的“单词链”。每个单词在链中最多可出现两次。本文将详细解析该题目的解法,并分享学习过程中的心得体会。 ... [详细]
  • 在Android平台上,视频监控系统的优化与应用具有重要意义。尽管已有相关示例(如http:www.open-open.comlibviewopen1346400423609.html)展示了基本的监控功能实现,但若要提升系统的稳定性和性能,仍需进行深入研究和优化。本文探讨了如何通过改进算法、优化网络传输和增强用户界面来提高Android视频监控系统的整体效能,以满足更复杂的应用需求。 ... [详细]
  • 在众多市场调研公司中,如何选择一家值得信赖的合作伙伴至关重要。基于我在市场调查行业近二十年的经验,我将推荐几家国内知名的市场调研机构,供您参考:1. 开元研究——专注于零售报刊发行研究、媒体广告价值评估及网络营销分析等领域,以其专业性和准确性赢得了广泛认可。 ... [详细]
  • POJ3669题目解析:基于广度优先搜索的详细解答
    POJ3669(http://poj.org/problem?id=3669)是一道典型的广度优先搜索(BFS)问题。由于陨石的降落具有时间属性,导致地图状态会随时间动态变化。因此,可以利用结构体来记录每个陨石的降落时间和位置,从而有效地进行状态更新和路径搜索。 ... [详细]
  • DRF框架中Serializer反序列化验证机制详解:深入探讨Validators的应用与优化
    在DRF框架的反序列化验证机制中,除了基本的字段类型和长度校验外,还常常需要进行更为复杂的条件限制校验。通过引入`validators`模块,可以实现自定义校验逻辑,如唯一字段校验等。本文将详细探讨`validators`的使用方法及其优化策略,帮助开发者更好地理解和应用这一重要功能。 ... [详细]
  • 本文探讨了如何有效地构建和优化微信公众平台账号,涵盖了用户信息管理、内容创作与发布、互动策略及数据分析等方面。通过合理设置用户信息字段,如用户名、昵称、密码、真实姓名和性别等,确保账号的安全性和用户体验。同时,文章还介绍了如何利用微信公众平台的各项功能,提升用户参与度和品牌影响力。 ... [详细]
author-avatar
扩散平衡
这个家伙很懒,什么也没留下!
PHP1.CN | 中国最专业的PHP中文社区 | DevBox开发工具箱 | json解析格式化 |PHP资讯 | PHP教程 | 数据库技术 | 服务器技术 | 前端开发技术 | PHP框架 | 开发工具 | 在线工具
Copyright © 1998 - 2020 PHP1.CN. All Rights Reserved | 京公网安备 11010802041100号 | 京ICP备19059560号-4 | PHP1.CN 第一PHP社区 版权所有