Linux系统开发: 学习linux三剑客(awk、sed、grep)(下)

linux系统开发: 学习linux三剑客(awk、sed、grep)(下)

一、前言

这篇文章是 linux三剑客(awk、sed、grep)(上)>的续集。

二、awk命令2.1 awk命令基本使用介绍

awk是它的三个作者姓氏的首字母合写,他们是:Aho(阿尔佛雷德·艾侯)、Winberger(彼得·温伯格)和Kernighan(布莱恩·柯林汉),他们三人合著《AWK程式设计》。

awk是一种文本处理工具,同时它也是一门微型编程语言,它的目的是编写小巧 但充满表达力的程序,把文本的输入变换为文本的输出。用于在linux/unix下对文本和数据进行处理。数据可以来自标准输入(stdin)、一个或多个文件,或其它命令的输出。它支持用户自定义函数和动态正则表达式等先进功能,是linux/unix下的一个强大编程工具。它在命令行中使用,但更多是作为脚本来使用。awk有很多内建的功能,比如数组、函数等,这是它和C语言的相同之处,灵活性是awk最大的优势。

现今的Linux发行版所附带的awk实际上很新,是GNU的重写版本,也叫GNU awk,程序名是gawk。

awk命令格式和选项、语法形式:

代码语言:javascript代码运行次数:0运行复制

awk [options]  'script'  var=value file(s)  awk [options]  -f scriptfile  var=value file(s)

常用选项:

代码语言:javascript代码运行次数:0运行复制

-F fs   fs指定输入分隔符,fs可以是字符串或正则表达式,如-F: -v var=value   赋值一个用户定义变量,将外部变量传递给awk -f scripfile  从脚本文件中读取awk命令 -m[fr] val   对val值设置内在限制,-mf选项限制分配给val的最大块数目;-mr选项限制记录的最大数目。这两个功能是Bell实验室版awk的扩展功能,在标准awk中不适用

awk的核心思想是模式和行为操作,也叫模式驱动编程。模式一般是关系或正则表达式,用于与输入的每条记录进行匹配;而行为操作则是对模式匹配到的记录的处理方法,采用与C类似的语法,并由一对大括号“{}”括起来。

模式

代码语言:javascript代码运行次数:0运行复制

/正则表达式/:使用通配符的扩展集。 关系表达式:使用运算符进行操作,可以是字符串或数字的比较测试。 模式匹配表达式:用运算符~(匹配)和~!(不匹配)。 BEGIN语句块、pattern语句块、END语句块

行为操作

代码语言:javascript代码运行次数:0运行复制

操作由一个或多个命令、函数、表达式组成,之间由换行符或分号隔开,并位于大括号内,主要部分是:变量或数组赋值输出命令内置函数控制流语句

awk脚本基本结构

代码语言:javascript代码运行次数:0运行复制

awk  'BEGIN{ commands } pattern{ commands } END{ commands }'  file

一个awk脚本通常由:BEGIN语句块、能够使用模式匹配的通用语句块、END语句块3部分组成,这三个部分是可选的。任意一个部分都可以不出现在脚本中,脚本通常是被单引号或双引号中。

示例:

代码语言:javascript代码运行次数:0运行复制

例如:awk  'BEGIN{ i=0 } { i++ } END{ print i }' filenameawk  "BEGIN{ i=0 } { i++ } END{ print i }" filename

awk的工作原理

第一步:执行BEGIN{ commands }语句块中的语句;

第二步:从文件或标准输入(stdin)读取一行,然后执行pattern{ commands }语句块,它逐行扫描文件,从第一行到最后一行重复这个过程,直到文件全部被读取完毕。

第三步:当读至输入流末尾时,执行END{ commands }语句块。

BEGIN语句块在awk开始从输入流中读取行之前被执行,这是一个可选的语句块,比如变量初始化、打印输出表格的表头等语句通常可以写在BEGIN语句块中。

END语句块在awk从输入流中读取完所有的行之后即被执行,比如打印所有行的分析结果这类信息汇总都是在END语句块中完成,它也是一个可选语句块。

pattern语句块中的通用命令是最重要的部分,它也是可选的。如果省略模式,则行为将被应用到每条输入记录;如果省略行为,则默认操作是在标准输出上打印匹配到的记录,执行{ print }。

豆包爱学 豆包爱学

豆包旗下AI学习应用

豆包爱学 674 查看详情 豆包爱学

awk程序的pattern语句块有以下三种情况:

代码语言:javascript代码运行次数:0运行复制

awk  'pattern    {undefinedcommands }'     #如果模式匹配,则执行行为awk  'pattern           '         #如果模式匹配,则在标准输出上打印记录执行{ print }awk  '           {commands }'    # 针对每条记录,执行行为。

示例:

代码语言:javascript代码运行次数:0运行复制

$ echo  -e "hello n my baymax " | awk 'BEGIN{ print "Start" } { print } END{ print "End" }'  #完整的结构#-e参数表示echo内可使用转义字符$ echo  -e "hello n my baymax " | awk 'BEGIN{ print "Start" } { print } '  #省略end结构$ echo -e "hello n my baymax " | awk ' { print } '                      #省略前后结构$ echo  -e "hello n my baymax " | awk ' { print } END{ print "End" }'     #省略begin结构

当使用不带参数的print时,它就打印当前行,当print的参数是以逗号进行分隔时,打印时则以空格作为定界符。例如:

代码语言:javascript代码运行次数:0运行复制

$echo | awk '{ var1="v1"; var2="v2"; var3="v3"; print var1,var2,var3; }'v1 v2 v3

在awk的print语句块中双引号是被当作拼接符使用:

代码语言:javascript代码运行次数:0运行复制

echo | awk '{ var1="v1"; var2="v2"; var3="v3"; print var1"="var2"="var3; }'

v1=v2=v3

{ }类似一个循环体,会对文件中的每一行进行迭代,通常变量初始化语句(如:i=0)以及打印文件头部的语句放入BEGIN语句块中,将打印的结果等语句放在END语句块中。

awk内置变量(预定义变量)

说明:[A][N][P][G]表示第一个支持变量的工具,[A]=awk、[N]=nawk、[P]=POSIXawk、[G]=gawk

代码语言:javascript代码运行次数:0运行复制

$n 当前记录的第n个字段,比如n为1表示第一个字段,n为2表示第二个字段。 字段是用空格隔开的单词段。$0 这个变量包含执行过程中当前行的文本内容。[A] NF 表示字段数,在执行过程中对应于当前的字段数。而$NF则表示一行中的最后一个字段。$(NF-n)则表示一行中的倒数第n个字段,n为正整数。[A] NR 表示记录数,在执行过程中对应于当前的行号。[A] OFMT 数字的输出格式(默认值是%.6g)。[A] OFS 输出字段分隔符(默认值是一个空格)。[A] ORS 输出记录分隔符(默认值是一个换行符)。[A] RS 记录分隔符(默认是一个换行符)。[A] FILENAME 当前输入文件的名。[A] FS 字段分隔符(默认是任何空格)。[G] ARGIND 命令行中当前文件的位置(从0开始算)。[G] CONVFMT 数字转换格式(默认值为%.6g)。[G] FIELDWIDTHS 字段宽度列表(用空格键分隔)。[G] IGNORECASE 如果为真,则进行忽略大小写的匹配。[N] RSTART 由match函数所匹配的字符串的第一个位置。[N] RLENGTH 由match函数所匹配的字符串的长度。[N] SUBSEP 数组下标分隔符(默认值是34)。[N] ARGV 包含命令行参数的数组。[N] ARGC 命令行参数的数目。[N] ERRNO 最后一个系统错误的描述。[P] ENVIRON 环境变量关联数组。[P] FNR 同NR,但相对于当前文件。

示例:

需用到内置变量:NR 表示记录数,在执行过程中对应于当前的行号。

需用到内置变量:NF 表示字段数,在执行过程中对应于当前的字段数。而$NF则表示一行中的最后一个字段。

需用到内置变量:$n 当前记录的第n个字段,比如n为1表示第一个字段,n为2表示第二个字段。

代码语言:javascript代码运行次数:0运行复制

$ echo -e "line1 f2 f3n line2 f4 f5" | awk '{print "Line No:"NR", No of fields:"NF, "$0="$0, "$1="$1, "$2="$2, "$3="$3}'

将外部变量值传递给awk

需用到-v选项,可以将外部值(并非来自stdin)传递给awk,有三种方式。

第一种:写在脚本内(脚本后缀名随意,编辑好直接运行即可)

代码语言:javascript代码运行次数:0运行复制

var1="aaa" var2="bbb" echo | awk '{ print v1,v2 }' v1=$var1 v2=$var2

第二种:传递外部变量方法:

代码语言:javascript代码运行次数:0运行复制

Va=100 echo | awk -v  VARIABLE=$Va '{ print VARIABLE }'

第三种:当输入来自于文件时使用??

代码语言:javascript代码运行次数:0运行复制

awk '{ print v1,v2 }' v1=$var1 v2=$var2 filename

以上就是Linux系统开发: 学习linux三剑客(awk、sed、grep)(下)的详细内容,更多请关注创想鸟其它相关文章!

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。
如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 chuangxiangniao@163.com 举报,一经查实,本站将立刻删除。
发布者:程序猿,转转请注明出处:https://www.chuangxiangniao.com/p/459497.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
深度学习中的代码数据增强:5年89篇研究综述
上一篇 2025年11月8日 02:53:19
VSCode怎么写JS代码_VSCode编写和调试JavaScript代码教程
下一篇 2025年11月8日 02:53:30

相关推荐

  • 如何在mysql中备份二进制日志

    答案:MySQL二进制日志备份可通过mysqlbinlog工具导出、直接复制日志文件、定时归档及结合mysqldump全量备份实现,需配合FLUSH LOGS和SHOW BINARY LOGS确保一致性,并制定保留策略以支持数据恢复。 在 MySQL 中,二进制日志(Binary Log)记录了所有…

    2026年9月23日
    100
  • Photopea中AI图片如何导出为PNG?快速保存图像的实用方法

    答案:在Photopea中导出AI生成图片为PNG,需点击“文件”→“导出为”→选择PNG,设置质量100%、勾选透明度并确认尺寸后保存;为平衡质量与文件大小,优先调整图像尺寸而非降低质量,高分辨率图片可缩放以优化;常见技巧包括使用高分辨率源图、保留图层非破坏性编辑;其他格式如JPEG适合无透明背景…

    2026年9月23日
    200
  • 如何使用Java制作简易的博客系统

    首先搭建Spring Boot后端,设计BlogPost实体类并用JPA实现数据持久化,通过BlogController处理页面请求,使用Thymeleaf模板引擎渲染index和create页面,配置H2内存数据库并启用控制台,最终实现文章的发布与展示功能。 用Java制作一个简易的博客系统,核心…

    2026年9月23日
    200
  • qq浏览器主页被篡改了如何修复_qq浏览器主页被篡改修复方法

    首先检查QQ浏览器设置中的主页地址并修正,接着查看桌面快捷方式目标路径是否被添加恶意网址并清理,然后使用腾讯电脑管家等工具扫描修复,最后可尝试重置浏览器或通过注册表编辑器锁定主页,防止再次被篡改。 QQ浏览器主页被篡改,通常是由恶意软件、插件或安全软件锁定导致的。修复的关键是检查多个可能被修改的位置…

    2026年9月23日
    100
  • 渗透测试|利用curl回传文件

    在处理低权限shell回传文件的问题时,如果无法使用scp命令且无法安装sshpass,可以考虑使用curl命令进行文件传输。以下是详细的伪原创内容: 至少我们曾经在一起过。 来自:一言 var xhr = new XMLHttpRequest();xhr.open(‘get’, ‘https://…

    2026年9月23日
    100
  • 抖音涨粉慢怎么办?快速提升粉丝量的10个有效方法

    抖音涨粉慢怎么办?快速提升粉丝量的10个有效方法抖音涨粉慢怎么办?快速提升粉丝量的10个有效方法抖音涨粉慢怎么办?快速提升粉丝量的10个有效方法抖音涨粉慢怎么办?快速提升粉丝量的10个有效方法

    抖音涨粉慢可通过10个方法提升,一是明确内容定位,选择垂直领域持续输出,如美妆测评、职场干货等,提高系统推荐精准度;二是做好前3秒“钩子”,用问题、数据或反差吸引用户停留;三是蹭热点话题和挑战,结合创意参与提升曝光;四是引导评论互动,增加算法权重;五是选择合适发布时间,匹配目标人群活跃时段;六是保持…

    2026年9月23日 用户投稿
    300
  • VSCode如何配置Scala开发环境 VSCode搭建Scala项目的完整教程

    首先安装jdk 11或17并正确配置java_home和path环境变量;2. 通过包管理器或官网安装sbt,用于项目构建与依赖管理;3. 在vscode中安装scala (metals)插件,以获得代码补全、错误检查等语言服务;4. 使用sbt new scala/scala-seed.g8创建项…

    2026年9月23日
    100
  • Airtable的AI混合工具怎么用?快速管理数据的智能化操作步骤

    Airtable的AI混合工具通过将AI能力嵌入数据管理流程,实现自动化处理、分析与内容生成。首先明确AI需求,如总结反馈或生成文案;接着选择AI字段或在自动化中添加AI动作;然后配置模型与提示词,精准设计指令以确保输出质量;指定输入输出字段后进行测试迭代,优化提示词直至满意;最后部署并持续监控。该…

    2026年9月23日
    100
  • 无代码调整聚类热图分支顺序

    无代码调整聚类热图分支顺序无代码调整聚类热图分支顺序无代码调整聚类热图分支顺序无代码调整聚类热图分支顺序

    聚类热图的分支结构会因不同的聚类算法和距离计算方式而有所不同。在保持分支结构不变的前提下,我们有时需要调整热图分支的顺序,以满足特定的需求。这就是文章聚类热图如何按自己的意愿调整分支顺序的出发点。 现在,这种功能已经移植到BIC平台,具体操作如下: 使用之前的绘图数据: 采用默认的绘图参数: 生成的…

    2026年9月23日 用户投稿
    300
  • mysql如何输入特殊字符 mysql写sql语句的转义方法

    mysql如何输入特殊字符 mysql写sql语句的转义方法mysql如何输入特殊字符 mysql写sql语句的转义方法mysql如何输入特殊字符 mysql写sql语句的转义方法mysql如何输入特殊字符 mysql写sql语句的转义方法

    在mysql中处理特殊字符的核心方法是使用预处理语句,1.手动转义可通过反斜杠实现,如单引号转为’、双引号转为”等,但易出错且不安全;2.更推荐使用预处理语句(prepared statements)或参数绑定,它能自动处理特殊字符并防止sql注入;3.预处理语句的优势包括安全性高,彻底杜绝sql注…

    2026年9月23日 用户投稿
    400
  • Java中ConnectException连接异常的解决方法

    答案:Java中ConnectException通常因服务未启动、网络不通或配置错误导致,需检查服务状态、IP端口配置及防火墙设置,并合理设置连接超时与重试机制。 Java中出现ConnectException通常表示应用程序尝试连接到远程服务器时失败,最常见的原因是目标主机拒绝连接或网络不通。这个…

    2026年9月23日
    200
  • VSCode高效配置Elixir:Phoenix框架、中文提示、模式匹配

    要高效配置vscode支持elixir开发,必须安装elixirls扩展并确保elixir和erlang环境正确;elixirls提供代码补全、跳转、格式化和调试功能,配合手动设置.heex、.leex文件关联为html可优化phoenix框架开发体验;通过安装中文语言包、设置files.encod…

    2026年9月23日
    100
  • PHP高效读取大型GZ文件:揭示Gzip的顺序访问限制与实践方法

    本教程深入探讨了php中处理大型gz压缩文件的核心挑战:其固有的顺序访问特性。我们将解释为何无法对gz文件进行随机跳转读取,以及这意味着您必须从头开始按序解压数据。文章将提供一种实用的分块读取策略,并附带php示例代码,帮助开发者高效、安全地处理超大gz文件,同时讨论潜在的跨块数据处理问题及内存管理…

    2026年9月23日
    200
  • 鸿蒙3.0将删除谷歌代码,只是为让国产系统更纯粹

    鸿蒙3.0将删除谷歌代码,只是为让国产系统更纯粹鸿蒙3.0将删除谷歌代码,只是为让国产系统更纯粹鸿蒙3.0将删除谷歌代码,只是为让国产系统更纯粹鸿蒙3.0将删除谷歌代码,只是为让国产系统更纯粹

    作为“聚光灯下诞生的国产系统”,华为鸿蒙系统自诞生之日起就引发了激烈的争论。尽管鸿蒙系统已升级至3.0版本,但关于“鸿蒙系统是否是安卓套壳”的讨论依然是焦点。不过,这可能并不是问题的核心。 鸿蒙系统是套壳吗?对于如今的国内科技企业来说,开发一个系统并不困难。然而,为什么最终存活下来的只有MIUI、F…

    2026年9月23日 用户投稿
    100
  • mysql怎么执行子查询 mysql输入嵌套sql语句方法

    mysql怎么执行子查询 mysql输入嵌套sql语句方法mysql怎么执行子查询 mysql输入嵌套sql语句方法mysql怎么执行子查询 mysql输入嵌套sql语句方法mysql怎么执行子查询 mysql输入嵌套sql语句方法

    mysql子查询常见类型包括标量子查询、行子查询和表子查询,分别返回一行一列、一行多列和多行多列数据;应用场景涵盖where作为过滤条件、from作为派生表、select作为标量列以及dml操作的数据提供。此外,根据与外部查询的关联性分为非关联子查询和关联子查询,前者独立执行一次,后者依赖外部查询每…

    2026年9月23日 用户投稿
    100
  • 硬刚 Sora 2,谷歌的 Veo 3.1 确实有小惊喜|AI 上新

    硬刚 Sora 2,谷歌的 Veo 3.1 确实有小惊喜|AI 上新硬刚 Sora 2,谷歌的 Veo 3.1 确实有小惊喜|AI 上新硬刚 Sora 2,谷歌的 Veo 3.1 确实有小惊喜|AI 上新硬刚 Sora 2,谷歌的 Veo 3.1 确实有小惊喜|AI 上新

    谷歌最新视频生成模型 veo 3.1 来了!今日上手可用。 北京时间 10 月 16 日,谷歌在 Gemini API 中发布了 Veo 3.1 和 Veo 3.1 Fast 付费预览版。模型一上线,就受到了行业的高度关注。毕竟,和前不久发布的 Sora 2 一样,这次 Veo 3.1 也新增了音频…

    2026年9月23日 用户投稿
    200
  • VSCode 怎样用插件实现代码的二维码分享功能 VSCode 代码二维码分享插件的创意使用​

    是的,vscode可通过安装插件实现代码二维码分享功能,具体操作为:1. 打开扩展视图(ctrl+shift+x);2. 搜索“qr code”或“share code”等关键词;3. 选择下载量高、评价好的插件如“code to qr code”并安装;4. 选中代码后右键点击“generate …

    2026年9月23日
    200
  • 抖音小店可以无货源吗?无货源开店

    随着电商行业的不断发展,其在人们日常生活中的地位日益重要。作为当下热门的短视频社交平台,抖音凭借庞大的用户群体和强大的流量支持,吸引了大量商家入驻。很多人开始关注:抖音小店是否可以采用无货源模式运营?本文将带您了解这一新兴电商模式的发展趋势。 一、什么是抖音小店无货源模式? 抖音小店无货源模式是指商…

    2026年9月23日
    100
  • 分享一个服务器一键测试脚本

    superbench是一个测试linux服务器性能的脚本,让你快速方便了解一台服务器的综合性能,支持硬件基本信息、流媒体解锁检测、磁盘io检测、cpu性能测试、以及国内和国外网络测速、网络路由追踪。 以上就是分享一个服务器一键测试脚本的详细内容,更多请关注创想鸟其它相关文章!

    2026年9月22日
    200
  • win11任务栏图标合并了怎么取消_win11任务栏图标合并设置方法

    首先通过系统设置将“合并任务栏按钮”设为从不,若无效则用注册表编辑器新建TaskbarGlomLevel并赋值2,或使用StartAllBack等工具自定义,同时排查第三方软件干扰。 如果您发现Win11任务栏上的程序图标被自动合并,导致无法清晰查看每个应用的独立窗口,可以通过系统设置或高级方法进行…

    2026年9月22日
    100

发表回复

登录后才能评论
关注微信