hive之正则函数研究学习regex/regex_replace/regex_extract

乍一看很多，很复杂。最开始就先看标红的

然后看起始^和结束符$ ，在看看贪婪和非贪婪 ，group，再看看转义。好了你已经学会基本知识了。直接来实战。

regex函数

这个函数主要是来用于判断 字符串是否符合正则规则的，返回值是boolean。

select 'abcdfeef' regexp('[1-9]') --false --看字符串里又没有1-9的数字

select 'abcdefg' regexp('[a-z]') --true -- 看字符串里又没有a-z的数字

select 'aabbccdd' regexp('(aa|11|)') --true-- 看字符串里又没有 aa 或则11

select 'abcdefg' regexp '^a',        --true是否以a开头
       'abcdefg' regexp 'g$',        --true是否以g结尾
       'abcdefg' regexp '(aa|bb)',   --false是否含有aa或者bb 
       'abcdefg' regexp '(ab|bb)',   --true 是否含有ab或者bb
       'abcdefg' regexp '(^a|bb)'    --true 是否以a开头或者含有bb

比如我之前有个sql是看一个公司名是否含有“银行、保险有限、保险股份、证券有限、证券股份、信托、基金管理、期货”等字样

 难道我一个个like '%银行%' or like'%保险%' ?

下面这么写不是更优雅么。

select * from table 

where name regexp '(银行|保险有限|保险股份|证券有限|证券股份|信托|基金管理|期货)

实战。 

有个准入表中字段为准入人  数据如下 要求个人审批不动，其余都改为系统准入

chenchi(陈池)

zbf(朱某某)

zbf2(朱某2)

zbf10000(朱某10000)

SGYX_SYFC_D1E605 --注意这个b玩意可能是哪个系统的准入

TBSHZ_QDFC_7A28F0 --注意这个b玩意可能是哪个系统的准入

......... 一大堆都是这种系统自动的准入。

你说怎么搞？ 有小伙伴肯定就说了 你看又没有( ) like下。这个多lowb 而且开发环境和生产不一样，万一生产有个系统准入叫做 XXXX_AAAA_(废弃)你怎么办

所以我们总结规律 (字符) 字符。

那么得出正则规律为 '\\S+[\\(（].*[\\)）]'

解析 ：\\代表转义。

\\S+     代表的是多个字符也就是拼音 可能会有下划线空格例如 michael Jordan。

[]          代表 的是一个集合

\\(         代表的是  本来\(就代表括号 但是\需要转义下 

（        这个是中文括号 不需要转义

[\\(（]   这个就代表 要么是中文括号 要么是英文括号开始

.*         代表多个字符

[\\)）]  这个代表反括号结尾 可以最后$ 以示严谨

select "chenchi(陈池)" regexp('\\S+[\\(（].*[\\)）]'),     --true
       "love_zbf（朱某某100）" regexp('\\S+[\\(（].*[\\)）]') --true

好了， 至此你已经是一个入门正则选手了。 

regex_extract

这个主要用于从一串字符串里提取自己想要的文字。

hive 函数说明。你去看oracle mysql 或者其他都行。

hive>  desc function extended regexp_extract; 

"regexp_extract(str, regexp[, idx]) - extracts a group that matches regexp"
Example:
"  > SELECT regexp_extract('100-200', '(\d+)-(\d+)', 1) FROM src LIMIT 1;"
  '100'
Function class:org.apache.hadoop.hive.ql.udf.UDFRegExpExtract
Function type:BUILTIN
 

 extracts a group that matches regexp 主要就是这句话。提取一个group，上面说到了group。

Java 正则表达式 | 菜鸟教程

本想让大家自行学习，想想有的小伙伴可能不懂。就贴出一张图自行领略

​

从中英文中提取数字
select regexp_extract('abcdefg1234hik', '(\\d)',1),  --1    \\d代表的是一个数字
       regexp_extract('abcdefg1234hik', '(\\d+)',1), --1234 \\这里因为+代表的1或多次如果匹配到了那么就是尽可能的多这就是贪婪模式
       regexp_extract('abcdefg1234hik', '(\\d+?)',1) --1     \\这里+还是上面的意思?就代表了0-1次非贪婪模式 此时有小伙伴就会问了 我为啥还要+呢？

直接来个  regexp_extract('abcdefg1234hik', '(\\d?)',1) --可惜结果是  '' 空因为匹配到了0次。

又有小伙伴要问了，我第一行不也是匹配到了 1 和贪婪非贪婪没关系不也ok么？我只能说小虎版你太年轻了。千奇百怪的需求多的一批。

实战

有个工商信息表涉及的金额如下

124.84万元 ，10万元，突然来了个 20万美元 。这个时候我就怀疑可能有欧元港币，英镑。

那么我怎么去找到到底有多少货币呢？

​

看看大家又没有思路。几十、上百万的数据你怎么去看？问业务 业务自己都不清楚。

思路：

1.既然我看有多少货币 那么就是看单位了？ 万元 ，万美元这种。

2.我把前面的数字去掉不就好了？distinct translate(registcapi,'.0123456789','')

​

 但是总感觉不太好，因为后面的需求是把外币转化为人民币。translate有点满足不了需求，这时候有小伙伴会说我可以！！

select registcapi,
       translate(registcapi,'万元美欧港瑞士法郎',''),
       translate(registcapi,'.0123456789','')
from odsiadata.ia_fdw_ic_enterprise_information

 但是过了几天 这个列多了一个货币 津巴布韦币，是不是又要改sql了呢？所以还是用正则吧

select registcapi,
       regexp_extract(registcapi,'(\\d+(\.\\d+)?)(.*)',1) ,--整数+小数
       regexp_extract(registcapi,'(\\d+(\.\\d+)?)(.*)',2) ,-- .小数
       regexp_extract(registcapi,'(\\d+(\.\\d+)?)(.*)',3)  -- 单位
from odsiadata.ia_fdw_ic_enterprise_information

这个就不分析了。累了。

来个小案例

select a ,
       regexp_extract(a,'.*?\\..*?\\.(.*?)\\.+',1), --非贪婪模式
       regexp_extract(a,'.*\\..*\\.(.*)\\.+',1)  -- 贪婪模式 一直不对
from (
         select '缺省.银行存款-人民币-活期存款.China Merchants Bank Hong Kong Branch527118RMB.缺省1.缺省2.缺省3.缺省4.缺省5' as a
     )t

这是在oracle遇到的一个大概就是以 . 分隔 取第三个吧

regex_replace

这个就是正则替换，主要是用于替换 其实和上面的regex_extract比较像
一个是提取正则表达式，一个是把正则表达式替换为其他内容。

hive 官方文档

desc function extended regexp_replace

"regexp_replace(str, regexp, rep) - replace all substrings of str that match regexp with rep"
Example:
"  > SELECT regexp_replace('100-200', '(\d+)', 'num') FROM src LIMIT 1;" --注意这里要转义
  'num-num'
Function class:org.apache.hadoop.hive.ql.udf.UDFRegExpReplace
Function type:BUILTIN
 

因为我平常没有遇到过这样的需求 所以直接百度参考文章。 

 参考文章  正则表达式regexp_replace的使用方法_正则表达式_脚本之家

 regexp_replace(source, pattern, replace_string, occurrence)

● source: string类型，要替换的原始字符串。

● pattern: string类型常量，要匹配的正则模式，pattern为空串时抛异常。

● replace_string:string，将匹配的pattern替换成的字符串。

● occurrence: bigint类型常量，必须大于等于0，

大于0：表示将第几次匹配替换成replace_string，

等于0：表示替换掉所有的匹配子串。

其它类型或小于0抛异常

注意！hive 的这个函数和oracle不一样，oracle有第 4个参数

1、用’#‘替换字符串中的所有数字

SELECT regexp_replace('01234abcde56789','[0-9]','#') AS new_str ; -- ###########

用’#‘替换字符串中的数字0、9

SELECT regexp_replace(‘01234abcde56789','[0-9]','#') AS new_str ; 

2、遇到非小写字母或者数字跳过，从匹配到的第4个值开始替换，替换为''

oracle

SELECT regexp_replace('abcdefg123456ABC','[a-z0-9]','',4) --abcABC

 hive 写上面报错 不能有第四个参数

SELECT regexp_replace('abcdefg123456ABC','[a-z0-9]','') --ABC

3 注意每个地方对转义的要求不一样。

oracle  是不需要转义\d

SELECT regexp_replace('13811112222','\d+','a') FROM dual  

hive 需要转义\\d

SELECT regexp_replace('13811112222','\\d+','a')

3、格式化手机号，将+86 13811112222转换为(+86) 138-1111-2222

’+‘在正则表达式中有定义，需要转义。\\1表示引用的第一个组

这个就是最有用的一个了！！！！ 分段替换。

oracle

SELECT regexp_replace('+86 13811112222','(\+[0-9]{2})( )([0-9]{3})([0-9]{4})([0-9]{4})','(\1)\3-\4-\5') FROM dual ;

 上面文章里的都是双\\转义 但又是from dual....这不是oracle的语法么？ 

 至于hive 好像没有\1\2\3 这个用法。。。日了狗。

不想搞了

最近遇到一个比较有意思的用法。

我要把 FDT101 + FDT102 + FDT10 字符串中的 FDT10 替换未另外一个字符串比如aaa

注意 只替换FDT10 不替换FDT101 FDT102

说实话真他操蛋，我也是改别人oracle pck里的语法看到的，我不知道他注意到没有，反正我看到了，小伙伴们可以先想想怎么搞。

select regexp_replace('FDT101 + FDT102 + FDT10 ','FDT10[ ]+','aaa')

 先说 FDT10和FDT101差别在哪里？ 这些代码都是 英文+汉字，  101比10多了个1 (也许多了两个数字也许多了字母 无所谓)，主要是找出区别。

注意我FDT10后面是有个空格的 所以我选择吧FDT10空格 这个整体替换 aaa 

正则表达式就是FDT10[ ]+  注意这里是+ 不是？ 如果是问号会非贪婪 全部替换的。也可以{1,}

这个时候有杠精小朋友会说了，你这个后面有空格 如果没有空格呢？

select regexp_replace('FDT101 + FDT102 + FDT10','FDT10$','aaa')

$专门匹配结尾。

接着又有杠精说了 你这是在结尾有结尾符号，如果在中间呢？ 

select regexp_replace('FDT101 + FDT102 + FDT10 + FDT10','FDT10( |$)','aaa')

--FDT101 + FDT102 + aaa+ aaa

看着好像没什么问题了 ，又有小伙伴说了 你把空格也替换了？我就要求不替换。我也是服了。

select regexp_replace('FDT101 + FDT102 + FDT10 + FDT10','FDT10(?= |$)','aaa')

--FDT101 + FDT102 + aaa + aaa  --注意第一个aaa后面有空格的。

最后终极版小伙伴说 你这后面要么是空格要么是结束 太固定了。

select regexp_replace('FDT101 +FDT10* FDT10 - FDT10+ FDT10','FDT10(?= |$|\\+|\\*)','aaa')

--FDT101 +aaa* aaa - aaa+ aaa   -- 这完全符合要求了 既保留了空格还保留了+-* 

上面写的太繁琐了 其实区别就是一个后面是多了一点数字 一个后面是空格+-*/

select regexp_replace('FDT101 +FDT10* FDT10- FDT10+ FDT10','FDT10(?=$|\\D)','aaa')

--FDT101 +aaa* aaa- aaa+ aaa

这个玩意我最开始也没怎么用过，翻到最上面自己学了下。 

(?!pattern) 正向肯定预查（look ahead positive assert），在任何匹配pattern的字符串开始处匹配查找字符串。这是一个非获取匹配，也就是说，该匹配不需要获取供以后使用。例如，"Windows(?=95|98|NT|2000)"能匹配"Windows2000"中的"Windows"，但不能匹配"Windows3.1"中的"Windows"。预查不消耗字符，也就是说，在一个匹配发生后，在最后一次匹配之后立即开始下一次匹配的搜索，而不是从包含预查的字符之后开始。

这玩意就是专门来区分 ab 和a 这两个区别的，关键是还只找a

(?!pattern) 正向否定预查(negative assert)，在任何不匹配pattern的字符串开始处匹配查找字符串。这是一个非获取匹配，也就是说，该匹配不需要获取供以后使用。例如"Windows(?!95|98|NT|2000)"能匹配"Windows3.1"中的"Windows"，但不能匹配"Windows2000"中的"Windows"。预查不消耗字符，也就是说，在一个匹配发生后，在最后一次匹配之后立即开始下一次匹配的搜索，而不是从包含预查的字符之后开始。

这玩意就是专门来区分 ab 和a 这两个区别的，关键是还只找ab中的a  和上面的刚好相反。