引言

在上一篇正则表达式博文(戳我阅读)中,我们探讨了正则表达式的基础知识,现在我们开始逐步探索正则表达式中的一系列进阶知识。今天我们探讨的是Python中re库对正则表达式的实现,利用这个库,我们可以在Python中使用正则表达式。在Python中是用正则表达式几乎都会使用这个库,下面为我们了解它的使用方法。

match()

这个方法向它传入要匹配的字符串以及正则表达式,就可以检测这个正则表达式是否匹配字符串。match()方法会尝试从字符串的起始位置匹配正则表达式,如果匹配,就返回匹配成功的结果,如果不匹配,就返回None.下面是一个示例:

1
2
3
4
5
6
7
8
9
10
11
12
import re
content = 'Hello 123 4567 World_This is a Regex Demo'
print(len(content))
result = re.match('^Hello\s\d\d\d\s\d{4}\s\w{10}', content)
print(result.group())
print(result.span())
'''
运行结果:
41
Hello 123 4567 World_This
(0,25)
'''

这里首先声明了一个字符串,随后用正则表达式^Hello\s\d\d\d\s\d{4}\s\w{10}匹配这个字符串,结合之前的正则表达式相关知识,我们可以进行如下的解读:开头的^是匹配字符串的开头,也就是以Hello开头;然后\s匹配空白字符,用来匹配目标字符串的空格,\d匹配数字,连续匹配三次匹配了123;再写1个\s匹配空格;后面还有4567,可以通过四个\d匹配,但是这么写比较繁琐,所以后面跟{4}代表前面的匹配规则匹配四次,也就是匹配四个数字;然后后面再紧跟1个空白字符,最后\w{10}匹配10个字母与下划线.最终得到了匹配结果.可见在match()方法中,第一个参数传入正则表达式,第二个参数要传入待匹配的字符串.这个方法的匹配结果是一个SRE_Match对象,这证明匹配成功。该对象有两个方法:group()可以输出匹配到的内容,span()方法可以输出匹配的范围,结果是(0,25),也就是匹配到的结果字符串在原字符串中的位置范围.

下面我们结合正则表达式的其他匹配规则进一步分析re库的使用

匹配目标

在实际程序中,我们常常需要从字符串中提取一部分内容,例如从一段文本中提取E-mail地址或电话号码等,这是可以用()括号把想提取的子字符串括起来,括号实际上标记了一个子表达式的开始和结束位置,被标记的每个子表达式会依次对应每一个分组,调用group()方法传入分组的索引即可获取提取的结果。下面是一段示例代码:

1
2
3
4
5
6
7
8
9
10
11
12
import re
content = 'Hello 1234567 World_This is a Regex Demo'
result = re.match('^Hello\s(\d+)\sWorld', content)
print(result.group())
print(result.group(1))
print(result.span())
'''
运行结果:
Hello 1234567 World
1234567
(0,19)
'''

这里我们想把字符串中的1234567提取出来,此时可以将数字部分的正则表达式用()括号括起来,然后用group(1)获取匹配结果.可以看到,我们成功得到了1234567,这里用的是group(1),它与group()有所不同,后者会输出完整的匹配结果,而前者会输出被第一个括号包围的匹配结果。假如正则表达式后面还有括号包括的内容,那么可以依次用group(2)等来获取.

通用匹配——.*大法好

划重点我们可以使用.*来简化正则表达式。

之前我们为了表述易于理解,使用了较为复杂的正则表达式书写方法,下面我们借助正则表达式的通用匹配原则简化工作量。我们需要使用.*这个万能匹配方式。回想之前我们接触的基本匹配规则,我们知道:其中,.(点)可以匹配除了换行符以外的任意字符,*(星)代表前面的字符匹配无限次,所以他们组合在一起就可以匹配任何字符了。有了这对黄金拍档,我们就不用逐个字符进行匹配了。下面我们根据之前的原理,将正则表达式中间部分直接省略而改用改写.*代替并加上最后的结尾字符串,那么前面的正则表达式可以改写如下:

1
2
3
4
5
6
7
8
9
10
import re
content = 'Hello 123 4567 World_This is a Regex Demo'
result = re.match('^Hello.*Demo$', content)
print(result.group())
print(result.span())
'''
运行结果:
Hello 123 4567 World_This is a Regex Demo
(0,41)
'''

从上面的代码中,我们可以看到,group()方法输出了匹配的全部字符串,也就是说我们写的正则表达式匹配了目标字符串的全部内容,span()方法输出了(0,41),这就是整个字符串的长度。

贪婪与惰性——.*?的故事

划重点在做匹配时,字符串中间要尽量使用惰性匹配,也就是用.*?来代替.*,以防匹配结果缺失。

实际上使用上面的通用匹配.*时有时无法匹配到我们想要的结果,下面是一个案例:

1
2
3
4
5
import re
content = 'Hello 1234567 World_This is a Regex Demo'
result = re.match('^He.*(\d+).*Demo$', content)
print(result.group(1))
#运行结果:7

这里我们的本意是获取中间的数字部分,所以中间写的是(\d+),而数字两侧的部分由于内容较为混杂,所以希望使用省略写法来写,于是都使用了.*。看样子这样的正则表达式没有什么问题,应该输出1234567,但是最终实际运行结果中只输出了7.这是为什么呢?回想上一篇正则表达式博文中我们接触的贪婪与非贪婪原则,我们可以做出这样的理解:在贪婪匹配下,.*会匹配尽可能多的字符,在正则表达式中,.*后面是\d+,也就是至少一个数字,并没有指定具体多少个数字,因此.*就尽可能多的匹配字符,这里就把123456都匹配了,留给\d+的只有一个满足条件的数字7,最后也就只得到了数字7.这很明显给我们带来了很大的不便,因为有时候匹配结果莫名其妙就少了一部分内容,那么这时我们就需要使用惰性匹配了。惰性匹配的写法是.*?,多了一个?,可以达到怎么样的效果呢,我们来看一个案例:

1
2
3
4
5
import re
content = 'Hello 1234567 World_This is a Regex Demo'
result = re.match('^He.*?(\d+).*Demo$', content)
print(result.group(1))
#运行结果:1234567

我们按照期望获得了字符串1234567,原因也是清晰的——贪婪匹配是匹配尽可能多的字符,非贪婪匹配就是匹配尽可能少的字符,当.*?匹配到Hello后面的空白字符时,再往后就是数字了,而\d+恰好可以匹配,那么这时.*?就不再进行匹配,而交给\d+去匹配后面的数字,所以这样.*?匹配了尽可能少的字符,\d+的结果就是1234567了.

但是,值得指出的是,如果匹配的结果在字符串结尾,.*?就有可能匹配不到任何内容了,因为它会匹配尽可能少的字符。下面我们给出一段代码,请读者结合代码,自行思考我这么说的原因。

1
2
3
4
5
6
7
8
9
10
11
import re
content = 'http://weibo.com/comment/kEraCN'
result1 = re.match('http.*?comment/(.*?)', content)
result2 = re.match('http.*?comment/(.*)', content)
print('result1', result1.group(1))
print('result2', result2.group(1))
'''
运行结果:
result1
result2 kEraCN
'''

修饰符——re.S和它的家族

正则表达式可以包含一些可选标志修饰符来控制匹配的模式。修饰符被指定为一个可选的标志,下面是一个实例:

1
2
3
4
5
6
import re
content = '''Hello 1234567 World_This
is a Regex Demo
'''
result = re.match('^He.*?(\d+).*?Demo$', content)
print(result.group(1))

在上次的基础上,这次我们在字符串中加入了换行符,正则表达式还是不变,用于匹配前面的数字,在运行时,这段程序报错了,也就是说正则表达式没有匹配到合适的字符串,返回了None,而在这时调用group()方法导致了匹配错误.联想到之前我们强调,正则表达式中.符号匹配的是换行符以外的任意字符,我们也就自然理解了在遇到换行符时原来的正则表达式无法正常匹配的原因了。那么我们应该怎么办呢?正确的方法是加入修饰符re.S,下面我们将修改后的第5行程序展示出来

1
result = re.match('^He.*?(\d+).*?Demo$', content,re.S)

这样运行结果就恢复了正常.这个re.S在实际网页匹配中常常用到,因为HTML节点经常换行,加上它就可以匹配节点中的换行了.下面我们再介绍几个其它修饰符

修饰符 描述
re.I 使匹配对大小写不敏感
re.L 做本地化识别(locale-aware)匹配
re.M 多行匹配,影响^$
re.S 使.匹配包括换行在内的所有字符
re.U 根据Unicode字符集解析字符。这个标志影响\w\W\b\B
re.X 该标志通过给予你更灵活的格式以便你将正则表达式写得更易于理解

在网页匹配中,较为常用的有re.Sre.I

转义匹配——做一个斜杠青年\

我们知道正则表达式定义了许多匹配模式,如.匹配除换行符以外的任意字符,但是如果目标字符串里面就包含.,那该怎么办呢?这里就需要用到转义匹配了,示例如下:

1
2
3
4
5
import re
content = '(百度)www.baidu.com'
result = re.match('\(百度\)www\.baidu\.com', content)
print(result)
#运行结果:<_sre.SRE_Match object; span=(0, 17), match='(百度)www.baidu.com'>

当遇到用于正则匹配模式的特殊字符时,在前面加反斜线转义一下即可。例如.就可以用\.来匹配.可以看到,这里成功匹配到了原字符串。这些是写正则表达式常用的几个知识点,熟练掌握它们对后面写正则表达式匹配非常有帮助。

前面提到过,match()方法是从字符串的开头开始匹配的,一旦开头不匹配,那么整个匹配就失败了。我们看下面的例子:

1
2
3
4
import re
content = 'Extra stings Hello 1234567 World_This is a Regex Demo Extra stings'
result = re.match('Hello.*?(\d+).*?Demo', content)
print(result)

这里的字符串以Extra开头,但是正则表达式以Hello开头,整个正则表达式是字符串的一部分,但是这样匹配是失败的。运行结果为None。因为match()方法在使用时需要考虑到开头的内容,这在做匹配时并不方便。它更适合用来检测某个字符串是否符合某个正则表达式的规则。

这里就有另外一个方法search(),它在匹配时会扫描整个字符串,然后返回第一个成功匹配的结果。也就是说,正则表达式可以是字符串的一部分,在匹配时,search()方法会依次扫描字符串,直到找到第一个符合规则的字符串,然后返回匹配内容,如果搜索完了还没有找到,就返回None。我们把上面代码中的match()方法修改成search(),就得到了1234567.

因此,为了匹配方便,我们可以尽量使用search()方法。下面再用几个实例来看看search()方法的用法。这里有一段待匹配的HTML文本,接下来写几个正则表达式实例来实现相应信息的提取:

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
html = '''<div id="songs-list">
<h2 class="title">经典老歌</h2>
<p class="introduction">
经典老歌列表
</p>
<ul id="list" class="list-group">
<li data-view="2">一路上有你</li>
<li data-view="7">
<a href="/2.mp3" singer="任贤齐">沧海一声笑</a>
</li>
<li data-view="4" class="active">
<a href="/3.mp3" singer="齐秦">往事随风</a>
</li>
<li data-view="6"><a href="/4.mp3" singer="beyond">光辉岁月</a></li>
<li data-view="5"><a href="/5.mp3" singer="陈慧琳">记事本</a></li>
<li data-view="5">
<a href="/6.mp3" singer="邓丽君"><i class="fa fa-user"></i>但愿人长久</a>
</li>
</ul>
</div>'''

可以观察到,ul节点里有许多li节点,其中li节点中有的包含a节点,有的不包含a节点,a节点还有一些相应的属性——超链接和歌手名。首先,我们尝试提取classactiveli节点内部的超链接包含的歌手名和歌名,此时需要提取第三个li节点下a节点的singer属性和文本。此时正则表达式可以以li开头,然后寻找一个标志符active,中间的部分可以用.*?来匹配。接下来,要提取singer这个属性值,所以还需要写入singer="(.*?)",这里需要提取的部分用小括号括起来,以便用group()方法提取出来,它的两侧边界是双引号。然后还需要匹配a节点的文本,其中它的左边界是>,右边界是</a>。然后目标内容依然用(.*?)来匹配,所以最后的正则表达式就变成了:

1
<li.*?active.*?singer="(.*?)">(.*?)</a>

然后再调用search()方法,它会搜索整个HTML文本,找到符合正则表达式的第一个内容返回。另外,由于代码有换行,所以这里第三个参数需要传入re.S。由于需要获取的歌手和歌名都已经用小括号包围,所以可以用group()方法获取。整个匹配代码如下:

1
2
3
4
result = re.search('<li.*?active.*?singer="(.*?)">(.*?)</a>', html, re.S)
if result:
print(result.group(1), result.group(2))
#运行结果:齐秦 往事随风

可以看到,这正是classactiveli节点内部的超链接包含的歌手名和歌名。那么如果正则表达式不加active(也就是匹配不带classactive的节点内容),那会怎样呢?我们将正则表达式中的active去掉,代码改写如下,由于search()方法会返回第一个符合条件的匹配目标,这里结果就变了:

1
2
3
4
result = re.search('<li.*?singer="(.*?)">(.*?)</a>', html, re.S)
if result:
print(result.group(1), result.group(2))
#运行结果:任贤齐 沧海一声笑

active标签去掉后,从字符串开头开始搜索,此时符合条件的节点就变成了第二个li节点,后面的就不再匹配,所以运行结果就变成第二个li节点中的内容。

注意,在上面的两次匹配中,search()方法的第三个参数都加了re.S,这使得.*?可以匹配换行,所以含有换行的li节点被匹配到了。如果我们将其去掉,结果会是什么?代码如下.可以看到,结果变成了第四个li节点的内容。这是因为第二个和第三个li节点都包含了换行符,去掉re.S之后,.*?已经不能匹配换行符,所以正则表达式不会匹配到第二个和第三个li节点,而第四个li节点中不包含换行符,所以成功匹配:

1
2
3
4
result = re.search('<li.*?singer="(.*?)">(.*?)</a>', html)
if result:
print(result.group(1), result.group(2))
#运行结果:beyond 光辉岁月

由于绝大部分的HTML文本都包含了换行符,所以尽量都需要加上re.S修饰符,以免出现匹配不到的问题。

findall()

前面我们介绍了search()方法的用法,它可以返回匹配正则表达式的第一个内容,但是如果想要获取匹配正则表达式的所有内容,那该怎么办呢?这时就要借助findall()方法了。该方法会搜索整个字符串,然后返回匹配正则表达式的所有内容。

还是上面的HTML文本,如果想获取所有a节点的超链接、歌手和歌名,就可以将search()方法换成findall()方法。如果有返回结果的话,就是列表类型,所以需要遍历一下来依次获取每组内容。代码如下:

1
2
3
4
5
6
results = re.findall('<li.*?href="(.*?)".*?singer="(.*?)">(.*?)</a>', html, re.S)
print(results)
print(type(results))
for result in results:
print(result)
print(result[0], result[1], result[2])

运行结果如下:

1
2
3
4
5
6
7
8
9
10
11
12
[('/2.mp3', '任贤齐', '沧海一声笑'), ('/3.mp3', '齐秦', '往事随风'), ('/4.mp3', 'beyond', '光辉岁月'), ('/5.mp3', '陈慧琳', '记事本'), ('/6.mp3', '邓丽君', '但愿人长久')]
<class 'list'>
('/2.mp3', '任贤齐', '沧海一声笑')
/2.mp3 任贤齐 沧海一声笑
('/3.mp3', '齐秦', '往事随风')
/3.mp3 齐秦 往事随风
('/4.mp3', 'beyond', '光辉岁月')
/4.mp3 beyond 光辉岁月
('/5.mp3', '陈慧琳', '记事本')
/5.mp3 陈慧琳 记事本
('/6.mp3', '邓丽君', '但愿人长久')
/6.mp3 邓丽君 但愿人长久

可以看到,返回的列表中的每个元素都是元组类型,我们用对应的索引依次取出即可。如果只是获取第一个内容,可以用search()方法。当需要提取多个内容时,可以用findall()方法。

sub()

除了使用正则表达式提取信息外,有时候还需要借助它来修改文本。比如,想要把一串文本中的所有数字都去掉,如果只用字符串的replace()方法,那就太烦琐了,这时可以借助sub()方法。示例如下:

1
2
3
4
5
import re
content = '54aK54yr5oiR54ix5L2g'
content = re.sub('\d+', '', content)
print(content)
#运行结果:aKyroiRixLg

这里只需要给第一个参数传入\d+来匹配所有的数字,第二个参数为替换成的字符串(如果去掉该参数的话,可以赋值为空),第三个参数是原字符串。在上面的HTML文本中,如果想获取所有li节点的歌名,直接用正则表达式来提取可能比较烦琐。比如,可以写成这样子:

1
2
3
4
5
6
7
8
9
10
11
12
results = re.findall('<li.*?>\s*?(<a.*?>)?(\w+)(</a>)?\s*?</li>', html, re.S)
for result in results:
print(result[1])
'''
运行结果:
一路上有你
沧海一声笑
往事随风
光辉岁月
记事本
但愿人长久
'''

此时借助sub()方法就比较简单了。可以先用sub()方法将a节点去掉,只留下文本,然后再利用findall()提取就好了:

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
html = re.sub('<a.*?>|</a>', '', html)
print(html)
results = re.findall('<li.*?>(.*?)</li>', html, re.S)
for result in results:
print(result.strip())
'''
运行结果:
<div id="songs-list">
<h2 class="title">经典老歌</h2>
<p class="introduction">
经典老歌列表
</p>
<ul id="list" class="list-group">
<li data-view="2">一路上有你</li>
<li data-view="7">
沧海一声笑
</li>
<li data-view="4" class="active">
往事随风
</li>
<li data-view="6">光辉岁月</li>
<li data-view="5">记事本</li>
<li data-view="5">
但愿人长久
</li>
</ul>
</div>
一路上有你
沧海一声笑
往事随风
光辉岁月
记事本
但愿人长久
'''

可以看到,a节点经过sub()方法处理后就没有了,然后再通过findall()方法直接提取即可。可以看到,在适当的时候,借助sub()方法可以起到事半功倍的效果。

compile()

前面所讲的方法都是用来处理字符串的方法,最后再介绍一下compile()方法,这个方法可以将正则字符串编译成正则表达式对象,以便在后面的匹配中复用。例如,这里有3个日期,我们想分别将3个日期中的时间去掉,这时可以借助sub()方法。该方法的第一个参数是正则表达式,但是这里没有必要重复写3个同样的正则表达式,此时可以借助compile()方法将正则表达式编译成一个正则表达式对象,以便复用。示例代码如下:

1
2
3
4
5
6
7
8
9
10
import re
content1 = '2016-12-15 12:00'
content2 = '2016-12-17 12:55'
content3 = '2016-12-22 13:21'
pattern = re.compile('\d{2}:\d{2}')
result1 = re.sub(pattern, '', content1)
result2 = re.sub(pattern, '', content2)
result3 = re.sub(pattern, '', content3)
print(result1, result2, result3)
#运行结果:2016-12-15 2016-12-17 2016-12-22

另外,compile()还可以传入修饰符,例如re.S等修饰符,这样在search()findall()等方法中就不需要额外传了。所以,compile()方法可以说是给正则表达式做了一层封装,以便我们更好地复用。

结语

在这一节我们主要探讨了正则表达式在Python下的应用方法,我们主要结合了网络爬虫这一使用场景进行举例分析,在接下来的网络爬虫学习笔记中也将有更多与正则表达式有关的项目,我们可以在实际项目中进一步体会正则表达式的使用技巧。