下面我们尝试爬取内涵段子网站：http://www.neihan8.com/article/list_5_1.html
打开之后，当你进行翻页的时候，不难注意到，url地址的变化：
第一页url: http: //www.neihan8.com/article/list_5_1 .html
第二页url: http: //www.neihan8.com/article/list_5_2 .html
第三页url: http: //www.neihan8.com/article/list_5_3 .html
第四页url: http: //www.neihan8.com/article/list_5_4 .html
这样，我们把url规律找到了，要想爬取所有的段子，只需要修改一个参数即可。下面，我们就开始一步一步将所有的段子爬取下来。
第一步：获取网页数据（网页上全部内容）
1.按照我们之前的用法，我们需要写一个加载页面的方法。
这里我们定义一个类，将url请求作为一个成员方法处理。
我们创建一个duanzi_spider.py文件。
然后定义一个Spider类，并且添加一个加载页面的成员方法
2.写main函数测试loadPage()方法
第二步：筛选数据
我们已经得到了整个页面的数据。但是，里面有很多内容我们并不需要，所以下一步我们需要对上面爬取的内容进行筛选。如果筛选，这里就用到了我们前面讲到的正则表达式。
首先
import re
然后：在我们得到的html中进行筛选匹配。
我们需要一个匹配规则：
我们可以打开内涵段子的网页，鼠标点击右键“查看源代码”，你会发现，我们需要的每个段子的内容都是在一个<div>标签中，而且每个div都有一个属性class="f18 mb20"
所以，我们只需要匹配到网页中所有<div class="f18 mb20">到</div>的数据就可以了。
根据正则表达式，我们可以推算出一个公式是：
这个表达式实际上就是匹配到所有div中class="f18 mb20"里面的内容
然后将这个正则应用到代码中，我们会得到以下代码：
这里需要注意的是re.S是正则表达式中匹配的一个参数。
如果没有re.S，则是只匹配一行中有没有符合规则的字符串，如果没有则下一行重新匹配。
如果加上re.S则是将所有的字符串作为一个整体进行匹配，findall将所有匹配到的结果返回列表中。
第三步：保存数据
我们可以将所有的段子存放在文件中。
第四步：完整的程序
