Python爬虫入门

一、Requests库入门

1.1 安装Requests库

①在win平台上，使用cmd输入命令：pip install requests

②在IDLE或者其他IDE上测试一下

1.2 Http协议

HTTP：Hypertext Transfer Protocol，超文本传输协议

• HTTP是一个基于“请求与响应”模式的、无状态的应用层协议
• HTTP协议采用URL作为定位网络资源的标识，URL格式如下：
• http://host[:port][path]
• host: 合法的Internet主机域名或IP地址
• port: 端口号，缺省端口为80
• path: 请求资源的路径
• HTTP URL实例：
• http://www.bit.edu.cn

HTTP URL的理解：
URL是通过HTTP协议存取资源的Internet路径，一个URL对应一个数据资源

Http协议对资源的7个操作

1.3 Requests库的7个主要方法

方法	说明
requests.requests()	构造一个请求,支撑以下各方法的基础方法
requests.get()	获取HTML网页的主要方法,对应于HTTP的GET
requests.head()	获取HTML网页头信息的方法,对应于HTTP的HEAD
requests.post()	向HTML网页提交POST请求的方法,对应于HTTP的POST
requests.put()	向HTML网页提交PUT请求的方法,对应于HTTP的PUT
requests.patch()	向HTML网页提交局部修改请求,对应于HTTP的PATCH
requests.delete()	向HTML页面提交删除请求,对应于HTTP的DELETE

HTTP协议与Request库

1.4 Requests库的方法介绍

①Requests库的get()方法

Ruquests库中两个重要的对象：Response、Request

Response对象的属性

理解Response的编码：

r.encoding : 如果header中不存在charset，则认为编码为ISO-8859-1

r.apparent_encoding : 根据网页内容分析编码方式

理解Request库的异常：

②Requests库的head()方法

③Requests库的post()方法

④Requests库的put()方法