前言
在开始scrapy项目之前,我们先来了解一下python的json
JSON函数
使用 JSON 函数需要导入 json 库:import json
1、json.dumps()和json.loads()是json格式处理函数(可以这么理解,json是字符串)
(1)json.dumps()函数是将一个Python数据类型列表进行json格式的编码(可以这么理解,json.dumps()函数是将字典转化为字符串)
(2)json.loads()函数是将json格式数据转换为字典(可以这么理解,json.loads()函数是将字符串转化为字典)
2、json.dump()和json.load()主要用来读写json文件函数
requests 和 scrapy
对于python的requests库来说,requests库几乎可以解决90%的爬虫项目,这主要归功于requests的灵活性,可以针对爬虫设置的难题能随机应变,但是在效率这块却远远不及scrapy。
对于python的scrapy来说,scrapy是个功能十分强大的爬虫框架。通俗点来说,requests可以是爬虫战场中的锋利军刀,而scrapy却是爬虫战场中的AK。看明白这句话,也就知道scrapy在爬虫界中的功能强大性。的确,scrapy在爬虫效率上远远超过requests,但是有一点,scrapy毕竟属于框架,它的功能被束缚住了,在反爬虫这块或许有些跟不上脚步。所以在灵活
版权声明:本文为Leexin_love_Ling原创文章,遵循CC 4.0 BY-SA版权协议,转载请附上原文出处链接和本声明。