Python爬虫之jsON和JSONPath是如何正确运用的?案例详解(python爬虫解析json文件)

网友投稿 890 2022-09-16

Python爬虫之JSON和JSONPath是如何正确运用的?案例详解(python爬虫解析json文件)

Python爬虫之JSON和JSONPath是如何正确运用的?案例详解(python爬虫解析json文件)

JSON和JSONPath

JSON(JavaScript Object Notation) 是一种轻量级的数据交换格式,它使得人们很容易的进行阅读和编写。同时也方便了机器进行解析和生成。适用于进行数据交互的场景,比如网站前台与后台之间的数据交互。

注意:光理论是不够的。这里顺便免费送大家一套2020最新python入门到高级项目实战视频教程,可以去小编的Python交流.裙 :七衣衣九七七巴而五(数字的谐音)转换下可以找到了,还可以跟老司机交流讨教!

JsonPath 是一种信息抽取类库,是从JSON文档中抽取指定信息的工具,提供多种语言实现版本,包括:Javascript, Python, PHP 和 Java。

JsonPath 对于 JSON 来说,相当于 XPATH 对于 XML。

JsonPath与XPath语法对比:

Json结构清晰,可读性高,复杂度低,非常容易匹配,下表中对应了XPath的用法。

相关推荐:《Python相关教程》

利用JSONPath爬取拉勾网上所有的城市

1

2

3

4

5

6

7

8

9

10

11

12

13

14

15

16

17

18

19

20

21

22

23

24

25

26

#!/usr/bin/env python

# -*- coding:utf-8 -*-

import urllib2

# json解析库,对应到lxml

import json

# json的解析语法,对应到xpath

import jsonpath

url = "http://lagou.com/lbs/getAllCitySearchLabels.json"

headers = {'User-Agent':'Mozilla/5.0 (Windows NT 6.1; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/60.0.3112.101 Safari/537.36'}

request = urllib2.Request(url, headers = headers)

response = urllib2.urlopen(request)

#  取出json文件里的内容,返回的格式是字符串

html =  response.read()

# 把json形式的字符串转换成python形式的Unicode字符串

unicodestr = json.loads(html)

# Python形式的列表

city_list = jsonpath.jsonpath(unicodestr, "$..name")

#for item in city_list:

#    print item

# dumps()默认中文为ascii编码格式,ensure_ascii默认为Ture

# 禁用ascii编码格式,返回的Unicode字符串,方便使用

array = json.dumps(city_list, ensure_ascii=False)

#json.dumps(city_list)

#array = json.dumps(city_list)

with open("lagoucity.json", "w") as f:

    f.write(array.encode("utf-8"))

结果:

糗事百科爬取

利用XPATH的模糊查询

获取每个帖子里的内容

保存到 json 文件内

1

2

3

4

5

6

7

8

9

10

11

12

13

14

15

16

17

18

19

20

21

22

23

24

25

26

27

28

29

30

31

32

#!/usr/bin/env python

# -*- coding:utf-8 -*-

import urllib2

import json

from lxml import etree

url = "http://qiushibaike.com/8hr/page/2/"

headers = {'User-Agent':'Mozilla/5.0 (Windows NT 6.1; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/60.0.3112.101 Safari/537.36'}

request = urllib2.Request(url, headers = headers)

html = urllib2.urlopen(request).read()

# 响应返回的是字符串,解析为HTML DOM模式 text = etree.HTML(html)

text = etree.HTML(html)

# 返回所有段子的结点位置,contains()模糊查询方法,第一个参数是要匹配的标签,第二个参数是标签名部分内容

node_list = text.xpath('//div[contains(@id, "qiushi_tag")]')

items ={}

for node in node_list:

    # xpath返回的列表,这个列表就这一个参数,用索引方式取出来,用户名

    username = node.xpath('./div/a/@title')[0]

    # 取出标签下的内容,段子内容

    content = node.xpath('.//div[@class="content"]/span')[0].text

    # 取出标签里包含的内容,点赞

    zan = node.xpath('.//i')[0].text

    # 评论

    comments = node.xpath('.//i')[1].text

    items = {

        "username" : username,

        "content" : content,

        "zan" : zan,

        "comments" : comments

    }

    with open("qiushi.json", "a") as f:

        f.write(json.dumps(items, ensure_ascii=False).encode("utf-8") + "

")

共2页: 上一页12下一页

版权声明:本文内容由网络用户投稿,版权归原作者所有,本站不拥有其著作权,亦不承担相应法律责任。如果您发现本站中有涉嫌抄袭或描述失实的内容,请联系我们jiasou666@gmail.com 处理,核实后本网站将在24小时内删除侵权内容。

上一篇:成功解决Windows和VM下的Ubuntu虚拟系统之间相互复制粘贴的问题
下一篇:如何使用Windows10自带的photo应用给视频添加字幕
相关文章

 发表评论

暂时没有评论,来抢沙发吧~