品易云推流 关闭
文章 > Python基础教程 > python中如何使用XPath爬取小说

python中如何使用XPath爬取小说

Python XPATH

头像

小妮浅浅

2021-04-10 16:08:58464浏览 · 0收藏 · 0评论

1、说明

xpath是一种在XML文档中搜索信息的语言。

2、过程

获得浏览器中的标题和作者测试。

在谷歌安装xpath插件:

在html中找到book-mid-info:

找到我们想得到小说的名字、作者

即//div[@class='book-mid-info']/h4/a/txt()

3、实例

# 作者:
# 开发时间:2021/4/8/0008 8:24
 
import requests
from lxml import etree
url="https://www.qidian.com/rank/yuepiao"
headers={'user-agent':'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/70.0.3538.25 Safari/537.36 Core/1.70.3861.400 QQBrowser/10.7.4313.400'}
#发送请求
resp=requests.get(url,headers)
e=etree.HTML(resp.text) #类型转换,把str转变为class 'lxml.etree._ELement
print(type(e))
names=e.xpath('//div[@class="book-mid-info"]/h4/a/text()')
authors=e.xpath('//p[@class="author"]/a[1]/text()')
print(names)
print(authors)
#名称和作者对应
for name,authors in zip(names,authors):
    print(name,":",authors)

以上就是python中使用XPath爬取小说的方法,希望对大家有所帮助。更多Python学习指路:python基础教程

关注公众号

关注公众号,随时随地在线学习

本教程部分素材来源于网络,版权问题联系站长!

底部广告图 底部广告图按钮