技术文章 > Python爬虫 >  爬虫入门 > 正文

python爬虫爬取网页新闻内容的简单实现

宋雪维

对于刚开始学习python爬虫的小伙伴们,你们有没有好奇,为什么编程中爬虫会那么重要呢?其实网络爬虫可以为为其他程序提供数据源,是我们获取信息的重要途径,例如我需要使用某个网页新闻内容,就可以使用python爬虫很容易的实现,本文介绍python爬虫爬取网页新闻内容的简单实现过程。

一、为什么需要用爬虫?

为其他程序提供数据源,如搜索引擎(百度、Google等)、数据分析、大数据等等。

二、爬虫设计思路 

1、首先确定需要爬取的网页URL地址 ;

2、通过HTTP协议来获取对应的HTML页面 ;

3、提取html页面里的有用数据 ;

4、如果是需要的数据就保存起来,如果是其他的URL,那么就执行第二部。

三、python爬虫实例:爬取网页新闻内容

1、确定爬取新闻内容的网络地址

https://k.sina.com.cn/article_6192937794_17120bb42020015u42.html?from=health

2、实施爬虫代码

import requests
from bs4 import BeautifulSoup
res =requests.get('https://k.sina.com.cn/article_6192937794_17120bb42020015u42.html?from=health')
res.encoding='utf-8'

soup=BeautifulSoup(res.text, 'html.parser') 
title=soup.select('#artibody')[0].text 

print(title)

以上就是python爬虫爬取网页新闻内容的简单实现,是不是很简单的,快尝试看看吧~更多python爬虫学习推荐:python爬虫教程

免费视频教程
本教程部分素材来源于网络,版权问题联系站长!
相关文章
  python中ggplot怎么绘制画图?
  python中pyqtgraph是什么?
  Python3爬虫利器:Selenium的安装
  最新python面试题附送答案
  如何使用python中basemap库绘制地图?
  python中pytesseract如何安装?
相关视频章节
  安装Python
  python注释
  python代码缩进
  python编码规范
  《Python程序设计》课程导论
视频教程分类